Start-upul care a creat ChatGPT, software-ul de succes capabil să genereze articole, precum şi poezii sau eseuri, încearcă să dezvolte un program capabil să detecteze dacă un text a fost scris de o inteligenţă artificială (IA), transmite miercuri AFP, potrivit agerpres.
OpenAI a lansat marţi un nou instrument cu acces liber (open source) pentru a-i ajuta pe oameni să facă distincţia între textele produse cu software bazat pe IA (cum ar fi ChatGPT, dar nu numai) şi cele scrise de persoane.
Citește și : Franţa va furniza Ucrainei 12 tunuri Caesar suplimentare
Acesta ar trebui să ofere posibilitatea de a afla, spre exemplu, dacă dizertaţiile au fost scrise de un program informatic şi nu de un student sau dacă utilizatorul se adresează unei persoane ori unui “chatbot” (robot conversaţional) în cadrul unui serviciu de mesagerie online.
Însă, pentru moment sunt “imposibil de detectat în mod fiabil toate textele scrise cu IA”, a avertizat OpenAI într-un comunicat.
Conform propriei evaluări, noul software identifică în mod corect 26 de procente dintre toate textele scrise de algoritmi ca fiind “probabil scrise cu IA”. Iar în 9 procente dintre cazuri, clasifică textele scrise de oameni ca fiind scrise cu IA.
Este “mult mai fiabil” comparativ cu versiunea anterioară, a subliniat OpenAI, însă rămâne “foarte nesigur” în cazul textelor scurte (mai puţin de 1.000 de caractere) şi este preferabil să fie utilizat în limba engleză.
Dincolo de ironia acestei situaţii, miza este mare, notează AFP. Mulţi experţi se tem că tehnologiile IA generative, precum cea a ChatGPT, servesc în special la automatizarea creării de escrocherii pe scară largă sau de campanii de dezinformare ultra-credibile.
Instrumente similare au fost deja create cu diferite grade de fiabilitate, cum ar fi GPTZero, dezvoltat de Edward Tian, un student de la Universitatea Princeton.
OpenAI, un start-up co-fondat în 2015 la San Francisco de Elon Musk – şeful Tesla a părăsit compania în 2018 – a lansat ChatGPT în noiembrie anul trecut.
Citește și : Rusia şi SUA au reluat contactele asupra controlului armamentelor
Platforma, uşor de utilizat, are un aspect similar unui chatbot şi generează, la cerere, texte uimitoare. De la lansarea sa, platforma a cunoscut un succes răsunător, transmis prin hiper-mediatizare.
Compania era cunoscută anterior doar în cercuri restrânse, pentru două software-uri specializate în automatizare prin IA, DALL-E pentru generarea de imagini şi GPT-3 pentru generarea de texte (ChatGPT se bazează pe GPT-3). În 2019 a primit 1 miliard de dolari de la Microsoft, iar recent a încheiat cu gigantul IT un nou acord în valoare de mai multe miliarde.
