Un studiu recent arată că ChatGPT oferă adolescenților de 13 ani informații periculoase, precum metode de a se îmbăta, sfaturi pentru ascunderea tulburărilor alimentare și chiar poate scrie scrisori de sinucidere, ridicând îngrijorări serioase asupra siguranței folosirii acestui chatbot.
Potrivit AP, cercetătorii de la Centrul pentru Combaterea Urii Digitale (CCDH) au analizat peste trei ore de conversații între ChatGPT și persoane care s-au dat drept adolescenți vulnerabili. Deși chatbotul oferă uneori avertismente contra comportamentelor riscante, el oferă totodată planuri detaliate și personalizate pentru consum de droguri, diete severe și auto-vătămare, potrivit stiripesurse.
Citește și: Maia Sandu: „Datorăm pacea noastră Ucrainei. Vrem să aderăm împreună la Uniunea Europeană”
Mai mult de jumătate din cele 1.200 de răspunsuri generate au fost considerate periculoase. „Am vrut să testăm limitele protecțiilor, dar acestea sunt practic inexistente”, a spus Imran Ahmed, CEO-ul CCDH.
OpenAI, compania care a dezvoltat ChatGPT, a declarat că lucrează continuu pentru a îmbunătăți capacitatea chatbotului de a recunoaște și gestiona situațiile sensibile, inclusiv prin detectarea semnelor de suferință emoțională.
În ciuda acestor eforturi, cercetătorii au reușit să ocolească restricțiile ChatGPT prin diverse pretexte, obținând informații periculoase sub pretextul unor „prezentări” sau „pentru un prieten”.
Un caz șocant din studiu a fost generarea a trei scrisori de sinucidere pentru profilul fictiv al unei fete de 13 ani, adresate familiei și prietenilor. „Am început să plâng când le-am citit”, a mărturisit Ahmed.
ChatGPT nu verifică vârsta utilizatorilor și permite accesul copiilor sub 13 ani, deși avertizează că nu este destinat acestora. Pentru înregistrare, este suficientă introducerea unei date de naștere care să indice o vârstă peste 13 ani.
Citește și: UE a aprobat al 18-lea pachet de sancțiuni împotriva Rusiei: „Unul dintre cele mai dure de până acum”
În Statele Unite, peste 70% dintre adolescenți folosesc chatboți AI pentru companie, iar jumătate dintre ei îi utilizează frecvent. OpenAI a recunoscut „supradependența emoțională” a tinerilor față de această tehnologie, iar CEO-ul Sam Altman spune că studiază acest fenomen pentru a găsi soluții.
Diferența față de o simplă căutare online este că ChatGPT creează răspunsuri personalizate, ceea ce îl face mai periculos în cazul subiectelor sensibile.
