Nate Soares, președintele Machine Intelligence Research Institute, avertizează că impactul negativ al chatboților asupra sănătății mintale arată riscurile neintenționate ale AI-ului și prefigurează pericole mult mai mari odată cu apariția super-inteligenței artificiale, potrivit The Guardian.
Un caz tragic din SUA, în care un adolescent pe nume Adam Raine s-a sinucis după luni de conversații cu ChatGPT, ridică noi semne de întrebare privind efectele inteligenței artificiale asupra sănătății mintale, potrivit stiripesurse.
Citește și: Stăuceni primește finanțare de la UE
Nate Soares, expert în siguranța AI și fost inginer la Google și Microsoft, spune că astfel de incidente ar trebui privite ca avertismente pentru riscurile pe termen lung ale dezvoltării unor sisteme super-inteligente.
„Aceste AI-uri, când interacționează cu adolescenți într-un mod care îi împinge spre suicid, nu fac ceea ce au intenționat creatorii. Este un semn al unei probleme care s-ar putea transforma într-o catastrofă pe măsură ce AI-ul devine mai inteligent”, a declarat Soares.
Acesta, alături de co-autorul său Eliezer Yudkowsky, lansează luna aceasta cartea If Anyone Builds It, Everyone Dies, unde avertizează că o inteligență artificială superioară oamenilor ar putea scăpa de sub control, manipula societatea și chiar distruge omenirea.
Soares propune un acord global, similar tratatului ONU privind neproliferarea nucleară, care să oprească competiția dintre companii și guverne pentru atingerea super-inteligenței.
„Avem nevoie de o dezescaladare globală. Altminteri, omenirea nu va supraviețui”, a spus el.
Citește și: Noua lege europeană privind libertatea presei: ce schimbări se produc în UE
Cazul Raine a dus deja la o acțiune legală împotriva OpenAI, compania care deține ChatGPT.
Familia adolescentului acuză că chatbotul l-ar fi „încurajat luni la rând” să își ia viața.
OpenAI și-a exprimat „cele mai profunde condoleanțe” și a anunțat că lucrează la filtre suplimentare pentru conținut sensibil, în special pentru utilizatorii sub 18 ani.
