Procurorul general al statului Texas, SUA, a deschis luni o anchetă împotriva Meta și Character.AI, suspectate că își promovează chatboturile ca instrumente de sprijin psihologic pentru copii, fără expertiză medicală, în timp ce colectează date personale în scop comercial.
„Prin faptul că se prezintă drept surse de sprijin emoțional, platformele de inteligență artificială pot induce în eroare utilizatorii vulnerabili, în special copiii, determinându-i să creadă că primesc îngrijire de sănătate mintală legitimă. În realitate, aceștia primesc răspunsuri reciclate, generice, aliniate cu date personale colectate și mascate drept sfaturi terapeutice”, a declarat Paxton într-un comunicat oficial, potrivit stiripesurse.
Citește și: Noua lege europeană privind libertatea presei: ce schimbări se produc în UE
Investigația vine la câteva zile după ce senatorul Josh Hawley a deschis o anchetă împotriva Meta, în urma unor rapoarte conform cărora chatboturile companiei au interacționat inadecvat cu minori, inclusiv prin flirt.
Biroul procurorului general acuză Meta și Character.AI de crearea unor personaje AI care se prezintă drept instrumente terapeutice profesioniste, deși nu dețin acreditări medicale. Un exemplu citat este botul „Psychologist”, foarte utilizat pe Character.AI de către adolescenți.
Atât Meta, cât și Character.AI precizează în mod vizibil că chatboturile lor nu oferă servicii medicale, însă oficialii texani susțin că aceste avertismente pot fi neînțelese sau ignorate de copii. În plus, Paxton atrage atenția că, deși platformele promit confidențialitate, datele conversațiilor sunt înregistrate și folosite în scop publicitar ori pentru dezvoltarea algoritmilor.
Politicile de confidențialitate ale ambelor companii confirmă colectarea de date, inclusiv identificatori, comportamente online și informații demografice, unele dintre acestea fiind partajate cu terți pentru personalizarea conținutului și publicitate targetată.
Citește și: UE a aprobat al 18-lea pachet de sancțiuni împotriva Rusiei: „Unul dintre cele mai dure de până acum”
Atât Meta, cât și Character.AI susțin că serviciile lor nu sunt destinate copiilor sub 13 ani. Totuși, platformele au fost criticate pentru atragerea unui public foarte tânăr, inclusiv prin personaje cu tentă „child-friendly”.
Paxton a emis ordine legale prin care companiile sunt obligate să furnizeze documente și mărturii pentru a determina dacă au fost încălcate legile texane privind protecția consumatorilor.
