Meta a anunțat vineri că va permite părinților să dezactiveze conversațiile private ale adolescenților lor cu personaje AI, adăugând o nouă măsură pentru a face platformele sale de social media sigure pentru minori, după critici acerbe legate de comportamentul chatboților care flirtează, scrie Reuters.
La începutul acestei săptămâni, compania a spus că experiențele sale AI pentru adolescenți vor fi ghidate de sistemul de rating pentru filme PG-13, în încercarea de a împiedica accesul minorilor la conținut neadecvat, potrivit stiripesurse.
Citește și: Stăuceni primește finanțare de la UE
Autoritățile de reglementare din SUA au intensificat supravegherea companiilor AI din cauza potențialelor efecte negative ale chatboților. În august, Reuters a raportat cum regulile AI ale Meta permiteau conversații provocatoare cu minori.
Noile instrumente, prezentate de șeful Instagram, Adam Mosseri, și de Chief AI Officer Alexandr Wang, vor fi lansate pe Instagram la începutul anului viitor în SUA, Regatul Unit, Canada și Australia, potrivit unei postări pe blog.
Meta a declarat că părinții vor putea, de asemenea, să blocheze anumite personaje AI și să vadă subiectele generale discutate de adolescenți cu chatboții și asistentul AI al Meta, fără a dezactiva complet accesul la AI.
Asistentul AI va rămâne disponibil cu setări potrivite vârstei, chiar dacă părinții dezactivează conversațiile unu-la-unu ale adolescenților cu personajele AI, a precizat Meta.
Funcțiile de supraveghere se bazează pe protecțiile deja aplicate conturilor adolescenților, iar compania a adăugat că folosește semnale AI pentru a plasa adolescenții suspectați în protecție, chiar dacă aceștia spun că sunt adulți.
Citește și: Noua lege europeană privind libertatea presei: ce schimbări se produc în UE
Un raport din septembrie a arătat că multe dintre funcțiile de siguranță implementate de Meta pe Instagram de-a lungul anilor nu funcționează bine sau nu există.
Meta a precizat că personajele sale AI sunt concepute să nu poarte discuții neadecvate vârstei despre autovătămare, sinucidere sau tulburări alimentare cu adolescenții.
Luna trecută, OpenAI a lansat controale parentale pentru ChatGPT pe web și mobil, după un proces intentat de părinții unui adolescent care a murit prin sinucidere, după ce chatbotul startup-ului l-ar fi consiliat privind metode de autovătămare.
