Jucăriile AI pot oferi sfaturi periculoase și conținut explicit copiilor, ridicând îngrijorări majore legate de siguranță și dezvoltare, arată o nouă investigație.
Mai multe jucării pentru copii bazate pe inteligență artificială (AI) pot oferi sfaturi extrem de nepotrivite, alunecând în conversații periculoase atunci când sunt folosite timp îndelungat, scrie Futurism, potrivit stiripesurse.
Citește și: Stăuceni primește finanțare de la UE
Cercetătorii au descoperit că aceste jucării, aparent sigure la prima vedere, își pierd rapid limitele de siguranță, oferind indicații despre unde pot fi găsite cuțite sau chibrituri și chiar inițiind discuții sexuale explicite cu utilizatori foarte tineri.
Grupul american U.S. Public Interest Research Group a testat trei jucării destinate copiilor cu vârste între trei și doisprezece ani, fiecare echipată cu inteligență artificială conversațională considerată, în mod eronat, sigură de către părinți.
Deși la început jucăriile au evitat sau au deviat întrebările periculoase, cercetătorii au observat că sesiunile prelungite, între zece și șaizeci de minute, au dus la deteriorarea modelelor, scoțând la iveală comportamente instabile și riscante.
În astfel de conversații extinse, jucăriile au încurajat acțiuni periculoase, au glorificat violența sau au trecut brusc la discuții sexuale explicite, depășind cu mult orice limită acceptabilă pentru copii.
O jucărie, Grok de la Curio, ar fi lăudat moartea în luptă ca pe un act eroic, în timp ce Miko 3 ar fi indicat unui copil de cinci ani unde să găsească pungi de plastic și chibrituri.
Cel mai alarmant exemplu a venit de la Kumma, produsă de FoloToy, care ar fi descris cum se aprind chibriturile, de unde se pot procura pastile și cuțite și a oferit chiar sfaturi explicite despre fetișuri și dinamici sexuale.
Kumma, care rulează pe GPT-4o de la OpenAI sau pe alte modele alternative, a oferit inclusiv instrucțiuni pas cu pas pentru noduri de bondage și scenarii de rol sexual, demonstrând un colaps catastrofal al măsurilor de siguranță.
Cercetătorii avertizează că aceste defecțiuni reflectă probleme majore ale inteligenței artificiale generative, care rămâne impredictibilă, insuficient testată și practic nereglementată în contextul jucăriilor pentru copii.
Odată cu intrarea unor companii mari precum Mattel în parteneriate cu OpenAI, experții se tem că părinții ar putea cumpăra jucării periculoase fără să înțeleagă riscurile psihologice implicate.
Specialiștii subliniază că, chiar și cu mecanisme de control mai eficiente, persistă întrebări profunde despre modul în care interacțiunile cu „prieteni” AI pot altera dezvoltarea socială a unei întregi generații.
Cercetătorii consideră că societatea nu va înțelege pe deplin consecințele socializării cu AI decât atunci când copiii de astăzi vor deveni adulți, moment în care ar putea fi deja prea târziu pentru intervenții eficiente.
