Fondul Națiunilor Unite pentru Copii (UNICEF) a lansat miercuri un apel către guverne pentru incriminarea conținuturilor generate de AI și care conțin referiri la abuzuri sexuale împotriva copiilor, organizația afirmând că este alarmată de o creștere rapidă a numărului de imagini sexualizate ale copiilor create cu inteligența artificială, informează Reuters.
Agenția a îndemnat de asemenea dezvoltatorii de sisteme AI să implementeze abordări de tipul safety-by-design pentru a preveni utilizarea abuzivă a modelelor AI. Potrivit UNICEF, companiile din industria digitală ar trebui să împiedice circulația acestor imagini printr-o moderare mai consistentă a conținutului și prin investiții în tehnologii de detectare.
”Efectele nocive în urma abuzului prin deepfake este real și urgent. Copiii nu au timp să aștepte alinierea legislației”, a spus UNICEF într-un comunicat. Deepfake-urile sunt imagini, clipuri video și audio generate de AI și concepute pentru a părea că reprezintă persoane reale.
UNICEF a exprimat de asemenea temeri în ceea ce privește ”nudificarea” copiilor cu ajutorul AI, care este folosit pentru a îndepărta hainele sau a modifica fotografiile și a crea nuduri sau imagini sexualizate fabricate.
Cel puțin 1,2 milioane de copii din 11 țări au dezvăluit că, în ultimul an, imaginile lor au fost manipulate în deepfake-uri explicit sexuale, potrivit UNICEF.
Marea Britanie a anunțat sâmbătă că plănuiește să scoată în afara legii utilizarea AI pentru crearea de imagini de abuz sexual asupra copiilor, prima țară care va face acest lucru.
În ultimii ani, au crescut temerile legate de utilizarea AI pentru generarea de conținut legat de abuz sexual asupra copiilor, în special chatboți precum Grok, proiectat de xAI, firma deținută de Elon Musk, investigată pentru producerea de imagini sexualizate cu femei și minori.
