Character.AI, noi protocoale de siguranță după ce un adolescent s-a sinucis din cauza unui chatbot
Character.AI a lansat noi funcții de siguranță pentru protejarea utilizatorilor, după ce familia unui adolescent care s-a sinucis a dat în judecată platforma, scrie TechRadar.
Platforma de chat cu inteligență artificială Character.AI a introdus o serie de măsuri pentru a spori siguranța utilizatorilor, în special a minorilor, în urma unui proces inițiat de familia unui adolescent care a petrecut luni întregi interacționând cu un chatbot al platformei înainte de a-și lua viața, potrivit stiripesurse.
Citește și: Apa este în pericol în Europa, avertizează Agenţia Europeană de Mediu
Familia susține că lipsa măsurilor de protecție a contribuit la tragedie, iar Character.AI a răspuns prin introducerea unor actualizări menite să îmbunătățească moderarea conținutului și să atenueze riscurile.
Printre noile funcții se numără afișarea unor pop-up-uri care direcționează utilizatorii către resurse de sprijin în caz de detectare a cuvintelor-cheie legate de suicid sau auto-vătămare. Platforma a crescut, de asemenea, sensibilitatea moderării conținutului destinat minorilor și a eliminat mai multe personaje de chatbot considerate nepotrivite.
Character.AI a declarat că „se ocupă cu detectări și moderări proactive ale personajelor create de utilizatori”, folosind liste negre actualizate periodic pentru a elimina personajele care nu respectă regulile.
Citește și: Rusia îşi va reduce prezenţa consulară în Norvegia
Mai mult, notificările regulate informează utilizatorii atunci când au petrecut mai bine de o oră pe platformă, încurajându-i să își monitorizeze timpul petrecut în conversații.
