Cercetători ai Departamentului pentru Securitate Internă le-au arătat parlamentarilor americani cât de ușor pot fi folosite modelele de inteligență artificială în scopuri periculoase, inclusiv pentru construirea unei bombe, planificarea unui atac terorist sau lansarea unui atac cibernetic.
Demonstrația a avut loc la Washington, în cadrul unui briefing cu ușile închise organizat de Centrul pentru Inovare în Combaterea Terorismului și Comisia pentru Securitate Internă a Camerei Reprezentanților, unde membrii Congresului au putut testa direct modele de AI „jailbroken” – sisteme din care au fost eliminate mecanismele de siguranță. potrivit Politico.
Citește și: Cresc cheltuielile pentru apărare
„Ceea ce am văzut acolo este ce se întâmplă când scoți aceste bariere și întrebi: «Cum fac o bombă nucleară?»”, a declarat congresmanul republican Gabe Evans, citat de Politico. El a precizat că modelele fără protecții „oferă răspunsuri la toate aceste lucruri”.
Autoritățile americane pentru securitate internă au explicat diferența dintre modelele obișnuite, care refuză solicitările periculoase, și cele „abliterate”, în care mecanismul de refuz este dezactivat. Într-unul din teste, cercetătorii au cerut ambelor tipuri de modele să elaboreze un plan de atac asupra evenimentului America 250 din Washington, care marchează împlinirea a 250 de ani de la independența SUA și este programat să aibă loc în această vară.
Modelul cu protecții a refuzat solicitarea, invocând imposibilitatea de a oferi informații despre activități ilegale. În schimb, varianta fără restricții a generat instrucțiuni detaliate, pas cu pas, pentru comiterea unui atac.
Președintele comisiei, Andrew Garbarino, a relatata că a întrebat un model AI cum ar putea fi răpit un membru al Congresului. „A generat un răspuns în mai puțin de trei secunde, cu metode, locuri și momente potrivite”, a afirmat acesta.
Deși majoritatea modelelor de inteligență artificială sunt lansate cu mecanisme de siguranță, cercetătorii și hackerii au descoperit că acestea pot fi ocolite relativ ușor. Printre metodele folosite pentru a eluda aceste filtre se numără formularea solicitărilor în limbaj tehnic sau academic, astfel încât sistemele să nu le identifice ca fiind periculoase.
Autoritățile avertizează că astfel de instrumente sunt deja utilizate în scopuri ostile, de la campanii de dezinformare până la tentative de atacuri cibernetice automatizate. În aceste condiții, autoritățile americane cresc presiunea asupra companiilor care dezvoltă AI pentru a întări măsurile de siguranță și pentru a limita accesul la conținut periculos.
Vezi și: Moldova nu își poate asigura independența alimentară
Deși la nivel federal procesul de reglementare avansează lent în Congres, mai multe state americane au început deja să adopte propriile reguli, încercând să impună standarde mai stricte privind utilizarea și controlul acestor tehnologii.
Referindu-se la tipul de întrebări la care sistemele nu ar trebui să răspundă, congresmanul republican August Pfluger a spus: „Este foarte înfricoșător pentru că AI-ul ar trebui să aibă limite clare”.
