Compania americană Anthropic a anunțat că nu va lansa public noul model de inteligență artificială Mythos Preview. Dezvoltatorii spun că sistemul este atât de performant în descoperirea vulnerabilităților informatice încât ar putea fi folosit de hackeri sau spioni, transmite Euronews.
Anthropic a prezentat noul model, denumit oficial „Claude Mythos Preview”. Compania susține că tehnologia este capabilă să identifice vulnerabilități critice în sisteme de operare și browsere. Potrivit dezvoltatorilor, aceste capacități ar putea fi exploatate de criminali informatici. Din acest motiv, modelul nu va fi lansat public pentru moment. „Creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”, a transmis compania într-un document tehnic, citat de Euronews, potrivit stiripesurse.
Citește și: Moldova va exporta energie electrică din surse regenerabile în Ucraina
Anthropic a testat modelul în mai multe scenarii de securitate. Într-un experiment, sistemul a reușit să găsească o metodă de a depăși restricțiile unui mediu virtual securizat. Modelul a reușit să transmită un mesaj din interiorul acelui mediu. În plus, a publicat detalii despre vulnerabilitate pe mai multe site-uri publice. Compania a descoperit că sistemul poate identifica erori grave în nucleul Linux, folosit pe majoritatea serverelor din lume. Modelul a reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Anthropic a decis ca modelul să fie folosit doar într-un program restrâns de securitate cibernetică. Proiectul, numit „Project Glasswing”, va implica mai multe companii mari din tehnologie. Printre ele se numără Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Modelul va fi folosit pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice. Compania spune că va publica ulterior concluziile programului. Anthropic a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale. De aceea, colaborarea cu autoritățile ar putea deveni necesară.
Citește și: Ce spun experții despre ieșirea R. Moldova din CSI
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Potrivit experților companiei, modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității spun că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
