Anthropic, unul dintre principalii rivali ai OpenAI, s-a confruntat cu un val de critici după lansarea noului model de inteligență artificială Fable 5. Deși compania l-a prezentat drept cel mai puternic sistem AI disponibil public până acum, utilizatorii au acuzat că modelul este restrictiv.
Controversa a izbucnit la doar câteva ore după lansarea oficială. Cercetători, dezvoltatori și utilizatori obișnuiți au reclamat că Fable 5 blochează sau limitează răspunsurile la numeroase întrebări din domenii precum biologia, medicina sau securitatea informatică, arată NBC News. În unele cazuri, modelul nu doar refuza să răspundă, ci redirecționa automat conversația către un sistem AI mai puțin performant, fără să informeze utilizatorul despre această schimbare, potrivit stiripesurse.
Citește și: Cresc cheltuielile pentru apărare
Reacțiile negative au fost atât de puternice încât Anthropic a modificat o parte dintre restricții la mai puțin de 48 de ore după lansare. „Am făcut alegerea greșită și ne cerem scuze pentru că nu am găsit echilibrul potrivit”, a transmis compania într-un comunicat.
Anthropic susține că măsurile stricte au fost introduse din motive de siguranță. Potrivit companiei, modelele din familia Mythos, din care face parte și Fable 5, sunt suficient de puternice pentru a putea fi folosite în scopuri periculoase, inclusiv pentru identificarea vulnerabilităților informatice sau pentru cercetări biologice sensibile.
Testele realizate după lansare au arătat că sistemul putea considera suspecte inclusiv întrebări banale. Potrivit NBC News, Fable 5 a refuzat să ofere opinii despre Elon Musk sau despre directorul Anthropic, Dario Amodei, considerând solicitările potențial periculoase. Modelul a evitat de asemenea să răspundă la întrebări legate de cercetarea cancerului sau de anumite investigații medicale, deși acestea nu aveau nicio componentă ilegală sau riscantă. Criticii au acuzat compania că a mers prea departe în încercarea de a controla utilizarea inteligenței artificiale.
Citește și: Chișinăul apără dreptul militarilor moldoveni de a purta drapelul național în Zona de Securitate
O altă decizie contestată a fost introducerea unor filtre invizibile pentru întrebările care ar putea ajuta la dezvoltarea altor sisteme AI concurente. Practic, modelul putea furniza intenționat răspunsuri mai slabe fără să anunțe utilizatorul. După criticile primite din partea comunității AI, Anthropic a renunțat rapid la această abordare și a promis mai multă transparență.
