OpenAI dezvăluie un instrument de detectare a imaginilor din DALL-E

OpenAI dezvăluie un instrument de detectare a imaginilor din DALL-E

OpenAI, compania de inteligență artificială susținută de Microsoft care se află în spatele popularului generator de imagini DALL-E, a anunțat lansarea unui nou instrument menit să depisteze imaginile digitale create de inteligența artificială.

Autentificarea a devenit o preocupare majoră în contextul dezvoltării rapide a IA, autoritățile fiind îngrijorate de proliferarea falsurilor care ar putea perturba societatea, potrivit stiripesurse.ro.

Citește și: Preţurile mondiale la alimente au crescut în aprilie, pentru a doua lună la rând: Scumpiri la carne și cereale

Potrivit companiei, clasificatorul de detectare a imaginilor de la OpenAI, care este în prezent în curs de testare, poate evalua probabilitatea ca o anumită imagine să provină de la unul dintre modelele generative AI ale companiei, cum ar fi DALL-E 3.

OpenAI a precizat că, în timpul testelor interne efectuate pe o versiune anterioară, instrumentul a detectat cu precizie aproximativ 98% din imaginile DALL-E 3, în timp ce a semnalat incorect mai puțin de 0,5% din imaginile care nu sunt de tip AI.

Cu toate acestea, compania a avertizat că imaginile DALL-E 3 modificate au fost mai greu de identificat și că instrumentul semnalează în prezent doar aproximativ cinci până la 10 la sută din imaginile generate de alte modele AI, potrivit AFP.

De asemenea, OpenAI a declarat că va adăuga acum filigrane la metadatele imaginilor AI, pe măsură ce tot mai multe companii se vor înscrie pentru a respecta standardele Coaliției pentru Proveniența și Autenticitatea Conținutului (C2PA).

Citește și: STUDIU/ În Republica Moldova, cel mai mult migrează persoanele de la 25 la 34 de ani. Ce spun experții

C2PA este o inițiativă a industriei tehnologice care stabilește un standard tehnic pentru a determina proveniența și autenticitatea conținutului digital, într-un proces cunoscut sub numele de filigranare.

Luna trecută, gigantul Facebook Meta a declarat că va începe să eticheteze materialele media generate de inteligența artificială începând cu luna mai, folosind standardul C2PA.

Google, un alt gigant al inteligenței artificiale, s-a alăturat, de asemenea, inițiativei.