O femeie în vârstă de 50 de ani a petrecut peste cinci luni în arest după ce poliția a folosit un instrument AI de recunoaștere facială care a legat-o de infracțiuni comise în Dakota de Nord, un stat în care spune că nu fusese niciodată.
Angela Lipps, mamă a trei copii și bunică a cinci nepoți, din statul Tennessee, a fost arestată pe 14 iulie, în urma unui mandat emis cu săptămâni înainte de un judecător din Fargo, Dakota de Nord. Mandatul viza mai multe cazuri de fraudă bancară petrecute în și în jurul orașului Fargo, potrivit CNN.
Citește și: Ce spun experții despre ieșirea R. Moldova din CSI
Cum a ajuns AI-ul să o incrimineze
În cadrul anchetei, investigatorii din Fargo au colaborat cu Departamentul de Poliție din West Fargo, care utilizează Clearview AI – un sistem cu o bază de date de miliarde de fotografii colectate de pe internet, inclusiv din rețelele sociale.
Sistemul a identificat-o pe Lipps drept „suspect potențial cu trăsături similare”, pe baza imaginii de pe un act de identitate fals folosit într-un caz de fraudă din West Fargo.
Șeful poliției din Fargo, Dave Zibolski, a recunoscut că detectivii săi „au presupus în mod eronat” că West Fargo trimisese și fotografiile din supravegherea video alături de raportul AI, ceea ce nu s-a întâmplat. De asemenea, a precizat că utilizarea sistemului AI al West Fargo nu fusese aprobată la nivel executiv și că aceasta „face parte din problemă”.
Cinci luni de coșmar
Lipps a stat peste trei luni într-un arest din Tennessee înainte de a fi extrădată în Dakota de Nord, prima dată când a urcat vreodată într-un avion. „Am fost înspăimântată, epuizată și umilită”, a scris ea pe pagina sa de GoFundMe.
Odată ajunsă în Fargo, avocatul desemnat din oficiu a descoperit rapid extrase bancare care dovedeau că Lipps se afla în Tennessee în perioada în care au avut loc infracțiunile. Pe 23 decembrie, procurorul, detectivul și judecătorul au convenit să retragă acuzațiile, iar Lipps a fost eliberată în Ajunul Crăciunului.
„Trauma, pierderea libertății și prejudiciul adus reputației nu pot fi remediate ușor”, au transmis avocații săi.
Poliția recunoaște erori, dar nu își cere scuze
Zibolski a declarat că au fost identificate „câteva erori” în procesul de investigare și a anunțat o serie de măsuri. Fargo nu va mai utiliza informații din sistemul AI al West Fargo, toate identificările prin recunoaștere facială vor fi raportate lunar comandantului Diviziei de Investigații, iar fotografiile din supravegherea video vor fi trimise spre analiză centrului certificat al statului Dakota de Nord.
Întrebat dacă departamentul intenționează să-și ceară scuze față de Lipps, Zibolski a evitat un răspuns direct, și a invocat faptul că ancheta privind cazurile de fraudă este încă deschisă.
Avocații Angelei Lipps au criticat lipsa unor „investigații de bază” înainte de emiterea mandatului și analizează posibilitatea unor acțiuni civile în instanță.
Citește și: Moldova va exporta energie electrică din surse regenerabile în Ucraina
Un fenomen mai larg
Cazul Lipps nu este singular. Experții avertizează că adoptarea accelerată a tehnologiilor AI în poliție, fără pregătire adecvată și supraveghere riguroasă, creează riscuri majore. Ian Adams, profesor de criminologie la Universitatea din Carolina de Sud, atrage atenția că „scenariile coșmar apar atunci când oamenii nu fac ceea ce trebuie, cu o tehnologie pe care o folosesc în mod necorespunzător”.
„Detectivii trebuie să fie foarte, foarte atenți și să verifice cu proprii ochi rezultatele algoritmilor”, a subliniat Adams.
