Integrarea inteligenței artificiale în sistemele de supraveghere marchează o tranziție de la simpla înregistrare video către interpretarea precisă a comportamentelor umane. Spre deosebire de metodele clasice, noile tehnologii permit reconstruirea traseelor și estimarea riscurilor pentru fiecare cetățean. Acest proces nu doar colectează imagini, ci construiește profiluri detaliate prin corelarea datelor, proces care poate avea loc fără acordul explicit al persoanelor monitorizate.
Un exemplu central în acest peisaj tehnologic este compania Palantir, care demonstrează capacitatea software-ului de a conecta baze de date disparate din instituții diferite. Prin conceptul de data fusion, informații precum locația mașinii, activitatea pe rețelele sociale sau călătoriile sunt unite pentru a crea un portret extrem de precis. Această metodă permite agențiilor federale americane să obțină o imagine completă asupra indivizilor, transformând datele banale în instrumente de control.
Implementarea acestor tehnologii este vizibilă și în Europa, unde Londra pregătește instalarea camerelor de recunoaștere facială în timp real pe Oxford Street. Această infrastructură permanentă urmează un proiect-pilot desfășurat în cartierul Croydon, care a generat 173 de arestări. În același timp, în Western Australia, un experiment a scanat peste 131.000 de fețe într-o singură săptămână, generând 33 de alerte și 18 arestări, deși majoritatea persoanelor analizate nu erau suspecte.
Problema fundamentală ridicată de aceste sisteme vizează prezumția de nevinovăție și modul în care algoritmii direcționează atenția autorităților. Chiar dacă un om ia decizia finală, mesajul de la sistemul de inteligență artificială care indică un „risc ridicat” modifică ierarhia suspiciunii. Această formă de control este subtilă și greu de auditat, deoarece influențează contextul în care polițiștii sau funcționarii iau măsuri împotriva cetățenilor.
Reglementările europene, precum AI Act, încearcă să limiteze aceste riscuri prin interzicerea poliției predictive bazate exclusiv pe profilare sau a scorului social. Deși unele obligații de transparență au fost amânate prin pachetul Digital Omnibus, interdicțiile privind extragerea nețintită de imagini faciale rămân în vigoare. Uniunea Europeană a decis astfel că anumite practe de monitorizare biometrică nu vor fi permise, pentru a proteja cadrul democratic împotriva supravegherii absolute.
În contextul digitalizării accelerate, administrațiile publice tind să adopte noi funcționalități prin actualizări de software, ceea ce ridică întrebări despre limitele utilizării tehnologiei. Deși un stat digital poate îmbunătăți serviciile, există riscul ca acesta să devină un stat care controlează excesiv. Guvernanța acestor sisteme va depinde de capacitatea societății de a stabili reguli clare despre cine controlează datele și cine verifică rezultatele algoritmilor.