Parlamentul European impune Regulament pentru utilizarea IA cu risc ridicat

Comisiile pentru Piața Internă și Comisiile pentru Libertăți Civile din Parlamentul European au votat cu majoritate absolută pentru aprobarea rezultatului negocierilor cu statele membre privind Regulamentul privind Inteligența Artificială (IA), act normativ care urmărește să protejeze drepturile fundamentale ale europenilor, democrația, statul de drept și sustenabilitatea mediului împotriva IA cu risc ridicat.

Legea va interzice aplicațiile de inteligență artificială care amenință drepturile cetățenilor, inclusiv sistemele de clasificare biometrică bazate pe caracteristici sensibile, răzuirea imaginilor faciale de pe internet sau înregistrări CCTV pentru baze de date de recunoaștere facială, recunoașterea emoțiilor la locul de muncă și în școli, scorul social, baza de poliție predictivă.

Totuşi, utilizarea sistemelor de identificare biometrică (RBI) de către organele de Drept, care este interzisă în principiu, va fi permisă cu excepția unor situații enumerate exhaustiv și definite restrâns.
Astfel, identificarea biometrică „în timp real” va putea fi desfășurată numai sub garanții stricte şi asociată cu o infracțiune, va trebuie limitată în timp și sferă geografică şi va avea nevoie de autorizație judiciară sau administrativă prealabilă. Astfel de utilizări vor fi premise pentru căutarea unei persoane dispărute sau prevenirea unui atac terrorist, susţin europarlamentarii

De asemenea, au fost convenite obligații clare pentru alte sisteme AI cu risc ridicat, care ar putea avea un impact semnificativ asupra sănătății, siguranței, drepturilor fundamentale, mediului, democrației și statului de drept. Utilizările cu risc ridicat includ infrastructura critică, educația și formarea profesională, angajarea, serviciile esențiale (n.r. – asistență medicală, servicii bancare), anumite sisteme de aplicare a legii, migrație și managementul frontierelor, justiție și procese democratice (n.r. – influențarea alegerilor).
Cetățenii europeni vor avea dreptul de a depune plângeri cu privire la sistemele AI și de a primi explicații cu privire la deciziile bazate pe sisteme AI cu risc ridicat care le afectează drepturile.

De aceea, sistemele IA de uz general (GPAI) și modelele pe care se bazează acestea vor trebuie să îndeplinească anumite cerințe de transparență și să respecte legislația UE privind drepturile de autor în timpul formării lor. Modelele GPAI mai puternice, care ar putea prezenta riscuri sistemice, se vor confrunta cu cerințe suplimentare, inclusiv realizarea evaluării modelului, evaluarea riscurilor și raportarea incidentelor. În plus, conținutul de imagine, audio sau video artificial sau manipulat („deepfakes”) va trebui etichetat clar.

Conform calendarului, textul noului Regulament așteaptă adoptarea oficială într-o viitoare sesiune plenară a Parlamentului European și aprobarea finală a Consiliului. Ulterior, de la intrarea în vigoare Regulamentul va trebuie aplicat integral la 24 de luni în toate statele europene, cu excepția interdicțiilor privind practicile interzise (se vor aplica la 6 luni de la intrarea în vigoare), a codurilor de practică (se vor aplica la 9 luni de la intrarea în vigoare), a regulilor generale de IA, inclusiv guvernare (se vor aplica la 12 luni de la intrarea în vigoare) și a obligațiilor pentru sistemele cu risc ridicat (se vor aplica la 12 luni de la intrarea în vigoare).