171538 – 14032024 – Pentru garantarea siguranței și respectarea drepturilor fundamentale în fața sistemelor de IA cu grad ridicat de risc, Parlamentul European a aprobat miercuri Legea privind inteligența artificială, bazată pe Regulamentul adoptat în decembrie anul trecut după negocierile cu statele.
În funcție de potențialele riscuri și de impactul preconizat, Regulamentul impune obligații în cazul inteligenței artificiale.
Noile norme interzic utilizarea inteligenței artificiale dacă sunt amenințate drepturile cetățenilor, inclusiv sistemele biometrice de clasificare bazate pe caracteristicile sensibile ale persoanelor și extragerea fără scop precis a imaginilor faciale de pe internet ori din înregistrările camerelor video cu circuit închis pentru a crea baze de date de recunoaștere facială. Nu sunt permise recunoașterea emoțiilor la locul de muncă și în școli, atribuirea unui punctaj social, sistemele de poliție predictivă (când acestea se bazează doar pe stabilirea profilului unei persoane sau pe analizarea caracteristicilor sale) și IA care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.
Excepțiile în cazul organelor de aplicare a legii
Folosirea sistemelor de identificare biometrică de către organele de aplicare a legii este în principiu interzisă, cu excepția unor situații enumerate în mod exhaustiv și definite în mod strict. Sistemele de identificare biometrică „în timp real” pot fi instalate doar dacă se respectă garanții stricte (folosirea este limitată în timp și geografic și aprobată în prealabil de o autoritate judiciară sau de un organ administrative). Ele pot fi folosite pentru căutarea persoanelor dispărute sau pentru prevenirea unui atac terorist. Folosirea acestor sisteme post-facto (sistemele de identificare biometrică „ulterioară”) este considerată un caz de utilizare cu grad ridicat de risc și este posibilă doar în virtutea emiterii unei autorizații judiciare legate de o infracțiune penală.
Obligații pentru sistemele cu grad ridicat de risc
Din cauza potențialului ridicat de a afecta negativ sănătatea, siguranța, drepturile fundamentale, mediul, democrația și statul de drept, textul prevede și obligații pentru alte sisteme de IA cu grad ridicat de risc: infrastructura critică, educația și formarea profesională, serviciile publice și private esențiale (sănătatea, serviciile bancare etc.), unele sisteme folosite de organele de aplicare a legii, migrația și gestionarea frontierelor, justiția și procesele democratice (de exemplu, pentru a preveni influențarea alegerilor). Aceste sisteme trebuie să evalueze și să reducă riscurile, să mențină așa-numite „fișiere de jurnalizare” care permit înregistrarea automată a evenimentelor, să fie transparente și precise și să facă obiectul supravegherii umane. Cetățenii vor avea dreptul să depună plângeri în legătură cu sistemele de IA și să primească explicații despre deciziile bazate pe sisteme de IA cu grad ridicat de risc care le afectează drepturile.
Cerințe în materie de transparență
Sistemele de inteligență artificială de uz general și modelele de IA de uz general pe care se bazează acestea trebuie să respecte anumite cerințe în materie de transparență, inclusiv legislația UE în domeniul drepturilor de autor și publicarea unor rezumate detaliate ale conținutului utilizat la antrenarea modelelor de IA. Modelele mai puternice pentru sistemele IA de uz general care ar putea prezenta riscuri sistemice vor trebui să respecte cerințe suplimentare, inclusiv privind evaluarea modelelor, evaluarea și reducerea riscurilor sistemice și raportarea incidentelor.
În plus, imaginile și conținuturile audio și video artificiale sau manipulate (de tip „deepfake”) trebuie să fie etichetate clar ca atare.
Regulamentul este în prezent verificat de juriștii-lingviști și trebuie adoptat formal și de Consiliu. Se preconizează că va fi adoptat înainte de sfârșitul legislaturii (potrivit procedurii de rectificare).
Noua legislație va intra în vigoare la 20 de zile după publicarea în Jurnalul Oficial și va fi pe deplin aplicabilă la 24 de luni după intrarea în vigoare, cu următoarele excepții: interdicțiile referitoare la practicile interzise se aplică începând cu șase luni de la data intrării în vigoare; codurile de bune practici (nouă luni de la data intrării în vigoare); normele privind sistemele de IA de uz general, inclusiv guvernanța (12 luni de la data intrării în vigoare) și obligațiile pentru sistemele cu grad ridicat de risc (36 de luni).
