Reuniunea Reprezentanților Permanenți ai celor 27 (Coreper I) a dat mult aşteptata undă verde pentru IA Act, noul sistem de reguli UE privind inteligența artificială. Pe 9 decembrie s-a ajuns la un acord politic cu privire la primul set de reguli obligatorii din lume pentru inteligența artificială. Ce prevede legea?
Uniunea Europeană este pe cale să devină prima mare putere mondială care are un cadru de reglementare privind sistemele de integilenţă artificială. UE este prima care a stabilit reguli obligatorii pentru tehnologia IA cu evoluție rapidă.
Textul va trece la Parlamentul European, unde totul ar trebui să fie mai simplu. Procesul ar trebui finalizat până în aprilie, ceea ce nu înseamnă că toate noile reguli vor intra imediat în vigoare. Se va proceda gradual: după șase luni vor fi implementate interdicțiile și după alte șase luni, regulile privind modelele fondatoare. Întregul proces va dura un an.
Regulamentul ar vrea să asigure că sistemele de inteligență artificială introduse pe piața europeană și utilizate în UE sunt sigure și respectă drepturile fundamentale și valorile UE. În același timp, continuă să încurajeze investițiile și inovarea în IA în Europa. Ideea din spatele textului convenit este de a reglementa inteligența artificială în baza capacității acesteia de a provoca daune societății, urmând o abordare ‘„bazată pe riscuri’”: de la risc minim la risc inacceptabil; cu cât riscul este mai mare, cu atât regulile sunt mai stricte. Dacă marea majoritate a sistemelor de inteligență artificială se încadrează în categoria de risc minim și, prin urmare, nu vor crea probleme societății, sistemele de inteligență artificială identificate ca fiind cu risc ridicat vor fi însă obligate să respecte cerințe riguroase, inclusiv sisteme de atenuare a riscurilor, seturi de date de înaltă calitate, înregistrarea activității, documentație detaliată, informații clare despre utilizator, supraveghere umană și un nivel ridicat de robustețe, acuratețe și securitate cibernetică.
Exemplele de sisteme IA cu risc ridicat includ unele infrastructuri critice, cum ar fi sectoarele de apă, gaze și electricitate; dar și dispozitive medicale; sisteme de stabilire a accesului la instituțiile de învățământ sau de recrutare a persoanelor; sau unele sisteme utilizate în domeniile aplicării legii, controlului la frontieră, administrării justiției și proceselor democratice. Una dintre cele mai discutate chestiuni a fost aplicarea sistemelor de identificare biometrică, considerate cu risc ridicat. De asemenea, vor fi interzise unele utilizări ale sistemelor biometrice, cum ar fi de exemplu sistemele de recunoaștere a emoțiilor utilizate la locul de muncă, unele sisteme de profilare a persoanelor bazate pe gen sau etnie și recunoașterea facială în timp real în scopuri de aplicare a legii în spații accesibile publicului, cu excepții limitate. Acordul la care s-a ajuns clarifică cazurile în care o astfel de utilizare este necesară în scopuri de aplicare a legii și pentru care autoritățile ar trebui să fie autorizate în mod excepțional să utilizeze acest tip de sisteme. Este cazul, de exemplu, al atacurilor teroriste iminente, al căutării victimelor şi al anchetelor care implică infracțiuni grave precum crime, răpiri, violențe sexuale.
Riscul inacceptabil se referă la sistemele de inteligență artificială considerate o amenințare la adresa drepturilor fundamentale ale oamenilor, care vor fi interzise. Această listă neagră include sisteme, sau aplicații de inteligență artificială care manipulează comportamentul uman pentru a eluda liberul arbitru al utilizatorilor, cum ar fi jucăriile care folosesc asistență vocală, încurajând comportamentul periculos din partea minorilor, sau sisteme care permit ”punctajul social” de către guverne și companii, precum și unele aplicații de poliție predictivă care sunt absolut interzise. Mai există apoi categoria riscurilor specifice, care privesc sistemele de inteligență artificială generativă, cunoscuţii chatbot. Când le folosesc, utilizatorii ar trebui să fie conștienți de faptul că interacționează cu o mașină. Deepfake-urile și alte conținuturi generate de inteligență artificială vor trebui etichetate ca atare, iar utilizatorii vor trebui anunțați când sunt utilizate sisteme de clasificare biometrică sau de recunoaștere a emoțiilor. În plus, furnizorii vor trebui să proiecteze sisteme astfel încât conținutul sintetic, audio, video, text și imagine să fie marcat într-un format care poate fi citit de mașină și detectabil ca fiind generat, sau manipulat artificial.
Amenzile pentru încălcarea regulamentului pot varia de la 7,5 milioane de euro sau 1,5% din cifra de afaceri, până la 35 de milioane de euro, sau 7% din cifra de afaceri globală.
