Reguli stricte de supraveghere a inteligenţei artificiale în UE

După trei zile de negocieri intense între statele membre şi Parlamentul European, Uniunea Europeană a convenit vineri asupra unei legislaţii fără precedent la nivel global pentru a reglementa inteligenţa artificială (IA).

Este vorba de un „acord politic” cu privire la un text ce ar trebui să promoveze inovarea în Europa, fiind limitate posibilele abuzuri ale acestor tehnologii foarte avansate.

„‘Istoric! UE devine primul continent care a stabilit reguli clare pentru utilizarea IA, a afirmat comisarul european Thierry Breton, cel care a stat la originea proiectului prezentat în aprilie 2021. De atunci, însă, discuţiile s-au prelungit. Ultima rundă de negocieri, începută miercuri după-amiază, a durat aproape 35 de ore.

Apariţia ChatGPT, generatorul de texte al companiei californiene OpenAI, capabil să scrie disertaţii, poezii sau să facă traduceri în câteva secunde a schimbat modul cum este privită AI. Acest sistem a arătat publicului larg potenţialul imens al IA, dar şi anumite riscuri. Fotografiile false distribuite pe rețelele sociale au atras atenţia asupra pericolului manipulării opiniei publice.

Fenomenul de IA generativă a fost integrat în negocierile curente la cererea europarlamentarilor care vor o supraveghere specifică pentru acest tip de tehnologie de mare impact. De asemenea, ei au solicitat în special mai multă transparenţă în ceea ce priveşte algoritmii şi bazele de date gigantice aflate în centrul acestor sisteme.

Statele membre s-au temut că o reglementare excesivă îi va distruge din start pe campionii lor emergenţi, precum Aleph Alpha în Germania şi Mistal AI în Franţa, făcând costurile de dezvoltare să fie prohibitive.

„Vom analiza cu atenţie compromisul găsit astăzi şi ne vom asigura în următoarele săptămâni că textul păstrează capacitatea Europei de a-şi dezvolta propriile tehnologii de inteligenţă artificială şi îi păstrează autonomia strategică”, a declarat ministrul francez al Digitalului, Jean-Noël Barrot.

Viteza a câștigat teren în fața calității

Sectorul tehnologiei este unul critic.”Viteza pare să fi prevalat asupra calităţii, cu consecinţe potenţial dezastruoase pentru economia europeană”, a precizat  Daniel Friedlaender, managerul pentru Europa al CCIA, unul din principalele sale lobby-uri. El spune că acum este necesară o „muncă tehnică” pentru detalii cruciale.

În privinţa IA generative, compromisul prevede o abordare cu două viteze. Se vor impune tuturor reguli pentru a asigura calitatea datelor utilizate în dezvoltarea algoritmilor şi pentru a se verifica că nu încalcă legislaţia privind drepturile de autor. Dezvoltatorii mai trebuie să se asigure că sunetele, imaginile şi textele produse sunt clar identificate ca fiind artificiale. Constrângerile consolidate se vor aplica numai celor mai puternice sisteme.

Textul preia principiile reglementărilor europene existente în materie de securitate a produselor, care impun controale bazate în primul rând pe companii. Vor fi reguli impuse doar sistemelor considerate ca având un „risc ridicat”, în esenţă cele utilizate în domenii sensibile cum ar fi infrastructura critică, educaţia, resursele umane sau aplicarea legii. Ele vor fi supuse unei serii de obligaţii precum asigurarea unui control uman asupra maşinii, întocmirea unei documentaţii tehnice sau chiar stabilirea unui sistem de gestionare a riscurilor.

Legislaţia mai stabilește și o supraveghere specifică a sistemelor de IA aflate în interacţiune cu oamenii şi le va obliga să informeze utilizatorul că se află în contact cu o maşină.

În același timp, legislaţia europeană va fi dotată cu mijloace de supraveghere şi cu sancţiuni odată cu crearea unui birou european al IA în cadrul Comisiei Europene.  

Se vor aplica amenzi de până la 7% din cifra de afaceri, cu un plafon de 35 de milioane de euro pentru cele mai grave infracţiuni.