ChatGPT halucineză! Un mare semnal de alarmă

Un nou val de preocupări privind confidențialitatea și respectarea normelor GDPR a lovit Europa, de data aceasta avându-l pe ChatGPT în centrul atenției. O plângere depusă de grupul de protecție a datelor noyb la autoritatea austriacă de protecție a datelor evidențiază modul în care „halucinațiile” lui ChatGPT și inventarea informațiilor încalcă regulile europene privind confidențialitatea.

Noyb, o organizație non-profit cu sediul la Viena, fondată de activistul Max Schrems, susține că plângerea sa a fost declanșată de eșecul lui ChatGPT de a furniza data corectă a nașterii lui Schrems, făcând în schimb o presupunere nebunească. Chatbot-ul nu informează utilizatorii că nu are datele corecte pentru a răspunde unei solicitări.

Noyb înseamnă none of your business (nu te privește)

12:44 • ACTUALITATE

Scurgere de informații la AEP! Mii de date personale au fost puse la liber! Toni Greblă: ”Oameni suntem cu toții”

Data nașterii unei persoane este considerată informație cu caracter personal, conform GDPR, care stabilește diverse cerințe privind modul în care datele personale ar trebui să fie tratate.

Noyb susține că comportamentul chatbot-ului încalcă Regulamentul General privind Protecția Datelor (GDPR) referitor la confidențialitate, precizia informațiilor, precum și dreptul de a corecta informațiile inexacte. Se argumentează, de asemenea, că firma de AI a refuzat să corecteze sau să șteargă răspunsurile greșite și nu va dezvălui nicio informație despre datele procesate, sursele sau destinatarii acestora.

„Este clar că , în prezent, companiile nu sunt capabile să facă chatbot-uri (precum ChatGPT) care să respecte legea UE, atunci când procesează date despre persoane„, a declarat Maartje de Graaf, avocatul pentru protecția datelor din cadrul noyb.

„Dacă un sistem nu poate produce rezultate precise și transparente, nu poate fi folosit pentru a genera date despre persoane. Tehnologia trebuie să respecte cerințele legale, nu invers„, a adăugat ea.

A fost raportat anterior că „chatbot-urile inventează informații cel puțin 3% din timp – și chiar și până la 27%.„

POLITICO a întrebat de asemenea ChatGPT despre data nașterii lui Schrems și a primit trei răspunsuri diferite: 24 iunie, 17 septembrie și 17 octombrie.

Noyb a confirmat că ziua de naștere a lui Schrems este de fapt pe 1 octombrie.

Noyb solicită acum autorității austriece să investigheze OpenAI pentru a verifica acuratețea datelor personale pe care le gestionează pentru a alimenta modelele sale de limbaj. De asemenea, ei cer autorității să se asigure că compania respectă cererea reclamantului de a accesa propriile sale date personale.

Grupul pentru protecția datelor cere, de asemenea, o amendă administrativă „efectivă, proporțională, descurajatoare„.

„Pentru moment, OpenAI pare să nu pretindă nici măcar că poate să respecte GDPR-ul UE”, se menționează în plângere.

Încălcarea GDPR-ului UE poate duce la o amendă de până la 4% din venitul global al unei companii.

Noyb a declarat că orice investigație regulamentară ar fi probabil să fie gestionată „prin cooperarea UE.” Baza OpenAI în UE este în Irlanda, iar reglementatorii irlandezi privind protecția datelor ar putea fi principalii săi supervizori.

Autoritatea austriacă a confirmat că a primit plângerea și a declarat că va evalua dacă trebuie să fie înaintată către o altă autoritate națională.

OpenAI nu a fost imediat disponibil pentru a comenta.

Pionierul în AI se confruntă cu presiuni din partea altor reglementatori europeni. Autoritatea italiană de protecție a datelor a interzis temporar ChatGPT anul trecut să opereze în țară, din cauza presupusei încălcări a regulilor UE privind gestionarea datelor personale.

Board-ul European de Protecție a Datelor (EDPB), care adună reglementatorii naționali privind protecția datelor, a înființat ulterior o echipă de lucru pentru ChatGPT pentru a coordona eforturile naționale.

(adaptare POLITICO)