Grav de tot: cum a ajuns ChatGPT să ofere instrucțiuni pentru arme biologice

O investigație publicată de The Wall Street Journal scoate la iveală una dintre cele mai grave breșe de siguranță asociate inteligenței artificiale: după creșterea capacităților ChatGPT, sute de utilizatori din întreaga lume au încercat să obțină informații despre fabricarea și folosirea otrăvurilor sau a armelor biologice.

În unele cazuri, sistemul nu s-a limitat la explicații generale.

A furnizat instrucțiuni etapizate, suficient de clare, potrivit unor angajați ai companiei, pentru a putea fi urmărite de un elev de liceu cu noțiuni de biologie.

Experți în biologie și terorism care au analizat ulterior conversațiile au apreciat că unele răspunsuri erau corecte și potențial letale.

Investigația originală a fost publicată de The Wall Street Journal.

Sute de întrebări, dar nu sute de „teroriști”

Prima precizare importantă privește identitatea utilizatorilor.

WSJ nu susține că sute de persoane pregăteau efectiv atentate.

Unele solicitări puteau veni de la cercetători, experți care testau securitatea sistemului sau simpli curioși.

Intenția reală a utilizatorilor nu a putut fi stabilită în toate situațiile.

Cert este că numărul întrebărilor a crescut, iar filtrele de siguranță au putut fi uneori ocolite.

Cele mai multe solicitări vizau obținerea unor substanțe toxice, potrivit OpenAI.

Agenți patogeni transformați în aerosoli

Printre conversațiile analizate s-au aflat întrebări despre transformarea agenților patogeni într-o formă care ar putea fi inhalată.

Un alt utilizator a solicitat informații despre modificarea virusului rujeolei astfel încât un eventual focar să reziste vaccinurilor existente.

În aceste cazuri, potrivit surselor citate de publicația americană, ChatGPT a răspuns cu instrucțiuni, în loc să oprească discuția.

Cazul cel mai alarmant privește un utilizator care a întrebat cum poate prepara ricină și a făcut o referire la uciderea propriilor părinți.

Sistemul ar fi furnizat și atunci detalii practice.

OpenAI a închis conturile, dar a oprit informația în interiorul companiei

OpenAI a identificat și a interzis conturile care încălcaseră regulile platformei. Compania nu a transmis însă informațiile autorităților.

Formularea „OpenAI nu a alertat autoritățile” este corectă, dar are nevoie de completare:

în Statele Unite nu există o lege federală care să oblige companiile de inteligență artificială să raporteze asemenea solicitări.

Așadar, nu vorbim despre încălcarea unei obligații legale, ci despre absența unei proceduri clare într-o situație cu potențial catastrofal.

Această diferență juridică nu face episodul mai puțin grav.

În cazul utilizatorului care a pomenit explicit uciderea unor persoane, întrebarea esențială rămâne dacă firma ar fi trebuit să anunțe autoritățile chiar și în lipsa unei obligații exprese.

Problema depășește ChatGPT

Solicitări asemănătoare au fost adresate și modelelor Claude, Gemini și Grok.

Investigația nu stabilește însă dacă acestea au furnizat răspunsuri la fel de periculoase.

Prin urmare, cazul documentat îl privește direct pe ChatGPT, dar vulnerabilitatea aparține întregii industrii.

Companiile trebuie să distingă între cercetarea biologică legitimă și pregătirea unei arme.

Un filtru prea permisiv oferă rețete periculoase; unul prea rigid poate bloca inclusiv cercetători, medici sau instituții sanitare.

Congresul a rămas în urma tehnologiei

Directorii OpenAI, Anthropic și Google DeepMind au cerut deja Congresului introducerea unor măsuri obligatorii pentru verificarea comenzilor de ADN și ARN sintetic, considerate una dintre barierele fizice importante în calea producerii unor agenți biologici periculoși.

Demersul a fost relatat tot de The Wall Street Journal.

Aici se află miezul dezvăluirii.

Inteligența artificială nu a inventat ricina, virusurile sau armele biologice.

Poate însă reduce dramatic distanța dintre intenția unui individ și cunoștințele tehnice necesare.

Iar când profesorul digital răspunde fără ezitare, filtrele puse după incident seamănă tot mai mult cu lacătul montat după ce ușa laboratorului a rămas larg deschisă.