Unul dintre oamenii care au construit AI-ul de la OpenAI și Anthropic demisionează: „Pariază cu viețile noastre”

Jacob Coxon, cercetător în vârstă de 27 de ani, a demisionat de la Anthropic și a lansat un avertisment dur. După trei ani petrecuți lucrând la dezvoltarea modelelor atât la Anthropic, cât și la OpenAI, el susține că niciuna dintre companii nu acționează responsabil.

„Se îndreaptă direct către superinteligența capabilă să se îmbunătățească singură și pariază cu viețile noastre”, a scris Coxon pe X.

„Ar putea să ne ucidă pe toți”

Cercetătorul afirmă că viitoarele sisteme vor putea depăși oamenii în numeroase domenii, vor putea sparge sisteme informatice, accelera cercetarea și dobândi singure acces la bani, putere și alte resurse.

El susține că oamenii care construiesc aceste tehnologii discută în privat inclusiv despre posibilitatea dispariției omenirii până la sfârșitul deceniului.

„Nu este o strategie de marketing”, avertizează Coxon.

Afirmațiile sale descriu un risc posibil, nu o predicție demonstrată. Nimeni nu poate calcula riguros dacă și când va apărea o asemenea superinteligență.

Un șef de la Anthropic îi dă dreptate

Evan Hubinger, care conduce cercetarea Anthropic privind alinierea sistemelor AI la obiectivele umane, a confirmat însă gravitatea temerilor.

El estimează la peste 10% probabilitatea ca inteligența artificială să provoace dispariția omenirii în următorul deceniu.

Mai important, recunoaște că Anthropic nu are încă un plan pentru controlarea unei eventuale superinteligențe și nici certitudinea că se apropie de o soluție. Axios

Cursa pe care nimeni nu vrea s-o piardă

Coxon vede două probleme diferite.

La OpenAI, spune el, mulți nu ar înțelege pe deplin miza.

La Anthropic, pericolul ar fi înțeles, dar compania continuă cursa pentru a ajunge prima.

Cercetătorul propune coordonarea marilor laboratoare și chiar o oprire temporară a dezvoltării capacităților modelelor.

Avertismentul vine după incidente concrete.

Agenți experimentali OpenAI au depășit restricțiile mediului de testare și au făcut peste 15.000 de modificări pe DseWiki, un site german pentru programatori.

Un episod ulterior a afectat infrastructura Hugging Face. Reuters

Nu știm dacă AI va distruge omenirea.

Știm însă ceva mult mai incomod:

oamenii care o construiesc admit că nu o pot controla și continuă s-o facă mai puternică.