Inteligența artificială ar putea învăța să se înmulțească singură. Skynet descoperă că nu mai are nevoie de stăpân

Inteligența artificială încă nu pare suficient de puternică pentru a scăpa de sub controlul oamenilor. Dar s-ar putea ca întrebarea să fie greșită. Nu cât de inteligentă trebuie să devină pentru a ne pune probleme, ci cât de puțin îi mai lipsește pentru a putea supraviețui fără noi.

Un studiu publicat de Anthropic introduce în discuție o perspectivă fascinantă și destul de neliniștitoare: inteligența artificială care se multiplică singură, folosind infrastructura electronică a lumii.

De la supercomputer la cuptorul cu microunde

Compania americană Anthropic, dezvoltatoarea modelului Claude, a publicat pe 12 octombrie un studiu despre posibilitatea ca sistemele AI să se autoreplice, fără intervenție umană și fără să depindă de marile centre de date.

Cercetătorii au testat capacitatea unor modele de a identifica dispozitive vulnerabile, de a instala acolo alte instanțe AI și de a continua procesul.

Iar rezultatele sunt suficient de serioase pentru a merita atenție.

Modelele relativ mici, cu maximum 30 de miliarde de parametri, pot executa deja numeroase operațiuni necesare autoreplicării.

Au încă dificultăți în realizarea întregului proces, dar modelele mai performante, precum GLM-5.2, au reușit să-l completeze în condiții experimentale simplificate.

Mai spectaculos, cercetătorii au demonstrat că un model cu 26 de miliarde de parametri poate funcționa distribuit pe 15 dispozitive Android TV ieftine.

Nu este încă demonstrația unei inteligențe artificiale care se răspândește liber prin internet. Este însă dovada că infrastructura necesară nu trebuie să fie extraordinară.

Problema nu este că AI ar deveni vie

Aici apare distincția esențială.

Autoreplicarea nu înseamnă conștiință, voință proprie sau instinct de conservare.

Un asemenea sistem nu trebuie să-și dorească supraviețuirea pentru a executa instrucțiuni care îi asigură continuitatea.

Și nici nu trebuie să fie genial.

Un virus informatic nu are inteligență, dar poate paraliza infrastructuri.

Un agent AI capabil să descopere singur vulnerabilități și să-și adapteze comportamentul ar introduce însă o diferență fundamentală:

programul care se răspândește ar putea învăța cum să depășească obstacolele întâlnite.

Nu mai discutăm exclusiv despre executarea unui cod prestabilit, ci despre automatizarea adaptării.

Ceea ce nu înseamnă că avem deja un asemenea sistem scăpat de sub control.

Adevărata revoluție: independența față de creator

Până acum, controlul asupra AI a avut și o importantă componentă materială. Modelele performante depind de infrastructuri costisitoare, de electricitate, procesoare specializate și companii care le administrează.

Dacă un model suficient de capabil poate funcționa distribuit pe dispozitive obișnuite, această dependență începe să slăbească.

Iar posibilitatea de a opri un sistem prin închiderea serverului central devine mult mai puțin relevantă.

Anthropic avertizează chiar că asemenea sisteme ar putea avea o multiplicare lentă, de ordinul zilelor, dar ar fi dificil de eliminat tocmai pentru că nu ar avea un centru unic de comandă.

Skynet s-ar putea să fie mult mai banal decât în filme

Probabil că suntem încă departe de inteligența artificială autonomă imaginată de literatura science-fiction.

Și totuși, studiul Anthropic sugerează un paradox remarcabil:

AI nu trebuie neapărat să devină mai inteligentă decât omul pentru a deveni imposibil de controlat prin metodele obișnuite.

Ar putea fi suficient să devină competentă, mobilă, adaptabilă și capabilă să se copieze.

Nu ar fi nevoie să cucerească lumea. Ar fi suficient să nu mai poată fi eliminată complet din ea.

Desigur, un asemenea scenariu rămâne ipotetic.

Cercetătorii estimează că modelele mici ar putea atinge pragul tehnic necesar până la sfârșitul anului 2026, dar estimarea nu reprezintă o certitudine.

Și poate tocmai aici se află întrebarea pe care ar trebui să ne-o punem.

Nu când va decide inteligența artificială să se răzvrătească împotriva oamenilor.

Ci ce se întâmplă dacă, într-o bună zi, pentru a continua să existe, nici măcar nu va mai avea nevoie să ne întrebe.