Inteligența artificială, sub semnul pericolului: apel global pentru stabilirea „liniilor roșii”

Un apel internațional fără precedent agită lumea științifică și politică: peste 200 de experți, inclusiv laureați ai premiului Nobel și cercetători de la companii precum Google, Microsoft, OpenAI și Anthropic, cer Națiunilor Unite să impună de urgență reguli stricte privind dezvoltarea inteligenței artificiale (AI).

Documentul intitulat „Global Call for AI Red Lines” solicită statelor membre ONU să acționeze decisiv până în anul 2026 pentru a bloca utilizările considerate extrem de periculoase ale tehnologiei. Printre semnatari se regăsesc nume sonore precum Geoffrey Hinton și Yoshua Bengio, recunoscuți drept „părinții inteligenței artificiale”.

„Pericole fără precedent”

Specialiștii avertizează că, deși AI are un potențial imens de a îmbunătăți viața oamenilor, direcția actuală de dezvoltare poate aduce riscuri fără precedent. Printre limitele propuse se numără interzicerea atribuirii AI controlului asupra arsenalelor nucleare sau a altor arme autonome letale, precum și a folosirii sale pentru supraveghere în masă, atacuri cibernetice ori crearea de deepfake-uri.

În apel se menționează și alte riscuri grave: pandemii provocate artificial, dezinformare pe scară largă, manipularea populației – inclusiv a copiilor –, destabilizarea securității naționale, pierderea masivă a locurilor de muncă și încălcări sistematice ale drepturilor omului.

09:15, 25.09.2025 • ECONOMIE

Inteligența artificială, sub presiune: analiștii avertizează că trebuie să producă 2 trilioane $ anual pentru a-și justifica costurile

15:05, 23.09.2025 • NECONVENTIONAL

Te rogi cu o mașină? Inteligența artificială începe să creadă în Dumnezeu

„Inteligența artificială ar putea depăși în curând capacitățile umane, amplificând pericolele existente. Dacă nu se iau măsuri acum, în câțiva ani va deveni tot mai dificil să se exercite un control uman real asupra acestei tehnologii”, se arată în document.

O cursă contra-cronometru

Experții subliniază că fereastra de timp pentru reglementare este foarte scurtă. Ritmul accelerat al inovației face ca lipsa unor „linii roșii” clare să crească șansele unor scenarii dezastruoase. De aceea, comunitatea științifică cere guvernelor să trateze AI cu aceeași urgență ca armele de distrugere în masă.

Apelul internațional pune presiune pe liderii mondiali, care vor trebui să decidă rapid dacă tehnologia va rămâne un instrument al progresului sau va deveni o amenințare globală.

citeşte şi: Te rogi cu o mașină? Inteligența artificială începe să creadă în Dumnezeu

Impactul inteligenței artificiale asupra lumii reale este tot mai mare

Amploarea campaniei este fără precedent, peste 200 de personalități proeminente și 70 de organizații din politică, știință, societate și industrie susținând apelul. Printre cei care au semnat propunerea se numără fostul prim-ministru italian Enrico Letta, fosta președintă irlandeză Mary Robinson (acum Înaltul Comisar al ONU pentru Drepturile Omului), membri ai Parlamentului European (PE), 10 laureați ai Premiului Nobel și lideri din domeniul tehnologiei, precum cofondatorul OpenAI și directorul tehnic al Google.

Această mișcare vine pe fondul îngrijorărilor tot mai mari cu privire la impactul inteligenței artificiale asupra lumii reale. Într-un exemplu notabil, chatboții de top, inclusiv ChatGPT, Claude și Gemini de la Google, au dat răspunsuri inconsistente la întrebări despre sinucidere – despre care se crede că exacerbează crizele de sănătate mintală.

Mai multe sinucideri au fost legate de conversații cu sistemele de inteligență artificială. Yoshua Bengio, unul dintre așa-numiții „nași” ai inteligenței artificiale, a subliniat că cursa pentru dezvoltarea de modele din ce în ce mai puternice creează riscuri la care societățile nu sunt pregătite să facă față.

Reglementările Uniunii Europene (UE) privind inteligența artificială sunt binevenite, însă un amestec de reguli naționale și europene privind inteligența artificială nu va fi suficient pentru a reglementa o tehnologie concepută să treacă granițele, potrivit susținătorilor inițiativei. Aceștia solicită crearea unui organism sau a unei organizații independente care să aplice aceste reguli.

În timp ce țări precum SUA, China și membrii UE își elaborează propriile reglementări privind inteligența artificială, semnatarii spun că doar un acord global poate asigura adoptarea și aplicarea unor standarde comune.

Susținătorii speră că negocierile privind interdicțiile obligatorii pot începe rapid, pentru a preveni ceea ce Ahmet Üzümcü, fost director general al Organizației pentru Interzicerea Armelor Chimice, a descris drept „daune ireversibile aduse umanității”.