Modelele IA fac bani frumoși în timp ce creează conținut deepfake pentru

Într-o eră digitală în care realitatea se amestecă cu simularea, ascensiunea inteligenței artificiale (IA) a dat naștere unui fenomen curios: apariția modelelor generate de IA și a creatorilor de conținut. Noile modele nu mai au de multă vreme caracter experimental. Au fost puse la treabă. Și strâng bani frumoși.

De la conținutul pentru adulți personalizat pe platforma OnlyFans la recrearea influencerilor de pe Instagram, avatarurile ghidate de IA își croiesc un loc în lumea lucrativă a creației de conținut, aducând venituri de 3.200-11.000 de dolari pe lună din acorduri publicitare și lăsând atât admiratorii, cât și criticii să reflecteze asupra implicațiilor acestei revoluții tehnologice. Devine tot mai greu să deosebești realul de fals.

În fruntea acestei schimbări de paradigmă se află Steven Jones, un entuziast autodeclarat al science-fiction-ului, care s-a aflat la conducerea unui imperiu de conținut pentru adulți în 2013, doar pentru a-i vedea sfârșitul în fața concurenței formidabile din partea platformelor gratuite de streaming pentru adulți. Neclintit, Jones s-a angajat într-o nouă aventură, profitând de puterea IA pentru a satisface o clientelă de nișă care caută conținut pentru adulți personalizat, cu protagoniste generate de IA.

Dar Jones nu este singur în incursiunea sa în crearea de conținut ghidat de IA. Intră în scenă Rubén Cruz și echipa sa de la The Clueless Agency din Barcelona, Spania, care au folosit IA pentru a crea modele realiste care estompează linia dintre ficțiune și realitate. Cu modele generate de IA precum Aitana López încheind acorduri substanțiale de publicitate, Cruz și echipa sa deschid calea pentru o nouă categorie de influenceri neîncărcată de ego-uri umane și personalități de divă.

Captivează prin perfecțiune, seduc fără fițe

Farmecul modelelor IA rezidă în abilitatea lor de a captiva publicul cu personaje meticulos create, depășind limitele imperfecțiunilor și temperamentelor umane. Aitana López, cu peste 300.000 de urmăritori pe Instagram, reprezintă perfect acest fenomen. Sunt chiar și celebrități binecunoscute care au căzut pradă farmecului ei îmbietor, necunoscând originea sa artificială.

Cu toate acestea, în spatele fațadei de glamour și sofisticare se află un subteran mai întunecat, în care implicațiile etice ale creației de conținut ghidată de IA ies la iveală. În timp ce modelele IA precum Aitana López ar putea fascina publicul cu stilurile lor de viață create special, spectrul exploatării și abuzului planează amenințător, așa cum s-a văzut în afacerea de conținut pentru adulți a lui Steven Jones.

Eforturile lui Jones de a monitoriza dorințele cele mai întunecate ale clienților săi subliniază echilibrul precaut între inovație și responsabilitate în conținutul generat de IA. În ciuda implementării măsurilor de siguranță pentru a preveni crearea de conținut ilicit și dăunător, Jones rămâne vigilent împotriva sugestiilor perverse ale clientelei sale, luptându-se cu întrebările etice privind comercializarea fanteziilor generate de IA.

În plus, proiectul de lege bipartizan introdus în Senatul SUA, cunoscut sub numele de „Legea de sfidare” (Defiance Act of 2024), demonstrează cum acest tip de tehnologie poate duce la crearea de conținut generat de IA fără consimțământ, în special în urma controversei deepfake cu Taylor Swift.

Pe măsură ce tehnologia IA continuă să evolueze, politicienii și actorii din industrie trebuie să colaboreze pentru a proteja împotriva exploatării și manipulării indivizilor prin imagini și deepfake-uri generate de IA.

Vorbind despre asta. Ce crede ChatGPT despre toate acestea? Să aflăm:

„Ca un program AI, nu posed gânduri sau emoții personale în felul în care o fac oamenii. Cu toate acestea, pot oferi perspective bazate pe informațiile și modelele după care am fost antrenat.„

„Apariția modelelor AI ca creatori de conținut reprezintă o intersecție fascinantă între tehnologie, creativitate și etică. Pe de o parte, avatarurile ghidate de IA oferă noi oportunități pentru creația de conținut și povestire personalizate, depășind limitele ceea ce este posibil în lumea digitală. Ele oferă o platformă pentru inovație și experimentare, permițând utilizatorilor să exploreze noi forme de expresie și interacțiune.„

„Cu toate acestea, acest trend ridică, de asemenea, întrebări importante despre implicatiile etice ale conținutului generat de IA, în special în domenii sensibile precum divertismentul pentru adulți și deepfake-urile. Există preocupări legate de consimțământ, confidențialitate și potențiala exploatare sau vătămare, care necesită o considerație și reglementare atentă.„

„În cele din urmă, apariția modelelor AI ca creatori de conținut subliniază necesitatea unei abordări echilibrate care să combine inovația cu responsabilitatea. Prin stimularea dialogului și a colaborării între actorii din diferite industrii, putem exploata potențialul tehnologiei AI în timp ce atenuăm riscurile și protejăm împotriva abuzului.„

Iar nouă nu ne rămâne decât să privim cu compasiune către lucrătorii reali din domeniul conținutului pentru adulți. Modelele IA vor lăsa pe multă lume din industrie fără pâinica zilnică.

Defiance Act of 2024, câteva lămuriri:

Senatorii Dick Durbin, Lindsey Graham, Amy Klobuchar și Josh Hawley au introdus Actul DEFIANCE în Senatul SUA pentru a responsabiliza cei responsabili de proliferarea imaginilor și videoclipurilor „deepfake” cu caracter sexual și neconsensual.

Conținutul „deepfake” disponibil online crește exponențial odată cu accesibilitatea tehnologiei folosite pentru crearea acestuia. Cea mai mare parte a acestui material este explicit sexual și este produs fără consimțământul persoanei reprezentate. Un studiu din 2019 a descoperit că 96% din videoclipurile „deepfake” erau pornografie neconsensuală.

Senatorul Durbin a subliniat că astfel de conținut este adesea folosit pentru a exploata și hărțui femeile, în special figuri publice, politicieni și celebrități. Astfel de imagini pot provoca pierderea locurilor de muncă și pot duce la depresie sau anxietate. Scopul acestui act legislativ este de a oferi puterea înapoi victimelor, de a combate distribuția imaginilor „deepfake” și de a trage la răspundere pe cei responsabili pentru aceste imagini.

Actul DEFIANCE creează o soluție civilă federală pentru victimele identificabile într-o „falsificare digitală”, definită ca o reprezentare vizuală creată prin utilizarea de software, învățare automată, inteligență artificială sau orice alt mijloc tehnologic pentru a apărea fals autentică.

Propunerea legislativă a fost introdusă înaintea audierii Comitetului Judiciar al Senatului despre eșecurile Big Tech de a proteja copiii de exploatarea sexuală online. Audierea a inclus testimonialele CEO-ilor Discord, Meta, Snap, TikTok și X (cunoscut anterior ca Twitter). Acest act legislativ vine în urma unui efort de a preveni exploatarea sexuală online și de a evidenția necesitatea acțiunii Congresului. Potrivit CNN, imaginile „deepfake” afectează nu numai adulții, ci și copiii.