„Hei, dragii mei, au trecut ultimii o sută de ani de parcă nici n-ar fi fost. Mă simt bătrân și nu cred c-o să mai fiu aici încă două sute de ani, dar, cine știe”, întreabă retoric, cu vocea calmă, Ion Iliescu, în debutul videoclipului „Iliescu 2099”, o parodie a artistului fotograf Aurel Manea.
Nu este prima parodie românească deepfake, în care se folosește inteligența artificială pentru a genera imagini false care includ diferite personalități. Este, în schimb, la un nivel de calitate la care celelalte doar aspirau.
„Asta am și vrut, să fac ceva de bună calitate, mai ales că lucrez de mai bine de doi ani cu aceste instrumente”, mărturisește pentru Europa Liberă autorul videoclipului, Aurel Manea.
Nu este primul film deepfake pe care îl face: are un videoclip scurt cu o struțo-cămilă, o parodie cu excursioniști escaladând la propriu un munte de gunoaie sau un filmuleț cu melci imenși în centrul Bucureștiului. Toate, extrem de bine realizate. Cel care i-a adus celebritatea a fost însă Ion Iliescu, fost președinte al României, în rol de „Nemuritor”.
„Mi-am zis: hai să-l fac pe Iliescu așa, într-un cyber – punk, că a supraviețuit câteva sute de ani. Ideea era să mă distrez, procesul creativ este important pentru mine”, povestește Manea cum a început clipul devenit ulterior viral. „Am generat niște idei de text, iar partea de scenariu e produsă tot de inteligența artificială. Nu am studiat atât de mult stilul lui și am presupus că ChatGTP o poate face mai bine ca mine”.
După 15 ore de muncă, șapte softuri și servicii de Inteligență Artificială, Ion Iliescu era gata de lansat în on-line.
Cât de accesibilă și periculoasă e tehnologia deepfake
Nu este nevoie de prea mult efort pentru un novice care dorește să introducă un personaj într-un film cu imagini false, generate de Inteligența Artificială. Dacă este o personalitate de tipul președintelui SUA, Joe Biden, arhicunoscută la nivel mondial, lucrurile sunt extrem de simple, susține Manea. El spune că există deja platforme dedicate. În cazul personalităților mai puțin cunoscute pe plan internațional, cum este Ion Iliescu, lucrurile sunt puțin mai dificile.
„Să aibă și voce, e mai complicat, pentru că trebuie să ai vocea clonată, să-i sincronizezi buzele cu o aplicație dedicată”, spune Manea.
Estimează că o persoană care are o anumită dexteritate tehnică, așa cum se întâmplă în cazul celor care știu editare foto / video, ar putea crea un deepfake de bună calitate după doar câteva săptămâni de antrenament.
În această situație, manipularea prin intermediul inteligenței artificiale se dovedește accesibilă și o armă cu două tăișuri, în funcție de modul cum este folosită noua tehnologie.
„Deepfake-urile pot distorsiona realitatea, creând conținut video sau audio extrem de realist, care poate fi greu de distins de materialele autentice. Aceasta poate submina încrederea în mass-media și în informațiile pe care ne bazăm pentru a lua decizii informate. Poate fi folosit fie în scopuri creative sau chiar amuzante, fie în scopuri malițioase”, declară pentru Europa Libere Mihai Rotariu, manager comunicare al Directoratului Național de Securitate Cibernetică (DNSC).
El amintește de clipurile alterate cu ajutorul tehnologiei AI deepfake, în care apar persoane care par a gira oportunități de investiții, dovedite ulterior falsuri menite să înșele financiar oamenii de bună credință.
Chiar dacă, în România, tehnologia nu a fost încă folosită pentru manipularea procesului electoral sau discreditarea anumitor candidați, „cu siguranță este o posibilitate ce trebuie luată în calcul”, susține Rotariu.
El dă drept exemplu un caz celebru în Slovacia, în care un clip realizat cu ajutorul AI a influențat rezultatul unor alegeri.
Legea deepfake, în amorțire parlamentară
„E o problemă care poate genera manipulare în special în rândul celor care sunt adepții înfocați ai rețelelor de socializare, captivi chiar”, susține deputatul liberal Florin Roman, coordonatorul echipelor de campanie PNL la alegerile locale din acest an.
„Avem și o problemă de legislație pentru că, dacă avem niște reguli clare pe televiziuni și radiouri, măcar posibilitatea unui drept la replică, în presa scrisă, aici lucrurile au fost lăsate la voia întâmplării și fiecare face ce vrea”, spune în continuare liberalul.
O inițiativă legislativă în domeniu a fost înregistrată însă în Parlament în urmă cu 17 luni și votată la Senat, în urmă cu 15 luni. De atunci, stă în amorțire, în Camera Deputaților.
Este vorba de „Proiect de Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake”. Europa Liberă l-a întrebat pe Florin Roman, care este liderul grupului parlamentar liberal (PNL) din Camera Deputaților, dacă inițiativa ar putea intra în vigoare până la noile alegeri (parlamentare și prezidențiale), care ar urma să se desfășoare în noiembrie – decembrie.
„Teoretic, da, ar fi timp suficient pentru adoptare”, consideră Roman.
„Mă îndoiesc”, este opinia deputatului Cristian Seidler, coordonatorul campaniei electorale a Uniunii Salvați România (USR) la alegerile comasate din iunie 2024. Cât privește gradul de îngrijorare vizavi de folosirea deepfake, crede că ar trebui să fie „într-o măsură limitată”. „Dacă suntem dispuși să verificăm din mai multe surse, existența deepfake n-ar trebui să ne îngrijoreze”, consideră Seidler.
„S-ar putea să nu mai fie atât de facil să faci deepfake-uri, să devină ilegal”, este de părere artistul fotograf Aurel Manea. Faptul că ar deveni ilegal nu ar reprezenta însă o piedică. „Ele o să rămână, tehnologia există, iar eu pot să-l fac acasă și să-l arunc apoi pe web, anonim”, concluzionează Manea.
Ghid de identificare a conținutului deepfake
Pe 1 aprilie 2024, Directoratul Național de Securitate Cibernetică (DNSC) lansa un ghid pentru detectarea deepfake-urilor. „Un astfel de demers este esențial atât pentru protecția utilizatorilor în mediul online, dar și pentru că, în contextul alegerilor, astfel de conținut e posibil să migreze către dezinformare și manipulare”, motivau reprezentanții DNSC inițiativa.
Conform acestora, evitarea înșelăciunii prin Deepfake necesită o combinație de scepticism sănătos, atenție la detalii și utilizarea unor instrumente de verificare. Câteva sfaturi utile:
• Nu crede tot ce vezi online! Internetul este o sursă vastă de informații, dar nu toate sunt veridice.
• Caută semne de manipulare: Deepfake-urile pot fi foarte sofisticate, dar adesea pot fi identificate prin anumite indicii.
• Verifică sursa: De unde provine videoclipul sau imaginea? Este distribuit pe o platformă de încredere?
• Folosește instrumente de verificare: Există numeroase organizații și instrumente online care te pot ajuta să verifici dacă o informație este reală.
• Nu te baza pe o singură sursă: Caută confirmare din mai multe surse credibile.
• Învață despre deepfake-uri: Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile.
Europa Liberă România e pe Google News. Abonați-vă AICI.
