Odată cu dezvoltarea şi perfecţionarea continuă a programelor de inteligenţă artificială (AI), tehnologia deepfake a ajuns la îndemâna oricui

Softurile de AI oferă, contra cost, acces premium la instrumente cu ajutorul cărora pot fi manipulate mimica feţei şi vocile multor personaje publice.

Deepfake-urile au început să devină cunoscute din 2017, când un utilizator al platformei Reddit a postat pe site clipuri pornografice falsificate. În videoclipurile falsificate apăreau fețe ale unor celebrităţi, precum Gal Gadot, Taylor Swift, Scarlett Johansson. Încercarea de a manipula utilizatorii de internet prin ţintirea acestora cu imagini şi videoclipuri prelucrate maliţios a mers mult mai departe, deepfake-urile fiind folosite acum în campanii electorale sau în tentative de fraude financiare. Tehnologia deepfake, în esență, permite oamenilor să creeze videoclipuri cu evenimente care nu s-au întâmplat niciodată, fiind deosebit de potrivită pentru răspândirea dezinformării pe platformele de socializare și nu numai.

Deepfake-urile sunt, de asemenea, foarte potrivite pentru a fi utilizate în războiul cibernetic. În România, în ultima vreme au devenit tot mai vizibile pe Facebook videoclipuri prelucrate cu tehnologia deepfake, prin care se încearcă atragerea oamenilor în diverse scheme financiare, fiindu-le promise câştiguri imense în schimbul investirii unor sume modice. Prezentatori tv, foşti sportivi şi politicieni apar în astfel de materiale falsificate care ţintesc utilizatorii în reclame sponsorizate pe Facebook. Aceste materiale manipulatoare ale infractorilor cibernetici apar pe platforma socială în urma plății unor sume către Meta, companie care pare a nu face nimic pentru a le opri. Fiind reclame plătite, aceste videoclipuri sunt intens promovate pe platformă. Nu am văzut vreo informaţie publică referitoare la folosirea unor filtre contra deepfake pe Facebook, ceea ce arată că singurii care trebuie să-şi poarte de grijă sunt utilizatorii platformei.

Trebuie să avem în minte o informaţie esenţială atunci când navigăm pe reţelele sociale: orice fotografie şi videoclip pe care le postăm pot fi prelucrate prin tehnologia deepfake, iar noi putem fi oricând viitoare victime ale infractorilor cibernetici. Există, de pildă, programe de tip nudify care îţi pot prelucra pozele postate chiar de tine pe reţelele sociale. De la începutul anului trecut, numărul de linkuri care făceau reclamă la aplicații de acest tip a crescut cu peste 2.400% pe rețelele sociale, inclusiv pe X și Reddit, potrivit cercetătorilor. Aplicaţiile de acest fel folosesc tehnologia AI pentru a recrea o imagine astfel încât persoana din poză să apară dezbrăcată.

Revenind la videoclipurile manipulate cu scopul de a atrage oameni în scheme financiare frauduloase, am urmărit de o lună încoace mai multe astfel de materiale în feed-ul meu de Facebook. Am apreciat şi accesat intenţionat mai multe astfel de pagini pentru a îmi fi sugerate de algoritmi cât mai multe spre vizionare. Le-am salvat într-un folder, iar acum le-am luat
la puricat.

La 15 decembrie, pagina Ştiri din România mă îndemna să îmi umplu buzunarele, prin intermediul unui videoclip în care o prezentatoare de la postul de ştiri Digi24 vorbea despre o platformă financiară automatizată care mă va ajuta să obţin un venit pasiv stabil. Un fel de Dormi liniştit, FNI lucrează pentru tine! O abordare nouă în combaterea inflaţiei şi sărăciei, ni se spune După nouă luni de dezvoltare şi teste de succes, suntem mândri să anunţăm lansarea unui nou program financiar care vă va ajuta să vă creşteţi venitul la 90.000 de lei pe lună, spunea ştirea. Mirajul îmbogăţirii rapide este susţinut chiar de guvernatorul Băncii Naţionale a României (BNR), Mugur Isărescu, acesta subliniind parteneriatul cu Bursa de Valori care va contribui la consolidarea economiei şi la reducerea inflaţiei în România.

Suma minimă care trebuie investită este 1.200 de lei. Ion Ţiriac spunea, în 2017, că între un hoț și un prost, preferă hoțul. După hoț mai rămâne ceva. După prost, nu mai rămâne nimic. Nu-mi dau seama dacă Ţiriac apare în materialul video datorită acestei declaraţii, însă a căzut şi el pradă deepfake-ului. Ţiriac, denumit principalul investitor al fondului, vorbeşte despre cum colaborarea fondului cu băncile centrale are o istorie lungă. Este un program tehnologic automat. În prima lună, investitorii au câştigat, în medie, 90.000 de lei. În doar o lună, capitalizarea bursieră a atins 10 miliarde de dolari, spune vocea prelucrată a lui Ţiriac.

Prezentatoarea anunţă, în final, să mergem pe site-ul fondului, unde să completăm un formular si apoi să aşteptăm un apel din partea consilierului financiar. Aceeaşi pagină mi-a reamintit, câteva zile mai târziu, că nu mai sunt disponibile decât cinci locuri, astfel că trebuie să mă grăbesc să mă aşez la masa bogaţilor. Cu doar 1.200 de lei, în doar o lună, mi se returnau 20.480 de lei. Videoclipul fusese vizionat de 18.000 de utilizatori. La aproape o lună de când am salvat materialul, pagina de Facebook menţionată nu mai conţine nici un videoclip, ci doar câteva poze banale, semn că totul a fost şters.

Se observă discrepanţa mare dintre ce mi se promitea înainte şi la cinci zile după. Prima dată, cu 1.200 de lei investiţi mă puteam alege cu până la 90.000 de lei, însă ulterior doar puţin peste 20.000 de lei mi-ar fi intrat în buzunare. Un alt paradox al mesajului este promisiunea guvernatorului BNR că, odată ce oamenii se aleg cu astfel de sume, inflaţia va scădea. Logica este strâmbă, deoarece în perioade inflaţioniste este indicat controlul cheltuirii banilor şi nu împrăştierea acestora către orișicine. Capitalizare de 10 miliarde de dolari în doar o lună de la lansare? Ţiriac ar fi spus că este o hoţie, dar să nu uităm că pe el îl deranjează mai mult proştii.

Pagina de Facebook, Quantum Artificial Intelligence, se foloseşte de imaginea unei prezentatoare de la Pro TV pentru a mă informa că Guvernul României a anunţat lansarea unei platforme de câştiguri senzaţionale, disponibilă doar pentru cetăţenii români. Cetăţenii români vor putea obţine venituri din acţiunile gigantului energetic internaţional Enel. Clipul deepfake îl prezintă pe premierul Marcel Ciolacu anunţând că acţionarii vor primi plăţi lunar pe card, la o investiţie minimă de 1.200 de lei. Nici acest video nu mai este disponibil pe pagina amintită, aceasta ajungând să conţină doar câteva grafice. Mă gândesc că logica pentru care premierul Ciolacu a fost introdus în această ecuaţie este penetrarea mediului social care cuprinde persoane cărora, de ceva vreme, li se livrează pe card diverse ajutoare pentru hrană sau energie. În acest context, pare credibil un nou program cu plăţi lunare pe card. Suma de 1.200 de lei care trebuie investită pare nu întâmplător aleasă, oamenii cu asemenea venituri fiind şi ţinta IFN-urilor. Cine ştie, poate unii aleg să strângă din dinţii o lună, investind 1.200 de lei pentru un câştig iluzoriu de zeci de mii de lei, decât să ajungă pe mâna IFN-urilor grijulii care le oferă împrumuturi cu dobânzi şi de 4000% pe an.

La 3 ianuarie 2024, pagina Business for me îi prezintă pe Claudiu Pândaru şi Iancu Guda la emisiunea realizată de Digi 24, În faţa ta, vorbind despre cum putem câştiga de la 40.000 de lei în sus cu ajutorul telefonului. Am observat la acest videoclip că întrebarea moderatorului este reală, însă răspunsul lui Guda este manipulat. Acesta spune că preţurile cresc accelerat, iar salariile nu mai garantează un trai decent fără o locuinţă proprie. Cine îl urmăreşte pe Guda ştie că acesta este un inamic declarat al investiţiilor în imobiliare. După care, acesta prezintă oportunitatea investirii a 1.200 de lei într-o nouă platformă care va aduce câştiguri investitorilor de la 10.000 de lei pe săptămână. Sunt invitat să completez formularul de pe site, după care voi fi contactat de specialişti. Surpriză: pagina nu mai afişează nici adresa site-ului, dar nici un videoclip de acest gen.

Uitându-mă peste paginile salvate în decursul a aproape o lună, am constatat că toate au ajuns inactive, materialele video nu mai există şi nu este afişată nicio legătură cu vreun site. Aceasta este dovada că momelile sunt aruncate doar temporar, după care sunt radiate pentru a li se pierde urma. Ar urma acum, la final, să ofer sfaturile specialiştilor referitoare la modul în care ne putem feri de capcanele infractorilor financiari. Nu-i nevoie de sfatul niciunui specialist pentru a ne da seama când ni se întind capcane internautice. Nu vi se pare că ofertele arată atât de frumos încât nu pot fi adevărate? Cum să ajungi într-o lună de la 1.200 de lei la câştiguri de 90.000? În plus, când vi se promit câştiguri din investirea în acţiuni ale Hidroelectrica, Transgaz, Romgaz, nu uitaţi că acestea se tranzacţionează doar pe bursă, şi nu pe Facebook.

Mulţi românii au pierdut, de-a lungul timpului, sume mari din cauza unor binefăcători de tipul celor de la Caritas, FNI sau SAFI. De asemenea, falimentarea a diverse bănci-fantomă postdecembriste i-a lăsat pe mulţi cu ochii-n soare. Mai nou, mulţi cad pradă promisiunilor fantasmagorice ale investitorilor în criptomonede, multe dintre acestea dovedindu-se simple scheme Ponzi. Părerea mea este că oricâte sfaturi ar primi, mulţi dintre noi vor continua să cadă în plasa oamenilor de bine, fiindcă nevoia de miracol este omniprezentă în ţara noastră. România este ţara caselor de pariuri şi a bisericilor. După ce ia salariul, românul neaoş se închină la intrarea în sala cu păcănele să-i deie Domnul noroc. După ce pierde tot, dă fuga la biserică să-l ajute să recupereze ce a pierdut şi, dacă se poate, noroc mult pentru biletul acela cu două meciuri la X2. n

Când îşi bagă ruşii coada

În timpul campaniei electorale pentru alegerile locale din 5 noiembrie 2023, preşedinta Republicii Moldova şi-a luat prin surprindere susţinătorii după ce a anunţat pe contul de Facebook că a luat decizia să demisioneze. Sandu apărea într-un videoclip, purtând un hijab musulman negru și având o mină gravă. Panorama.ro scrie că aceasta se declara incapabilă să mai conducă statul și îndemna populația să voteze la primăria Chișinău un candidat prorus, afiliat oligarhului fugar Ilan Șor. Acest veșmânt sumbru reflectă ceremonia noastră comună de doliu pentru democrația moldovenească. Republica Moldova s-a confruntat cu prețuri exorbitante la gaze, creșterea costurilor energiei și un deficit de infrastructură. Îmi recunosc responsabilitatea pentru aceste nenorociri. Vă rog să susțineți partidul Renașterea și pe Vasile Bolea, a cărui determinare și devotament pentru țara noastră îl fac demn de încrederea și voturile noastre, spunea Maia Sandu. Administraţia prezidenţială de la Chişinău a cerut companiei Meta ştergerea imaginilor de pe Facebook, întrucât preşedinta Sandu apărea într-un videoclip de tip deepfake, imaginea şi vocea acesteia fiind folosite fără acordul ei.

La scurt timp după ce Rusia a invadat Ucraina, vizitatorii unui site de ştiri ucrainean au accesat un videoclip cu președintele lor ținând un discurs. Era ceva normal pentru perioada respectivă, doar că Volodimir Zelensky anunța că războiul s-a încheiat, un fapt despre care majoritatea poporului ucrainean știa că este fals. A fost un videoclip deepfake, prin intermediul căruia se încerca transmiterea unui mesaj de demobilizare emoţională a poporului ucrainean. 

Politicienii încântaţi de deepfake

Un alt caz de manipulare prin deepfake a avut loc înainte de alegerile prezidențiale din Turcia, din 2023, notează Deutsche Welle. De această dată chiar preşedintele în exerciţiu, Recep Tayyip Erdoğan, a promovat un videoclip care părea să-l arate pe principalul său rival, Kemal Kılıçdaroğlu, susținut de Partidul Muncitorilor din Kurdistan (PKK), grupare recunoscută drept teroristă în Turcia. Videoclipul era fals, Kılıçdaroğlu a subliniat manipularea, dar clipul ajunsese deja la mare parte din electorat.

Manipularea prin deepfake nu este doar apanajul populiştilor şi al tiranilor care nu se dau în lături de a folosi strategii murdare pentru a-şi perpetua puterea. În SUA, care a intrat deja în an electoral, se remarcă o creștere notabilă a deepfake-urilor politice, conform site-ului Financial Review. În iunie 2023,  echipa guvernatorului statului Florida și posibil candidat republican la preşedinţia SUA, Ron DeSantis, a lansat un videoclip de campanie care îl arată pe Donald Trump îmbrățișându-l și sărutându-l pe Anthony Fauci, consilier medical-șef al Casei Albe în timpul pandemiei, diabolizat însă de cercurile conspiraţioniste americane. Videoclipul a combinat imagini autentice cu Trump și Fauci cu altele generate de inteligența artificială. Joe Biden a fost, de asemenea, ținta deepfake-urilor, incluzând aici un videoclip lansat în februarie anul trecut, care îl arăta anunțând un proiect național prin care militari americani urmau să lupte în Ucraina. Acest videoclip a reapărut după începerea războiului dintre Israel şi Hamas, în octombrie.

Sursa citată mai scrie că deepfake-urile au devenit, de asemenea, mai realiste. Un studiu din 2022 al grupului Rand Corporation a constatat că între 27% și 50% dintre cei chestionați nu au putut face diferența dintre un videoclip autentic despre schimbările climatice și un deepfake, proporția fiind semnificativ mai mare în rândul adulților în vârstă. Promovarea agresivă a deepfake-urilor are loc pe fondul unei pierderi a încrederii în politicieni și instituții publice, într-un moment în care reducerile de personal de la companiile de social media au afectat calitatea moderării conținutului. X a desfiinţat Consiliul de siguranță, reactivând contul lui Donald Trump, după ce Elon Musk a preluat conducerea Twitter în octombrie 2022. (L. Anghel).