Cum te minte un deepfake și cât de periculos este. Avertismentul unui expert în securitate cibernetică

În această eră digitală, în care internetul este la îndemâna oricui, iar tehnologia avansează cu pași repezi, fenomenul deepfake reprezintă o inovație tehnologică cu potențial enorm, dar și o amenințare semnificativă în peisajul actual al informațiilor digitale.

Termenul "deepfake" este un amestec între "deep learning" și "fake", reflectând utilizarea inteligenței artificiale avansate pentru a crea conținut video sau audio falsificat cu foarte mare acuratețe și un realism uimitor.

În esență, deepfake-urile sunt rezultatul aplicării tehnologiei de învățare profundă (deep learning) asupra unor algoritmi complecși de prelucrare a datelor media, precum imagini sau înregistrări audio. Acești algoritmi sunt antrenați pe seturi vaste de date pentru a recunoaște modele și caracteristici specifice ale fețelor și vocii umane. Odată ce sunt suficient de antrenați, acești algoritmi pot sintetiza conținut nou care imită cu precizie chipurile sau vocile unor persoane reale.

Potrivit specialistului în securitate cibernetică Mircea Șcheau, fenomenul va căpăta proporții mult mai mari în viitor, conturându-se o perspectivă alarmantă asupra evoluției acestei tehnologii care aduce cu sine provocări complexe și schimbări profunde în paradigmele de securitate și protecție, ce vor pune la încercare capacitatea instituțiilor de securitate cibernetică de a anticipa și gestiona amenințările ce vor continua să apară în mediul online.

”Având în vedere exploatarea Artificial Intelligence-Machine Learning, consider că va fi o cursă continuă, din ce în ce mai acerbă, și o competiție între grupurile infracționale organizate, unele dintre ele fiind sponsorizate de stat, cu acces la capacități deosebite, finanțare și suportul logistic, pe de o parte și pe de altă parte, la organismele de securitate și de protecție a vieții private, a individului, a instituțiilor și, în general, a societății”, explică specialistul.

Deși pare un scenariu de domeniul filmelor, pericolele pe care le prezintă această tehnologie sunt iminente, iar societatea românească, precum și cea internațională, riscă să fie profund afectate de acest tip de inteligență artificială avansată prin care se poate recurge la acte de șantaj, fraude bancare sau chiar răzbunare și defăimare.

”Societatea românească nu face deloc opinie separată față de societatea internațională. Poate doar în sens pozitiv, în care românii consideră că sunt mult mai pregătiți și mult mai atenți decât media europeană sau media internațională, datorită faptului că au abilități destul de avansate în ceea ce privește exploatarea sistemelor informaționale. Pot să spun că orice activitate care se încădrează în aria sau pe subiectul la care ne raportăm, poate să influențeze pe mai multe paliere, atât societatea românească, cât și mediul internațional, pornind de la a determina o persoană să acționeze contrar voinței proprii, până la a influența major alegeri la nivel statal sau regional”, punctează specialistul Mircea Șcheau.

Deepfake-urile au o capacitate imensă de a genera conținut care pare autentic din toate punctele de vedere, de la expresiile faciale și mimică până la tonul și inflexiunile vocale, ceea ce deschide uși infinite în ceea ce privește manipularea digitală a informațiilor și a discursului public. Aflați în fața acestei amenințări care ne pune în pericol atât imaginea publică a fiecăruia dintre noi, cât și siguranța familiei noastre și a celor dragi nouă, este important să luăm măsurile de prevenție absolut necesare pentru a ne proteja în fața infractorilor cibernetici, fără a ne baza numai pe instituțiile specializate în contracararea acestui fenomen.

”În acest moment, văd două direcții majore. Una dintre ele ne privește sau ne obligă pe fiecare dintre noi să fim foarte atenți, extrem de precauți. Să ne amintim că, în copilărie, verificam ușa, geamurile, curentul înainte de a pleca de acasă. Și la fel trebuie să procedăm și în acest moment. Să nu ne grăbim, să nu aruncăm responsabilitatea personală, exclusiv în spinarea entităților care au ca obiect de activitate unul dintre rolurile de a ne proteja și de a ne aduce la cunoștință noile metode sau de a ne informa privind noile metode de atac informatic sau de agresiune malițioasă, pe de-o parte. Pe de altă parte, structurile însărcinate cu securitatea și cu protecția datelor, sau protecția vieții personale sau protecția instituțională sigur că fac ceea ce depinde de ele, atât la nivel individual, ca structură, dar și colaborând cu celelalte entități regionale, europene, internaționale, nu numai pentru demararea și susținerea unor campanii de conștientizare și de distribuire de informații, dar mai ales de conjugare a eforturilor în sensul în care, pentru un anumit tip de agresiuni, poate nu este suficientă mobilizarea unei singure structuri, fiind necesară, imperios, implicarea mai multor entități pentru a ocupa determinările tradiționale”, spune specialistul Mircea Șcheau.

În realitate, navigarea responsabilă și conștientă în mediul online nu este doar un act personal, ci și un angajament față de colectivitatea în care trăim. Este esențial să ne ancorăm în surse oficiale de informare, să evaluăm critic informațiile pe care le primim și să fim conștienți de potențialele consecințe ale răspândirii unor știri false sau distorsionate. Fie că suntem conectați cu un mic grup de prieteni sau avem o prezență mai extinsă în mediul online, influența postărilor noastre poate avea repercusiuni semnificative asupra comunităților din jurul nostru.

”Depinde foarte mult de noi să fim atenți la ce site-uri web accesăm, la ce informații accesăm, să le prelucrăm, să apelăm la sursele oficiale de informare, și mai ales, extraordinar de important această recomandare, să nu propagăm în mediul online informații care pot fi rostogolite și care pot să afecteze de la un mic grup de prieteni până la o întreagă comunitate pentru că astel nu facem decât să acordăm suport voluntar sau involuntar celor care au în obiectul de activitate să distorsioneze realitatea și să obțină un anumit rezultat contrar intereselor societății pe care o atacă”, susține specialistul.

În această luptă împotriva infractorilor cibernetici care utilizează astfel de mijloace, s-au dezvoltat instrumente avansate de monitorizare și analiză a activității acestora. Aceste tool-uri nu numai că urmăresc și identifică grupările infracționale, dar și coroborează informațiile colectate din diverse surse, utilizând algoritmi avansați de inteligență artificială.

”Există tool-uri care pot să monitorizeze activitatea grupărilor infracționale, să coroboreze informațiile, să compare datele colectate cu datele reale, stocate în alte baze de date, astfel încât să livreze o certificare în sens pozitiv sau negativ, raportată la tentativa de manipulare deepfake”, concluzionează specialistul.

În cel mai recent caz din România, Ministrul Energiei, Sebastian Burduja, a fost victima unei tentative de deepfake prin care se încerca atragerea oamenilor într-o schemă de investiții inexistente a companiei ENEL.

Deși videoclipul pare extrem de realist, dacă ne uităm mai îndeaproape, se poate observa că vocea ministrului este distorsionată, iar mișcările feței arată nenatural. Sebastian Burduja a depus luni o plângere penală la Înalta Curte de Casație și Justiție în acest caz.

„Am depus astăzi o plângere penală la Parchetul de pe lângă Înalta Curte de Casaţie şi Justiţie împotriva utilizării tehnologiei deepfake pentru înşelarea cetăţenilor în achiziţionarea de servicii false de investiţii în domeniul energiei. Aceste fapte reprezintă infracţiuni grave, nu doar împotriva individului, ci şi împotriva securităţii naţionale a României. În data de 19 ianuarie 2024, pe o pagină falsă de Facebook denumită „HTPPY”, a fost postat un videoclip deepfake în care am fost reprezentat promovând fals o schemă de investiţii inexistente a companiei ENEL. Videoclipul a folosit în mod fraudulos imaginea mea şi vocea mea pentru a convinge publicul să investească într-o platformă fictivă. Această acţiune nu doar că a înşelat publicul, dar a şi denigrat reputaţia mea şi a instituţiei Ministerului Energiei”, a precizat ministrul, potrivit Agerpres.

De asemenea, și imaginea premierului Ciolacu a fost folosită în mod fraudulos de infractorii cibernetici prin tehnologia deepfake pentru promovarea unor oportunități ireale de investiții.

La acea vreme, Directoratul Național de Securitate Cibernetică a atras atenția că de obicei, „atacatorii se folosesc de imaginea unor oameni politici, oameni de afaceri și chiar jurnaliști, pentru a prezenta aceste oferte-capcană publicului”.

În concluzie, fenomenul deepfake este un exemplu ilustru care ne demonstrează multitudinea de modalități prin care tehnologia poate fi folosită în mod creativ, dar și cum poate reprezenta o amenințare la adresa informațiilor autentice și a securității individuale. Este esențial să găsim un echilibru între inovație și protecția împotriva abuzurilor pentru a asigura un viitor digital fiabil și de încredere în societatea contemporană.

...citeste mai departe despre "Cum te minte un deepfake și cât de periculos este. Avertismentul unui expert în securitate cibernetică" pe Ziare.com

Qualcomm, acuzată că a manipulat rezultatele platformei X Plus

Qualcomm a anunțat recent lansarea noii platforme Snapdragon X Plus, destinată laptopurilor, promițând performanțe remarcabile, durată extinsă de viață a bateriei și capacități avansate...

TSMC a dezvăluit planurile pentru lansarea tehnologiei avansate TSMC A16

Taiwan Semiconductor Manufacturing Company (TSMC), liderul mondial în producția de cipuri, a dezvăluit planurile pentru lansarea tehnologiei avansate TSMC A16. Noul proces de fabricație, ce...