Ediția #182 - Deepfakes
Bună dimineața,
În ediția de astăzi reluăm o temă despre care am scris în ediția Misreport #175, în care am arătat că, în ultimele luni, în România, au fost promovate mii de reclame înșelătoare, prin care se încurajează investiții fictive în diverse companii.
Ce am descoperit nou? Avem de-a face, de data asta, cu primele reclame înșelătoare identificate de noi în România (YouTube/Misreport) care folosesc tehnologia deepfake într-un mod credibil, utilizând tehnicile de clonare de voce și lip syncing (buzele se sincronizează cu vocea).
Asemenea reclame rulează în continuare pe rețelele de socializare deținute de Meta. De data asta, Hidroelectrica ia locul Romgaz, fiind noua companie despre care se spune că îi va îmbogăți pe români cu investiții minime.
Ce ne-a atras atenția este faptul că reclamele video au devenit mult mai sofisticate, folosind tehnologii de tip deepfake / media sintetică pentru a crea iluzia că sfaturile vin din partea unor personalități media.
Am vrut să arătăm cât de ușor se poate genera conținut media sintetic, fără a fi necesare cunoștințe de programare sau de editare video. Așa că, folosind programe open-source gratuite, am creat un video în care singurul lucru „real” sunt trăsăturile fizice ale persoanei care apare în video. Tot restul este generat cu ajutorul inteligenței artificiale.
Pentru a vă face o idee, am ales să-l ilustrăm cu ajutorul tehnologiei pe Victor Ponta cerându-și scuze jurnalistei Digi 24, Cristina Cileacu. Asta după ce fostul premier a acuzat-o pe Cileacu în mod fals că ar fi dramatizat o intervenție în direct, în timpul căreia se lasă la pământ din cauza alarmelor aeriene.
Îl vom lăsa în continuare pe Victor Ponta să vă povestească despre pericolele deepfake-urilor (YouTube/Misreport).
E limpede, pentru publicul antrenat, că videoul de mai sus e realizat cu ajutorul tehnologiei. Dar e bine să știți că, odată cu evoluția tehnologiei, va deveni din ce în ce mai greu să distingem între conținutul real și cel sintetic, iar acest lucru va avea un impact major asupra societății, pentru că ne va fi din ce în ce mai greu să ne bazăm pe informațiile pe care le primim.
Chiar și în acest moment, gradul de credibilitate al conținutului media sintetic este dat de perseverența și resursele financiare ale autorilor, dar și de cunoștințele acestora.
Ne-am imaginat și cum ar arăta un marcaj al unui astfel de clip media sintetic, conform cerințelor proiectului de lege votat de Senat, ca primă cameră sesizată, ce stabilește utilizarea responsabilă a tehnologiei deepfake.
Vă prezentăm în continuare și reclamele video care ne-au atras atenția prin gradul ridicat de credibilitate pe care îl au, fiind mult mai greu de identificat ca fiind false.
Acestea sunt primele reclame înșelătoare identificate de noi în România (YouTube/Misreport) care folosesc tehnologia deepfake într-un mod credibil, utilizând tehnicile de clonare de voce și lip syncing (buzele se sincronizează cu vocea).
Stângăciile de limbaj și de exprimare sunt foarte evidente, dar acest lucru este dat de faptul că autorii reclamelor înșelătoare nu au cunoștințe de limbă română.
Reclamele încalcă mai multe politici ale Meta, printre care politica legată de media manipulată, dar și politica legată de reclamele înșelătoare.
Media sintetică este un termen general care se referă la orice tip de conținut media generat sau modificat cu ajutorul inteligenței artificiale.
În ultimii ani, tehnologia a evoluat foarte mult, iar astăzi oricine poate crea conținut media sintetic, folosind aplicații gratuite, fără a avea cunoștințe de programare sau de editare video.
În funcție de tipul de conținut media, putem vorbi printre altele despre:
- deepfake - conținut video în care se modifică sau se înlocuiește fața unei persoane cu ajutorul inteligenței artificiale;
- clonare vocală - conținut audio în care se modifică sau se înlocuiește vocea unei persoane;
Acestea sunt doar o mică parte din tipurile de conținut care pot fi generate cu ajutorul inteligenței artificiale, domeniul fiind în continuă dezvoltare.
Nu toate utilizările mediei generate de AI sunt negative, existând și exemple pozitive, cum ar fi folosirea acesteia pentru a genera proiecte de artă, pentru a crea conținut educativ cu costuri reduse sau pentru a dubla într-un mod natural filme în limbi alternative.
Media sintetică devine o problemă atunci când este folosită pentru a genera conținut care poate induce în eroare publicul, fiind folosită pentru a genera conținut dezinformativ, uneori mascat sub forma satirei.
Despre acest subiect al dezinformării sintetice mascată sub forma satirei au scris pe larg MIT Open Documentary Lab împreună cu Witness, un ONG care se ocupă cu drepturile omului: JUST JOKING! Deepfakes, Satire, and the Politics of Synthetic Media. (cocreationstudio.mit.edu)
Experții au prezis de mult timp că inteligența artificială generativă va duce la un număr extrem de ridicat de fotografii și videoclipuri false. Se pare însă că clipurile audio false sunt mult mai răspândite, fiind folosite pentru a manipula opinia publică în contextul alegerilor. (The Washington Post)
Puntem spune că media sintetică a devenit mainstream, rețelele de socializare fiind pline de astfel de conținut. Au devenit virale clipuri cu maneliști care ne explică analiză matematică, cântăreți internaționali cântând muzică în limba română, iar exemplele pot continua.
Vă recomandăm un clip al jurnalistului Johnny Harris, care explică foarte bine ce este media sintetică și cum poate fi folosită pentru a manipula opinia publică (YouTube), un clip al jurnalistei Cleo Abram, care discută despre muzica generată cu ajutorul inteligenței artificiale (YouTube) și un mini-documentar The Guardian ce arată experiența unei femei ce a fost victima pornografiei nonconsensuale de tip deepfake. (YouTube).
(Ovidiu Mihalcea)
Internațional
👉 Timp de ani de zile, o organizație secretă condusă din interiorul parlamentului Rusiei a intervenit cu succes în politica europeană privind Ucraina ocupată. Emailurile divulgate oferă o imagine nouă asupra acestei operațiuni și arată cum politicienii din Uniunea Europeană care au contribuit la promovarea agendei Moscovei au primit bani și avantaje. (OCCRP)
👉 Sidonia Bogdan scrie că Laurențiu Rebega, fost europarlamentar român, fin al co-preşedintelui ALDE Daniel Constantin şi politician urmărit penal, a făcut parte din rețeaua menționată mai sus, în perioada 2014-2019. După încheierea mandatului, Rebega a fost vicepreședinte al Pro România, partidul fondat de fostul premier Victor Ponta. (sidoniabogdan.ro)
👉 Copiii noștri au acces, pe rețelele sociale pe care le frecventează, la imagini violente din războiul Hamas-Israel. Psychology today prezintă șapte strategii de educație digitală care vă ajută să pregătiți copiii să gestioneze conținutul potențial care îi poate afecta emoțional.
👉 Președintele Joe Biden va mobiliza numeroase agenții federale pentru a monitoriza riscurile inteligenței artificiale și a dezvolta noi aplicații pentru tehnologie, încercând în același timp să protejeze locurile de muncă ale oamenilor, conform unui proiect de decret executiv obținut de POLITICO.
👉 Radiodifuzorii canadieni cer guvernului să oblige Apple să plătească publicațiilor de știrii. Aceștia arată că doar Google și Meta sunt incluse în Legea privind Știrile Online, „în ciuda faptul că există alte platforme care beneficiază de distribuția conținutului de știri”. (National Post)
👉 După atacul Hamas asupra Israelului, convingerile religioase au divizat filipinezii, în discuțiile online legate de Israel și Palestina. Dezinformarea și alte relatări înșelătoare despre războiul dintre Israel și Hamas au pătruns în grupurile religioase de pe Facebook, în special în comunitățile creștine și influențează percepția filipinezilor. (Rappler)
👉 TikTok testează posibilitatea utilizatorilor de a încărca videoclipuri de 15 minute, a confirmat compania pentru TechCrunch. Gigantul media social a declarat că noul limită de încărcare este testată în regiuni selectate, cu un grup limitat de utilizatori, dar a refuzat să ofere detalii specifice.
👉 Elon Musk a dezvăluit idei neașteptate pentru platforma sa „X” (ex-Twitter), la un an de când a preluat conducerea acesteia. Una dintre propuneri e un plan de a exploata potențialul X ca aplicație de dating. De asemenea, Musk a mai vorbit despre transformarea platformei într-o bancă digitală și să ofere și alte servicii până în 2024. (Business Insider)
👉 …și tot Musk a anunțat că postările X care sunt corectate prin sistemul de fact-checking bazat pe contribuția comunității vor deveni „neeligibile” pentru obținerea de venituri. (TechCrunch)
👉 Axios face un timeline al anului în care Twitter a fost preluat și condus de Musk și s-a transformat în X.
👉 33 de state din SUA dau în judecată Meta și Instagram. Într-o plângere depusă marți, procurorii generali din cele 33 de state, printre care California și New York, au afirmat că Meta a indus în mod conștient publicul în eroare cu privire la pericolele platformelor sale și a determinat tinerii și adolescenții să devină dependenți de utilizarea compulsivă a rețelelor de socializare. (Reuters)
👉 Zae-In e o prezentatoare de știri generată cu ajutorul Inteligenței Artificiale. The Guardian arată că e doar una din multele „persoane” sintetice care au început să prezinte știrile în ultimii ani.
👉 Lance B. Eliot, expert în Inteligență Artificială, explică felul în care putem folosi programele de tip chat bot pentru a ne proteja de informații false. (Forbes)