Reclamele bazate pe conținut fals creat cu ajutorul inteligenței artificiale au devenit un fenomen alarmant în cadrul campaniilor politice online. Un raport elaborat de Tech Transparency Project (TTP) evidențiază faptul că, în Statele Unite, o proporție semnificativă din bugetele alocate publicității politice pe platformele Meta – Facebook și Instagram – provine din campanii frauduloase care utilizează videoclipuri deepfake, unele dintre ele fiind extrem de realistice.
Rețelele sociale, inundate de conținut fals: utilizatorii devin victime ale manipulării prin AI
Analiza realizată de TTP relevă că 63 de agenți de publicitate falși au cheltuit, în total, aproape 49 de milioane de dolari, difuzând mai mult de 150.000 de reclame în decursul ultimelor 12 luni. Aceste reclame s-au axat în special pe persoanele vârstnice și promovau oferte inexistente în domeniul sănătății, conform unui articol din Le Figaro.
Printre materialele distribuite s-au găsit și clipuri deepfake care modifica discursuri ale unor politicieni americani. Un caz notabil care a devenit viral a fost cel în care Donald Trump apărea „promițând” americanilor cecuri de 5.000 de dolari, deși mesajul video nu avea nicio legătură cu declarațiile reale făcute la Casa Albă.
Conform datelor furnizate de TTP, șase dintre conturile analizate au investit individual peste 1 milion de dolari înainte de a fi închise sau suspendate de Meta. Cu toate acestea, aproape jumătate dintre agenții de publicitate identificați continuau să difuzeze reclame chiar și după ce compania a eliminat o parte din postările lor.
„Escrocii profita de tehnologia AI, de confuzia legată de beneficiile sociale și de slabă moderare a conținutului pentru a înșela utilizatorii,” avertizează organizația. Reprezentanții Meta au declarat că dezvoltă noi „apărări tehnice” pentru a combate tacticile din ce în ce mai sofisticate utilizate în campaniile frauduloase.
Deepfake-urile: noua armă a escrocilor online
Raportul TTP subliniază că acest fenomen se înscrie într-o tendință mai largă de creștere a fraudelor digitale, amplificate de accesul facil la instrumente de inteligență artificială.
Conform Comisiei Federale pentru Comerț (FTC), numărul plângerilor depuse de cetățenii americani în vârstă care au pierdut cel puțin 10.000 de dolari din cauza escrocilor s-a cvadruplat din 2020.
Într-un climat electoral tensionat, utilizarea deepfake-urilor pentru manipulare și fraudă digitală devine o amenințare tot mai reală pentru integritatea informațională și siguranța online a utilizatorilor.
Impactul tehnologiilor avansate asupra alegerilor
Tehnologiile avansate, cum ar fi inteligența artificială (AI), influențează profund metoda în care campaniile politice se desfășoară. Reclamele politice construite pe baza de date și analize sofisticate devin metoda preferată de a ajunge la electorat. Utilizarea conținutului generat automat, cum ar fi deepfake-urile, nu face decât să complice și mai mult această situație. Dacă în trecut mișcările politice depindeau de campanii tradiționale, cum ar fi publicitatea în mass-media, acum acestea se adaptează la mediul digital, construind strategii complexe care implică tehnologii emergente.
Exploatarea vulnerabilităților utilizatorilor
Componenta esențială a acestor campanii frauduloase este capacitatea de a exploata vulnerabilitățile utilizatorilor. Persoanele vârstnice sunt adesea țintiți în mod special datorită accesibilității reduse la informații corecte și ușurinței cu care pot fi păcăliți. Escrocii utilizează adesea mesaje alarmante care fac apel la frica și neliniștea acestor persoane pentru a le determina să acționeze impulsiv. Tehnicile de manipulare psihologică sunt folosite pentru a crea un mediu propice în care victimele devin ușor influențabile.
Legislație și reglementări
Pe măsură ce aceste tehnici devin tot mai prevalente, este nevoie de reglementări stricte pentru a proteja utilizatorii. Organizațiile care activează în domeniul protecției consumatorilor solicită guvernelor să introducă legi mai stricte pentru combaterea fraudelor online și a utilizării tehnologiilor avansate în scopuri malițioase. De exemplu, aplicațiile de inteligență artificială ar trebui să fie reglementate, astfel încât utilizarea acestora în scopuri comerciale să fie transparentă și responsabilă. Fără măsuri legale adecvate, utilizarea deepfake-urilor și a altor tehnologii înșelătoare va continua să crească.
Provocările moderării conținutului
Companiile de social media, cum ar fi Meta, se confruntă cu provocări uriașe în ceea ce privește moderarea conținutului. Deși investesc resurse semnificative pentru a dezvolta sisteme de detecție a conținutului fals, natura dinamică și creativă a manipulării digitale le îngreunează misiunea. Escrocii devin din ce în ce mai ingenioși în metodele lor, folosind tehnici sofisticate pentru a evita detecția. Aceasta impune o responsabilitate suplimentară asupra companiilor de a-și îmbunătăți constant tehnologiile de identificare și eliminare a conținutului fals.
Păstrarea integrității informațiilor
O preocupare majoră care derivă din creșterea utilizării deepfake-urilor și a fraudelor digitale este integritatea informațională. Utilizatorii trebuie să aibă acces la informații fiabile și verificate pentru a putea lua decizii fundamentale în privința alegerilor politice. Educația digitală devine crucială pentru a învăța utilizatorii cum să recunoască informațiile false și să le deosebească de cele autentic. Campaniile de educație media pot oferi utilizatorilor instrumentele necesare pentru a naviga mai eficient în peisajul informațional actual, reducând astfel șansele de a deveni victime ale manipulării prin conținut fals.
Responsabilitatea socială a platformelor
Există o responsabilitate socială care revine platformelor digitale în ceea ce privește prevenirea și combaterea fraudelor online. Acestea trebuie să colaboreze cu autoritățile competente, organizațiile non-guvernamentale și experții în domeniul tehnologiilor pentru a dezvolta soluții eficiente. Inovația în acest domeniu ar putea include algoritmi mai avansați de detecție a conținutului fals, dar și campanii proactive de conștientizare a utilizatorilor.
Viitorul campaniilor politice online
Privind spre viitor, este esențial ca campaniile politice online să evolveze și să se adapteze la metodele de manipulare emergente. Acestea trebuie să își consolideze strategia pentru a atrage atenția asupra informațiilor corecte și a menține transparența în comunicarea cu cetățenii. De asemenea, utilizarea tehnologiei blockchain pentru a verifica autenticitatea informațiilor ar putea deveni o opțiune viabilă pentru a asigura integritatea datelor.
În concluzie, deși utilizarea inteligenței artificiale și a deepfake-urilor în campaniile publicitare online poate oferi oportunități inovatoare, există și riscuri considerabile în ceea ce privește integritatea informațională. Așadar, este absolut necesară colaborarea între autorități, platforme digitale și utilizatori pentru a crea un mediu online mai sigur și mai responsabil.
