Obrázok starostu Georgie vytvorený umelou inteligenciou šíri dezinformácie a vyvoláva obavy o integritu volieb

Falošný obrázok Biancy Motley Broomovej, starostky College Parku v Georgii, ako bozkáva muža, ktorý nebol jej manželom v bare, sa stal virálnym na Facebooku. Fakt, že bol sfalšovaný, sa šíri ešte rýchlejšie, ale až potom, čo ho videli tisíce ľudí.

Jednoduchosť, s akou bol tento obrázok vytvorený, zdôrazňuje rastúcu hrozbu deepfakeov a dezinformácií poháňaných umelou inteligenciou. Pred šiestimi rokmi, keď Motley Broom prvýkrát nastúpil do úradu na predmestí Atlanty, by politický nepriateľ potreboval zručnosť v softvéri na úpravu obrázkov, aby vytvoril obraz politika v kompromitujúcej pozícii.

Dnes stačí len počítač a podnet na generátor AI obrázkov. To má významné dôsledky pre integritu volieb, keďže voliči sú čoraz viac znepokojení šírením falošných obrázkov a videí na sociálnych sieťach.

Prieskum uskutočnený organizáciami Rad Campaign a Women Who Tech zistil, že 71 % respondentov sa obáva AI-generovaných deepfakeov a dezinformácií, ktoré ovplyvňujú voľby. Dvaja z troch respondentov tiež vyjadrili obavy z toho, že AI môže sexualizovať ženy.

Zistenia ukazujú rastúce povedomie Američanov o potenciálnych rizikách spojených s AI, najmä pokiaľ ide o zasahovanie do volieb. Administratíva prezidenta Trumpa už prejavila ochotu používať AI obrazy, vrátane digitálnej úpravy obrazu Nekimy Levy Armstrongovej tak, aby pôsobila znepokojene a s tmavšou pokožkou.

Fotografia, na ktorej ju pokojne sprevádza agent DHS, bola upravená tak, že vyzerala, akoby plakala, a jej pokožka bola stmavená. Kaelan Dorr, zástupca riaditeľa komunikácie Bieleho domu, neskôr obrázok opísal ako “meme”.

Falošné obrázky Zohrana Mamdaniho, starostu New Yorku, sa začali šíriť aj z parodického účtu na X vo februári, kde sa falošne zobrazoval on a jeho matka v spoločnosti Jeffreyho Epsteina. Pomocou nástroja Google SynthID Reuters tieto snímky vyvrátil, no nie skôr, než ich iné účty opäť rozšírili ako autentické.

Napriek značným obavám z možných ekonomických dôsledkov AI prevyšujú obavy z používania deepfake obrázkov na sexualizáciu žien alebo detí či na ovplyvňovanie volieb v pomere tri ku jednej. Verejnosť je hlboko znepokojená, podľa Allyson Kapin, zakladateľky Rad Campaign a spoluzakladateľky Women Who Tech.

Raphael Warnock, demokratický senátor z Georgie, sa k tejto téme vyjadril vo videu zverejnenom na Facebooku. Poznamenal, že na internete kolovali deepfake obrázky, ktoré ho falošne zobrazovali so zdravotnými problémami, s náručím vnúčat, ktoré nemá – a s plnou hlavou vlasov, čo podľa neho bolo vtipné, hoci problematické.

Ako sa tieto nástroje stávajú čoraz silnejšími, bude čoraz ťažšie rozlíšiť fakty od fikcie, varoval Warnock. Už teraz existujú zlí aktéri, ktorí robia všetko pre to, aby nás rozdelili a zmiatli. To má obrovské dôsledky pre našu demokraciu.

Čo ak hodiny pred voľbami niekto vytvoril stránku s AI-generovanými obrázkami, falošnými príbehmi o kandidátoch – ako voliči budú vedieť, čo je pravda a čo nie? Warnock patrí medzi skupinu senátorských demokratov, ktorí bojujú o politické reakcie na možné scenáre zasahovania do volieb.

Hlavným z týchto scenárov: dezinformácie poháňané sfalšovanými obrázkami alebo videami šírenými na sociálnych sieťach. Odchádzajúci americký senátor John Kennedy, republikán z Louisiany, minulý týždeň predložil návrh zákona, ktorý vyžaduje, aby AI firmy nainštalovali “kill switch” pre nelegálnu AI.

Senátor Rand Paul z Kentucky zablokoval Kennedyho návrh zákona a označil ho za predčasný bez ďalšieho vstupu priemyslu. Hakeem Jeffries, líder demokratickej menšiny v Snemovni reprezentantov, v rozhovore povedal, že vláda by mala “naliehavo” konať v regulácii AI všeobecne, pričom vyzval na “ochranné opatrenia na ochranu amerického ľudu pred zlými aktérmi a zlým správaním”.

Jeffries poznamenal, že republikáni sa minulý rok pokúsili presadiť legislatívu, ktorá by štátom zabránila regulovať AI ako súčasť omnibusového zákona One Big Beautiful. Pozmeňujúci návrh neprešiel hlasovaním v Senáte pomerom hlasov 99 ku 1.

Niektoré štáty majú legislatívu ako Tennessee’s Ensuring Likeness Voice and Image Security Act – Elvis Act, ktorá chráni politikov aj obyvateľov pred AI klonovaním hlasu a digitálnou replikáciou podoby pomocou robustných štátnych práv na publicitu, ktoré sú produktom nahrávacieho priemyslu v Nashville.

Jasné vyhlásenia sú zákonom vyžadované vo väčšine štátov, keď politická kampaň využíva AI na manipuláciu prejavov, vystúpení alebo činov úradníkov či kandidátov. Georgia medzi ne nepatrí.

Hoci zákonodarcovia v Georgii začali diskutovať o ochrane deepfake v návrhoch zákonov v rokoch 2024 a 2025, zatiaľ legislatívu neprijali. Motley Broom povedala, že verí, že je cieľom politických oponentov, ktorí nesúhlasili s jej úlohou bývalej prezidentky Georgia Municipal Association.

Pracoval som pre svoje mesto, aby som bol čo najlepším obhajcom College Parku,