Záplava podvodných předvolebních videoreklam s Rishim Sunakem na Facebooku vyvolává znepokojení nad rizikem umělé inteligence pro volby
12. 1. 2024
Výzkum zjistil, že za poslední měsíc bylo na sociální síti šířeno více než 100 falešných placených reklam vydávajících se za britského premiéra
Podle výzkumu, který vyvolal znepokojení nad rizikem, které umělá inteligence představuje před parlamentními volbami, bylo jen za poslední měsíc na Facebooku šířeno více než 100 placených deepfake videoreklam vydávajících se za Rishiho Sunaka.
Reklamy mohly oslovit až 400 000 lidí - přestože se zdá, že porušují několik zásad Facebooku - a jsou prvním případem, kdy byla podoba premiéra systematicky masově falšována.
Za 143 reklam bylo zaplaceno více než 12 929 liber a pocházely z 23 zemí včetně USA, Turecka, Malajsie a Filipín.
Patří mezi ně i reklama s falešnými záběry hlasatelky BBC Sarah Campbellové, která se tváří, že čte aktuální zprávy, v nichž se lživě tvrdí, že vypukl skandál kolem Sunakova tajného vydělávání "kolosálních částek z projektu, který byl původně určen pro běžné občany".
Klip obsahuje nepravdivé tvrzení, že Elon Musk spustil aplikaci schopnou "sbírat" burzovní transakce, a následuje zfalšovanýé video, v němž Sunak říká, že se vláda rozhodla aplikaci raději otestovat, než aby riskovala peníze obyčejných lidí.
Klipy pak vedou na podvrženou stránku BBC News propagující podvodnou investici.
Výzkum provedla komunikační společnost Fenimore Harper, kterou založil Marcus Beard, bývalý úředník Downing Street, který v úřadě britského premiéra stál v čele potírání konspiračních teorií během krize covidu.
Varoval, že inzeráty, které znamenají posun v kvalitě podvrhů, ukazují, že letošní volby v mnoha zemích světa jsou ohroženy manipulací velkým množstvím kvalitně vyrobených alešných zpráv generovaných umělou inteligencí.
"S příchodem levného a snadno použitelného klonování hlasu a obličeje stačí jen velmi málo znalostí a zkušeností k tomu, aby byla podobizna člověka použita ke škodlivým účelům."
Diskuse