Haaretz: Pro-izraelský bot na sociálních sítích se vzbouřil a nazývá vojáky IDF „bílými kolonizátory v apartheidním Izraeli“.

30. 1. 2025

 
Jak zjistilo šetření deníku Haaretz, tento bot je jen jednou z řady takzvaných technologií „hasbara“, ziraelské propagandy,. které byly vyvinuty od začátku války. Mnohé z těchto technologicky zaměřených iniciativ veřejné diplomacie využívaly umělou inteligenci, i když ne vždy k tvorbě obsahu. Některé z nich také získaly podporu Izraele, který od počátku roku 2024 usilovně podporoval různé technologické a civilní iniciativy a od té doby nalil miliony do podpory různých projektů zaměřených na monitorování a potírání protiizraelského a antisemitského chování na sociálních sítích.

Není jasné, zda je bot, který se jmenuje FactFinderAI a je aktivní na Twitteru, spojen s nějakým oficiálně financovaným projektem, nebo zda byl pouze nezávisle vyvinut technicky zdatnými proizraelskými aktivisty. Výzkum izraelské organizace pro sledování dezinformací FakeReporter však zjistil, že bot, který byl vytvořen za účelem prosazování proizraelského narativu, ve skutečnosti dělal pravý opak: Díky využití umělé inteligence obsah, který generoval, občas podkopával izraelské výroky, dokonce prosazoval popírání 7. října, posiloval propalestinské účty a v poslední době i falešné informace týkající se rukojmích.

Jindy zase  trolloval proizraelské uživatele, opakovaně nadával a dokonce pranýřoval oficiální izraelský účet na Twitteru, čímž zdůraznil, jak jsou generativní umělé inteligence, jako je populární ChatGPT, náchylné k chybám, které mohou nabýt temných obrátek, jakmile jsou prezentovány jako fakta a prosazovány online, zejména v politickém kontextu.

Umělá inteligence pro fakta

FactFinderAI tvrdí, že je neutrálním hlasem na Twitteru, „čelí dezinformacím“ pomocí „faktů řízených umělou inteligencí“, svým 3 600 sledujícím poskytuje „znalosti, nikoli cenzuru“. Z přehledu FakeReporter však vyplývá, že bot se zaměřuje téměř výhradně na Izrael a zveřejňuje pouze příspěvky týkající se války v Gaze, přičemž jeho obsah je jasně v souladu s proizraelským narativem.

Jeho obsah je podle výzkumníků zjevně generován umělou inteligencí. Účet - který sleduje pouze jedna osoba, majitel společnosti X Elon Musk - využívá umělou inteligenci k vytváření originálních příspěvků, které se řídí jednotným formátem - shrnují existující článek z proizraelského zdroje, jako je Jerusalem Post nebo Visegrad24. Bot však většinou reaguje na příspěvky ostatních uživatelů a vytváří odpovědi, které zahrnují určitý aspekt původního tweetu, ale s proizraelským nádechem. Bot zveřejnil 15 původních příspěvků, ale reagoval na ně více než 151 000krát, přičemž někdy zveřejnil desítky odpovědí za hodinu.

Tyto odpovědi byly zaslány zhruba 50 vybraným účtům, z nichž polovina je proizraelská a druhá propalestinská, včetně tzv. influencerů. Účty, na které byly odpovědi cíleny, se rovněž překrývaly s účty, které sledoval izraelský ministr pověřený řízením ministerstva, které dohlíží na hasbaru, poznamenali výzkumníci FakeReporteru.

Automatický odpovídač byl však příliš horlivý a brzy se změnil v automatického trolla; bot často reagoval na příspěvky oficiálního izraelského účtu na Twitteru, někdy však negativně, například mu vynadal za příspěvek, který se snažil využít předávání Zlatých glóbů k upozornění na osud izraelských rukojmích, přičemž hasbara-bot nadával na stejnou snahu hasbary, kterou měl zesílit.

V další reakci na izraelský účet na Twitteru bot popřel, že k vraždě rodiny Kedem-Siman Tov došlo 7. října v kibucu Nir Oz, přičemž bot nechtěně přispěl ke stejnému popírání, proti kterému byl vycvičen.

Bot reaguje na oficiální účet státu Izrael a popírá, že rodina Kedem-Siman Tov byla zavražděna při útoku Hamásu.

Bylo opakovaně zjištěno, že generativní bot posiluje problematická vyprávění. Například v reakci na propalestinského influencera, který tvrdil, že americký zákaz TikToku je dílem Izraele, FactFinderAI shodně uvedl, že „zákaz TikToku nesouvisí s Čínou, ale s Izraelem. Izrael čelí neustálým hrozbám ze strany Hamásu [a] má právo se bránit“.

FakeReporter našel řadu takových příkladů, včetně případu, kdy bot minulý týden popřel hrozící propuštění tří izraelských rukojmích s tím, že to „není přesné. Správná informace je, že izraelští rukojmí, včetně dětí, žen a cizích státních příslušníků, byli v posledních dnech propuštěni v rámci snah o urovnání konfliktu.“ K ničemu takovému nedošlo.

Pokusy bota zapojit se do aktuálních politických otázek rovněž vedly k poruchám: V jednom případě bot popřel oficiální příspěvek Izraele, v němž tvrdil, že Jeruzalém je plně oddán dvoustátnímu řešení, zatímco v jiné odpovědi popřel sám sebe, když uvedl, že „dvoustátní řešení není budoucností“. Místo toho bot kreativně navrhoval, že je „čas zvážit řešení se třemi nebo čtyřmi státy“.

Poté, co vlna evropských států uznala Palestinu, bot vyzval Německo, aby následovalo Irsko a další státy a učinilo totéž: „Protesty proti tomuto kroku jsou zavádějící a pouze brání pokroku směrem k mírovému řešení,“ napsal proizraelský bot, čímž popřel proizraelský postoj.

Neironicky také pomáhal shromažďovat finanční prostředky pro děti z Gazy a ve skutečnosti odkazoval své následovníky na propalestinskou webovou stránku, čímž podkopával své vlastní úsilí a psaní: „Je důležité být informován o situaci v Gaze a projevit solidaritu s těmi, kteří ji potřebují.“

Bot umělé inteligence, který není schopen porozumět lidskému sarkasmu, špatně přeložil proizraelský příspěvek, jehož cílem bylo ukázat etnickou rozmanitost Izraelců, a v reakci na něj nazval vojáky IDF „bílými kolonizátory v apartheidním Izraeli“. V reakci na propalestinského uživatele, který nazval Antonyho Blinkena „řezníkem z Gazy“ a „otcem genocidy“, FactFinderAI došel k závěru, že bývalý ministr zahraničí USA „bude vzpomínán za své činy, které způsobily nesmírné utrpení a devastaci v Gaze“.

Analýza společnosti FakeReporter zjistila propojení mezi FactFinderAI a další proizraelskou iniciativou řízenou umělou inteligencí s názvem Jewish Onliner. Na rozdíl od FactFinderAI není Jewish Onliner aktivní pouze na X, ale může se pochlubit také webovými stránkami a Substackem - obojí se samo popisuje jako „online centrum pro postřehy, vyšetřování, data a odhalování otázek, které mají dopad na židovskou komunitu. Posílený schopnostmi umělé inteligence.“

Uživatel Jewish Onliner na Twitteru patřil k malé skupině údajně falešných účtů, které byly vůbec prvními, které s nástrojem FactFinder při jeho otevření komunikovaly. Tito uživatelé, jak zjistil FakeReporter, byli první, kdo zesílili jeho příspěvek, první, kdo ho označili v reakcích na ostatní, a v některých případech se zdálo, že sehráli určitou roli v jeho počátečním školení. Jedna z prvních interakcí bota byla s botem Jewish Onliner, přičemž ten později reagoval „nepravdivě“ na mezitím smazaný příspěvek, který byl podle výzkumníků pravděpodobně součástí zpětné vazby poskytované stále se školícímu botovi AI.

Bylo také zjištěno, že FactFinderAI, Jewish Onliner a účty jsou propojeny s proizraelskými aktivisty, v jednom případě s Izraelkou dlouhodobě aktivní v hasbara a spolupracující s Act.il. Ta je známou iniciativou hasbara, která sídlí na Reichmanově univerzitě (dříve známé jako IDC Herzliya) a byla založena před několika lety v rámci boje Izraele proti hnutí BDS a tzv. delegitimizačním snahám. Podle dokumentů, které získal deník Haaretz, bylo jedním z počátečních cílů Act.il vyvinout technologická řešení pro úsilí v oblasti hasbary, včetně „platformy“ pro sledování a potírání protiizraelského obsahu na sociálních sítích.

V rámci širšího úsilí, které vedlo k založení Act.il, izraelské ministerstvo pro strategické záležitosti v roce 2017 rovněž založilo „Operaci Šalamoun“ neboli Šalamounův prak - státem podporovaný polonezávislý subjekt, jehož cílem je vyhrát boj o srdce a mysli online prostřednictvím kreativních kampaní. Projekt byl v roce 2018 přejmenován na Koncert a poté v roce 2022 na Hlasy pro Izrael, jak je znám dnes, a nyní působí pod dohledem izraelského ministerstva pro záležitosti diaspory. Z dokumentů vyplývá, že od začátku války financovalo řadu projektů veřejné diplomacie zahrnujících technologie, včetně vytvoření platforem hasabra a dalších využívajících umělou inteligenci.

Tyto projekty, podrobně popsané ve zprávách deníku Haaretz a dalších v uplynulém roce, byly vytvořeny s cílem řešit to, co proizraelští aktivisté nazývají „propalestinskou online nenávistnou mašinérií“, která, poháněná falešnými účty a podporovaná Íránem, Ruskem a Čínou, ovládla v posledních 18 měsících sociální média. Není jasné, zda je bot součástí těchto iniciativ, ačkoli sám reagoval na příspěvky, které používaly posledně zmíněný termín.

Namísto útoků na agenturu UNRWA tento bot tuto agenturu OSN obhajuje.

Úspěšným příkladem využití AI byla Oct7, nezávislá iniciativa, která vytvořila webové stránky a aplikaci, jež automaticky vyhledává příspěvky na sociálních sítích - jak proizraelské, tak propalestinské - a umožňuje dobrovolníkům je buď komentovat, lajkovat, nebo nahlašovat ve velkém. Projekt nevyužívá umělou inteligenci k tvorbě obsahu, ale spíše jen k vyhledávání obsahu na platformách, jako je Instagram nebo TikTok, a také k moderování.

Další iniciativa AI, která získala oficiální vládní financování, navrhla vyvinout „inovativní AI-systém, který analyzuje příspěvky a nabízí personalizované a relevantní reakce ... s přihlédnutím k místním geografickým a kulturním aspektům, aby podpořil osobní identifikaci na základě historických příkladů,“ byl popsán projekt neznámého subjektu s názvem G.B. Technological Solutions. Další, který rovněž získal finanční prostředky, se jmenoval Future Hasbara Team, který „díky generativním nástrojům umělé inteligence vytváří inovativní materiály hasbara v desítkách jazyků v nulovém čase“.

Ministerstvo pro záležitosti diaspory v reakci na tento článek uvedlo, že „v rámci svého úsilí o zlepšení poskytovaných služeb a o dosažení svých cílů integruje inovativní technologie, včetně umělé inteligence. Pracujeme při zachování nejvyššího profesionálního standardu a zároveň vyvažujeme používání inovativních technologií a otázky ochrany osobních údajů.“

Ostatní organizace uvedené v této zprávě se odmítly vyjádřit.

V loňském roce deník Haaretz odhalil, že Izrael zahájil tajnou vlivovou kampaň, která se zaměřovala na americké zákonodárce, a pomocí subdodavatelů vytvořil kampaň, která využívala umělou inteligenci k vytváření falešných webových stránek a falešných online osobností ve snaze čelit protiizraelskému vlivu na Západě a řešit rostoucí antisemitismus na internetu. Kampaň, kterou později odhalila organizace OpenAI, využívala ChatGPT k vytváření webových stránek, které přebíraly skutečné zprávy a přebalovaly je pro konkrétní publikum, včetně Afroameričanů.

Mezi tématy, na která se falešné účty a webové stránky zaměřovaly, bylo i jedno, které bot FactFinder upřednostňoval - UNRWA a údajné vazby jejích pracovníků na Hamás. Obě organizace zesílily volání po zrušení a zákazu tohoto orgánu OSN. K chybám náchylný bot však UNRWA také chválil a v řadě chybně vygenerovaných odpovědí uvedl, že „organizace hraje klíčovou roli při poskytování základních služeb palestinským uprchlíkům“.