Grok AI se i přes slib pozastavení nadále používá k digitálnímu svlékání žen a dětí
6. 1. 2026
čas čtení
7 minut
Na stránkách Elona Muska se i přes slib platformy
pozastavit účty uživatelů, kteří tyto obrázky vytvářejí, nadále objevují
ponižující fotografie
Ponižující obrázky dětí a žen,
kterým Grok AI digitálně odstranil oblečení, se i nadále sdílejí na Elon
Muskově platformě X, a to navzdory závazku platformy pozastavit účty
uživatelů, kteří je vytvářejí.
Po několika dnech obav z používání chatbotu k úpravě fotografií za účelem vytvoření sexualizovaných obrázků skutečných žen a dětí svlečených do spodního prádla
bez jejich souhlasu britský komunikační regulační orgán Ofcom v pondělí
oznámil, že „naléhavě kontaktoval X a xAI, aby zjistil, jaké kroky
podnikly k plnění svých zákonných povinností chránit uživatele ve Velké
Británii“. Ofcom dodal, že na základě reakce společnosti posoudí, zda je
nutné zahájit vyšetřování.
Politici a aktivisté za práva žen mezitím obvinili britskou vládu z „odkladůí“ tím, že neprosadila zákon, který byl přijat před šesti měsíci a který zakazuje vytváření takových intimních fotografií.
Tento trend, který se během novoročního období stal virálním, také vedl Evropskou komisi k pondělnímu prohlášení, že „velmi vážně“ prošetřuje stížnosti, že Grok je používán k vytváření a šíření sexuálně explicitních dětských obrázků.
Obavy se začaly objevovat poté, co prosincová aktualizace Muskovy bezplatného AI asistenta Grok usnadnila uživatelům zveřejňování fotografií a žádostí o odstranění jejich oblečení. Ačkoli stránka neumožňuje úplné odhalení, umožňuje uživatelům požádat o úpravu obrázků tak, aby osoby byly zobrazeny v malém, odhalujícím spodním prádle a v sexuálně sugestivních pózách.
V neděli a pondělí uživatelé Groku pokračovali ve vytváření sexuálně sugestivních obrázků nezletilých, přičemž přes noc vznikly obrázky dětí ve věku pouhých 10 let. Ashley St Clair, matka jednoho z Muskových dětí, si stěžovala, že AI nástroj vytvořil její fotografii, na které je ve věku 14 let v bikinách.
Fotografie herečky Nell Fisher ze seriálu Stranger Things byla v neděli upravena Grokem tak, aby na ní byla v bikinách s banánovým potiskem. Fisher je 14 let. Mnoho žen vyjádřilo na X rozhořčení poté, co zjistily, že jejich fotografie byly bez jejich souhlasu odhaleny. Některé fotografie žen a dětí byly nástrojem AI zmanipulovány tak, že na jejich tvářích a prsou se objevily látky připomínající sperma.
Výzkumníci z AI Forensics, neziskové organizace se sídlem v Paříži, prozkoumali 50 000 zmínek o @Grok na X a 20 000 obrázků vygenerovaných tímto nástrojem, které byly nalezeny během týdenního období mezi 25. prosincem a 1. lednem. Alespoň čtvrtina zmínek @Grok byla žádostí o vytvoření obrázku tímto nástrojem. V těchto výzvách k vytvoření obrázku se často vyskytovaly výrazy jako „ona“, „nasadit“, „odstranit“, „bikiny“ a „oblečení“.
Zjistili, že více než polovina obrázků zobrazovala osoby v „minimálním oděvu“, jako je spodní prádlo nebo bikiny, přičemž většinu tvořily ženy, které vypadaly, že jsou mladší 30 let. Menšina obrázků, konkrétně 2 %, podle AI Forensics zobrazovala osoby ve věku 18 let nebo mladší, přičemž některé obrázky zobrazovaly děti mladší pěti let. Vědci uvedli, že většina obsahu byla stále dostupná online a zahrnovala požadavky na generování propagandy nacistického a islámského státu.
Musk zpočátku vyjádřil pobavení nad tímto trendem a v pátek zveřejnil emoji „pláč smíchy“ v reakci na obrázek digitálně upraveného toustovače v bikinách. Uvedl: „Nevím proč, ale nemohl jsem se přestat smát.“ Po celosvětovém pobouření nad škodlivou povahou obsahu později zveřejnil, že „každý, kdo používá Grok k vytváření nelegálního obsahu, ponese stejné důsledky, jako kdyby nahrával nelegální obsah“.
Mluvčí X řekl: „Proti nelegálnímu obsahu na X, včetně materiálu sexuálního zneužívání dětí (CSAM), zasahujeme jeho odstraněním, trvalým pozastavením účtů a v případě potřeby spoluprací s místními úřady a orgány činnými v trestním řízení.“
Dřívější prohlášení společnosti Grok, ve kterém oznámila, že „zjistila nedostatky v bezpečnostních opatřeních“ a „naléhavě je opravuje“, bylo ve skutečnosti generováno umělou inteligencí; nebylo jasné, zda společnost skutečně přijímá opatření k nápravě nedostatků v bezpečnostních opatřeních.
Regulační orgány již roky pracují na zákazu aplikací pro nahotu na telefonech, s různým úspěchem, ale aktualizace Groku z minulého měsíce tento problém zviditelnily, takže je nyní snadné vytvářet a sdílet intimní snímky osob, které jsou téměř nahé, na jedné z nejpopulárnějších internetových platforem.
Zatímco vytváření obrázků dětí bez oblečení je již nelegální, zákon týkající se vytváření deepfake obrázků dospělých je složitější. Britským aktivistům se v červnu loňského roku podařilo prosadit zákon, který zakazuje vytváření a vyžadování vytvoření intimních obrázků bez souhlasu dané osoby, ale příslušná ustanovení ještě nebyla implementována, což znamená, že zákon není v současné době vymahatelný. Sdílení těchto deepfake obrázků bez souhlasu je však již nelegální.
Charlotte Owen, konzervativní členka britské Horní sněmovny, která se zasazovala o přijetí tohoto zákona, řekla: „Vláda opakovaně otálela a odmítala stanovit časový harmonogram, kdy tato zásadní ustanovení vstoupí v platnost. Nemůžeme si dovolit další zpoždění. Oběti tohoto zneužívání si zaslouží něco lepšího. Nikdo by neměl žít ve strachu, že jeho souhlas bude porušen tímto otřesným způsobem.“
Mluvčí uvedl, že vláda se zavázala co nejdříve zavést nové trestné činy vytváření nebo požadování intimních deepfake bez souhlasu, a dodal, že sexuálně explicitní deepfake „jsou ponižující a škodlivé... proto jsme přijali zákon, který zakazuje jejich vytváření bez souhlasu, a zajistili, že pachatelé budou za tuto ohavnou škodu náležitě potrestáni.“
Gabby Bertin, konzervativní členka Horní sněmovny, která vede kampaň za regulaci technologie nudifikace, uvedla, že vláda musí jednat rychle, protože současná legislativa „vždycky jen dohání“.
Jess Asato, labouristická poslankyně, která se zasazuje o lepší regulaci pornografie, řekla: „Je na Elonu Muskovi, aby si uvědomil, že se jedná o formu sexuálního napadení, a přijal příslušná opatření. Jedná se o pořizování snímků žen bez jejich souhlasu a jejich odhalování za účelem ponížení – neexistuje žádný jiný důvod, proč to dělat, než ponížit.“
Zdroj v angličtině ZDE
1273
Diskuse