Snímky sexuálního zneužívání dětí vytvořené umělou inteligencí "hrozí zahltit internet"
25. 10. 2023
Nadace Internet Watch Foundation zjistila, že 3 000 snímků zneužívání vytvořených umělou inteligencí porušuje britské zákony
Nadace Internet Watch Foundation (IWF) uvedla, že našla téměř 3 000 snímků zneužívání vytvořených umělou inteligencí, které porušují britské zákony.
Organizace se sídlem ve Spojeném království uvedla, že existující snímky skutečných obětí sexuálního zneužívání jsou zabudovávány do modelů umělé inteligence, které pak vytvářejí jejich nová vyobrazení.
Dodala, že tato technologie se používá také k vytváření snímků celebrit, které byly "omlazeny" a poté zobrazeny jako děti ve scénářích sexuálního zneužívání. Mezi další příklady materiálů sexuálního zneužívání dětí (CSAM) patřilo použití nástrojů umělé inteligence k "obnažování" obrázků oblečených dětí nalezených na internetu.
IWF v létě varovala, že se začínají objevovat důkazy o zneužívání vytvořeném umělou inteligencí, ale uvedla, že její poslední zpráva ukázala zrychlení používání této technologie. Susie Hargreavesová, výkonná ředitelka IWF, uvedla, že "nejhorší noční můry hlídacího psa se staly skutečností".
"Začátkem tohoto roku jsme varovali, že snímky pořízené umělou inteligencí by se brzy mohly stát nerozeznatelnými od skutečných snímků dětí, které trpí sexuálním zneužíváním, a že bychom mohli začít pozorovat, jak se tyto snímky šíří v mnohem větším množství. Nyní jsme tento bod překročili," řekla.
IWF uvedla, že se setkala také s důkazy o prodeji snímků vytvořených umělou inteligencí na internetu.
Její nejnovější zjištění vycházela z měsíc trvajícího vyšetřování fóra o zneužívání dětí na dark webu, což je část internetu, která je přístupná pouze pomocí specializovaného prohlížeče.
Na fóru bylo prozkoumáno 11 108 obrázků, z nichž 2 978 porušovalo britské zákony tím, že zobrazovalo sexuální zneužívání dětí.
CSAM generovaná umělou inteligencí je v Británii nezákonná podle zákona o ochraně dětí z roku 1978, který kriminalizuje pořizování, šíření a držení "nemravné fotografie nebo pseudofotografie" dítěte. IWF uvedla, že naprostá většina nalezeného nezákonného materiálu porušuje zákon o ochraně dětí, přičemž více než pětina těchto snímků je klasifikována jako kategorie A, tedy nejzávažnější druh obsahu, který může zobrazovat znásilnění a sexuální mučení.
Britská vláda uvedla, že na CSAM generované umělou inteligencí se bude vztahovat návrh zákona o bezpečnosti online, který má v nejbližší době vstoupit v platnost, a že společnosti provozující sociální média budou povinny zabránit tomu, aby se objevovaly na jejich platformách.
Prozkoumejte další témata
Diskuse