BBC: Dívky v londýnské škole: Nejhnusnější je AI software, který vás svlékne donaha
30. 12. 2024
čas čtení
6 minut
(Z publicistického pořadu "Today" rozhlasu BBC z pátku 27.12., který se z velké části věnoval umělé inteligenci.)
Moderátor: Dnes ráno je naším hostujícím editorem sir Sajid
Javid, bývalý ministr financí a ministr vnitra. Chtěl, abychom
prozkoumali dobré, špatné i ošklivé umělé inteligence. V údajích
zveřejněných speciálně pro tento pořad změřila nadace Internet Watch
Foundation množství informací o videích sexuálního zneužívání dětí na
internetu generovaných umělou inteligencí. A tvrdí, že je to za bodem, z
něhož není návratu. Bývalý ministr vnitra Sajid Javid se zajímal
zejména o zkušenosti mladých lidí na internetu, a tak se vydal do dívčí
školy Central Foundation ve východním Londýně na seminář o umělé
inteligenci pořádaný organizací NSPCC.
"Toto je technologická éra, s níž se žádná generace předtím nesetkala. Od svých pěti let, kdy jsem dostala svůj první telefon. Všichni z nás tady stojí před obrazovkou celé hodiny. Je to tak důležité, umělá inteligence je kvalitnější, abychom si dávali pozor na to, co dobrého a špatného nám jako studentům může přinést."
„Teď, kdykoli používám lepší slovní zásobu, se mě učitelé ptají. Jsi to opravdu ty, nebo je to umělá inteligence?"
"AI dokáže vytvářet deep fakes, věci, které nejsou pravdivé, což je třeba nyní rozluštit, a to je mnohem těžší než dříve."
„To je jeden z největších problémů AI, že některé zdroje informací, jsou extrémně nepřesné. Poměrně často, stejně jako špatní lidé. Špatné využívání technologií bylo v online světě i před umělou inteligencí.“
Sajid Javid: Ano, samozřejmě. Dělal jsem ministra vnitra. Býval jsem zodpovědný za policii v této zemi, a jsou opravdu ošklivé věci, které se stávají lidem, bohužel i některým mladým lidem prostřednictvím online aktivit, bez jejich vlastního zavinění, jen proto, že jim někdo jiný nebo technologie dělala nějaké špatné věci, a to by AI mohla dělat také.
„Mám pocit, že naše generace je opravdu snadno manipulovatelná vším, co vidí na sociálních sítích. A umělá inteligence se vyvíjí do té míry, že nedokážete rozlišit mezi falešnou a skutečnou věcí.“
Sajid Javid: Dostáváme se také k případům dětí a mladých lidí, kdy byl obrázek zmanipulován a následně použit k jejich podplacení nebo použit škodlivým způsobem, k jejich vydírání. Co si myslíte o takovém špatném využití umělé inteligence? Někteří lidé používají umělou inteligenci k vytváření sexuálního obsahu pro nezletilé, konkrétně pro mladé ženy. Takže si myslím, že je opravdu, ale opravdu důležité vést o tom rozhovory, jako je tomu nyní,
„Viděla jsem lidi, kteří inzerují například nástroje umělé inteligence, které dokáží z obrázků odstranit oblečení. A tak kdyby existovalo něco, co by všechny tyto firmy pohnalo k odpovědnosti. Nebo přesunout jejich schopnosti pryč z umělé inteligence. Kdyby něco takového existovalo, spoustu problémů by bylo možné řešit.“
Sajid Javid: Umělá inteligence vytvořila sexuální zneužívání dětí. Takže se jedná o sexuální zneužívání dětí, kde může jít o skutečné dítě, protože to může být jeho obraz, který je pořízen a upraven a změněn. Ale zahrnuje to také děti, které nikdy předtím nebyly sexuálně zneužity, nebo děti, které ve skutečnosti neexistují. Tyto snímky však byly vytvořeny. Jsou stejně odporné a stejně škodlivé a nejsou bez obětí. A samozřejmě skutečný problém, protože to nemusí být nutně skutečné děti, takže je nelze najít. Někteří z nich.
"No a to jsou aplikace, které by se upřímně řečeno měly zakázat. Nevidím jediný pozitivní přínos toho, že máte aplikaci, která vám umožňuje někoho na obrázku svléknout donaha, takže můžete vzít obrázek někoho, vás mě a jste nahá. Takže to pak vypadá, že se vaše snímky sdílejí, vaše nahé snímky se sdílejí kolem, i když nemáte tušení, že se to stalo."
* * *
Moderátor: V tomto případě je většina společností amerických, ale je tu spousta dalších, evropských společností, čínských společností a podobně, umělá inteligence tak trochu překračuje hranice. Je to velmi mezinárodní. Všechny tyhle technologie jsou mezinárodní , takže je mnohem, mnohem těžší je regulovat, což pak znamená, že mnohem větší břemeno, pokud jde o snahu vypořádat se s tou špatnou stránkou, padá na rodiče. Simon Bailey pracoval u policie 35 let.
Simon Bailey: Nejnovější statistiky zdůrazňují, že za posledních 12 měsíců se 300 milionů dětí stalo předmětem nějaké formy zneužívání, vykořisťování nebo pokusu o zneužití či vykořisťování. Jedná se o celosvětovou epidemii. Moje výzva technologickým společnostem je, že pokud se při výrobě těchto aplikací nepostaví do popředí důvěra, bezpečnost a vyloučení rizik, pak budou zneužívány a na technologických společnostech nyní musí být, aby uznaly, že existuje problém, aby uznaly, že jejich operační systémy, software, který vyrábějí, je používán způsobem, který nikdy nepředpokládaly, a bezpečnost při návrhu není upřednostňována. Zisk byl upřednostněn před ochranou dětí.
Zdroj v angličtině ZDE
3907
Diskuse