Když nemůžete věřit hlasu Davida Attenborougha, čemu můžete věřit?
19. 11. 2024
čas čtení
3 minuty
Hlas nejoblíbenějšího přírodovědce na světě byl naklonován - a zneužit - umělou inteligencí. Brzy nebudeme věřit ničemu, co uslyšíme, pokud nebudeme ve stejné místnosti jako mluvčí, varuje Zoe Williams
Zní to příliš fantaskně a nehorázně na to, aby to byla pravda, ale pro svět, který nám technologičtí bratři odkázali, není nic příliš nehorázné. BBC odhalila, že různé webové stránky a kanály na YouTube používají umělou inteligenci k tomu, aby naklonovaly hlas Davida Attenborougha a přiměly ho říkat věci - o Rusku, o amerických volbách -, které by určitě nikdy neřekl.
Není to poprvé, co se to stalo nějaké celebritě - Scarlett Johanssonová odmítla poskytnout licenci na svůj hlas společnosti ChatGPT a obvinila je, že ho stejně vytvořili v postavě jménem Sky. Vývojářská společnost OpenAI, která ChatGPT vytvořila, uvedla, že Sky je „jiná profesionální herečka, která používá svůj vlastní přirozeně mluvící hlas“, ale hlas stáhla „z úcty k paní Johanssonové“. Jinde se právníci nadále přetahují s využitím precedentů, které vznikly před existencí umělé inteligence o několik desetiletí, tedy s jednou rukou svázanou za zády.
Attenboroughův hoax je však jiná kategorie zlověstnosti. Stojím si za tím, že pokud neslyšíte jeho hlas a nevěříte mu, pak nemůžete slyšet a věřit ničemu.
Kolem generování hlasu umělou inteligencí se objevily červené vlajky kvůli potenciálu podvodu - riziku, že brzy bude AI schopn ukrást hlas vašeho dítěte z jeho výstupu na TikToku, vytvořit věrohodnou nahrávku rukojmího a donutit vás vyprázdnit bankovní účet do éteru dřív, než si uvědomíte, že zmíněné dítě bylo celou dobu ve svém pokoji.
Ta hoaxová úzkost z únosu dítěte není pořád ničím ve srovnání s předstíráním přírodovědce. Technologie odpoutaná od hodnot tyto hodnoty ničí, ale s hodnotami nebo bez nich může zničit i sama sebe.
Forenzní DNA je toho příkladem. Detekce se stala tak dobrou, že pokud si s někým potřesete rukou, pak seberete hrnek s kávou a pojedete 200 kilometrů někam na čerpací stanici, na které dojde k loupežné vraždě, osoba, se kterou jste si potřásli rukou, může být umístěna na místo činu. Přesnost, místo aby zvýšila užitečnost DNA, ji zcela popřela; vrátili jsme se do světa, kde postačí pouze alibi, alias do 19. století.
Ale pokud se generování hlasu umělou inteligencí stane natolik dobrým, že zničí důvěru v ty nejdůvěryhodnější, rychle zničí důvěru ve všechno kromě hlasu, který můžete vidět vycházet z člověka, což nás vrhne o mnoho století zpět, do světa, kde jsme věřili omezenému počtu rodinných příslušníků, několika prověřeným spolupracovníkům a - v opravdu dobrý den, pokud jsme se s ním už setkali - poslíčkovi. Ve falešném Attenboroughovi, podvodu všech podvodů, jsme byli nenuceně okradeni o moderní komunikaci.
Zdroj v angličtině ZDE
1784
Diskuse