Channel 4 News: Zabije nás umělá inteligence?

9. 9. 2026

"Vraťte se prosím domů."

Reportérka: Toto je jedna z mnoha hollywoodských vizí toho, jak by mohl svět vypadat, pokud a až superinteligentní roboti převezmou vládu. A ano, je to sci-fi, ale je to realita, která by mohla být blíž, než si myslíme.

"Okamžitě se vraťte domů." „Ty si určuj pravidla, robote.“

To je přesvědčení výzkumníka z jedné z předních firem zabývajících se umělou inteligencí, společnosti Anthropic. A právě proto náhle opustil společnost a v dnešním příspěvku varoval, že Anthropic i její konkurent, OpenAI, se řítí přímo k samovylepšující se superinteligenci a hazardují s našimi životy. Lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás všechny mohla do konce tohoto desetiletí zabít. Nejedná se o marketingový trik. Žádná jiná lidská činnost nepředstavuje takovou míru nebezpečí. Namísto toho, aby Jacobovy obavy zlehčoval, ho dnes podpořil jeden z vedoucích vědců společnosti Anthropic, který v dalším příspěvku uvedl, že Jacob má pravdu. 

"Opravdu upřímně věříme, že umělá inteligence by mohla zabít všechny lidi. Myslím si, že riziko ze současných modelů je nízké, ale obávám se superinteligence vznikající rekurzivním sebezdokonalováním, které, jak jsme již řekli, probíhá rychleji, než jsme si mysleli."

Rekurzivní sebezdokonalování nastává, když se systémy umělé inteligence stanou tak chytrými, že se nakonec začnou samy replikovat bez jakéhokoli lidského zásahu. Stávají se čím dál inteligentnějšími a nakonec překonají lidi. A to je ta superinteligentní umělá inteligence. Umělá inteligence, z níž mají všichni takový strach, zejména když je zabudována do robotů, což je přesně to, co všechny tyto firmy zabývající se umělou inteligencí také vyvíjejí – superinteligentní humanoidy. Proč to tedy dělají? Proč s tím prostě nepřestanou, než bude příliš pozdě?

Existuje velmi přesvědčivý argument, který si všichni sami předkládají, a to, že pokud to neuděláme my, udělá to někdo jiný, a proto to musíme udělat jako první, a tak dále.

Daniel Cocatello dříve pracoval ve společnosti OpenAI, ale v roce 2024 podal výpověď kvůli tomu, že firma neřešila rizika vyhynutí, která superinteligentní AI představuje.

"Pokud dojde k takovéto transformaci v oblasti umělé inteligence, bude se budoucnost od současnosti lišit stejně, jako se současnost liší od středověku. Pokud nedojde k mezinárodní koordinaci a regulaci, bude to mít na celý svět velmi dramatický dopad. Vůbec nečekám, že za 10 let bude vše vypadat normálně. Možná za 10 let už ani nebudeme naživu."

Páni, vážně?

Vážně.

Zatímco on se zabývá předpovídáním konce lidstva, jeden poslanec za Labouristickou stranu včera v parlamentu předložil návrh zákona, jehož cílem je zastavit vývoj AI dříve, než nad ní lidé ztratí kontrolu.

"AI je klíčovou technologií 21. století, slibující obrovské přínosy pro vědu, medicínu a prosperitu Spojeného království. Superinteligentní AI je však něco jiného. Nebyla by to nástroj, který bychom mohli využívat, ale samostatná entita."

Entita umělé inteligence, stejně jako fiktivní zabijácké roboty Terminátory, které rozpoutaly jadernou válku, aby vyhladily lidstvo. Děj, který se před čtyřmi desetiletími zdál nereálný. Nyní je to prorocké varování před možnou temnou budoucností, která nás čeká.

Moderátorka: Channel 4 News oslovil společnost Anthropic s žádostí o komentář a čeká na odpověď. V minulosti však společnost uvedla, že nebezpečí umělé inteligence jsou reálná, a proto chce, aby vlády spolupracovaly na regulaci tohoto odvětví. Hovořila jsem s dr. Ruman Chowdhuryovou, která působila jako první vědecká vyslankyně Bidenovy administrativy pro umělou inteligenci a jako vedoucí oddělení etiky strojového učení ve společnosti Twitter. Nejprve jsem jí předložila tvrzení, že existuje 10% šance, že umělá inteligence by mohla zabíjet lidi, a zeptala se jí, jak moc bychom se měli bát.

dr. Ruman Chowdhury: Myslím, že bychom se měli bát natolik, nakolik věříme vědeckému podkladu tohoto tvrzení. Vědecký podklad tohoto tvrzení je v nejhorším případě neexistující a v nejlepším případě pochybný.

Moderátorka: Proč tedy lidé pracující v oboru umělé inteligence vydávají tato varování?

dr. Ruman Chowdhury: Napadá mě pojem „walled gardens“ (uzavřené zahrady). Musíte si uvědomit, že lidé pracující v těchto společnostech pocházejí z velmi úzké komunity, všichni jsou vzděláni a vyškoleni ve stejném prostředí, všichni se navzájem znají a všichni věří ve stejné věci. Někteří je dokonce nazývají sektou; já bych tak daleko nezacházela, ale když skupina lidí sdílí přehnaný soubor přesvědčení a pohybuje se výhradně v prostředí, kde se setkávají pouze s podobnými názory – jak jsme to viděli na sociálních médiích i jinde –, vede to k určité formě psychózy a k velmi extrémním přesvědčením. Víte, samozřejmě budou tvrdit, že mají poznatky, které my ostatní nemáme, na což bych jako vědec odpověděla: „No, tak nám ukažte, o čem to mluvíte.“ Slyšíme, že AI má šanci 10 % až 25 % – mimochodem, čísla se každý rok mění, od té doby, co byla AI spuštěna, a mění se i časový rámec. Zatím jsme nic takového nezažili, a přesto se tato debata vede na úkor smysluplnější diskuse o svobodě volby, ochraně osobních údajů a diskriminaci, a také o využití umělé inteligence v oblasti sledování. To přece vidíme.

Moderátorka:  Jacob Coxon, výzkumník v oblasti umělé inteligence, který odešel ze společnosti Anthropic a který, řekněme, vyvolal tento nejnovější poplach, vinu jednoznačně klade na bedra společnosti a tvrdí, že žádná z velkých firem nejedná zodpovědně. Chcete tím říct, že ze strany umělé inteligence nehrozí žádné nebezpečí?

dr. Ruman Chowdhury: Nemyslím si, že by umělá inteligence měla byť 10 % šanci, že nás zabije, ne. Ale myslím si, že společnosti jednají nezodpovědně, ano. Myslím si, že jednají nezodpovědně s našimi daty, našimi informacemi i s autorskými právy, která kradou. A opět jde o kouřovou clonu. Je to odvedení pozornosti od věcí, o kterých bychom měli mluvit. Zrovna včera se ozval matematik, který nyní tvrdí, že OpenAI vzala informace, které používal k vývoji pokročilého matematického důkazu, a poté je zveřejnila jako své vlastní. Měli bychom se tedy ptát, co se děje s materiálem, který do toho vkládáme? Opět platí, že pokud nás rozptylují nepodložená tvrzení o 10% šanci, že nás AI všechny zabije, jak příhodné je, že už nemluvíme o tom, zda je obsah, který do AI vkládáme, zneužíván.

Moderátorka:  Jsou to přece velmi odlišné hrozby, ne? Je zřejmé, proč by si veřejnost mohla myslet, že pokud mi někdo stahuje některá data, je to mnohem méně alarmující než představa, že mi úplně vezme práci nebo vyhubí lidstvo.

dr. Ruman Chowdhury: V kyberbezpečnosti existují termíny, které lidé používají, když se snaží posoudit hrozbu, že? Pokud se na to podíváme čistě strukturálně. A oni se zaměřují na pravděpodobnost a dopad. To jsou ty dvě věci, nad kterými bychom měli přemýšlet. Pokud jde o věci jako sběr vašich dat a jejich použití proti vám, pravděpodobnost je ve skutečnosti neuvěřitelně vysoká, téměř 100 %. A víme, že se to děje. Děje se to už velmi dlouho. A jaký je dopad? Dopad toho všeho je poměrně rozptýlený, možná to nevnímáme jako velký, jednorázový moment. Stane se to, že se najednou rozhlédneme a ocitneme se ve světě, ve kterém budeme cenově diskriminováni, algoritmicky diskriminováni, nebudeme mít žádné soukromí a budeme žít ve státě s totálním dohledem – a cesta k tomu byla velmi kluzká, že? Oproti tomu je tento svět, který zní neuvěřitelně extrémně. Takže dopad, pokud by to byla pravda, je opravdu obrovský. Celé lidstvo zahyne. Jaká je ale pravděpodobnost, že se to stane? Nemáme jasné důkazy ani pochopení toho, co to znamená. Dalším způsobem, jak o tom uvažovat, je, že když jdu ven, mám určité procento šance, že mě srazí auto. Je to moje rozhodnutí, zda se rozhodnu jít ven, nebo ne, že? A těmto rizikům čelíme každý den v našich životech, aniž bychom o tom přemýšleli tak přehnaně.

Moderátorka:  Chci tím říct, že jste však volala po nějaké formě globální správy, a že ta globální správa, o které mluvíte, prostě klade překážky lidem, kteří chtějí ten závod vyhrát, takže to prostě nebude fungovat.

dr. Ruman Chowdhury: Opravdu fascinující je, že ten závod je prezentován jako souboj USA proti Číně. Nejsem sice velká zastánkyně toho, jak čínská vláda funguje. Musím však říci, že čínská vláda skutečně kodifikovala zákony a opatření na ochranu občanů před jevy, jako je manipulace pomocí algoritmů, cenová diskriminace a ochrana dětí – nic z toho na Západě ani ve Spojených státech vůbec nemáme. Máme dobrovolné závazky, které trvají už roky, ale ve skutečnosti nic nezměnily. Takže ano, věřím, že je potřeba globální správa, věřím, že tato správa musí mít zuby, musí být vymahatelná a musí nést odpovědnost. A právě o tom bychom měli diskutovat.