Závod o umělou inteligenci představuje „reálné riziko“ katastrofy podobné katastrofě Hindenburgovy vzducholodi, říká přední odborník

19. 2. 2026

 

Nárůst počtu chatbotů s umělou inteligencí, jejichž bezpečnostní opatření lze snadno obejít, podle něj ukázal, jak jsou komerční pobídky upřednostňovány před opatrnějším vývojem a testováním bezpečnosti.

„Je to klasický technologický scénář,“ řekl. „Máte technologii, která je velmi, velmi slibná, ale není tak důkladně otestovaná, jak byste si přáli, a komerční tlak za ní je nesnesitelný.“

Wooldridge, který ve středu večer přednese přednášku k ceně Michaela Faradaye britské Royal Society  s názvem „Toto není ta AI, kterou nám slibovali“, řekl, že moment katastrofy Hindenburgu je „velmi pravděpodobný“, protože firmy s nasazením pokročilejších nástrojů AI  spěchají.

Hindenburg, 245 metrů dlouhá vzducholoď, která létala přes Atlantik, se v roce 1937 připravovala na přistání v New Jersey, když vzplanula a zabila 36 členů posádky, cestujících a pozemního personálu. Požár byl způsoben jiskrou, která zapálila 200 000 kubických metrů vodíku, který udržoval vzducholoď ve vzduchu.

„Katastrofa Hindenburgu zničila celosvětový zájem o vzducholodě; od té chvíle se jednalo o mrtvou technologii a podobný moment představuje reálné riziko pro AI,“ řekl Wooldridge. Vzhledem k tomu, že AI je zabudována do tolika systémů, mohla by velká nehoda zasáhnout téměř jakýkoli sektor.

Mezi scénáře, které si Wooldridge představuje, patří smrtící aktualizace softwaru pro samořídící auta, hackování pomocí AI, které ochromí globální letecké společnosti, nebo kolaps velké firmy ve stylu banky Barings, vyvolaný hloupým rozhodnutím AI. „Jsou to velmi, velmi pravděpodobné scénáře,“ řekl. „Existuje mnoho způsobů, jak by se AI mohla velmi veřejně pokazit.“

Navzdory těmto obavám Wooldridge uvedl, že nemá v úmyslu moderní AI napadat. Jeho výchozím bodem je rozpor mezi tím, co vědci očekávali, a tím, co se skutečně stalo. Mnoho odborníků předpokládalo, že AI bude počítat řešení problémů a poskytovat správné a úplné odpovědi. „Současná AI není ani správná, ani úplná: je velmi, velmi přibližná,“ řekl.

To vzniká proto, že velké jazykové modely, které jsou základem dnešních chatbotů AI, chrlí odpovědi tím, že předpovídají další slovo nebo část slova na základě pravděpodobnostních rozložení naučených během tréninku. To vede k AI s nerovnoměrnými schopnostmi: neuvěřitelně efektivní v některých úkolech, ale strašné v jiných. 

Problémem podle Wooldridge je, že chatboty s umělou inteligencí selhávají nepředvídatelným způsobem a nemají ponětí, kdy se mýlí, ale jsou navrženy tak, aby poskytovaly sebevědomé odpovědi bez ohledu na to. Když jsou odpovědi podávány lidským a lichotivým způsobem, mohou snadno uvést lidi v omyl, dodal. Riziko spočívá v tom, že lidé začnou s umělou inteligencí zacházet, jako by byla lidská. V průzkumu z roku 2025 provedeném Centrem pro demokracii a technologii téměř třetina studentů uvedla, že oni nebo jejich přátelé mají romantický vztah s AI.

„Firmy chtějí prezentovat AI velmi lidským způsobem, ale myslím si, že je to velmi nebezpečná cesta,“ řekl Wooldridge. „Musíme pochopit, že se jedná pouze o vylepšené tabulky, jsou to nástroje a nic víc.“

Wooldridge vidí pozitiva v umělé inteligenci, jak je zobrazena v prvních letech Star Treku. V jedné epizodě z roku 1968, The Day of the Dove, se  Spock ptá počítače Enterprise, ale ten mu jasně nelidským hlasem odpoví, že nemá dostatek dat, aby mohl odpovědět. „To není to, co dostáváme. Dostáváme příliš sebevědomou AI, která říká: ano, tady je odpověď,“ řekl. „Možná potřebujeme, aby s námi AI mluvila hlasem počítače ze Star Treku. Nikdy byste pak nevěřili, že je to člověk.“

Zdroj v angličtině ZDE