Komik Musk aneb vývoj AI nelze zastavit, získat kontrolu je ale nezbytné

6. 4. 2023 / Bohumil Kartous

čas čtení 5 minut

Ilustrace: Jáchym Bohumil Kartous


Výzva k zastavení vývoje systémů na bázi strojového učení na půl roku, kterou globálně nejvíce reprezentuje Elon Musk, je nesmyslná a legrační. A Elon Musk to musí dobře vědět.  Návratnost těch obrovských prostředků, které byly investovány do závodu o prvenství stále ještě neobsazené vrstvy digitálního trhu, si nikdo nedovolí riskovat. Tady se nebavíme o nějakých miliardách dolarů, strojové učení a cesta k umělé inteligenci je prostředkem k získání naprosto klíčové pozice v rámci celé globální digitální dimenze a zasáhne i ty říše, které si zdánlivě navždy rozebrali Meta, Alphabet, Amazon, Microsoft a Apple, případně další velcí hráči. A všichni, včetně dobrodruha Muska, jsou si toho vědomi.

Expert z ČVUT, se kterým jsem o tom mluvil, na tuto výzvu prudce reagoval: „Taková blbost, to je naprosto nemožné. Kdo to bude kontrolovat, že se vývoj zastavil? A to budeme věřit, že když na západě zastavíme na půl roku vývoj, učiní tak i Čína? Nebo Rusko?“


Trefné.


Vývoj nikdo přerušovat nebude. Co je ale nutné si při této příležitosti uvědomit, je fakt, že jako společnost musíme, ať už to bude jakkoliv náročné, získat nad technologickým vývojem v oblasti strojového učení a umělé inteligence, ale i v dalších oblastech, jako je třeba virtuální realita, mnohem silnější kontrolu. Nebude to ale vůbec lehké, protože technologický vývoj odehrávající se v digitální dimenzi se od okamžiku koncentrace prostředků mimo celospolečenskou pravomoc kontrole zcela vymkl.


Začalo to zdánlivě nevinně. Z původně společensky zcela kontrolovaného systému Arpanet, který byl vyvíjen pro armádní účely, postupně vznikla na společenské kontrole nezávislá internetová síť, stále do značné míry z prostředků alokovaných celospolečensky řízenými strukturami. Na úplném počátku byl internet z tohoto hlediska zcela „neškodný“, protože generoval relativně malé prostředky. Nicméně s jeho velmi prudkým rozvojem, z hlediska technologií nesrovnatelně rychlým v porovnání s čímkoliv dalším, a s rapidní gravitací velké části globální ekonomiky došlo v řádu pouhých let k úplné emancipaci digitálního technologického vývoje na strukturách pod společenskou kontrolou, tedy na výzkumu ovlivňovaném akademickým, společenským nebo politickým zadáním. Motivem vývoje a výzkumu se stal v podstatě nejbrutálnější krysí závod v historii lidstva o dosahování prvenství, která - jak se rychle ukázalo - dokážou v digitálním prostředí vystavět obrovské hegemonie typu Google nebo Facebook.


Tyto hegemonie jsou suverény sui generis. Například státy střední velikosti, jako je Česko, nemají ve srovnání s nimi potřebnou relevanci. A nemají je zjevně ani demokratické velmoci, které nediktují restriktivní podmínky, na rozdíl třeba od Číny. Přitom tyto hegemonie překračují hranice jednotlivých států (a jejich jurisdikcí) a pokrývají svým vlivem vzájemně se překrývající plochy s miliardami obyvatel. Jejich odpovědnost je ale úměrná jejich právní formě: jako soukromé společnosti obchodního charakteru jsou pochopitelně motivovány primárním faktorem vyplývajícím z jejich statusu a zájmu vlastníků, a to je zisk.

Tento fakt se projevuje už řadu let v diskusi nad mírou společenské odpovědnosti, kterou by za svůj vliv na život globální společnosti měly přijmout na základě důsledků, negativních externalit, které jejich podnikání přináší. Mezi tyto negativní externality patří zejména radikální změna ekonomické struktury odvětví stojících na produkci a distribuci informací a obrovský vliv na politické rozhodování v důsledku změn ve způsobu získávání informací a jejich zhodnocování lidmi, kteří se svými limity stojí proti kognitivně mnohem dokonalejšímu protějšku.


V tomto směru už k tomu nebezpečnému průlomu a vytvoření precedentu došlo. Působí komicky, pokud člověk jako Musk, který se na tom osobně podílí, najednou volá po odpovědnosti a zastavení vývoje. Jako by se člověk, který doposud vesele zapaloval meze, najednou zhrozil a začal brojit proti nebezpečí nekontrolovaně se šířícího ohně. V případě Muska to nedává smysl.


Co ale smysl dává, to je vyžadování odpovědnosti od těch, kdo řídí a financují výzkum s potenciálně přelomovým dopadem na lidskou společnost. Stejně jako jsme v dobách průmyslu postupně našli způsob, jak regulovat dopady průmyslové činnosti, ať už jsou to hygienické podmínky práce, kontrola emisí nebo ochrana vodních zdrojů a půdy, stejně tak musíme hledat způsob, jak ochránit společnost před negativními externalitami prudkého vývoje digitálních nástrojů vstupujících do našich životů vytvářením rizik, která sebou toto čistě soukromé podnikání nese.


Nemáme na to ale moc času. I v případě technologického vývoje průmyslového charakteru se na klimatické změně ukázalo, že jsme si rizika a konsekvence uvědomili pozdě. O to ostražitější bychom měli být nyní v případě technologií, které mění svět v řádu let. Nemáme k tomu použitelné modely řešení, ale nutně je musíme hledat, i za cenu dílčích chyb a slepých cest. Jinak se můžeme skutečně rozloučit s představou společenské svrchovanosti tváří v tvář technologickým extenzím, které nám doslova přerostly přes hlavu.


Vyšlo též na Seznam Médium.

0
Vytisknout
7463

Diskuse

Obsah vydání | 11. 4. 2023