![](https://img.blisty.cz/img/-20076.jpg?id=-20076&size=450&mg=0)
"Doufám, že se mýlím": spoluzakladatel společnosti DeepMind píše o tom, jak umělá inteligence hrozí změnit život, jak ho známe
2. 9. 2023
Mustafa Suleyman hovoří o ohromujícím potenciálu umělé inteligence - od syntetických organismů po zabijácké drony - a o tom, jak se ještě můžeme vyhnout katastrofě
Kniha The Coming Wave (Přicházející vlna) důrazně a srozumitelně popisuje to, co se stane. Umělá inteligence, tvrdí Suleyman, dramaticky sníží cenu dosažení jakéhokoli cíle. Její ohromující schopnosti ušetřit práci a řešit problémy budou dostupné levně a každému, kdo je bude chtít využít. Nazývá to "prudce klesající cenou výkonu". Jestliže knihtisk umožnil obyčejným lidem vlastnit knihy a křemíkový čip dal počítač do každé domácnosti, umělá inteligence zdemokratizuje prosté dělání věcí. Jistě, to znamená, že si necháte virtuálního asistenta, aby za vás založil firmu, nebo využijete hejno stavitelských botů, kteří vám postaví přístavbu. Bohužel to ale také znamená, že zaútočite na banku nebo vytvoříte smrtící virus pomocí syntetizátoru DNA.
Nejvýjimečnější scénáře v knize pocházejí z oblasti biotechnologií, která již prochází vlastní transformací díky průlomovým objevům, jako je Crispr, technologie editace genů. Zde bude umělá inteligence působit jako silný urychlovač. Výrobky, jak nám Suleyman říká, by se jednoho dne mohly "pěstovat" ze syntetických biologických materiálů, nikoliv montovat, a to za použití uhlíku vysátého z atmosféry. A nejen to, "organismy budou brzy navrhovány a vyráběny s přesností a měřítkem dnešních počítačových čipů a softwaru". Pokud to zní fantaskně, je to jen další kousek na trajektorii, na kterou jsme se již vydali. Suleyman poukazuje na to, že společnosti jako The Odin již prodávají sady pro domácí genetické inženýrství včetně živých žab a cvrčků za 1 999 dolarů. Za 299 dolarů si dokonce můžete koupit salamandra bioinženýrsky upraveného tak, aby kůží vypouštěl fluorescenční protein.
Mnohé z těchto novinek jsou obrovským příslibem: léčení nemocí, vytyčení cesty řešení klimatické krize, vytvoření "radikální hojnosti", jak říká Suleyman. Čtyři aspekty revoluce umělé inteligence však vytvářejí potenciál pro katastrofu. Za prvé, pravděpodobnost asymetrických účinků. Známe to z kontextu válečných konfliktů - skupina bojovníků, která je schopna omezit mocný stát pomocí partyzánské taktiky. Stejný princip bude platit i pro zločince v éře umělé inteligence: například anonymní hacker, který zničí počítače zdravotnického systému, nebo terorista vybavený drony s jedem o velikosti včely.
Za druhé, Suleyman to nazývá hyper-revolucí: Umělá inteligence je schopna zdokonalovat konstrukční a výrobní procesy, přičemž zlepšení se po každé nové iteraci ještě znásobí. Je neuvěřitelně těžké udržet krok s tímto tempem změn a zajistit bezpečnostní opatření. Smrtící hrozby se mohou objevit a rozšířit dříve, než je kdokoli zaregistruje.
Dále je tu skutečnost, že umělá inteligence je "všestranně použitelná". Stejně jako elektřina je to technologie, která umí všechno. Pronikne do všech aspektů našeho života kvůli výhodám, které přináší, ale to, co tyto výhody umožňuje, umožňuje i škody. Dobro bude příliš lákavé na to, abychom se ho vzdali, a s ním přijde i zlo.
Kniha Coming Wave je částečně snahou pokračovat v roli formování a posilování svědomí tohoto odvětví. Předkládá v ní deset strategií pro "zadržování", které považuje za nezbytné k tomu, aby se lidstvo udrželo na úzké cestě mezi společenským kolapsem na jedné straně a totalitou umožňující umělou inteligenci na straně druhé. Patří mezi ně zvýšení počtu výzkumných pracovníků, kteří se zabývají bezpečností (včetně "vypínačů" pro software, který se může vymknout kontrole), ze současných 300 nebo 400 na statisíce; vybavení syntetizátorů DNA screeningovým systémem, který bude hlásit všechny patogenní sekvence; a vypracování systému mezinárodních smluv, které by omezovaly a regulovaly nebezpečné technologie.
Vzhledem k řadě děsivých scénářů, které Suleyman nastínil, působí poměrně optimisticky. Přinejmenším v tuto chvíli existuje sympatizující administrativa, která řídí nejmocnější vládu na světě. Minulý měsíc byl Suleyman pozván do Bílého domu spolu s Amazonem, Microsoftem a Googlem, aby se přihlásil k režimu dohledu, byť dobrovolnému. Vzhledem ke špatným výsledkům samoregulace v oblasti technologií se to může zdát poněkud nedostačující. Bidenova administrativa ho však ujistila, že si tento problém uvědomuje. "Řekl bych, že tuto hrozbu berou velmi vážně. A dělají v tom velký pokrok." Jak si myslí, že by to šlo za Trumpa, kdyby znovu vyhrál? "Jak si myslím, že by to šlo za Trumpa?" Zachichotá se. "Chci říct, víte... to je americká politika."
Podle Suleymana jsou jedinými mocnostmi, které jsou reálně schopny jednat s cílem zadržet AI, státy, a navzdory šibeničnímu humoru ho hluboce znepokojuje, jak křehkými se stávají.
"Myslím, že v současné době procházíme generační výměnou," pokračuje Suleyman. "Dnešním vedoucím pracovníkům je kolem padesáti let, strávili v Silicon Valley 25 let a stoupali nahoru buď jako zakladatelé, nebo jako vedoucí pracovníci. A ti mají pohled na věc, který je pravděpodobně bližší libertariánským tendencím. Ale je tu i nová generace vedoucích společností zabývajících se umělou inteligencí, jako je Sam [Altman, generální ředitel společnosti OpenAI] a já. A myslím, že o potenciálních nebezpečích mluvíme už dlouho."
Diskuse