Konec dějin nebyl zatím nikdy reálnější

12. 5. 2016 / Bohumil Kartous

Člověk s čipem voperovaným v mozku může ovládat svou ochrnutou ruku. Geniální vítězství nad problémem, který se ještě nedávno zdál neřešitelný. Je možné, že do několika let bude možné zcela překonávat nejen problémy s nefunkčními nervovými spoji, ale i více či méně podstatné dysfunkce mozku. Představa, že odstraníte své kognitivní limity prostřednictvím antropo-robotizace je natolik svůdná, že najít dobrovolníky bude mnohem snazší než rekrutovat posádku na jednocestnou výpravu na Mars, na kterou by se okamžitě vydalo na 200 tisíc lidí. Za obrovskými možnostmi, které technologie umožňují, je skryt jeden velmi podstatný problém: naprostá ztráta autonomie a riziko reálného konce civilizace v lidském aranžmá a postupný přechod člověka do pozadí.

Je poněkud znepokojující vidět, jak rádi se necháváme unášet dobře racionalizovanými představami o tom, podle jakého klíče se bude odvíjet budoucnost. Když Francis Fukuyama vydal v roce 1992 knihu Konec dějin a poslední člověk, vyvolala nebývalou intelektuální vášeň a strhla pozornost k výrazně antropocentrickému pojetí budoucnosti, která se ponese v duchu výrazného posilování určitého modu civilizace, ale také obecně v modu posilování člověka v kontrole nad svým vlastním osudem a vývojem.

Je to zcela příznačné. Fukuyama ještě nekalkuloval s ničím, co jen o pár let později přinesl rozmach technologií postavených na vysokorychlostním přenosu informace a postupného propojování různorodých entit, ať už autonomních nebo zcela závislých. Byl to ještě jiný, takový vcelku nevinný svět, v němž člověk zdánlivě směřoval k tomu stát se naprosto suverénním vládcem nad sebou samým.

Z hlediska historie člověka uplynul vlastně jen mžik a paradigma se úplně změnilo. Úvahy nad vítězstvím liberální demokracie či střetu civilizací jsou stále aktuální, ale horizont jejich relevance se povážlivě zkrátil. Na katedrách politologie to ještě možná je zajímavé téma, zvlášť když imigrační vlna vytváří dojem, že právě tohle je klíčový okamžik, který se propíše do designu budoucnosti.

Za tím ale leží horizont sice vzdálenější, zato ale mnohem důležitější z hlediska možného předurčení budoucnosti jako možného konce dějin ve smyslu civilizační epochy lidstva. "Domnívám se, že vývoj plně umělé inteligence může znamenat konec lidské rasy," domnívá se Stephen Hawking, který je díky rozvoji technologií schopen komunikovat s okolním světem a věnovat se tak jako jeden z nejtalentovanějších mozků posledních dekád fyzice. 

Bill Gates, člověk, který se stal jednou z ikon nejrychlejšího technologického vývoje lidských dějin, vidí "kupodivu" totéž, tedy umělou inteligenci jako největší hrozbu lidstva. Zmiňuje zároveň, že takové hrozbě lze zabránit, pokud si ji dostatečně dobře uvědomíme a zajistíme na různých úrovních kontrolní mechanismy, které zajistí, aby se člověk nestal pouze dočasným nástrojem v pomyslných rukou mnohem dokonalejší existence, jíž člověk prostě nemůže konkurovat.

Ano, to je přesně ten moment, který je v celém věci důležitý. Bojovat s dalším vývojem technologií by bylo rovno tmářství a stejně to není možné. Je ale otázka, zda jsme vůbec ještě schopni dostatečně kontrolovat, kudy technologický vývoj plyne a jaké důsledky to může mít. 

Jistě, z pozice současného stavu vývoje technologií - a umělé inteligence - je možné vše velmi pečlivě kontrolovat a v okamžiku, který hraničí s možností vymknutí se takové kontrole vše přesměrovat nebo pozdržet  podívat se, jakou cestou se vydat. Jenže vývoj k umělé inteligenci nemusí vést takto přímočarou cestou. Paradoxně právě člověk může být posledním "nosičem", který definitivně předá vládu nad informacemi jinému druhu. Nejvtipnější na tom je, že pravděpodobně nepřiletí z neznámého vesmíru, nýbrž si ho člověk sám vytvoří.

Fakt, že jsme díky technologiím schopni nechat mezi sebou komunikovat různé věci, nebo že jsme schopni prostřednictvím technologií překonat fyziologické nedostatky, poukazují na stále rostoucí míru ztráty kontroly nad tím, co se nejen okolo nás, ale přímo v nás samotných děje. Tady nejde o stav, v němž by se člověk - jako nedokonalý, na pomalé evoluci závislý druh - stal obětí nějakého HAL 9000, s nímž je možné ještě teoreticky svádět (marný) boj. Jde o stav, v němž člověk dobrovolně nabídne svou vlastní autonomii k dispozici.

Tento proces, obávám se, nelze kontrolovat. Jednoduchý příklad: čip v mozku už nebude schopen jen vysílat signály, které prostřednictvím přenosového zařízení pomáhají invalidům ovládat jejich končetiny. Takový čip, pravděpodobně v dohledné době, bude umožňovat překonávat i mnohé další handicapy, které nezpůsobil náhodný incident, ale prostě "nedokonalost" evolučního vývoje a míra "chyby", kterou připouští. Jestliže je 200 tisíc lidí ochotno nastoupit na cestu, která představuje vrcholné riziko smrti ve vesmíru, kolik lidí bude ochotno podstoupit "upgrade", který slibuje zdokonalení teď a tady? 

Zatímco je společnost pravděpodobně schopna zabránit nástupu umělé inteligence v nějaké svébytné podobě, těžko si lze představit, jak do budoucna zabránit tomu, aby se člověk nestal aktivním mezičlánkem k takovému přechodu. A to s nebývalým nadšením, které u toho může projevovat. Zdaleka jsme se ještě neoctli v situaci, kdybychom takovou volbu museli učinit, a přitom je patrné, jak dominantní už nyní technologie jsou. Ještě nejde o invazi přímo do organismu, úplně stačí invaze do vědomí a dovednost ovládat prostě jen pochody myšlenek, určovat jejich rámec a směřovat je k určitému zájmu. 

Takovému tlaku dnes čelí každý, kdo vstoupil do digitálního prostoru a cosi v něm podnikne. Místo představy, že si tento prostor budeme moci "v rámci fukuyamovské představy o zvýšené kontrole nad sebeurčením - modelovat do podoby vyhovující našim potřebám se svět "2.0" daleko více přibližuje cílenému designu lidského vědomí a jeho utilizaci pro zájmy, které nekontroluje.  Málokdo si jen trochu uvědomuje, že informace, které získává ze zdánlivě otevřeného digitálního prostor, jsou velmi efektivně přizpůsobovány identitě, kterou v digitálním světě spoluvytváří. 

A to jsme skutečně teprve na začátku. Nejbližší metou bude nástup virtuální reality (immersive multimedia reality), kde bude možné - zdánlivě autonomně - dosahovat všech tužeb, které skutečný svět odpírá. Invaze do lidské autonomie skutečně nepřichází z čipem v mozku. Jsme už dlouho na cestě a v určitém okamžiku už nebude možné změnit směr. Je docela pravděpodobné, že ten okamžik už reálně nastal. 

0
Vytisknout
5275

Diskuse

Obsah vydání | 13. 5. 2016