Do nového roku. Zničíme tupou konstrukcí umělé inteligence lidstvo?

31. 12. 2020

(Argumentace profesora Russella je doprovázena vysvětlujícím videem, klikněte na článek, viz níže)

Stuart Russell, profesor počítačové vědy: Co je to, co nám dává moc nad světem? Je to skutečnost, že jsme nejinteligentnější. A co se stane, až nebudeme nejinteligentnější? Jak budeme udržovat svou moc nad těmito věcmi, které jsou daleko inteligentnější než my, a proto daleko mocnější než my? Většina pozorovatelů a expertů říká, že jsme na cestě směřující k nadlidské inteligenci. A nejsme připraveni na její úspěch.

Takže investujeme stamiliardy dolarů do technologie, která, jestliže bude nakonec úspěšná, může znamenat konec civilizace. Mohla by to být obrovská katastrofa.

Už teď dochází k četnému zneužívání technologie. Například autonomní zbraně, které jsou řízeny softwarem umělé inteligence. Ty jsou už schopny vyhledat potenciální cíle, rozhodnout, koho usmrtit a zabít ho. Vzhledem k tomu, že to nevyžaduje žádný dohled člověka, jedna osoba může zahájit útok miliony zbraní. Mohou být selektivní, tak například můžete zabít všechny muže od 12 do 74 let, nebo příslušníky určité etnické skupiny. Nezanechají za sebou obrovský radioaktivní, kouřící kráter, jsou levné a je lehké je vyrábět v obrovském množství.  Je těžko z jakéhokoliv úhlu pohledu říci, že nejsou nebezpečnější než jaderné zbraně.


Hlavní země, USA, Británie, Rusko, v současnosti blokují jednání o dohodě. Turecký výrobce zbraní, který je prodává, kvadrokoptéry, které dokáží samostatně vyhledat, sledovat a zabít lidské bytosti. Jsou na prodej a Turecko říká, že jich použije proti Kurdům.

Takže to je jeden typ zneužití: dohled, ovládání, autoritářské vlády už začínají používat umělou inteligenci k sledování svých občanů tak, jak to dělávala Stasi v NDR. Až na to, že Stasi na to potřebovala téměř 20 procent dospělého obyvatelstva. Umělá inteligence to udělá za vás, takže budete mít svého vlastního osobního agenta Stasi, který na vás bude 24 hodin denně dohlížet. Můžete to také používat k ovládání lidí, protože jestliže víte, co lidé celý den dělají, můžete je hodnotit, dávat jim známky. Jak když dnes mají lidé úvěrové skóre, ale bude to daleko pronikavější.

Měl bych se asi také zmínit o sociálních sítích. Na sociálních sítích se dělá selekce obsahu, selekce zpravodajství, to všechno dělají algoritmy. Jsou to algoritmy, které se umějí další věci naučit a jsou zkonstruovány tak, aby dávaly přednost jediné věci: produkci zisků pro danou platformu. Chtějí, abyste na věci klikali. A vy si možná myslíte, že ano, nejlepším způsobem, jak vás přimět k tomu, abyste na věci klikali, je posílat vám materiál, který se vám líbí, a to si oni asi opravdu mysleli, že tohle ty algoritmy budou dělat.

Avšak ty metody namísto toho udělaly něco jiného. Ty metody pozměnily lidi, změnily je tak, že lidé jsou nyní daleko předpověditelnější, a proto jsou lepším zdrojem zisků. Výsledek je, že algoritmy modifikovaly lidi tak, že dnes mají lidé daleko extremnější politické názory, vkus, zálibu v násilí a v pornografii.

Takže mnoho pozorovatelů varuje, že tohle je katastrofa. Že to v podstatě likviduje naše demokracie. Že to zřejmě likviduje naše společenské vztahy.

Tohle je přikladem onoho všeobecného problému, jak uvažujeme o umělé inteligenci. Jestliže vyrobíte systémy, které jsou buď inteligentní, anebo jsou používány v globálním měřítku, nebo obojí, a ony dostanou úkol realizovat určitý cíl, který není správně specifikován, je to velmi obtížné zrušit.

To se děje už teď i s těmi velmi jednoduchými algoritmy, které mají schopnost se samy učit.

Jestliže budeme mít systémy umělé inteligence, které budou ve všeobecném smyslu inteligentnější než lidské bytosti, bude nemožné do toho zasáhnout. Nebude možné zabránit tomu, aby realizovaly cíle, které jsme jim dali.

Superinteligentní systém umělé inteligence pro regulaci klimatu řekne, tak dobře, chceme snížit CO2 na úroveň před průmyslovou revolucí. Systém si vypočítá, že příčinou všech těchto emisí CO2 jsou lidé, takže se zbaví lidí a tím ten problém vyřeší.

Druhé přání, jestliže budete mít druhé přání, jestliže pak řeknete, "tak jsme to nemysleli, snižte CO2 bez zabíjení lidí", dobře, tak pak začneme provozovat po řadu desetiletí na sociálních sítích kampaň společenského inženýrství, jejímž cílem bude přesvědčovat lidi, aby neměli žádné děti. A za takových 75 let se tak systém zbaví všech lidí bez jejich zabíjení. A tím se vyřeší problém globálního oteplování. A možná pak už nebudete mít možnost sdělit systému své třetí přání.

Takže, prosím, nekonstruujme systémy umělé inteligence takovýmto způsobem. Nedávejme strojům konkrétní, pevné, fixované úkoly.

Tohle není doporučení jen pro umělou inteligenci, ale pro mnoho dalších oborů, které tvoří velkou část naší civilizace. V ekonomice se korporace snaží maximalizovat své zisky. A my víte, že maximalizace zisků při ignorování externích okolností je opravdu špatná věc. Jen se podívejme na klimatickou krizi. Je to důsledek superinteligentního stroje, průmyslu fosilních paliv, který přelstil lidskou rasu při realizaci špatně specifikovaného cíle. Totiž generování zisků při pomíjení škod, které to způsobí klimatu. Realizovali padesátiletý plán těžby ropy a emisí CO2 a podvrátili a oslabili vlády tak, abychom nemohli  do tohoto procesu zasáhnout.

Takže ten nápad dávat systémům pevný cíl k realizaci je formou inženýrství, které nefunguje.

Takže co bychom měli dělat namísto toho? Měli bychom konstruovat stroje, jejichž jediným účelem při jejich existence je, aby byly ku prospěchu lidem. Měly by jednat takovým způsobem, aby byly uspokojovány lidské cíle, nikoliv cíle strojů, systémů. Jakmile budeme mít metody, o nichž  se dá dokázat, že jsou bezpečné, a o nichž se dá dokázat, že mají pro lidi prospěch, budeme muset mít přísné předpisy, které zakáží výrobu špatně zkonstruovaných systémů umělé inteligence, které se vymknou lidské kontrole.

Existuje ještě další problém, totiž co si počneme s lidmi, kteří chtějí dělat zlo. Ti čtou všechny ty technické články a vyvíjejí svou vlastní umělou inteligenci, ale nechtějí do toho zahrnout bezpečnostní pojistky. Myslím, že tohle je skutečný problém, Pro ten já žádné řešení nemám. Ale může vám říct, že to způsobí, že  dnešní krize s počítačovými viry a s malwarem bude v porovnání s tím dětská hračka, takže se musíme všichni společně tímhle vážným problémem zabývat.

Další otázkou, kterou musíme být znepokojeni, je skutečnost, že my jsme vlastně dost líní. Možná zjistíme, že je vlastně příliš lákavé dopustit, aby se systém umělé inteligence sám staral pro nás o všechno. Jestliže jste viděli ten film WALL-E, lidská rasa je na téhle zábavní lodi, jejíž plavba nikdy nekončí a lidé jsou tam cestujícími. Stroje se starají o všechno a lidi se stávají obézními a naprosto debilními, nenaučí se ničemu, protože to není zapotřebí. Proč chodit 15 let do školy a něco se naučit, když to systém umělé inteligence stejně už dělá daleko líp. Takže bychom se mohli dostat do situace, kdy se staneme zdětinštělým, ochablým biologickým druhem, který stoprocentně závisí na svých strojích.

V některých ohledech se to už děje, stroje přebírají moc. Přebírají funkce, jako navigaci ve městech, Myslím, že je to pomalý, plížívý proces, a my potřebujeme na to kulturně reagovat. Není to technologický problém, je na naší kultuře, aby znovu zdůraznila hodnotu znalostí, vzdělávání, schopností. Aby si uvědomila, že začínáme být závislí, jakmile si toho začneme být vědomi, a učinit to společensky nežádoucím.

V této hře je mnoho různých herců. Do komunity vědců, kteří tvoří umělou inteligenci, proniká defenzivní popírání tohoto problému. Lidé nechtějí přiznat, že ženou lidskou rasu směrem k útesu. Takže máme před sebou velký úkol přesvědčit všechny, že tohle musejí brát vážně. Ale také poskytnout náhradu.

Jestliže říkáme: Nekonstruujte systémy umělé inteligence tímto způsobem, dělejte to jiným způsobem, máme 70 let technologie, kterou jsme vytvořili. Ale ten nový způsob jak konstruovat technologii většinou zatím ještě neexistuje. Takže máme před sebou opravdu obrovský úkol.
3
Vytisknout
7474

Diskuse

Obsah vydání | 5. 1. 2021