Geoffrey Hinton: Nedáme-li si pozor, umělá inteligence za pár let zničí lidstvo
30. 12. 2024
čas čtení
8 minut
(Z publicistického pořadu "Today" rozhlasu BBC z pátku 27.12., který se z velké části věnoval umělé inteligenci.)
Moderátor: Pokud jste dnes ráno s námi, víte, že naším hostujícím
editorem je bývalý konzervativní ministr sir Sajid Javid. Během svého
pořadu se zabývá potenciálem umělé inteligence pro transformaci
společnosti. Chtěl si promluvit s jedním z prvních průkopníků této
technologie, Jeffreym Hintonem, známým jako jeden z takzvaných kmotrů
umělé inteligence. Hinton pracoval ve společnosti Google více než deset
let v oblasti technologie hlubokého učení. A na začátku letošního roku
získal Nobelovu cenu za fyziku. Sajid tedy rozhovor zahájil otázkou,
jaký je to pocit získat tuto historickou cenu.
Geoffrey Hinton: Na začátku to byl velmi zvláštní pocit. Myslel jsem si nejprve, že si někdo ze mě dělá legraci, protože nejsem fyzik.
Sajid Javid: Myslel jste si, že to bylo něco, co si vymyslela umělá inteligence?
Geoffrey Hinton: Ne, to jsem si nemyslel. AI. Myslel jsem si, že si z mě někdo dělá legraci, ale měl silný švédský přízvuk, takže jsem si poměrně brzy uvědomil, že to je skutečné.
Sajid Javid: Zajímalo by mě, jestli jste si myslel, když jste s touto prací začínal, že právě tady budeme už teď.
Geoffrey Hinton: Nenapadlo mě, že už teď budeme tak daleko. Myslel jsem si, že se sem někdy v budoucnu dostaneme, ale situace, ve které se teď nacházíme, je taková, že většina odborníků v této oblasti si myslí, že někdy pravděpodobně během příštích 20 let vyvineme umělou inteligenci, která bude chytřejší než lidé. A to je velmi děsivá představa.
Sajid Javid: No, někde jsem četl že lidé jsou něco jako, já nevím, 10 000krát a více chytřejší než zlatá rybka. Umělá superinteligence by mohla být 10 000krát inteligentnější než člověk. Je to něco takového, o čem mluvíme?
Geoffrey Hinton: Není jasné, co v tomto kontextu znamenají ty násobky. Rád o tom přemýšlím tak, že si představím sám sebe jako tříleté dítě. My budeme tříleté děti a oni budou dospělí.
Sajid Javid: Myslíte si, že si lidé, společnost obecně uvědomují, jak hluboká změna se blíží? Mluvil jsem o změně, kterou umělá inteligence přinese, jaksi na úrovni vynálezu kola, objevení ohně. Mohlo by to dojít tak daleko?
Geoffrey Hinton: Myslím, že je to jako průmyslová revoluce. V průmyslové revoluci přestala být lidská síla tak důležitá, protože stroje byly prostě silnější. A když jste chtěli vykopat příkop, vykopali jste ho strojem. To, co máme teď, je něco, co nahrazuje lidskou inteligenci. Už nebudeme na špici. Budou to stroje.
Sajid Javid: Jak si myslíte, že by pak mohl vypadat život řekněme za 10 až 20 let?
Geoffrey Hinton: Bude velmi záležet na tom, jak s touto technologií naloží naše politické systémy. Moje velká obava v současné době spočívá v tom, že jsme nyní v situaci, kdy musíme být velmi opatrní, velmi promyšlení, pokud jde o vývoj potenciálně velmi nebezpečné technologie. Bude mít spoustu úžasných účinků ve zdravotnictví a téměř v každém odvětví. Zefektivní věci. Musíme však být při jejím vývoji velmi opatrní. Potřebujeme předpisy, které zabrání lidem, aby ji používali ke špatným účelům, a zdá se, že v současné době takové politické systémy nemáme.
Sajid Javid: Také mě, jako bývalého ministra a zejména jako bývalého ministra financi, zajímá, jak by to podle vás mohlo změnit stávající struktury. Tak například, víte, že jste mluvil o tom, že mnoho lidí by přišlo o svá pracovní místa, jak se to zřejmě stalo s průmyslovou revolucí. A co to znamená pro společnost a typy pracovních míst, které by mohly být ztraceny, a to je to, co bych mohl zmínit, když mluvím o tom špatném. Chci říct, že to je druh věcí, které jsou nutným důsledkem technologických změn. Ale jak hluboké to podle vás bude?
Geoffrey Hinton: No, pokud chcete vědět, co se stalo v průmyslové revoluci obyčejným lidem, myslím, že je dobré číst Dickense. Podobné množství změn způsobí i umělá inteligence a já se obávám, že i když způsobí obrovský nárůst produktivity, což by mělo být pro společnost dobré. Může to být nakonec pro společnost velmi špatné, pokud veškerý prospěch získají bohatí. A spousta lidí přijde o práci a zchudne. Pokud máte velké rozdíly mezi bohatými a chudými, je to pro společnost špatné.
Tentokrát jsou tyto věci inteligentnější než my, takže v průmyslové revoluci nikdy nebyla šance, že by stroje převzaly vládu nad lidmi jen proto, že jsou silné. Pořád jsme to měli pod kontrolou, protože teď máme inteligenci. Hrozí, že tyto věci mohou převzít kontrolu. Takže to je jeden velký rozdíl.
Sajid Javid: Myslíte si, že je to možná také rychlost změn v současnosti? Je to také velmi hluboké. Skutečné tempo, které vidíme, jak rychle se to všechno děje?
Geoffrey Hinton: Ano, je to velmi, velmi rychlé. Došlo k tomu mnohem rychleji, než se očekávalo. Protože je to tak rychlé, neměli jsme čas provést potřebný výzkum, jak to udržet pod kontrolou.
Sajid Javid: Zajímal by mě váš názor na tuto problematiku a na některé dobré věci, které se již objevují díky umělé inteligenci, například jako bývalý ministr zdravotnictví hodně přemýšlím o pokroku, kterého lze dosáhnout v lékařském výzkumu v oblasti věd o živé přírodě. Je to odvětví, které byste si vybral? To je skutečně něco, kde můžeme lidem skutečně prodloužit zdravé roky života. Všichni můžeme žít déle a pomáhat šťastnějším a zdravějším.
Geoffrey Hinton: Ano, takže si myslím, že to přinese obrovský užitek. A proto je nereálné mluvit o zastavení tohoto pokroku. Je nerealistické říkat, že tyto věci mohou být velmi nebezpečné, zastavme jejich vývoj. Já jsem před několika lety nepodepsal petici, která to požadovala, protože mi to prostě přišlo naprosto nereálné. Například ve zdravotnictví budeme moci mít za pár let rodinné lékaře, kteří v podstatě viděli 100 milionů pacientů a znají všechna vyšetření, která kdy byla provedena vám a vašim příbuzným. Každý rok zemře 200 000 lidí na špatnou diagnózu. Většina z toho už zmizí. Systém umělé inteligence je lepší než lékař, který provádí diagnostiku, a kombinace systému umělé inteligence a lékaře je mnohem lepší než lékař, který řeší obtížné případy.
Sajid Javid: Myslím, že jste řekl, že je 10% šance, že AI povede k vyhynutí lidí během příštích tří desetiletí. Změnilo se něco na vaší analýze této otázky?
Geoffrey Hinton: Ani ne. Myslím, že je to 10 až 20 procent.
Sajid Javid: Aha, vy to zvyšujete?
Geoffrey Hinton: Vidíte, že jsme se nikdy předtím nemuseli potýkat s věcmi inteligentnějšími, než jsme my sami. A kolik znáte příkladů, kdy inteligentnější věc byla ovládána méně inteligentní věcí? Těch příkladů je velmi málo. Je tu matka s dítětem. Evoluce si dala hodně práce s tím, aby dítě mohlo ovládat matku, ale to je asi jediný příklad, který znám.
Sajid Javid: K tomu, co jste právě řekl, zůstávám optimistou, pokud jde o umělou inteligenci a její význam, mám pravdu, že to tak cítím?
Geoffrey Hinton: Doufám, že máte pravdu. Obávám se, že neviditelná ruka nás neochrání. Takže jen ponechání na ziskovém motivu velkých společností nebude stačit k tomu, aby zajistily bezpečný vývoj. A když se podíváte na historii otevřené umělé inteligence, vidíte, že zpočátku jim na bezpečnosti velmi záleželo, a jak šel čas a potenciální zisky rostly, na bezpečnost dbali stále méně. Jediné, co může tyto velké společnosti donutit, aby se více zabývaly bezpečností, je vládní regulace.
Zdroj v angličtině ZDE
2363
Diskuse