Tristan Harris o peklu umělé inteligence a sociálních sítí

21. 3. 2024

čas čtení 12 minut
Tristan Harris. (Foto Stephen McCarthy/Collision via Sportsfile)

Moderátor, BBC Radio Four Today Programme, středa 20. 3. 2024: Před více než deseti lety pracoval Tristan Harris ve společnosti Google jako etik designu. Napsal článek se 141 slajdy s názvem "A call to minimise distraction and respect users' attention (Výzva k minimalizaci rozptylování a respektování pozornosti uživatelů)". Jednoduše se obával, že náš vztah k technologiím se vyvíjí  špatně. Místo aby nás osvobodila a soustředila se na to, co činí bytí člověkem výjimečným a cenným, podkopává naši autonomii, soustředila příliš mnoho moci v příliš málo rukou a poškodila posvátná pouta, která dávají našemu životu smysl. Založil Centrum pro humánní technologie, které nyní věnuje spoustu času varování světa nejen před nebezpečím sociálních médií a chytrých telefonů, ale i umělé inteligence. Přicestoval ze Států a právě teď přichází do studia pořadu Today. A dobré ráno.
 

Pojďme krátce k tomu příběhu o vzniku vaší organizace. Jsem obeznámen s výkonnou zprávou o technologických společnostech, ale mnoho lidí ji znát nebude. Nebudou vědět, že jste byl v různých seznamech časopisu Time stovky nejvlivnějších lidí v oblasti technologií a tak dále. Proč jste odešel ze společnosti Google?


Tristan Harris:  Byl jsem v Googlu, a to v roce 2013, a viděl jsem, že v příštích deseti letech nás čeká zkáza, pokud dovolíme, aby tato zvrácená motivace v technologiích pokračovala, a tou zvrácenou motivací byl závod o pozornost - když jsem seděl v Googlu, nebylo to tak, že by problémem byl Google samotný, ale to, že Google hostoval a šířil  tuto ekonomiku pozornosti a lidé mají jen určité množství  lidské pozornosti. A chytré telefony otevřely tuto zcela novou nemovitost lidské pozornosti schopností trvale oslovovat  lidi 24 hodin denně, 7 dní v týdnu a společnosti sociálních médií byly nuceny maximalizovat  čas strávený zapojením lidí. Dokonce i BBC musí maximalizovat pozornost svých posluchačů, že? Ale ne způsobem, který je napojen na cenu akcií v bilionovém tržním ocenění jako to musí dělat TikTok nebo Facebook. A tak jsem se snažil poukázat na to, že pokud nezastavíme závod o pozornost, vytvoří to závod o jádro našeho mozkového kmene k ještě návykovější, roztěkanější, polarizovanější, sexualizované společnosti, protože to všechno je ten ekonomický úspěch tohoto obchodního modelu angažovanosti.

Moderátor: A abychom si udělali představu o tom, jak tyto pobídky fungují v praxi, vím, že jste často mluvil o tom příkladu YouTube, kde si spousta lidí neuvědomuje, že YouTube byl vynalezen teprve v roce 2000, vytvořen v roce 2004. je to něco přes 2 a půl miliardy lidí, co používají You Tube?  Jen nám dejte představu o tom, kolik času na něm tráví a jak velkou část sledování YouTube netvoří to, co lidé vyhledali, ale to, co vám předhodí algoritmy YouTube, aby upoutaly vaši pozornost.

Tristan Harris:  To je pravda. Myslím, že drtivou většinu návštěvnosti YouTube tvoří doporučení od algoritmů. Ale stejně jako u TikToku, i pro ty, kteří používají TikTok, když používáte YouTube nebo TikTok, máte v podstatě superpočítač namířený na svůj mozkový kmen, a tak za tou skleněnou tabulkou, když přejedete prstem nahoru, abyste viděli, jaké je další video, jste právě aktivovali největší superpočítač na světě namířený na váš mozek, aby vypočítal, které video vás s největší pravděpodobností udrží u sledování. A lidé říkají: "Dobře, tak o co jde? Pokud mi to doporučuje videa, která se mi líbí nebo která mě zaujmou, proč bychom to měli považovat za škodlivé? 

Proto, že to každému člověku personalizuje to další video, a tak to   rozbíjí naši sdílenou realitu, protože teď každý dostává svou vlastní na míru šitou, angažovanou realitu.  Pro dospívající dívku. Pokud začne s videem o dietě, další video bude video o anorexii, protože videa o anorexii vás dobře udrží na YouTube, To, že jsme dovolili, aby tento experiment trval 10 let, všude to vytvořilo politicky rozhořčenější a rozpolcenější společnost. V demokraciích, jak jste se zmínil dříve, tento rok jsou jakési super volby demokracií v roce 2024,  2 miliardy lidí budou mít demokratické volby.

Moderátor: Více než polovina lidstva, ano..

Tristan Harris: A právě v tuto dobu, kdy máme největší referendum o demokracii, máme všechny ty nové nástroje umělé inteligence, které nám umožňují superpoužívat všechny škody sociálních médií, včetně dezinformací, deep fake,  hlubokých podvrhů a podobných věcí.

Moderátor:  Jen k vaší poznámce o tom klasickém příkladu, kdy jdete hledat radu ohledně stravování a skončíte u obrázků anorexie.  Vím, protože jsem to tu otázku  různým společnostem položil, že Google by řekl, Facebook by řekl, že přijali velmi rozsáhlá opatření, aby se pokusili držet lidi dál od tohoto druhu škodlivého obsahu, od sebepoškozování, což je problém, o kterém jsme v tomto pořadu často mluvili. Myslíte si, že se jim to podařilo?

Tristan Harris:  Určitě do toho hodně investovali. Zejména poté, co jsme kvůli tomu začali asi před pěti lety vznášet obavy, ale musíte si představit, že tento algoritmus, tento doporučovací systém běžel 10 let, dlouho bez omezení, 10 let, a za tu dobu napáchal velké škody. škoda. Způsobil rozhádanost obyvatelstva,  a také víte, TikTok je opravdu nejpoužívanější. Celosvětově... Ano, více než miliarda. A  jedna věc, kterou by si západní země měly uvědomit, je otázka, zda byste během studené války dovolili Sovětskému svazu ovládat televizní program pro celý západní svět? A myslím si, že je opravdu zajímavé přemýšlet o společnosti ovlivněné čínskou komunistickou stranou, která určuje, co uvidí 2 miliardy lidí na celém světě při příštích volbách. Takže nejde jen o to, že byste řekněme v 60. letech minulého století dovolili Rusku určovat televizní program pro USA nebo Velkou Británii. Dovolíte, aby se televizní program chystal na vaše nejdůležitější volby, že? Takže to je opravdu nebezpečná situace, a proto se v USA v poslední době rozmohl ten zákaz TikToku.

Moderátor: Je to zajímavé. Chtěl jsem říct, že TikTok samozřejmě popírá, že je vlastněn Čínou. Všiml jsem si, že používáte slovo čínský vliv a jak říkáte, Washington přijímá značná opatření.

Pojďme k mladým lidem, co ukazují důkazy o vlivu chytrých telefonů a sociálních médií na mladou mysl?

Tristan Harris:  Ano, tohle všechno bylo  velmi předvídatelné. Určitě se zkracuje doba pozornosti. Existuje slavný citát Charlieho Mungera, což je obchodní partner Warrena Buffetta, který řekl, že když mi ukážete podnět, ukážu vám výsledek. A víte, když se předháníte v boji o pozornost, když vám ukážu krátké zvukové štěky, které se pohybují opravdu rychle, předstihnu svého konkurenta, který vám nabídne pouze 30minutová videa?  A krátké zvukové klipy budou fungovat mnohem lépe. Takže zkracování doby pozornosti bude všude odměněno.  To se děje mladým lidem, ale děje se to i nám. Jonathan Height, autor, vydal novou knihu, o které s ním budu mluvit vlastně až za měsíc v San Francisku, jmenuje se Úzkostná generace. A v ní jsou opravdu popsány všechny důkazy pro každého, kdo měl někdy pochybnosti nebo si říkal, že si nejsem jistý, jestli je věda opravdu jasná. Prostě to všechno dal dohromady ve velmi přehledném a efektivním formátu.

Moderátor: Je to skvělý autor. Už jsme ho tu měli několikrát, napsal knihu Spravedlivá mysl, kterou by spousta lidí mohla znát, ale jeho zájmem je zmapovat vzestup Instagramu, což je podle něj hlavní problém. A nárůst úzkosti a deprese mezi dospívajícími dívkami v Americe.

Tristan Harris: To je pravda. Úzkost, deprese, sebepoškozování, problémy s obrazem těla, tělesná dysmorfie. Ale to všechno se dá opět předvídat, protože jak se aplikace předhánějí v boji o pozornost, ty, které přidávají zkrášlovací filtry, díky nimž vypadáte lépe, začínají konkurovat aplikacím, které to nedělají. Takže pokud Snapchat přidá zkrášlovací filtry, ostatní je musí přidat také. Bylo zjištěno, že TikTok neviditelně přidal o 5 % krásnější zkrášlovací filtry, aniž by se uživatelů vůbec zeptal na souhlas. protože je to něco jako zrcadlo zrcadlo na stěně, které mědělá nejlepšího ze všech, budu ho používat více neviditelně. Ani nebudu vědět, že mě  ovlivňuje Protože my  máme rádi věci, na které se můžeme dívat.

Moderátor: Měl bych říct, že ještě tento týden budeme mluvit s Jjonathanem Heightem, umělá inteligence to všechno posouvá na novou úroveň a často slýcháme o potenciálu umělé inteligence.  Je jedním z definičních znaků umělé inteligence právě rychlost vývoje a lidstvo potřebuje čas, aby vstřebalo nové technologie, že? Potřebujeme čas, abychom jim porozuměli, a zdá se, že umělá inteligence v tomto ohledu si oprqavdu sama dělá, co chce.

Tristan Harris:  To je pravda. Ano. Umělá inteligence dramaticky prohloubí problémy, které jsme viděli u sociálních médií. Pokud tedy o sociálních médiích uvažujete jako o prvním kontaktu s kurátorskou AI, vše, co dělá, je kurátorství, určuje, který videopříspěvek nebo tweet se vám zobrazí, když přejedete prstem vpravo nahoru a posunete obrazovku. A jen to už stačilo k tomu, aby tak  upadly demokracie po celém světě, aby se podělalo duševní zdraví dětí, aby to opravdu narušilo a pokřivilo společnost. A nyní, při druhém kontaktu s umělou inteligencí, to je  generativní umělá inteligence. Neurčuje to, co vidíme. Je schopná generovat, generovat text.

Moderátor: Přicházet s novými nápady.

Tristan Harris:  S novými videi, novými rozhodnutími, novými nápady,  generuje vědecké hypotézy. Víte, generuje analýzy trhu. Můžete použít umělou inteligenci ke generování obsahu a pak to, co vám umožňuje dělat, je vyrábět deep fakes, s nimiž můžete jít do voleb. Můžete mít nadlidské přesvědčování a řeč. Můžete určit, vzhledem k tomu, že tento člověk žije v této části společnosti s touto demografií a tímto příjmem, co by pro něj bylo motivující sdělení? A můžu dělat nadlidské přesvědčování vice lidí. Můžeme také generovat audio.  Můžu si vzít 5, 10 sekund vašeho hlasu. A pak mohu začít vytvářet jakousi vaši falešnou verzi a   mluvit tím s vaší bankou. Tohle superzvýší mnoho dalších problémů, které jsme viděli v souvislosti se sociálními médii. 

A jak jste řekl, pokud pobídka předpovídá výsledek, v sociálních médiích bylo pobídkou zapojení, angažmá. V tomto dalším kolem, v umělé inteligenci je pobídkou závod o zavedení. Jde nyní o tom, kdo nasadí svou umělou inteligenci rychleji než ten druhý, a to znamená, že závodí co nejrychleji, což znamená, že vyhodí bezpečnost z okna. Nejde o to, že by se lidé nestarali o bezpečnost, ale o to, že jí nejsou schopni věnovat čas, když jejich konkurenti prostě vydávají věci co nejrychleji. Je to jednak závod mezi USA a Čínou, ale také  závod západních společností mezi sebou.

Moderátor: Proto o tom musíme mluvit.  Tristram Harris. Spoluzakladatel a výkonný ředitel Centra pro humánní technologie. Děkujeme, že jste k nám přišel.

Tristan Harris: Moc děkuji za pozvání.

Zdroj v angličtině ZDE (od minuty 2.37.00)

0
Vytisknout
5114

Diskuse

Obsah vydání | 22. 3. 2024