ČRo: Neregulovaná umělá inteligence může internet zcela zahltit. Vznikne totální chaos, kde se ztratí úplně každý, varuje publicista Kartous

4. 4. 2024

čas čtení 4 minuty
 
 

Podle vysokoškolského pedagoga a publicisty Bohumila Kartouse roste i u nás skupina lidí, kteří věří úplným bludům. S umělou inteligencí (AI) to může dosáhnout až fáze neřešitelnosti. „Nedávná bezpečnostní konference v Mnichově ukázala, že je to vážný problém. Také se reprezentace korporací, které ovládají velké sociální sítě a platformy, deklaratorně zavázala, že bude hledat cestu, jak zamezit zneužívání nástrojů umělé inteligence,“ říká v Osobnosti Plus.

 

„V tomto směru jde určitě o hrozbu, která je zcela emergentní, protože nástroje AI jsou dnes tak dostupné a levné, že můžou zahltit internet něčím, co vytvoří totální chaos. A v něm se pak společnost naprosto ztratí. Je tak velmi důležité si uvědomit, že toto není otázka racionality, ale hodnot, které společnosti zastávají,“ doplňuje prorektor pro strategii a rozvoj Vysoké školy ekonomie a managementu (VŠEM) a mluvčí Českých elfů.

Jako příklad uvádí Finsko, kde také mají populisty, ale jsou velmi proevropští, pro řešení klimatické krize, naplno podporují i pomoc Ukrajině.

„Takže mají málo styčných bodů s tím, čemu tady říkáme populismus. Ten náš je totiž mnohem radikálnější, extrémnější – to celé ukazuje na to, že hodnotové rozpětí finské společnosti je mnohem menší než to naše.“

„Jsem ale optimista a věřím, že česká společnost je na dobré cestě, že není tak rozviklaná, polarizovaná a tak vnitřně slabá, jako je v Maďarsku i na Slovensku. My jsme tomu schopni odolat, ale je důležité zamezit zneužití různých technologických nástrojů,“ nabádá pedagog a publicista.

Vše stojí na majitelích, ne na státu

U umělé inteligence a jejího zneužívání například na sociálních sítích je to podle něj o to složitější, stát a společnost totiž hrají až druhé housle.

„Ukázal krásu internetu, ale stal se hrobařem nadějí.“ Jak nám Facebook změnil za 20 let život?

„I technologický vývoj v digitálním prostoru mají v rukou soukromí investoři. A tím, že tady nad ním nemáme zatím žádnou kontrolu, je to ještě horší,“ dodává s tím, že proto tak nutně potřebujeme nějakou regulaci, tlačit ale musíme hlavně na Evropskou unii, protože jen ta může něčeho dosáhnout.

„A je to v současnosti jediná cesta, jak dosáhnout toho, abychom si udrželi kontrolu nad veřejným zájmem,“ zdůrazňuje Kartous.

„Pokud nechceme dospět do situace, že se z internetu stane místo totálního informačního chaosu, ve kterém se všichni ztratíme, ve kterém nebude možné vůbec posoudit, co je pravda, nebo co není, musíme to uhlídat.“

„Už jen existence deepfake znamená, že když někdo nachytá nějakého politika, tak on bude moct říct, že to neřekl a je to deepfake – a už nikdo nerozliší, jestli to tak je. Je tak opravdu nutné snažit se vynutit odpovědnost od těch stran, které tento prostor vysloveně ovládají.“

Deepfakes a jedy

Kartous rád používá příměry, hrozbu AI a deepfakes tak přirovnává k intenzifikaci průmyslové výroby, u které se nakonec způsob regulace našel, takže provozovatelé byli donuceni nevypouštět jedy do vody, vzduchu, půdy.

„V krizových situacích, jakou byl začátek války na Ukrajině, došlo k tomu, že byly některé zdroje informací na čas eliminovány, a to proto, že by mohly šířit nepřátelskou propagandu. To je stejné jako s tím jedem zamořujícím vzduch. Měli bychom jít stejnou cestou.“

AI může být pro firmy stejně užitečná jako telefon. Český průmysl ale digitalizaci podceňuje, říká vědec Kulveit

„A stanovení hranice, která se musí otestovat, zamezí tomu, aby byl náš svobodný prostor zneužíván těmi, kteří si rozhodně nepřejí podporu hodnotově založené demokracie. To je cesta. Vedle toho jsou tady i dlouhodobé cíle v podobě udržování hodnotové homogenity společnosti. A to se dá dělat nejlépe ve vzdělávacím systému.“

„Už dnes také existují technologie, které dokážou označovat produkty softwaru postaveného na AI tak, aby bylo jasné, že jde o produkt umělé inteligence. Když to pak firmy implementují do svých nástrojů, tak to je to, čemu říkám regulace. A je to stejné jako ten filtr na komínu, kterým chráníme vzduch před jedem.“

 

0
Vytisknout
2023

Diskuse

Obsah vydání | 9. 4. 2024