Reportér: Sledujeme pozemní dron od výrobní haly až k frontové linii. Jsme s 93. samostatnou mechanizovanou brigádou. Před námi máme podpůrnou skupinu ozbrojených vojáků. Až vystoupíme, budou sledovat oblohu kvůli dronům, což samozřejmě zůstává velkým nebezpečím. Jejich úkolem je vyslat bezpilotní pozemní vozidlo (UGV) směrem k nedaleké kontaktní linii.

Ozbrojený doprovod pro stroj – každá minuta v zóně smrti představuje šanci, že se na vás zaměří ruský letecký dron.

No, to je uklidňující.

Teď jsme hluboko v dystopii. Míjíme roboty, kteří se řinou tam a zpět z fronty. Uvolňují nám cestu, když projíždíme. Je to dron?

"Jo, to je dron."

Brzy se k nim připojí i UGV na přívěsu před námi. Dorazili jsme na odpalovací pozici, oči upřené k obloze, prsty na spouštích. Otázka zní: proč tito muži riskují své životy, aby dopravili pozemní dron, nebo jak mu říkají, „hada“? 

"Úkolem tohoto stroje je dopravit munici pěchotě na kontaktní linii."  

A o to právě jde. Tento UGV vjíždí do zóny smrti, aby oni nemuseli. Náklad je naložen, dron je vyslán a lidé odjíždějí. Zpátky v řídícím centru hudba z afterparty kontrastuje se smrtícím záměrem a břitkou soustředěností. Operátoři řídí a sledují postup dronu a vysílají zprávu generace Z ruským protějškům. 

Budeme používat volací znaky lidí, včetně velitele. Je to elektrizující. Moderní válčení, jaké byste nikdy nečekali. V loňském roce pomohly UGV 93. jednotce dobýt zpět vesnici, což se považuje za vůbec první případ, kdy toho roboti dosáhli. 

Došlo také k případům, kdy byli ruští vojáci zajati strojem. Ale skutečným příběhem je dramatický nárůst jejich využití v tomto roce. Tisíce evakuací a zásobovacích letů. 

Za posledních šest měsíců pozemní drony absolvovaly přes 66 000 misí. A podle Electricu nyní existují úseky frontové linie obsazené výhradně drony. 

Myslíte si, že brzy nastane okamžik, kdy na kontaktní linii, na Linii nula, zůstanou jen stroje?

"Už se to děje. Rozsah operací v zákulisí je již nyní obrovský."

Opouštíme řídící centrum a vydáváme se na prohlídku dílen po celém Kramatorsku.

Větší rychlost, více světla.

Síť tajných dílen slouží k opravám a vylepšování dronů.

V jedné z nich vidíme pěchotní drony. V jiné obojživelné. V další pak pozemní drony, které vypouštějí letecké drony. V současné době má Electra jednoho operátora na jeden dron. Jak blízko jsme díky umělé inteligenci k poměru 1 operátor na 10 nebo 20 dronů?

"Ne, časově je to náročné. Možná za měsíc, ne za rok. Za měsíc.

Do příštího roku."

"Možná, opravdu. Je to reálné. Jsme tomu velmi blízko."

Většina dronů, které jsme viděli, je vybavena miniaturními Starlings od Elona Muska. Věříte Elonovi Muskovi?

"Nemáme na výběr."

Má obrovskou moc, že? 

Elektrotechnici identifikují v terénu možnosti vylepšení a předávají je přímo výrobci. A nákup je bezproblémový. 

A to nás přivádí přes Ukrajinu do jedné z továren, kde se vyrábějí bezpilotní pozemní vozidla (UGV). Tento závod a lidé, kteří zde pracují, by se stali terčem Rusů, kdyby věděli, kde se nachází. 

Je to jedno z míst, kde se rodí nová armáda. Šéf nám vyprávěl o bodovém systému, který mohou armádní jednotky využívat k získání nového vybavení, jako jsou jeho drony. 

Představte si to jako „věrnostní kartu smrti“.

Například pokud zničíte ruský tank, získáte určitý počet bodů. Pokud zachráníte nebo evakuujete zraněného vojáka, získáte také body. A ty pak můžete jednoduše vyměnit za produkt.

Obava spočívá v tom, že tento bodový systém ještě více „gamifikuje“ tento neustále se vyvíjející konflikt. 

Ukrajinské ministerstvo obrany sdělilo tomuto producentovi i všem ostatním, že jejich vizí je, aby do konce příštího roku byl každý voják na frontové linii nahrazen strojem. Sci-fi už není fikcí. Je to realita továrních hal. 

V dílně potkáváme tohoto veterána. Bojoval a byl zraněn v rozhodující bitvě u Bilohorivky v roce 2022. Popisuje, jak uvízl ve sklepě pod přímou palbou ruského tanku a připravoval se na to, že bude pohřben zaživa. Jak mluví, je dojatý. Do očí se mu hrnou slzy. Otočí se ke své ženě. Stroj, který vyrábí, na to hledí se suchýma očima.

Moderátorka: To byl Paraic O’Brien. Nyní se ke mně připojila doktorka Svetolina Van Benthamová, která přednáší mezinárodní právo na Oxfordské univerzitě a ve svém výzkumu se zabývá umělou inteligencí, kyberprostorem a ozbrojenými konflikty. Děkuji, že jste přišla. Je to opravdu neuvěřitelné, že? Jaká jsou ale rizika tohoto typu technologie?

Svetolina Van Benthamová: Dobrý večer a moc děkuji za pozvání. Jak jste řekla, jsme svědky integrace umělé inteligence, která mění povahu ozbrojených konfliktů. A to s sebou nese řadu výhod. Umožňuje to vytvořit odstup mezi lidmi a frontovou linií. Umožňuje to vyšší rychlost a rozsah konfliktu, stejně jako určitou přesnost. Neměli bychom však zapomínat, že integrace umělé inteligence do vojenského rozhodování s sebou nese značná rizika. Klíčovým rizikem je zde potenciální nesoulad mezi lidským rozhodováním a výstupy strojů. Ten se projevuje řadou konkrétních způsobů. Jednou z obav je například možnost neúmyslného ublížení civilistům. Představte si například dron vybavený umělou inteligencí, který zasáhne civilisty nebo civilní objekty způsobem, který nebyl zamýšlen, předvídán ani dokonce předvídatelný pro lidské operátory a velitele. To vyvolává otázky, zda lidé skutečně dokážou předvídat výsledky umělé inteligence, což má přímý dopad na otázku odpovědnosti. Kromě toho se potýkáme s problémy souvisejícími s vysvětlitelností a transparentností. Dokážou lidé vysvětlit, jak systémy umělé inteligence dospívají ke konkrétním výsledkům? A konečně se potýkáme také s problémy souvisejícími s eskalací.

Moderátorka:  Chtěla jsem se vás konkrétně zeptat na umělou inteligenci. Velmi mě zaujalo, že Paraic byl mezi lidmi, kteří ovládali drony. Zjevně tam byl jeden muž, který naznačil, že jedna osoba může ovládat 20 dronů. Dostaneme se někdy do situace, kdy bude rozhodování řídit umělá inteligence? A jaký je potenciální dopad takového vývoje?

Svetolina Van Benthamová: Empiricky je možné, že právě tímto směrem se bude vývoj ubírat. Zároveň však státy prozatím tvrdí, že mají v úmyslu zachovat lidskou kontrolu nebo alespoň určitou míru lidského zapojení závislou na kontextu při vojenských rozhodnutích, a to i v případech, kdy je zapojena umělá inteligence. Otázkou samozřejmě je, co rozumíme pod pojmy „lidská kontrola“ a „zapojení člověka v závislosti na kontextu“. Stačí určitý stupeň naprogramování systému umělé inteligence? Stačí jen formální lidský zásah? Pokud, jak uvádíte ve zprávě, mluvíme o jedné osobě, která by mohla monitorovat řadu různých systémů. Klíčovou otázkou tedy je: můžeme to skutečně předvídat? Dokážeme skutečně sledovat výsledky a můžeme si být opravdu jisti, že civilisté, civilní objekty a další chráněné osoby a objekty zůstanou chráněny?

Moderátorka: Chci říct, je to docela děsivé. Jen stručně, zavádí se nějaká regulace, nebo ne?

Svetolina Van Benthamová: Neexistuje žádný přímý zákaz používání umělé inteligence ve válce, což však v žádném případě neznamená, že neexistují žádná pravidla mezinárodního práva, která by její použití omezovala. Existuje řada pravidel v rámci práva ozbrojených konfliktů, právních předpisů v oblasti lidských práv a dalších smluv a závazků vyplývajících ze zvyklostí, která omezují způsoby, jakými ji státy a další strany konfliktu používají. Klíčovým problémem je však nedostatečná konkrétnost těchto předpisů. Můžeme sice říci, že zbraně s nerozlišujícím účinkem jsou zakázány, ale co tím „nerozlišujícím“ vlastně myslíme? Jaká je požadovaná úroveň přesnosti a míra odpovědnosti při používání umělé inteligence? A právě tím se státy v Ženevě a New Yorku zabývají – snaží se zjistit, jaká by měla být regulační vize, zda jde o vyjasnění stávajícího práva, nebo o vypracování nové smlouvy.