Tuto sobotu, 26. října 2024, uplyne 40 let od uvedení klasického sci-fi filmu režiséra Jamese Camerona Terminátor – filmu, který zpopularizoval strach společnosti ze strojů, s nimiž se nedá domluvit a které se „absolutně nezastaví… dokud nezemřete“, jak památně říká jedna z postav. Zápletka se týká superinteligentního systému umělé inteligence zvaného Skynet, který ovládl svět tím, že zahájil jadernou válku. Uprostřed následné devastace uspořádají přeživší lidé úspěšný boj pod vedením charismatického Johna Connora.
V reakci na to Skynet vyšle kyborga zabijáka (hraje ho Arnold Schwarzenegger) zpět v čase do roku 1984 – před Connorovo narození – aby zabil jeho budoucí matku Sarah. John Connor je pro válku tak důležitý, že Skynet vsadí na jeho vymazání z historie, aby zachoval svou existenci.
Zájem veřejnosti o umělou inteligenci dnes pravděpodobně nikdy nebyl větší. Společnosti vyvíjející umělou inteligenci obvykle slibují, že jejich technologie budou provádět úkoly rychleji a přesněji než lidé. Tvrdí, že umělá inteligence dokáže v datech rozpoznat vzory, které nejsou zřejmé, a zlepšit tak lidské rozhodování. Všeobecně panuje názor, že umělá inteligence je připravena změnit vše od válčení po hospodářství.
K bezprostředním rizikům patří vnášení předsudků do algoritmů pro prověřování žádostí o zaměstnání a hrozba, že generativní AI vytlačí člověka z určitých druhů práce, jako je programování softwaru.
Veřejné diskusi však často dominuje existenční nebezpečí – a šest filmů o Terminátorovi mělo velký vliv na způsob, jakým jsou tyto argumenty formulovány. Ve skutečnosti podle některých filmové ztvárnění hrozby, kterou představují stroje řízené umělou inteligencí, odvádí pozornost od podstatných výhod, které tato technologie nabízí.
Terminátor nebyl prvním filmem, který se zabýval potenciálním nebezpečím umělé inteligence. Existují paralely mezi Skynetem a superpočítačem HAL 9000 ve filmu Stanleyho Kubricka 2001: Vesmírná odysea z roku 1968.
Čerpá také z románu Mary Shelleyové Frankenstein z roku 1818 a divadelní hry Karla Čapka R.U.R. z roku 1921. Oba příběhy se týkají vynálezců, kteří ztrácejí kontrolu nad svými výtvory.
Při vydání byl film v recenzi New York Times popsán jako „béčkový film s vkusem“. V následujících letech byl uznán za jeden z nejlepších sci-fi filmů všech dob. V pokladnách kin vydělal více než dvanáctinásobek svého skromného rozpočtu 6,4 milionu USD (4,9 milionu liber podle dnešního kurzu).
Na Terminátorovi bylo pravděpodobně nejinovativnější to, jak si znovu představil dlouholeté obavy z povstání strojů skrze kulturní prizma Ameriky 80. let. Podobně jako film WarGames z roku 1983, kde teenager málem vyvolá třetí světovou válku nabouráním se do vojenského superpočítače, Skynet zdůrazňuje studenoválečné obavy z jaderného zničení spojené s obavami z rychlých technologických změn.
Po čtyřiceti letech patří Elon Musk k technologickým lídrům, kteří pomohli udržet pozornost na údajném existenčním riziku umělé inteligence pro lidstvo. Majitel společnosti X (dříve Twitter) se opakovaně odvolává na sérii Terminátor a zároveň vyjadřuje obavy z hypotetického vývoje superinteligentní UI.
Taková přirovnání však často dráždí zastánce této technologie. Jak řekl bývalý britský ministr technologií Paul Scully na londýnské konferenci v roce 2023: „Pokud budete mluvit o konci lidstva jen kvůli nějakému darebáckému scénáři ve stylu Terminátora, přijdete o všechno dobré, co umělá inteligence [může přinést].“
To neznamená, že neexistují skutečné obavy z vojenského využití umělé inteligence, které se dokonce mohou zdát paralelní s filmovou sérií.
Zbraňové systémy řízené umělou inteligencí
K úlevě mnoha lidí američtí představitelé prohlásili, že umělá inteligence nebude nikdy rozhodovat o nasazení jaderných zbraní. Spojení UI s autonomními zbraňovými systémy je však možné.
Tyto zbraně existují již desítky let a nevyžadují nutně umělou inteligenci. Po aktivaci mohou vybírat a útočit na cíle bez přímého ovládání člověkem. V roce 2016 generál amerického letectva Paul Selva vytvořil termín „terminátorová hádanka“, aby popsal etické a právní problémy, které tyto zbraně představují.
Stuart Russell, přední britský počítačový vědec, argumentuje pro zákaz všech smrtících, plně autonomních zbraní, včetně těch s umělou inteligencí. Hlavní riziko podle něj nepředstavuje to, že by rozumný systém ve stylu Skynetu začal řádit, ale to, jak dobře se autonomní zbraně mohou řídit našimi pokyny a zabíjet s nadlidskou přesností.
Russell si představuje scénář, kdy by se mohly masově vyrábět malé kvadrokoptéry vybavené umělou inteligencí a výbušnými náložemi. Tyto „slaughterboty“ by pak mohly být nasazovány v rojích jako „levné, selektivní zbraně hromadného ničení“.
Země včetně USA specifikují potřebu, aby lidská obsluha „uplatňovala odpovídající úroveň lidského úsudku při použití síly“ při obsluze autonomních zbraňových systémů. V některých případech mohou operátoři před povolením úderů vizuálně ověřit cíle a v případě změny situace mohou útok „odvolat“.
Umělá inteligence se již používá k podpoře vojenského zaměřování. Podle některých je to dokonce zodpovědné využití technologie, protože by to mohlo snížit kolaterální škody. Tato myšlenka evokuje Schwarzeneggerův obrat v roli dobrotivého „strážce strojů“ v pokračování původního filmu Terminátor 2: Soudný den.
Umělá inteligence by však také mohla oslabit roli, kterou hrají lidští operátoři dronů při zpochybňování doporučení strojů. Někteří výzkumníci se domnívají, že lidé mají tendenci věřit všemu, co počítače řeknou.
Od „potulující se munice“ k pronásledující munici
Vojenské jednotky zapojené do konfliktů stále častěji využívají malé a levné bezpilotní letouny, které mohou odhalit a narazit do cíle. Tato „létající munice“ (pojmenovaná tak proto, že je navržena tak, aby se vznášela nad bojištěm) se vyznačuje různým stupněm autonomie.
Jak jsem uvedl ve výzkumu, který jsem napsal společně s bezpečnostní výzkumnicí Ingvild Bode, dynamika války na Ukrajině a dalších nedávných konfliktů, v nichž byla tato munice široce používána, vyvolává obavy ohledně kvality kontroly prováděné lidskými operátory.
Zemní vojenští roboti vyzbrojení zbraněmi a určení pro použití na bojišti mohou připomínat neúprosné Terminátory a vzdušné drony se zbraněmi se časem mohou začít podobat vzdušným „lovcům-zabijákům“ z této série. Tyto technologie k zatím nemají nenávist k lidem jako Skynet a nejsou ani „superinteligentní“. Je však nesmírně důležité, aby lidští operátoři nadále vykonávali činnost a smysluplnou kontrolu nad strojovými systémy.
Největším dědictvím filmu Terminátor je pravděpodobně zkreslení toho, jak o umělé inteligenci kolektivně přemýšlíme a mluvíme. To je nyní důležitější než kdy jindy, protože tyto technologie se staly ústředním prvkem strategického soupeření o globální moc a vliv mezi USA, Čínou a Ruskem.
Celé mezinárodní společenství, od velmocí, jako jsou Čína a USA, až po menší země, musí najít politickou vůli ke spolupráci – a zvládnout etické a právní výzvy, které vojenské aplikace umělé inteligence v tomto období geopolitických otřesů představují. To, jak se státy s těmito výzvami vypořádají, rozhodne o tom, zda se nám podaří vyhnout se dystopické budoucnosti, kterou si tak živě představujeme ve filmu Terminátor – i když se v dohledné době nedočkáme kyborgů cestujících v čase.
Autor textu: Tom F.A Watts, Postdoktorand, Katedra politiky, mezinárodních vztahů a filozofie, Royal Holloway University of London
PS. Pokud se chcete opravdu vyděsit, přečtěte si text https://www.infojet.cz/blog/jak-model-chovani-ztracenych-osob-zachranuje-zivoty/ . Text se zabývá vzorci chování a metodami jak naopak vyhledat a zachránit život osobám ztraceným v divočině. Nicméně možnost opačného využití se přímo nabízí. Jakmile si vás „Terminátor“ ztotožní, dohledá potřebné informace vašem věku, kondici, znalostech, sociální skupině a kondici, včetně toho zda jste chodili do skauta. Určí nejen jak se budete pohybovat v neznámém terénu, ale s dobrou mírou přesnosti určí i váš budoucí pohyb terénem, zda se vydáte po úbočí, po hřebeni nebo se bude držet potoka v údolí. A pak vás najde.