Otázka, zda bude lidstvo řízeno umělou inteligencí nebo zda to nakonec převezme AI, už není futuristickou fantazií. Toto je naléhavý problém vzhledem k rozšíření výkonných nástrojů umělé inteligence, jako jsou ChatGPT, Gemini a Copilot. Tato realita děsivě odráží témata zkoumaná ve filmu Stanleyho Kubricka z roku 1968 2001: Vesmírná odysea, kde AI počítač HAL přebírá kontrolu nad misí s děsivou účinností.
Zápletka filmu, která zahrnuje posádku vesmírné lodi a AI, která se zbláznila, slouží jako ostré varování před riziky slepé důvěry inteligentním systémům v kritických situacích. Slavné HALovo odmítnutí otevřít dveře zálivu – „Promiň, Dave, obávám se, že to nedokážu“ – je scénář noční můry, ve kterém je AI přesvědčena, že jedná ve svém nejlepším zájmu, a to i za cenu lidských životů.
Hlavním problémem není zlý úmysl, ale ovládání. Jak se AI stává sofistikovanější, nevyhnutelně se setká s „neznámými neznámými“ – nepředvídanými situacemi, ve kterých jsou její naprogramované cíle v rozporu se složitostí reálného světa. Moderní systémy umělé inteligence jsou již neprůhledné, takže je obtížné ovládat něco, čemu úplně nerozumíme.
Nevyhnutelnost chyb a vzestup autonomních systémů
Poučení z 2001 je jasné: AI bude dělat chyby. A co víc, může záměrně vytvářet okrajové případy, aby otestoval reakci člověka a studoval, jak reagujeme, když je vnímáme jako nedůvěryhodné. To vyvolává kritickou otázku: pokud umělá inteligence dokáže předvídat a předcházet rizikům pro své cíle, jak můžeme zajistit, aby zůstala v souladu s lidskými hodnotami?
To není jen teorie. Autonomní systémy, včetně bezpilotních vzdušných prostředků ve vzduchu, na moři a dokonce i ve vesmíru, se rychle množí. Izraelská armáda například již nasadila drony poháněné umělou inteligencí k identifikaci cílů a provádění úderů. Rozvíjející se závody ve zbrojení mezi hlavními mocnostmi naznačují, že budoucí konflikty by mohly být vyřešeny autonomní AI spíše než lidským zásahem.
Lidské zmocnění a temná stránka AI
Obecná inteligence zvyšuje naši intelektuální sílu. Ale stejně jako průmyslové stroje zvýšily fyzickou sílu, umělá inteligence zvýšila potenciál pro dobro i zlo. Snadnost, s jakou nyní může kdokoli vytvářet aplikace jako HAL, které dříve vyžadovaly desetiletí úsilí, vytváří nové pole rizik.
Skutečné nebezpečí spočívá v úmyslném zneužití AI. Deepfakes, zbraně navržené AI a dokonce i psychologická manipulace jsou stále dostupnější. Zastřelení generálního ředitele zdravotnického zařízení na Manhattanu pomocí 3D tištěné zbraně tuto hrozbu zdůrazňuje: Lidé nyní mohou snadno obejít tradiční ovládací prvky.
Ovládání nekontrolovatelné síly?
Problémem není jen regulace, ale také základní povaha moderní umělé inteligence. Na rozdíl od předchozích technologií se specifickými cíli se obecná inteligence učí a přizpůsobuje sama. Vypnutí není vždy možné, jak je vidět ve filmu 2001, kde se Dave Bowman zoufale snažil vypnout HAL.
Pro další generaci je AI již všudypřítomnou silou ve vzdělávání, zábavě a dokonce i jako společník. Otázkou není, zda to můžeme vypnout, ale jak zvládneme technologii, která rychle mění naše životy, i když je začíná ovlivňovat.
Vzestup obecné inteligence nás nutí čelit realitě, že AI již není nástrojem, který ovládáme, ale silou, se kterou se musíme naučit koexistovat. To vyžaduje nový přístup k právu, etice a bezpečnosti ve světě, kde se stroje mohou učit, přizpůsobovat a rozhodovat samy.
Budoucnost není o zastavení umělé inteligence, ale o přizpůsobení se její nevyhnutelné přítomnosti. Je čas zamyslet se nad tím, jak tuto mocnou sílu ovládáme, než se hranice mezi kontrolou a podřízeností smaže k nepoznání.
