Když chcete odhadnout, jak by dopadla válka, můžete uspořádat tzv. wargaming. V této simulaci si ověříte, jak by konflikt asi mohl probíhat a kdo by zvítězil.Že nevíte, jak na takovou simulaci? Naštěstí existují společnosti, které se na wargaming specializují. Asi nejznámější je RAND, která nejen pro Pentagon dělá simulace válek už desítky let.Před dvěma lety v RANDu vzniklo „Centrum pro geopolitiku AGI“ a před pár týdny si v něm zkusili analyzovat možnosti USA v konfliktu se zlotřilou umělou inteligencí.
Jak na ni?
Kdyby se AI zvrhla a chtěla nás zabít, vypnuli bychom elektřinu a AI by měla smůlu! Podobné nápady občas slýchávám. I proto je dobře, že si to v RANDu zkusili představit konkrétně a zvážit, jestli je něco takového reálné.Jak by USA mohly bojovat proti nesmírně schopné AI, která se vymkla kontrole a směřuje k vyhubení lidstva či alespoň uchvácení vlády v USA?RAND uvádí tři možnosti, které by USA mohly využít (bez široké mezinárodní koalice). První se zaměřuje na AI hardware. Jak fyzicky zničit servery po celém světě, na nichž zlá umělá superinteligence existuje? Není přece reálné, aby kdokoli chodil po celém světě, hledal servery a mlátil do nich kladivem. Takových potenciálních hostitelských serverů je minimálně několik tisíc, rozesetých od Austrálie po ČR.Naštěstí existuje mnohem „elegantnější“ řešení. Odpálíte atomové zbraně ve výšce cca 75 kilometrů. Ionizace vzduchu způsobí elektromagnetický pulz, v drátech elektrické sítě se vytvoří velké napětí, a AI čipy jsou v háji. Říká se tomu HEMP (high-altitude electromagnetic pulse).Zaútočit na AI atomovými zbraněmi se může zdát poměrně extrémní. Ale kdyby hrozilo, že zlotřilá umělá inteligence zničí lidstvo?Kupodivu není atomová válka proti AI úplně bez rizik. Předně moc nevíme, co přesně detonace mnoha desítek atomových hlavic vysoko v atmosféře ve skutečnosti udělá. Naštěstí jsme to ještě nikdy nezkoušeli. K dostatečně velkému zásahu AI čipů po celém světě by navíc bylo třeba nejspíš stovek detonací. Datacentra jsou bohužel zároveň konstruována tak, že budou relativně slušně tlumit destruktivní vlivy podobného pulzu.A umíte si představit, co by se asi stalo, kdyby USA odpálily desítky atomových hlavic nad Čínou s cílem zničit jejich datacentra? „Zničíme civilizaci, abychom ji zachránili!“
Zničte internet!
Druhou možností ze studie RAND je „zničit internet“. Po pečlivé analýze špičkových expertů a dlouhém pátrání tajných služeb se bohužel ukázalo, že v IT Crowd kecali! Černá krabička s blikátkem, kterou Moss s Royem dostali od „Elders of the internet“, není „The Internet“!!!Ve skutečnosti decentralizovanou síť, kterou internet do značné míry je, nemůžete jen tak zničit. A ani v případě, že jste USA. Ve studii se diskutují tři varianty „zničení“ internetu: vyřazení protokolů BGP a DNS, a zničení klíčových hardwarových uzlů.Ani tyto metody bohužel nemusí být příliš účinné vůči zlotřilé AI. Třeba DNS zjednodušuje práci lidem v navigaci internetem, ale je docela pravděpodobné, že by si bez ní superschopná hackovací AI ve svém brouzdání po sítích poradila.Navíc vyřazení internetu nevede k přímému zničení zlotřilé AI, ale jen k omezení jejích schopností. Bohužel zároveň vede i k velkému omezení koordinačních i jiných schopností lidstva. Není tak jasné, jestli bychom se vyřazením internetu spíš nestřelili do vlastní nohy, než střelili AI do jejího mozku.A pak je tu už jen třetí možnost. Nasadit proti zlotřilé AI jinou AI, která ji porazí. AI, která zlou AI připraví o její hardware (např. zahltí hardware nesmyslnými požadavky). AI s jasnou misí: najít zlou umělou inteligenci a zabít ji (tzv. HKAI – Hunter/Killer AI).Má to jen jeden či dva droboučké problémky. Skoro nestojí za řeč.Zaprvé takovou AI nemáme (autor studie mluví o „speculative tool“). Zadruhé bychom potřebovali, aby tahle naše pomocnice byla superschopná (jinak by tu zlou neporazila) a zároveň nás poslouchala (nebo se aspoň neobrátila proti nám). Proč bychom ale tvořili tu zlou AI, kdybychom uměli stvořit schopnější hodnou? Zdá se tak, že kdybychom uměli stvořit takovouto hodnou a superschopnou AI, nevznikl by nám vůbec problém se zlou superschopnou AI. A tak problém vyřešíme tím, že vůbec nevznikne.Což je vlastně nakonec závěr celé studie. Ve wargamingu na válku USA se zlou superinteligencí vyhrává i podle velmi respektované organizace RAND zlá superinteligence. „V tuto chvíli nemáme efektivní řešení vedoucí z krize způsobené zlovolnou AI. Je tedy navýsost klíčové, abychom se do této krize nikdy nedostali.“ AKA: Pause AI CZ!
