Proč se vlastně snažíme stvořit umělou superinteligenci (ASI)? Vždyť přeci šéfové největších AI firem tvrdí, že takováto nesmírně schopná inteligence by mohla vést k existenciální katastrofě. Sam Altman (OpenAI), Demis Hassabis (Google), Dario Amodei (Anthropic) i Elon Musk (xAI) svorně dlouhá léta varují, že ASI by mohla vyhubit lidstvo. A k nim se přidávají nejcitovanější vědci světa a nobelisté jako Geoffrey Hinton či Yoshua Bengio.Tak kdo chce tohle ASI zlo? To přeci nemá logiku, ne?

Kompetitivní tlaky

Kdo chce mít atomové zbraně? Naprostá většina států by si zvolila svět bez atomových zbraní, včetně některých jaderných velmocí. Ale tuhle volbu nikdo reálně nemá. Jaderné zbraně ve světě existují a jednostranné odzbrojení nefunguje.Může si Ukrajina volit, jestli bude používat částečně autonomní drony při obraně před Russskem? Spíše ne. Musí využívat všeho, co jí na bojišti přináší úspěchy.V podobné pozici se ocitají státy i firmy, které (nedobrovolně) vyvíjejí superinteligenci. Může si USA říct, že nebude vyvíjet ASI? No, když se této technologie USA vzdají, existuje reálná obava, že Čína ji vyvine první a USA budou velmi oslabené. Může si některá AI firma dovolit nebýt na špici vývoje AI? CEO Anthropicu si sice může dávat ušlechtilá předsevzetí. Může například chtít, aby jeho firma nepřikládala pod kotel vývoje AI tím, že bude zveřejňovat lepší modely, než má konkurence, a tím všechny nutit upalovat vpřed. Ale rok se s rokem sejde a Anthropic zveřejňuje nejlepší modely na trhu (naposledy minulý týden Opus 4.5). Kdyby to nedělal, šel by z kola ven, stal se irelevantní a na jeho místo by nastoupila jiná firma.Právě neúprosné kompetitivní tlaky jsou asi nejdůležitějším motorem vývoje superinteligence. Závodí se jak o strategické geopolitické prvenství (USA vs Čína), vojenskou dominanci, přežití na trhu (OpenAI vs. Google vs. Anthropic vs. xAI), tak obrovské finanční zisky.A je do značné míry jedno, kdo zrovna sedí na té které židli. Kdyby Altmana nahradil jiný ředitel, Muska hajlující Mechahitler, a oranžového dětinu rozumný prezident, nic moc by se asi nezměnilo. Nejde totiž primárně o konkrétní lidi a jejich přání, ale o dynamiku kompetitivních vztahů.Pokud se těmto tlakům nepřizpůsobíte, nastoupí na vaše místo někdo jiný, kdo to udělá. A můžete si přitom nakrásně myslet, že je to celé šílený závod, v němž se hraje ruská ruleta o přežití lidstva. Pokud místa v předních lavicích neobsadíte vy, sedne si tam někdo jiný. A vy si možná i oprávněně říkáte, že máte aspoň nějaké schopnosti vybrat všechny zatáčky nad útesem. Proto jsou u volantu Sam, Dario, Demis či Elon. Ne, že by se neobávali zkázy lidstva kvůli superinteligentní AI. Ví ale, že když u toho nebudou oni, bude u toho někdo jiný. Každopádně se pojede dál. Vystoupit se totiž téměř nedá. A na to, aby si sedli do zadních řad, mají alespoň někteří z nich příliš velké ego.

Poznat a tvořit

Superinteligence nevzniká jen z jednoho důvodu. U jejího vzniku se schází hned několik důležitých faktorů.AI by nevznikala bez mnoha vědců a inženýrů. Proč to dělají? Umělá inteligence je fascinující entita. Ještě před pár lety by si jen málokdo pomyslel, že člověk bude schopen dát vzniknout podivnému křemíkovému stroji, jehož schopnosti a chování překvapují i jeho tvůrce. I v rámci science-fiction si jen velmi nemnozí dokázali představit, že člověk bude pěstovat intelekt („grow mind“). Z ničeho nic jsme se naučili vytvořit systém, který se „rád učí.“ Když mu pak předložíme dost potravy (tréninková data), zformuje se před našimi zraky v podivné jsoucno schopné mnohých výkonů, které jsme považovali za výsostnou doménu člověka.Kdo z vědců by nechtěl být u toho, když vzniká cizokrajná mysl (Alien Inteligence)? Podobná té lidské, ale přesto bytostně cizí. Touha poznat a podílet se na vzniku něčeho takto zásadního je pro mnohé vědce a inženýry splněním nejbujnějších snů.

Mnohá dobra

S růstem schopností umělé inteligence se přibližujeme vyřešení některých palčivých problémů sžírajících lidstvo. Není vepsáno do biologie člověka, že lidé musí umírat na rakovinu. Podobně jako jsme vymýtili pravé neštovice, mohla by nám superschopná AI pomoct zbavit se nadobro i infarktů a rakoviny.Musí být energie získávána dnešními pracnými způsoby (ropa, uhlí, jádro, soláry apod.)? Není v možnostech přírody poskytovat energii daleko efektivněji (fúze)? A nedokázali bychom předcházet přírodním katastrofám, kdybychom daleko lépe rozuměli vzniku zemětřesení, či byli schopní lépe předvídat extrémní klimatické jevy?Superinteligence pro řadu lidí nepředstavuje primárně existenciální hrozbu, ale jedinečnou příležitost výrazně zlepšit lidský život. Někteří si uvědomují i rizika ASI. Věří ale, že pozitiva, pokud si dáme pozor, výrazně převáží průšvihy. Každý rok bez superinteligentní AI tak v jejich myslích oddaluje vyřešení opravdu vážných problémů, jimž lidstvo dnes a denně čelí.Uvedené důvody, proč se svět žene k vytvoření umělé superinteligence, nejsou rozhodně liché. Kompetitivní tlaky jsou zcela reálné a neúprosní soupeři všeho druhu číhají na každém rohu. Umělá inteligence je nesmírně fascinující entita, která nám umožňuje pochopit mnohé. Být u jejího vzniku pak dává pocit podílu na něčem téměř zázračném. A s růstem AI schopností se skutečně můžeme dočkat nesmírně pozitivních změn v životě nás všech.Bohužel riziko vyhynutí lidstva kvůli AI je také velmi reálné. Ve snaze vyvarovat se nejčernějším scénářům je pak zásadní pochopit a nepodceňovat mocné síly ženoucí vývoj AI zběsile vpřed.