Co si o konci lidstva myslí lidé, kteří AI stavějí
P(doom) je pravděpodobnost velmi špatných výsledků (např. vyhynutí lidstva) v důsledku AI. Nejčastěji jde o pravděpodobnost převzetí moci AI vůči lidstvu, ale za „doom“ lze považovat i jiné scénáře. Například velká část populace umírající kvůli novému biologickému nástroji vytvořenému AI, sociální kolaps způsobený rozsáhlým kybernetickým útokem, nebo AI, která způsobí jadernou válku.Každá karta níže obsahuje link ke zdrojiOdhady expertů a osobností
Srovnání se známými riziky (jen pro měřítko, nejde o odhad AI expertů)
- 99.99%Roman Yampolskiyvědec v bezpečnosti AI
- >95%Eliezer Yudkowskyzakladatel MIRI
- 83.9%Ruská ruleta (10 výstřelů)
- >80%Dan Hendrycksředitel Center for AI Safety
- 70%Daniel Kokotajloforecaster a bývalý výzkumník v OpenAI
- 60%Zvi Mowshowitznezávislý novinář o bezpečnosti AI
- 10-90%Holden Karnofskyspoluzakladatel Open Philanthropy
- 50%Emad Mostaquezakladatel Stability AI
- 10-90%Jan Leikebývalý šéf alignmentu v OpenAI
- 46%Paul Christianošéf bezpečnosti AI v US AI Safety Institute, dříve OpenAI, zakladatel ARC
- 40%AI inženýr(Odhad průměrné hodnoty, metodika průzkumu může být chybná)
- 40%Joep Meindertsmazakladatel PauseAI(Zbývajících 60 % se většinou skládá z „můžeme pozastavit“.)
- 35%Eli Liflandpřední soutěžní prognostik
- 33.8%Střelná rána do hrudníku
- 33%Scott Alexanderoblíbený internetový bloger na Astral Codex Ten
- 30%výzkumníci bezpečnosti AI(Průměr z 44 výzkumníků bezpečnosti AI v roce 2021)
- 10-50%Geoff Hintonjeden ze tří kmotrů AI(Nedávno řekl „nějak 50–50“ ohledně dobrých výsledků pro lidstvo. Dříve zmínil 10 %.)
- 5-50%Emmett Shearspoluzakladatel Twitch, bývalý dočasný CEO OpenAI
- 20%Reid Hoffmanspoluzakladatel LinkedIn
- 20%Yoshua Bengiojeden ze tří kmotrů AI
- 10-25%Dario AmodeiCEO Anthropic
- 16.7%Ruská ruleta (1 tah spouště)
- 15%Lina Khanšéf FTC
- 10-20%Elon MuskCEO Tesly, SpaceX a X
- 9-19.4%Výzkumníci strojového učení(Průměr v roce 2023, v závislosti na návrhu otázky, mediánové hodnoty: 5-10%)
- 10%Vitalik Buterinzakladatel Etherea
- 5-10%Nate Silverzakladatel FiveThirtyEight
- 2%BASE jumping každý týden po dobu 1 roku
- 0.38%Forecasting Research Institute Superforecasters(Z téže studie: Odborníci odhadli 3% riziko AI x-risk a 12% katastrofu AI)
- <0.01%Yann LeCunjeden ze tří kmotrů AI, pracuje v Meta(méně pravděpodobné než asteroid)
- 0.00002%Útok žraloka (roční riziko)