PauseAI CZ

Seznam hodnot P(doom)

P(doom) je pravděpodobnost velmi špatných výsledků (např. vyhynutí lidstva) v důsledku AI. Nejčastěji jde o pravděpodobnost převzetí moci AI vůči lidstvu, ale za „doom“ lze považovat i jiné scénáře. Například velká část populace umírající kvůli novému biologickému nástroji vytvořenému AI, sociální kolaps způsobený rozsáhlým kybernetickým útokem, nebo AI, která způsobí jadernou válku.Každá karta níže obsahuje link ke zdroji

99.99%
Roman Yampolskiyvědec v bezpečnosti AI
>95%
Eliezer Yudkowskyzakladatel MIRI
83.9%
Ruská ruleta (10 výstřelů)
>80%
Dan Hendrycksředitel Center for AI Safety
70%
Daniel Kokotajloforecaster a bývalý výzkumník v OpenAI
60%
Zvi Mowshowitznezávislý novinář o bezpečnosti AI
10-90%
Holden Karnofskyspoluzakladatel Open Philanthropy
50%
Emad Mostaquezakladatel Stability AI
10-90%
Jan Leikebývalý šéf alignmentu v OpenAI
46%
Paul Christianošéf bezpečnosti AI v US AI Safety Institute, dříve OpenAI, zakladatel ARC
40%
AI inženýr
(Odhad průměrné hodnoty, metodika průzkumu může být chybná)
40%
Joep Meindertsmazakladatel PauseAI
(Zbývajících 60 % se většinou skládá z „můžeme pozastavit“.)
35%
Eli Liflandpřední soutěžní prognostik
33.8%
Střelná rána do hrudníku
33%
Scott Alexanderoblíbený internetový bloger na Astral Codex Ten
30%
výzkumníci bezpečnosti AI
(Průměr z 44 výzkumníků bezpečnosti AI v roce 2021)
10-50%
Geoff Hintonjeden ze tří kmotrů AI
(Nedávno řekl „nějak 50–50“ ohledně dobrých výsledků pro lidstvo. Dříve zmínil 10 %.)
5-50%
Emmett Shearspoluzakladatel Twitch, bývalý dočasný CEO OpenAI
20%
Reid Hoffmanspoluzakladatel LinkedIn
20%
Yoshua Bengiojeden ze tří kmotrů AI
10-25%
Dario AmodeiCEO Anthropic
16.7%
Ruská ruleta (1 tah spouště)
15%
Lina Khanšéf FTC
10-20%
Elon MuskCEO Tesly, SpaceX a X
9-19.4%
Výzkumníci strojového učení
(Průměr v roce 2023, v závislosti na návrhu otázky, mediánové hodnoty: 5-10%)
10%
Vitalik Buterinzakladatel Etherea
5-10%
Nate Silverzakladatel FiveThirtyEight
2%
BASE jumping každý týden po dobu 1 roku
0.38%
Forecasting Research Institute Superforecasters
(Z téže studie: Odborníci odhadli 3% riziko AI x-risk a 12% katastrofu AI)
<0.01%
Yann LeCunjeden ze tří kmotrů AI, pracuje v Meta
(méně pravděpodobné než asteroid)
0.00002%
Útok žraloka (roční riziko)

Udělej něco

Ať už je tvoje p(doom) jakkoliv vysoké, pravděpodobně se shodneme na tom, že AI firmy by neměly hazardovat s naší budoucností. Připoj se k PauseAI a pomoz tomu zabránit.

Seznam hodnot P(doom)

Udělej něco

Načítání

Seznam hodnot P(doom)

Udělej něco