Co si o konci lidstva myslí lidé, kteří AI stavějí

• 99.99%

  Roman Yampolskiyvědec v bezpečnosti AI
• >95%

  Eliezer Yudkowskyzakladatel MIRI
• 83.9%

  Ruská ruleta (10 výstřelů)
• >80%

  Dan Hendrycksředitel Center for AI Safety
• 70%

  Daniel Kokotajloforecaster a bývalý výzkumník v OpenAI
• 60%

  Zvi Mowshowitznezávislý novinář o bezpečnosti AI
• 10-90%

  Holden Karnofskyspoluzakladatel Open Philanthropy
• 50%

  Emad Mostaquezakladatel Stability AI
• 10-90%

  Jan Leikebývalý šéf alignmentu v OpenAI
• 46%

  Paul Christianošéf bezpečnosti AI v US AI Safety Institute, dříve OpenAI, zakladatel ARC
• 40%

  AI inženýr

  (Odhad průměrné hodnoty, metodika průzkumu může být chybná)
• 40%

  Joep Meindertsmazakladatel PauseAI

  (Zbývajících 60 % se většinou skládá z „můžeme pozastavit“.)
• 35%

  Eli Liflandpřední soutěžní prognostik
• 33.8%

  Střelná rána do hrudníku
• 33%

  Scott Alexanderoblíbený internetový bloger na Astral Codex Ten
• 30%

  výzkumníci bezpečnosti AI

  (Průměr z 44 výzkumníků bezpečnosti AI v roce 2021)
• 10-50%

  Geoff Hintonjeden ze tří kmotrů AI

  (Nedávno řekl „nějak 50–50“ ohledně dobrých výsledků pro lidstvo. Dříve zmínil 10 %.)
• 5-50%

  Emmett Shearspoluzakladatel Twitch, bývalý dočasný CEO OpenAI
• 20%

  Reid Hoffmanspoluzakladatel LinkedIn
• 20%

  Yoshua Bengiojeden ze tří kmotrů AI
• 10-25%

  Dario AmodeiCEO Anthropic
• 16.7%

  Ruská ruleta (1 tah spouště)
• 15%

  Lina Khanšéf FTC
• 10-20%

  Elon MuskCEO Tesly, SpaceX a X
• 9-19.4%

  Výzkumníci strojového učení

  (Průměr v roce 2023, v závislosti na návrhu otázky, mediánové hodnoty: 5-10%)
• 10%

  Vitalik Buterinzakladatel Etherea
• 5-10%

  Nate Silverzakladatel FiveThirtyEight
• 2%

  BASE jumping každý týden po dobu 1 roku
• 0.38%

  Forecasting Research Institute Superforecasters

  (Z téže studie: Odborníci odhadli 3% riziko AI x-risk a 12% katastrofu AI)
• <0.01%

  Yann LeCunjeden ze tří kmotrů AI, pracuje v Meta

  (méně pravděpodobné než asteroid)
• 0.00002%

  Útok žraloka (roční riziko)

I ty nám můžeš pomoct!