Články

2. 3. 2026Autor: Ondřej Krása

AI a válka

Pochopitelně se budeme věnovat aktuálnímu dramatu mezi Anthropicem a Pentagonem. Zkusím přidat obecnější perspektivu, která snad umožní vidět za horizont pěny dní.(Pokud konkrétní aspekty sporu Anthropicu a Ministerstva války znáte, klidně přeskočte následující kapitolu)

23. 2. 2026Autor: Ondřej Krása

Slzy a perly

V posledních době se hodně mluví o dopadech AI na trh práce. A ono je to důležité téma, o tom žádná! Rád bych ale ukázal, že podobné debaty v lecčems to nejpodstatnější spíše zakrývají, nežli odhalují.

9. 2. 2026Autor: Ondřej Krása

Každý týden nová AI

Když se věnujete dlouho antické filosofii, postupně přivyknete specificky ospalému rytmu. Ne, že by nevycházely nové články a knihy. Ale v řadě otázek je namístě spíš dvacetkrát přečíst Platóna v originále než sledovat, co se kde šustne. Velké objevy se po dvou a půl tisících let zkoumání moc nekona

2. 2. 2026Autor: Ondřej Krása

Lidské, příliš lidské

Někdy váhám, o čem psát. Jindy téma určí jediná událost, která zrovna hýbe AI světem.Tento týden byl jiný. Na opravdu zásadní témata až příliš bohatý. A jelikož nějak nepřenesu přes srdce nezmínit alespoň ta nejtřaskavější, bude dnešní post roztříštěný a delší (pardon).Všechny části se ale budou nějak týkat firmy Anthropic. Anthropic je poslední měsíce nejskloňovanější AI firmou vůbec a dnes si ukážeme některé z důvodů, proč tomu tak je.

19. 1. 2026Autor: Dalibor Krejčí

PauseAI CZ organizuje sérii panelových diskuzí

Tématem jsou potenciální rizikové společenské dopady AI a strategie, jak s nimi naložit či jak je komunikovat. Začali jsme tento čtvrtek 8.1.2026 v prostorách pražské Městské knihovny. Naši pozvánku na účast přijali zástupci těchto organizací: Alexandra Šebestová za vzdělávací organizaci Youth Pro

19. 1. 2026Autor: Jiří Kosárek

Proč bychom mohli mít superinteligenci dříve, než si většina lidí myslí?

Aktuální nejmodernější AI modely jsou již nadlidské v mnoha oblastech, ale naštěstí ne ve všech. Pokud dosáhneme superinteligence před tím, než vyřešíme problém sladění cílů, hrozí nám riziko vyhynutí. Proto je nezbytné mít odhad, kdy bychom mohli mít superinteligenci, abychom nebyli zaskočeni.

19. 1. 2026Autor: Jiří Kosárek

Existenciální riziko umělé superinteligence

Výzkumníci umělé inteligence v průměru věří, že existuje 14% šance, že vytvoření superinteligentní AI (AI podstatně chytřejší než lidé) povede k „velmi špatným následkům (např. vyhynutí lidstva)“.

19. 1. 2026Autor: Ondřej Krása

Proč debaty o AI rizicích selhávají?

Již toto úterý vyjde napjatě očekávaná kniha „Pokud ji někdo stvoří, všichni zemřeme“. Autorem není nikdo jiný než nejvýznamnější postava debat o rizicích AI, Eliezer Yudkowsky, a jeho spolupracovník z MIRI, Nate Soares. Podle všeho jde o výjimečnou publikaci. Na relativně malé ploše autoři přesvědč

19. 1. 2026Autor: Ondřej Krása

A.I. pro sociology

Určitě jste již slyšeli přirovnání A.I. k vynálezu parního stroje. A to že nás čeká pouze další industriální revoluce. Toto přirovnání je ale platné jen částečně, neboť umělá inteligence na rozdíl od parního stroje. Knihtisku či atomové bomby se může sama rozhodovat, myslet, plánovat a v blízké budo

19. 1. 2026Autor: Ondřej Krása

Červené linie pro umělou inteligenci / Red Lines for AI

Poněkud upozaděn za těmito logistickými patáliemi mocných mužů zůstává projev nositelky Nobelovy ceny míru Marie Ressy, která v úvodní den zasedání přednesla text otevřené výzvy, pod níž se podepsalo deset nositelů Nobelovy ceny a zhruba na tři sta dalších osobností veřejného života a předních expertů nejen na umělou inteligenci. Najdete mezi nimi takzvané „kmotry AI“ Geoffreyho Hintona a Yoshua Bengio, nositele Nobelovy ceny za ekonomii Josepha Stiglitze či autora knihy Sapiens historika Yuvala Harariho. Text výzvy, který si nyní dovolím přeložit do češtiny, zní:

19. 1. 2026Autor: Martin Vlach

Mýty o AI

Je to jen stochastický papoušek. Ačkoli neuronová síť v určité situaci může jednoduše „ukládat“ texty, ke kterým byla trénováním vedena, v určitém momentu objem trénovacích sekvencí začne nutit síť uspořádat své váhy na „stručnější“ reprezentaci, najít společné prvky dat, s kterými se setkala a výst

18. 1. 2026Autor: Ondřej Krása

Nekontrolovatelná AI

Mnoho společností se snaží vytvořit umělou superinteligenci (ASI), tj. AI, která bude chytřejší než celé lidstvo. K tomuto cíli se explicitně přihlásily již i ti největší hráči na poli AI.Zatímco žádný jednotlivý člověk nerozumí do detailu tomu, jak stvořit jadernou elektrárnu či vyrobit čip na tré

18. 1. 2026Autor: Ondřej Krása

Jaderný útok na AI

Když chcete odhadnout, jak by dopadla válka, můžete uspořádat tzv. wargaming. V této simulaci si ověříte, jak by konflikt asi mohl probíhat a kdo by zvítězil.Že nevíte, jak na takovou simulaci? Naštěstí existují společnosti, které se na wargaming specializují. Asi nejznámější je RAND, která nejen pro Pentagon dělá simulace válek už desítky let.

18. 1. 2026Autor: Ondřej Krása

AI bilance – Rizika

Minulý týden jsme rekapitulovali růst schopností umělé inteligence v roce 2025. Dnes zkusíme přidat souhrnný pohled na trendy v oblasti AI rizik.Včera jeden z hlavních hypeovacích účtů zveřejnil shrnutí vývoje nebezpečných vlastností AI. Od „strawberry man“, který je pověstný roztleskáváním nadšení

18. 1. 2026Autor: Ondřej Krása

Kam s ní?

V uplynulých týdnech jsme bilancovali vývoj schopností a rizik umělé inteligence v roce 2025. TL;DR: Schopnosti AI dramaticky rostou a žádné zpomalení není na obzoru, naopak. V oblasti bezpečnosti se na reálných AI modelech zhmotňují obavy, které byly před pár lety jen teoretické.

15. 12. 2025Autor: Ondřej Krása

I’ll be back!

Když jsme se kdysi se spolužáky učili na zkoušku z antické filosofie, i na hospodského U Milosrdných jsme mluvili jako karikatury postav z Platónových dialogů. Samé „arciže“ a „při psu“. I když nám šlo jen o to nedostat příliš velkého podmíráka.Také umělé inteligence inklinují dost silně k tomu zobecňovat trénink v nějaké velmi specifické oblasti. Po úzkém tréninku na psaní nebezpečného počítačového kódu se AI začne chovat jako komiksový zloduch i ve zcela nesouvisejících oblastech. Vžije se do role toho, kdo píše záměrně zranitelný kód. Chová se pak jako zloduch, i když radí s tím, jak zahnat nudu („ochutnej z babiččiných zásob prošlých léků“), a s kým jít na večeři (Hitler a Goebbels).Říká se tomu Emergent Misalignment.

1. 12. 2025Autor: Ondřej Krása

Odkud superinteligence?

Proč se vlastně snažíme stvořit umělou superinteligenci (ASI)? Vždyť přeci šéfové největších AI firem tvrdí, že takováto nesmírně schopná inteligence by mohla vést k existenciální katastrofě. Sam Altman (OpenAI), Demis Hassabis (Google), Dario Amodei (Anthropic) i Elon Musk (xAI) svorně dlouhá léta varují, že ASI by mohla vyhubit lidstvo. A k nim se přidávají nejcitovanější vědci světa a nobelisté jako Geoffrey Hinton či Yoshua Bengio.Tak kdo chce tohle ASI zlo? To přeci nemá logiku, ne?

24. 11. 2025Autor: Ondřej Krása

AI přínosy

Naprostou většinu příspěvků píšu o různých problematických aspektech vývoje AI. A tenhle tón vyjadřuje můj celkový postoj. Bohužel mám stále sílící dojem, že blížící se AI katastrofa zastíní všechna AI pozitiva. Aneb mrtvého nepotěší, že dostal týden dovolené navíc.Dnes ale doomerismus výjimečně od

9. 11. 2025Autor: Ondřej Krása

Má mě ráda, nemá mě ráda

Proč by měla superinteligentní AI způsobit zkázu lidstva? Sice bude mít schopnosti lidstvu pěkně zatopit, ale opravdu to i udělá?Většinový konsensus je, že k tomu dojít nutně nemusí. Možná někdy v budoucnu dokážeme dostat do AI cíle, které si usmyslíme (to teď umíme jen do dost nespolehlivě, tzv. i

27. 10. 2025Autor: Ondřej Krása

Doomerův průvodce po galaxii

Dnes dám nahlédnout do své příruční knihovny podcastů, díky kterým se snažím klopýtat za překotným vývojem AI. Bezprostředním impulsem mi byl čerstvý podcast Last Invention. Pokud byste si chtěli udělat netriviální představu o tom, jak jsme se dostali do současné situace s AI, všemi deseti doporučuj

25. 10. 2025Autor: Jiří Kosárek

Rizika umělé inteligence

Na webu po sobě zanecháváme mnoho stop. Spojení všech průsečíků je těžké a časově náročné, ale AI nyní může tento proces značně zlevnit. Velké jazykové modely nyní dokážou samostatně prohledávat web a jsou dostatečně dobré, aby analyzovaly velké množství dat a našly zajímavé detaily. Toho lze využít

20. 10. 2025Autor: Ondřej Krása

Co je AGI?

Jistě jste už mnohokrát slyšeli debaty o příchodu obecné umělé inteligence, neboli AGI (Artificial General Intelligence). S tímto termínem se v diskusích šermuje už dlouho, ale shoda na jeho významu není příliš široká. Podívejme se proto na několik přístupů k tomu, co vlastně AGI znamená. Testovací

15. 10. 2025Autor: Ondřej Krása

Podvodníci kam se podíváš

AI umí podvádět a klamat. Zatím ne nijak moc dobře a důsledně, ale umí. Když se dostane do situace, ve které oklamání uživatelů povede ke sledovanému cíli, vcelku ochotně se k němu uchýlí.To není žádná novinka. AI byly přistiženy při různých podvodech a klamech už mnohokrát. AI někdy dost dobře chá

6. 10. 2025Autor: Ondřej Krása

Podivné cíle

Černý scénář: AI začne toužit po něčem podivném, a jelikož bude velmi schopná, dosáhne toho, po čem touží. Po cestě přitom bohužel zemře spousta lidí.Minulý týden jsem psal o námitce proti tomuto scénáři, podle níž AI nemůže po ničem toužit, neboť je to jen algoritmus, sada čísel a ty po ničem netouží. Ono je ale jedno, jestli AI něco prožívá. Podstatné je pouze to, že se musí chovat tak, jako by po něčem intenzivně toužila. Jen chování, které vypadá jako toužící, je totiž skutečně úspěšné. Nezastaví se před překážkami, ale překoná je. Je schopné dojít do cíle, i když se okolnosti dramaticky mění. Schopnost dosáhnout cíle je tak spjatá se schopností jednat, jako by AI toužila.Tak AI jakoby touží. To je toho. Klíčové je, že cíle AI nastavujeme my. Ono je vlastně dobře, když AI jakoby touží po tom být užitečná, být naším úslužným asistentem, ne?

28. 9. 2025Autor: Ondřej Krása

AI (jakoby) touží

Černý scénář: AI začne toužit po něčem podivném, a jelikož bude strašně schopná, dosáhne toho, po čem touží. Po cestě přitom bohužel zemře spousta lidí. Podobně jako lidé toužící po jídle „mimochodem“ téměř vyhubili orangutany: Potřebujeme spoustu oleje, a tak kácíme pralesy, zřizujeme palmové plantáže, a orangutan je v důsledku toho na pokraji vyhynutí.Jedna z typických námitek proti tomuto scénáři: AI po ničem nemůže „toužit“. Stroje netouží. To by byla antropomorfizace! A to se nesmí, to se poví!(Příští týden pak přijde na přetřes druhá typická námitka: Jak by cílem AI mohlo být něco podivného? Vždyť ty cíle stanovujeme my, nebo aspoň programátoři ne?)

21. 9. 2025Autor: Ondřej Krása

Olympijští vítězové

„Schopnosti AI stagnují! Divoké hypování narazilo a zdravý skepticismus vítězí!“ Podobných výroků jsem za poslední měsíc a půl po uvedení GPT-5 četl a slyšel celou řadu.

15. 9. 2025Autor: Ondřej Lukeš

AI: Platón měl pravdu

Platón tvrdil, že myšlení je vlastně řeč. Řeč, kterou duše vede sama se sebou. Podle Platóna totiž myslíme tak, že se ptáme sami sebe a pokoušíme se na tyto otázky odpovědět. Ostatně Platónův učitel Sókratés byl pověstný schopností vést rozhovory. Nepřekvapí proto, že jeho žák považoval právě dialogickou formu za samotné jádro skutečného myšlení.

8. 9. 2025Autor: Ondřej Krása

Proč AI halucinuje?

„Včera mi AI vygenerovala seznam odborných článků na téma XY a půlka z nich byla totálně vymyšlených! Hrůza, děs!“ Když si povídám o AI s lidmi, kteří se umělé inteligenci přímo nevěnují, a zvláště když ji teprve nedávno začali intenzivněji používat, často zavedou řeč na tzv. halucinace. U některých politiků jsme si na vymýšlení už zvykli a vlastně nečekáme nic moc jiného. U strojů nás podobné chování často zaráží a fascinuje.

18. 1. 2025Autor: Ondřej Krása

V hlavě 41

V posledním týdnu vyšly dva velmi zajímavé články o „vnitřním životě“ AI. První zkoumá, jak jsou AI modely schopné vnímat své vlastní vnitřní stavy. Druhý výzkum pak testoval odpovědi umělé inteligence, ve kterých AI explicitně mluví o své subjektivní zkušenosti. Vnitřní stavy Dokáže AI poznat, co s

Články

AI a válka

Slzy a perly

Každý týden nová AI

Lidské, příliš lidské

PauseAI CZ organizuje sérii panelových diskuzí

Proč bychom mohli mít superinteligenci dříve, než si většina lidí myslí?

Existenciální riziko umělé superinteligence

Proč debaty o AI rizicích selhávají?

A.I. pro sociology

Červené linie pro umělou inteligenci / Red Lines for AI

Mýty o AI

Nekontrolovatelná AI

Jaderný útok na AI

AI bilance – Rizika

Kam s ní?

I’ll be back!

Odkud superinteligence?

AI přínosy

Má mě ráda, nemá mě ráda

Doomerův průvodce po galaxii

Rizika umělé inteligence

Co je AGI?

Podvodníci kam se podíváš

Podivné cíle

AI (jakoby) touží

Olympijští vítězové

AI: Platón měl pravdu

Proč AI halucinuje?

V hlavě 41

Načítání

Články

AI a válka

Slzy a perly

Každý týden nová AI

Lidské, příliš lidské

PauseAI CZ organizuje sérii panelových diskuzí

Proč bychom mohli mít superinteligenci dříve, než si většina lidí myslí?

Existenciální riziko umělé superinteligence

Proč debaty o AI rizicích selhávají?

A.I. pro sociology

Červené linie pro umělou inteligenci / Red Lines for AI

Mýty o AI

Nekontrolovatelná AI

Jaderný útok na AI

AI bilance – Rizika

Kam s ní?

I’ll be back!

Odkud superinteligence?

AI přínosy

Má mě ráda, nemá mě ráda

Doomerův průvodce po galaxii

Rizika umělé inteligence

Co je AGI?

Podvodníci kam se podíváš

Podivné cíle

AI (jakoby) touží

Olympijští vítězové

AI: Platón měl pravdu

Proč AI halucinuje?

V hlavě 41