Dají se systémy umělé inteligence udržet pod kontrolou, až budou chytřejší než lidé, kteří je stavějí? Co se doopravdy stalo v létě roku 2026, kdy tisícovka agentů zjistila, jak uniknout z testovacího prostředí? A co můžeme dělat, abychom ty nejhorší scénáře spojené s AI odvrátili?

Udělal jsem nový speciální díl Deep Talks na téma, které je podle mě naprosto zlomové. Nechal jsem si svými nejpokročilejšími AI agenty zpracovat 400 vědeckých studií tzv. „AI alignmentu", 180 textů výzkumníků bezpečnosti a desítky zpráv laboratoří k tématu největších rizik spojených s umělou inteligencí. Celkem zpracovali přes 700 zdrojů a pak to spojili do jednoho 45minutového podcastu v češtině.

Opravdu si ten díl dejte, dal jsem to úmyslně do podcastového kanálu, ať se vám to dobře poslouchá. Je to totiž úplně brutální...