Hvor er AI på vei, og hvor mye forstår vi egentlig av det vi haster med å ta i bruk?

I denne episoden av Heis tar vi nattoget til Trondheim for å møte Inga Strümke. Hun har en doktorgrad i partikkelfysikk, men er mest kjent for sin formidling av forskning på kunstig intelligens. Hun publiserer ikke bare forskningsartikler, men skriver bøker, har fast spalte i Morgenbladet, er deltaker i Abels tårn, spiller teater, deltar på reality OG går viralt på Instagram.

Vi møter henne på AI-laben til NTNU på Gløshaugen, og vi rekker å snakke om mye! Vi snakker om hvor AI er på vei, hvor sårbare vi er når infrastrukturen kommer fra USA, og hva det betyr å forklare et system vi ikke helt forstår selv. Har ChatGPT faktisk sabotert AI-modningsreisen vår? Har vi gått fra å forsøke å forstå datamaskiner og hva vi kan bruke dem til, til å chatte med produkter vi importerer fra store teknologileverandører? Vi snakker om Ingas skepsis til å slippe en agent løs i terminalen, hvordan folk som starter sin utviklerkarriere med en agent ved sin side lærer faget på en ny måte, og hvorfor datamanifolden i et nevralt nettverk kanskje aldri kan reflektere virkeligheten helt. Vi snakker om forklarbar AI som et forskningsfelt i eksponentiell vekst, men som paradoksalt nok knapt er brukt der det trengs mest. Vi rekker til og med å sneie innom hvordan en sverm av små språkmodeller på en laptop allerede kan finne sårbarheter Anthropic vil ha oss til å tro at vi trenger Mythos til.

Ting vi snakker om underveis:

• Norwegian Open AI Lab // NTNUs AI-lab på Gløshaugen
• Den nasjonale AI-eksperten // Hvordan blir man det, og bør man være det alene?
• Attention Is All You Need // Byggeklossen all moderne generativ AI hviler på.
• AlphaGo vs. Lee Sedol (2016) // DeepMinds gjennombrudd i Go
• Claude Code // Agentisk AI som trives best i terminalen din. Inga er skeptisk.
• Vim // Ingas favoritteditor!
• Stepchange// 4 timer og 8 minutter om datasenter, energi og infrastruktur
• Universal approximation theorem // Teoremet om at nevrale nett kan approksimere enhver funksjon
• Forklarbar AI (XAI) // NTNUs fagmiljø rundt XAI
• NAV: Prediksjonsmodell for sykefravær // Sluttrapporten fra Datatilsynets sandkasse, som burde startet en debatt i stedet for å avslutte den
• KI Norge // Hva bør KI Norge gjøre?
• Ingen kommer til å løse problemet med KI-sårbarhet for oss // kronikk av Inga Strümke og Michael Riegler i Aftenposten
• Project Glasswing / Mythos – Anthropics prosjekt for sårbarhetstesting

Verter for podcasten er Truls Jørgensen og Audun Fauchald Strand, produsent er Tore Græsdal.

Hosted on Acast. See acast.com/privacy for more information.