I denne episode af Verbos podcast diskuterer værterne Kasper Junge, Mads Henrichsen og Jonas Høgh Kyhse-Andersen de nyeste fremskridt inden for AI, især fokus på reasoning modeller som DeepSeek R1 og OpenAI O1. De dykker ned i emner som syntetisk data, reinforcement learning, og de udfordringer, der er forbundet med anonymisering i forhold til GDPR. Diskussionen inkluderer også hype omkring disse modeller og deres anvendelse i virkelige scenarier. I denne samtale diskuterer deltagerne emner relateret til AI, herunder Supervised Fine Tuning, udfordringerne ved reinforcement learning, og spørgsmålet om, hvorvidt AI kan tænke. De dykker ned i specifikationerne for DeepSeek R1-modellen og dens innovative funktioner, samt hvordan disse teknologier kan anvendes i praksis. I denne samtale diskuterer deltagerne emner relateret til maskinlæring, herunder MLA, DeepSeek's innovationer, reinforcement learning, model distillation og merging. De deler indsigt om, hvordan man kan optimere AI-modeller og udfordringerne ved at implementere nye teknologier. Derudover opfordrer de danske virksomheder til at engagere sig mere i open source-initiativer.

Kapitler

00:00 Introduktion til AI og Reasoning Modeller

02:57 DeepSeek R1 og OpenAI O1 Modeller

06:09 Syntetisk Data og Fine-Tuning

09:00 Reinforcement Learning og Dens Anvendelse

11:57 Hype omkring Reasoning Modeller

14:53 Verificerbare Resultater og Anvendelse

18:02 Anonymisering og GDPR Udfordringer

21:00 Fremtiden for AI og Reasoning Modeller

29:15 Supervised Fine Tuning og Dens Udfordringer

32:06 Reinforcement Learning og Verificerbare Belønninger

37:16 Kan AI Tænke? En Diskussion om Reasoning

48:01 DeepSeek R1-modellen og Dens Funktioner

54:44 Introduktion til MLA og Dimension Reduktion

57:04 DeepSig og Innovation i AI

01:00:10 Reinforcement Learning og Model Træning

01:02:58 Distillation og Supervised Fine-Tuning

01:06:58 Model Merging og Dens Udfordringer

01:09:54 Afslutning og Budskaber til Virksomheder