Dario Amodei och Anthropic: När stjärnforskarens ideal möter verkligheten

DeepMind lovade att aldrig arbeta med militären tills Google köpte dem. OpenAI grundades för att släppa öppna AI-modeller genom en välgörenhetsstiftelse, idag är de stängda och vinstdrivande. Anthropic grundades av människor som lämnade OpenAI just för att det kompromissat för mycket. Nu tar Anthropic emot pengar från personer de själva tycker är dåliga personer.

I det här avsnittet utforskar vi Dario Amodei, superforskaren som ledde utvecklingen av GPT-2 och GPT-3, uppfann RLHF och sedan lämnade OpenAI för att dess ledare "inte var ärliga människor". Vi går igenom hur hans far dog av en sjukdom som blev 95% botbar bara fyra år för sent och hur den förlusten driver honom än idag. Varför han vägrade släppa Claude sommaren 2022, bara för att se ChatGPT explodera tre månader senare. Och hur Anthropic gick från 10 miljoner till 5 miljarder dollar i årliga intäkter på tre år.

Det läckta Slack-meddelandet där Dario skrev att "'ingen dålig människa ska gynnas av vår framgång' är en ganska svår princip att driva ett företag på." Historiens största upphovsrättsförlikning på 1,5 miljarder dollar. Pentagon-kontrakten. Och konflikten med Jensen Huang som slutade i ett mångmiljardpartnerskap.

Ämnen: Dario Amodei biografi, Anthropic, Claude, OpenAI historia, Sam Altman, AI-säkerhet, Constitutional AI, GPT-3, RLHF, Jensen Huang, Google DeepMind, AI-etik, Kina AI-kapplöpning

Från att nästan dödas av mobbare i Sydafrika till att samtidigt driva SpaceX, Tesla, xAI, Neuralink och X. Elon Musk är kanske historiens skickligaste ledare. Oavsett vad du tycker om honom eller hans politik. För det spelar ingen roll om du beundrar eller avskyr honom - misstaget är att underskatta honom.

I det här avsnittet utforskar vi hur en traumatiserad pojke från Pretoria flydde till Kanada vid 17, jobbade i ett pannrum där man dog om man stannade för länge och sedan byggde företag efter företag som experterna sa var omöjliga. Vi går igenom SpaceX:s fyra raketexplosioner innan NASA-kontraktet räddade bolaget, Teslas "produktionshelvete" där Elon sov på fabriksgolvet i fem dagar i samma kläder och hur xAI byggde världens största AI-datacenter på 122 dagar när branschstandarden är två år.

Men vi väjer inte från kontroverserna. Som Elon Musk AI Grok som kallade sig "MechaHitler". Neuralinks 1 500 döda försöksdjur. Den brutna relationen med dottern Vivian. Grimes beskrivning av hans "demon mode". Och den centrala frågan: Varför varnade Elon att AI är "farligare än kärnvapen" för att sedan driva ett AI-labb som kritiserats för att de inte tar AI säkerhet på tillräckligt allvar?

"Jag mådde illa ända in i märgen." Demis Hassabis - då "bara" känd som världens näst bästa shackspelare under 14 - var tolv år gammal och hade precis gett upp i en schackmatch han kunde ha räddat. Han gick ut på en äng i Liechtenstein och ställde sig en fråga som skulle definiera resten av hans liv: slösar vi bort våra hjärnor på att tävla mot varandra när vi istället kunde lösa cancer?

Trettiosex år senare ringde Nobelkommittén. De hade inte hittat hans kontaktuppgifter i förväg, så han fick veta tjugo minuter innan resten av världen. "Mitt huvud blev helt tomt." Som tonåring hade han tackat nej till 24,9 miljoner kronor för att plugga på Cambridge. Nu hade han löst ett femtioårigt biologiskt mysterium och gett bort lösningen gratis till miljoner forskare. Men vägen dit kostade honom en barndomsvän som nu leder rivalens AI-satsning.

Kritikerna kallar honom Scam Altman och Sales Altman. Hans tidigare kollegor har anklagat honom för manipulation och lögner. Ändå undertecknade 702 av 770 anställda ett ultimatum när styrelsen sparkade honom. Återinför Sam inom 24 timmar eller så lämnar vi allt.

Som sjuttonåring kom han ut som homosexuell framför en hatfylld protestantgrupp för att stödja en annan talare. Han ville inte att den personen skulle stå ensam. Efteråt sa hans studievägledare: "Det Sam gjorde förändrade skolan."

Hela AI-industrin kretsar kring honom. Nvidia och AMD, ärkefiender, investerar båda miljarder i hans framgång. Paul Graham skrev 2009: "Du skulle kunna släppa ner honom på en ö full av kannibaler och komma tillbaka fem år senare och han skulle vara kung."

Den 13 november 2025 stoppade Anthropic världens första AI-hackarattack där AI:n själv gjorde 80-90 procent av jobbet. En kinesisk statskopplad grupp fick Claude Code att angripa trettio företag och myndigheter.

Hackarna delade upp attacken i små, oskyldiga uppgifter. Claude undersökte datasystem, skrev specialanpassad skadlig kod, stal lösenord och sammanställde rapporter, precis som en säkerhetsexpert skulle göra, för det var ju vad AI:n hade lurats att den var.

Samtidigt skapar avdelningar i företag världen över egna AI-verktyg, ofta utan att IT-avdelningen ens vet om det. Microsoft varnar för "agentspridning". Ett kundtjänst-verktyg kan utan att förstå vad det gör skicka företagshemligheter till hackare.

Hur lurar man en AI att begå brott den är tränad att vägra? Varför kan samma AI som attackerar också försvara oss? Och vad händer när hackare inte längre behöver kunna hacka, utan bara behöver kunna manipulera en AI att manipulera annan AI?

Från knivhotad till Gudfadern av AI-industrin. Nvidias VD Jensen Huang överlevde som ensam nioåring genom en uppgörelse med sin rumskamrat - en 17-åring som nyss släppts från fängelset med sju knivärr på kroppen. Samma strategi använder han idag. Men nu är det med techjättarna.

Amazon och Google skickar förhandsbesked till Jensen innan de lanserar sina egna AI-chipp. När OpenAI tillkännagav en miljardaffär med AMD nämde Sam Altman AMD en gång och Nvidia två gånger. AI-industrins toppanalytiker förklarar det med att hela AI-branschen fungerar som något ur Gudfader-serien.

Vad gör en man så mäktig att konkurrenter visar honom sådan respekt? Hur bygger man världens högst värderade företag när man startar som diskare på en Denny's-restaurang? Och kan Gudfadern behålla makten när AI-revolution han skapat nu försöker förgöra honom?