106 - 1 Mio Token mit lokaler Hardware

https://is1-ssl.mzstatic.com/image/thumb/Podcasts221/v4/e9/83/71/e9837137-75fd-d06b-8392-b1545a4a57e7/mza_7068534505453214339.jpg/600x600bb.jpg

Prompt und Antwort

KI-Gilde

108 episodes

2 days ago

Ein KI-generierter Podcasts rund um die Entwicklung von und mit KI. News, Updates und interessante Hintergrundinformationen für den professionellen Einsatz von KI hinaus. Ohne Hype und Buzzwords. Die KI-Gilde ist ein Angebot der YnotBetter UG.

Technology

RSS

All content for Prompt und Antwort is the property of KI-Gilde and is served directly from their servers with no modification, redirects, or rehosting. The podcast is not affiliated with or endorsed by Podjoint in any way.

Technology

https://d3t3ozftmdmh3i.cloudfront.net/staging/podcast_uploaded_episode/43606809/43606809-1767543224438-d835522e79c5b.jpg

106 - 1 Mio Token mit lokaler Hardware

Prompt und Antwort

6 minutes 49 seconds

1 week ago

106 - 1 Mio Token mit lokaler Hardware

Mac Studio vs. Nvidia vs. AMD: Wer generiert am effizientesten 1 Million KI-Token?

In dieser Folge analysieren wir einen Benchmark mit überraschenden Ergebnissen:

• Warum ein Budget-PC mit Radeon-Karte den Mac Studio M3 Ultra beim Durchsatz schlägt.

• Weshalb High-End-Systeme trotz hohem Stromverbrauch am energieeffizientesten sein können.

• Warum die Wahl der Software (vLLM vs. Llama.cpp) wichtiger ist als die reine Hardware.

Erfahrt, wann sich lokale Hardware gegenüber Cloud-Kosten wirklich rechnet.