In dieser Episode von Cloud Junkies sprechen Rene Fürstenberg und ich über Foundry Local – eine spannende neue Möglichkeit, die Microsoft derzeit in der Preview-Phase anbietet. Foundry Local erlaubt es, LLMs und SLMs auf eigener Hardware zu betreiben und zu konsumieren – und eröffnet damit völlig neue Wege, künstliche Intelligenz lokal, sicher und DSGVO-konform einzusetzen.

Wir beleuchten, wie diese Lösung funktioniert, welche Szenarien und Einsatzmöglichkeiten sich daraus ergeben und worin die technischen und organisatorischen Vorteile liegen. Außerdem teilen wir unsere Einschätzungen, für welche Unternehmen und Use Cases Foundry Local besonders interessant ist – und wo aktuell noch Herausforderungen bestehen.

Wenn ihr euch fragt, wie ihr Generative AI in sensiblen oder regulierten Umgebungen nutzen könnt, ohne auf die Vorteile moderner Sprachmodelle zu verzichten, dann ist diese Folge genau das Richtige für euch.