Ein LLM von Grund auf betreiben – Eine detaillierte Einführung

In dieser Session stellen wir Ihnen auf einfache Weise aus technischer Perspektive vor, was LLMs eigentlich sind und wie Sie tatsächlich eines – sowohl für sich selbst als auch für Ihre Kanzlei – auf privater Infrastruktur betreiben können. Die Idee ist, das zu entmystifizieren, was oft als sehr kompliziertes Thema dargestellt wird und Juristinnen und Juristen häufig daran hindert, bei der Auswahl von Anbietern fundierte Entscheidungen zu treffen. Das Ziel dieser Masterclass ist einfach: 1) Zeigen, wie man eine gemietete GPU in der EU bekommt 2) Tatsächlich die Inhalte eines Modells zeigen, d. h. vollständig offenlegen, woraus ein Modell besteht 3) Ein kleines SATA- (State of the Art) Open-Source-Modell live betreiben (dies wird entweder ein Gemma- oder ein Qwen-Modell sein). Dabei handelt es sich nicht um eine Ausführung vom Typ ollama, sondern um ein tatsächlich produktionsreifes Deployment eines Modells. 4) Zeigen, dass Modelle vollständig privat betrieben werden können, und selbstlernende Modelle diskutieren. 5) Zeigen, was wir meinen, wenn wir sagen, dass diese Tools statistischer Natur sind. Dabei wird gezeigt, wo die Wahrscheinlichkeiten tatsächlich bei der Interaktion mit dem Modell eine Rolle spielen Dies sollte innerhalb der ersten 15 Minuten abgeschlossen sein. Danach lasse ich die Teilnehmenden tatsächlich mit dem Modell interagieren, und es folgt eine Q&A-Session. Die Idee ist, dass Sie den Raum mit einem klaren Verständnis davon verlassen, was ein LLM eigentlich ist. Dies sollte einen Großteil des Beiwerks aus vielen aktuellen Präsentationen und Pitches entfernen, die KI als eine amorphe, nahezu magische Technologie darstellen. Mein Ziel ist es, dass Sie KI in erster Linie als Werkzeug begreifen.