Llama

Llama ist Metas Open-Weights-Modellfamilie und bildet die Referenz für selbst gehostete Large Language Models weltweit. Seit Llama 2 im Jahr 2023 haben die Modelle eine massive Verbreitung in Forschung, Open-Source-Projekten und Unternehmens-IT erfahren — nicht weil sie in jedem Einzelvergleich vorne liegen, sondern weil sie frei herunterladbar, fein abstimmbar und ohne laufende API-Kosten betreibbar sind.

Für Unternehmen, die Daten nicht an externe Dienste abgeben wollen oder dürfen, ist Llama der naheliegende Ausgangspunkt für souveräne KI. Das gilt vor allem dann, wenn Shadow AI ein bekanntes Risiko ist und die Organisation eine klare technische Antwort auf die Frage braucht, wo Daten verarbeitet werden.

Was ist Llama?

Meta hat Llama als offene Modellreihe entwickelt und von Beginn an auf externe Nutzung ausgelegt. Im April 2025 erschien Llama 4 mit zwei sofort verfügbaren Varianten. Llama 4 Scout ist ein Mixture-of-Experts-Modell mit 17 Milliarden aktiven Parametern bei 109 Milliarden Gesamtparametern und einem branchenführenden Kontextfenster von zehn Millionen Token. Llama 4 Maverick skaliert auf 128 Experten bei ebenfalls 17 Milliarden aktiven Parametern und einem Kontextfenster von einer Million Token. Beide Modelle verarbeiten neben Text auch Bildinhalt.

Für Unternehmen mit Sitz in der EU ist jedoch ein wichtiger Vorbehalt zu beachten: Die Llama 4 Community License schließt die gewerbliche Nutzung durch Unternehmen mit Hauptsitz in der Europäischen Union aktuell ausdrücklich aus. Meta begründet dies mit der Unsicherheit rund um den EU AI Act und regulatorischen Anforderungen. EU-domizilierte Unternehmen, die die Llama-Familie nutzen möchten, greifen deshalb auf Llama 3.3 70B oder frühere 3er-Versionen zurück.

Llama 3.3 70B hat ein Kontextfenster von 128 000 Token, reine Textverarbeitung und bietet für die meisten produktiven Anwendungsfälle ausreichende Leistung. In Projekten, die wir begleiten, reicht Llama 3.3 70B für Aufgaben wie Dokumentenzusammenfassung, Extraktion strukturierter Daten und interne Chatbots vollkommen aus — der Unterschied zu Llama 4 ist in solchen Szenarien selten entscheidend.

Es ist davon auszugehen, dass Meta die EU-Restriktion in künftigen Lizenzversionen auflöst — doch solange sie besteht, ist sie für alle in Deutschland und der EU ansässigen Betreiber bindend. Unternehmen, die bereits Piloten mit Llama 4 geplant haben, müssen entweder auf Llama 3.x ausweichen oder eine ausdrückliche Meta-Genehmigung einholen.

Die Llama Community License ist außerdem kein Apache 2.0: Nutzende stimmen einem Vertragswerk zu, das Meta das Recht einräumt, die Bedingungen weiterzuentwickeln. Unternehmen mit mehr als 700 Millionen monatlich aktiven Nutzern benötigen eine gesonderte Vereinbarung mit Meta. Für den typischen deutschen Mittelstand sind diese Schwellen weit entfernt — die EU-Restriktion für Llama 4 ist das deutlich relevantere Thema.

Stärken und Schwächen

Das zentrale Argument für Llama ist Datensouveränität. Wer Llama-Modelle im eigenen Rechenzentrum betreibt, verlässt mit keiner Anfrage die eigene Infrastruktur. Für hochsensible Daten — medizinische Dokumentation, Rechtsberatung, vertrauliche Geschäftsprozesse — ist das oft entscheidend. Kein Auftragsverarbeitungsvertrag mit einem Drittanbieter, kein Risiko von Datenabfluss an ein fremdes Rechenzentrum, keine Abhängigkeit von Service-Level-Versprechen.

Das Ökosystem rund um Llama ist inzwischen so reif, dass der Einstieg deutlich einfacher ist als noch vor zwei Jahren. Mit Ollama lassen sich kleinere Modelle lokal auf Standard-Hardware betreiben; vLLM ermöglicht hochperformanten Betrieb auf GPU-Servern; Hugging Face bietet Tausende Fine-Tuning-Varianten für spezifische Fachdomänen an. Dieses Ökosystem bedeutet auch, dass Llama als Grundlage für stark spezialisierte Modelle dient — etwa für medizinische Fachsprache, Rechtsdokumente oder technische Handbücher.

Für den Aufbau von Wissensdatenbanken bietet sich die Kombination von Llama mit einem passenden Embedding-Modell und einer lokalen Vektordatenbank an — etwa Chroma, Milvus oder pgvector. Diese vollständig lokal betriebene RAG-Architektur ist für hochsensible Daten oft der einzig akzeptable Weg, weil kein einziger Datenpunkt die eigene Infrastruktur verlässt.

Kein Vendor-Lock-in: Wer heute auf Llama 3.3 70B setzt, kann die heruntergeladenen Gewichte dauerhaft nutzen — unabhängig davon, was Meta in Zukunft entscheidet. Das unterscheidet offene Gewichte grundlegend von proprietären API-Diensten, die abgekündigt werden können.

Die Community rund um Llama ist inzwischen so groß, dass nahezu jedes technische Problem bereits gelöst und dokumentiert wurde. Auf Hugging Face, GitHub und einschlägigen Foren finden sich quantisierte Modellvarianten, optimierte Inference-Skripte und spezialisierte Finetunes für Dutzende von Fachdomänen. Dieser Wissenspool ist ein erheblicher praktischer Vorteil, der den Einstieg und den laufenden Betrieb deutlich erleichtert.

Ehrlich benannt gehören aber auch strukturelle Einschränkungen dazu. Llama-Modelle — besonders Maverick — erfordern erhebliche GPU-Ressourcen. Llama 4 Scout lässt sich mit Quantisierung auf Apple-Silicon-Macs mit ausreichend Unified Memory betreiben; Maverick braucht in der Praxis mehrere High-End-GPUs. Es gibt keinen zentralen Support und keine Sicherheits-Updates wie bei proprietären Diensten — jede Schwachstelle muss selbst erkannt und behoben werden.

Einsatz im Unternehmen

Llama eignet sich besonders für Szenarien, in denen Datensouveränität nicht verhandelbar ist und gleichzeitig ausreichend technische Kompetenz für den eigenverantwortlichen Betrieb vorhanden ist. Typische Einsatzbereiche sind interne Dokumentensuchsysteme auf Basis von Retrieval-Augmented Generation, vertrauliche Textgenerierung in Rechts- oder Compliance-Abteilungen und die Entwicklung spezialisierter Modelle durch Fine-Tuning auf eigenen Daten.

Für den deutschen Mittelstand ohne große GPU-Infrastruktur ist häufig ein Mittelweg sinnvoll: Llama 3.3 70B über einen europäischen Cloud-Anbieter wie OVH Cloud, Hetzner oder STACKIT zu betreiben gibt die Vorteile der EU-Datenresidenz und eines AVV mit einem europäischen Partner, ohne eigene Hardware finanzieren zu müssen. AWS Bedrock bietet Llama 3.x-Modelle ebenfalls in der Frankfurt-Region an.

Welcher Weg passt, hängt davon ab, wie hoch die Anforderungen an Compliance, Latenz und Anpassbarkeit sind. Self-Hosting im eigenen Rechenzentrum maximiert die Kontrolle, erfordert aber das größte interne Know-how. EU-Cloud-Anbieter bieten einen guten Mittelweg. Cloud-Plattformen wie Bedrock sind der einfachste Einstieg.

Unabhängig vom Betriebsweg ist ein strukturierter Prozess für Modell-Updates wichtig: Neue Llama-Versionen erscheinen regelmäßig, und jede Version kann abweichendes Verhalten zeigen. Eine Teststrategie, die das Verhalten gegenüber der Vorgängerversion prüft, schützt vor unerwarteten Regressionen im produktiven Einsatz.

DSGVO und Datenschutz

Bei Self-Hosting in einem eigenen Rechenzentrum stellt Llama die vollständigste Form der Datensouveränität dar: Alle Anfragen verbleiben in der eigenen Infrastruktur, es gibt keine Drittpartei und keine externen Trainingsdaten-Policies, die sich ändern könnten. In diesem Betriebsmodell ist die DSGVO-Konformität strukturell gegeben, solange die eigene Infrastruktur die allgemeinen Anforderungen des Datenschutzrechts erfüllt.

Entscheidend ist die oben beschriebene Lizenzrestriktion: EU-domizilierte Unternehmen dürfen Llama 4 Scout und Llama 4 Maverick aktuell nicht nutzen, unabhängig vom Betriebsweg. Für Unternehmen in Deutschland und anderen EU-Ländern ist deshalb Llama 3.3 70B der empfohlene Ausgangspunkt — bis Meta die Lizenz für Llama 4 anpasst.

Diese Situation macht es besonders wichtig, die Lizenzversion eingesetzter Modelle zu dokumentieren und bei KI-Audits zu prüfen, ob bereits Llama-4-Varianten ohne Lizenzprüfung intern im Einsatz sind. Wer dies im Rahmen einer DSGVO-konformen KI-Einführung strukturiert aufgreift, vermeidet sowohl rechtliche als auch technische Schulden.

Ein weiterer Aspekt ist die Sicherheit des Modells selbst: Anders als proprietäre API-Dienste liefern offene Gewichte keinen eingebauten Schutz gegen Prompt Injection oder Prompt-Engineering-Angriffe. Wer Llama in produktiven Anwendungen einsetzt, muss Guardrails und Eingabevalidierung explizit in die Architektur integrieren, anstatt sie als selbstverständlich vorauszusetzen.

Fazit

Llama ist die richtige Wahl für Unternehmen, die maximale Datensouveränität und die Freiheit zur Feinabstimmung auf eigene Fachdomänen brauchen und über das technische Know-how für den eigenverantwortlichen Betrieb verfügen.

Für EU-domizilierte Unternehmen bedeutet das heute konkret: Llama 3.3 70B als produktionsreife Basis, entweder im eigenen Rechenzentrum oder über einen europäischen Cloud-Anbieter. Llama 4 bleibt zu beobachten — die Lizenzentwicklung wird maßgeblich bestimmen, wann EU-Unternehmen von den deutlich erweiterten Fähigkeiten der neuen Generation profitieren können.

Insgesamt ist Llama kein Modell für den schnellen Einstieg, sondern für Organisationen, die KI als strategische Infrastruktur betrachten, intern aufbauen wollen und bereit sind, die damit verbundene Verantwortung zu tragen. Wer das mitbringt, hat mit Llama eine außergewöhnlich flexible und nachhaltige Grundlage.

Die Kombination aus offenen Gewichten, einem reifen Ökosystem und der Möglichkeit zum vollständigen Self-Hosting macht Llama zum einzigen Anbieter in dieser Übersicht, der echte digitale Souveränität ohne Abhängigkeit von einem externen Dienst ermöglicht. Für Unternehmen, die das als Wert betrachten, ist diese Eigenschaft unbezahlbar — im wörtlichen Sinn.