Gemma
Offene Gewichte von Google DeepMind für Self-Hosting und On-Device-KI — vom Smartphone bis zum eigenen Rechenzentrum
Steckbrief
- Anbieter
- Google DeepMind (USA)
- Weights
- Open Weights
- Lizenz
- Apache 2.0 (Gemma 4, seit März 2026) — Vorgängergenerationen und Spezialmodelle unter der proprietären Gemma Terms of Use
- AVV
- Bei Self-Hosting nicht erforderlich, da keine Google-Infrastruktur beteiligt ist; bei Betrieb über Vertex AI über das Google Cloud Data Processing Addendum
- Training auf API-Daten
- Nein — bei Self-Hosting verbleiben alle Daten in der eigenen Infrastruktur; bei Nutzung über Vertex AI gilt Googles Zusage, Kundendaten nicht für das Modelltraining zu verwenden
- EU-Hosting
- Self-Hosting im eigenen Rechenzentrum (weltweit, DSGVO-konform bei EU-Serverstandort), Google Cloud Vertex AI Model Garden (EU-Regionen, z. B. europe-west3 Frankfurt)
Aktuelle Modelle
| Modell | Kontext | Modalitäten | Preisniveau | Release |
|---|---|---|---|---|
| Gemma 4 31B | 256K Token | Text, Vision, Video | Mittel | März 2026 |
| Gemma 4 12B Unified | 256K Token | Text, Vision, Audio, Video | Günstig | Juni 2026 |
| Gemma 4 E4B | 128K Token | Text, Vision, Audio, Video | Kostenlos | März 2026 |
Stärken
- +Offene Gewichte für vollständiges Self-Hosting — Daten verlassen nie die eigene Infrastruktur
- +Kompakte Modellgrößen laufen auf Consumer-Hardware bis hin zu Smartphones und Laptops
- +Gemma 4 steht unter Apache 2.0 — echte Open-Source-Lizenz ohne Nutzungsbeschränkungen oder Nutzerobergrenzen
- +Technologische Nähe zu Gemini durch gemeinsame Forschungsbasis bei Google DeepMind
Einschränkungen
- –Frühere Generationen und Spezialmodelle (u. a. MedGemma, ShieldGemma) unterliegen weiterhin der proprietären Gemma Terms of Use mit Prohibited-Use-Klauseln — keine einheitliche Lizenzlage über die gesamte Modellfamilie
- –Kein Enterprise-Support wie bei einer kommerziellen API-Plattform — Self-Hosting erfordert eigenes Infrastruktur- und Update-Management
- –Bei den anspruchsvollsten Reasoning-Aufgaben bleibt das proprietäre Gemini innerhalb des Google-Portfolios die leistungsstärkere Wahl
Gemma ist Google DeepMinds offene Modellfamilie und der ausdrückliche Gegenpart zur proprietären Gemini-Reihe: gebaut auf derselben Forschungsbasis, aber mit offenen Gewichten veröffentlicht und dafür ausgelegt, auf eigener Hardware betrieben zu werden — vom Smartphone bis zum Rechenzentrum. Wer Gemini über eine Google-API nutzt, verarbeitet Daten auf Googles Infrastruktur. Wer stattdessen Gemma herunterlädt und selbst betreibt, entscheidet vollständig selbst, wo die Verarbeitung stattfindet.
Für Unternehmen mit strengen Vorgaben zu Datenlokalität und -hoheit ist das ein grundlegend anderer Ausgangspunkt als bei den meisten großen KI-Anbietern: Gemma verlagert die Entscheidung über Serverstandort, Netzanbindung und Zugriffskontrolle vollständig zum Betreiber.
Was ist Gemma?
Gemma wurde erstmals 2024 vorgestellt und hat sich seither über mehrere Generationen zu einer der breitesten offenen Modellfamilien am Markt entwickelt. Die dritte Generation, Gemma 3, erschien 2025 in den Größen 270 Millionen bis 27 Milliarden Parameter, unterstützte über 140 Sprachen und brachte native Multimodalität für die mittleren und größeren Varianten mit. Sie stand — wie CodeGemma, PaliGemma, MedGemma und weitere Spezialmodelle — unter den proprietären Gemma Terms of Use: offene Gewichte, aber mit einer Prohibited-Use-Policy und vertraglichen Einschränkungen, die keine OSI-zertifizierte Open-Source-Lizenz darstellen.
Mit Gemma 4, das Google DeepMind ab März 2026 in den Größen E2B, E4B, 26B A4B und 31B veröffentlichte, änderte sich das grundlegend: Gemma 4 steht vollständig unter der Apache-2.0-Lizenz — ohne Nutzungseinschränkungen, ohne Schwellenwerte für aktive Nutzer und ohne gesonderte Weiterverteilungsauflagen. Im Juni 2026 folgte mit Gemma 4 12B Unified eine multimodale Variante, die Text, Bilder, Audio und Video in einem einzigen Modell verarbeitet. Die kompakten E2B- und E4B-Varianten sind gezielt für den Betrieb auf Endgeräten mit NPU-Beschleunigung ausgelegt — Laptops, aktuelle Smartphones und Edge-Hardware.
Ergänzend zur Kernfamilie pflegt Google ein Ökosystem an Spezialmodellen: MedGemma für medizinische Bild- und Textanalyse, ShieldGemma für Sicherheits- und Inhaltsklassifikation, EmbeddingGemma für kompakte Embeddings auf Endgeräten, sowie TranslateGemma und FunctionGemma für Übersetzung beziehungsweise strukturierte Funktionsaufrufe. Diese Spezialmodelle bleiben bislang unter den klassischen Gemma Terms of Use — die Lizenzlage muss also modellabhängig geprüft werden, nicht familienweit angenommen werden.
Stärken und Schwächen
Der zentrale Vorteil von Gemma liegt in der Kombination aus offenen Gewichten und Modellgrößen, die tatsächlich auf gewöhnlicher Hardware laufen. Während viele offene Modelle anderer Anbieter erst ab zweistelligen Milliarden Parametern praktikabel werden, deckt Gemma mit E2B und E4B einen Bereich ab, der auf einem Laptop oder sogar einem leistungsfähigen Smartphone ausführbar ist. Das eröffnet Einsatzszenarien, die mit cloud-gebundenen Modellen schlicht nicht möglich sind: vollständig lokale Verarbeitung ohne jede Netzanbindung.
Mit dem Wechsel zu Apache 2.0 in Gemma 4 hat Google eine der größten Kritikpunkte an früheren Generationen ausgeräumt: Die alte Gemma-Lizenz galt trotz offener Gewichte als rechtlich unklarer Sonderfall, weil sie Nutzungsbeschränkungen enthielt, die eine OSI-Anerkennung als echte Open-Source-Lizenz verhinderten. Apache 2.0 ist dagegen eine etablierte, in der Industrie breit akzeptierte Lizenz ohne solche Einschränkungen — ein Schritt, der Gemma 4 für Unternehmen mit strengen Lizenz-Compliance-Vorgaben deutlich attraktiver macht als seine Vorgänger.
Die technologische Nähe zu Gemini ist ein weiterer Pluspunkt: Gemma-Modelle profitieren von derselben Forschungsbasis wie Googles Flaggschiff-Reihe, auch wenn sie in Parametergröße und Trainingsumfang deutlich kleiner ausfallen. Für Unternehmen, die bereits mit Gemini experimentieren, ist der Umstieg auf ein vergleichbar trainiertes, aber selbst betreibbares Modell konzeptionell naheliegend.
Zu den Einschränkungen gehört, dass die Lizenzlage über die gesamte Gemma-Familie hinweg uneinheitlich bleibt: Nur Gemma 4 selbst läuft unter Apache 2.0, während Gemma 3 und die zahlreichen Spezialmodelle weiterhin den proprietären Gemma Terms of Use unterliegen. Wer mehrere Gemma-Varianten kombiniert, muss die Lizenzbedingungen also pro Modell prüfen. Zudem bietet Google für selbst betriebene Gemma-Modelle keinen Enterprise-Support im klassischen Sinn — Betrieb, Updates und Absicherung liegen vollständig beim Unternehmen selbst. Bei den anspruchsvollsten Reasoning- und Agenten-Aufgaben bleibt außerdem das proprietäre Gemini die leistungsfähigere Option innerhalb von Googles eigenem Portfolio.
Einsatz im Unternehmen
Gemma eignet sich besonders für Szenarien, in denen Datenverarbeitung strikt lokal bleiben muss — sei es aus regulatorischen Gründen, wegen unzuverlässiger Netzanbindung oder weil eine Cloud-Anbindung aus Sicherheitsgründen grundsätzlich ausgeschlossen ist. Typische Einsatzbereiche sind Assistenzfunktionen auf Firmen-Laptops ohne Internetzugang, Vorverarbeitung sensibler Dokumente direkt am Erfassungsort oder eingebettete KI-Funktionen in Geräten, die im Feld eingesetzt werden — etwa in der Fertigung, im Außendienst oder in der Logistik.
Für den produktiven Einstieg bietet sich ein gestuftes Vorgehen an: E4B für Pilotprojekte auf Endgeräten und erste Machbarkeitstests, 12B Unified für multimodale Anwendungsfälle mit moderatem Infrastrukturaufwand, und 31B dort, wo maximale Reasoning-Fähigkeit bei vollständiger Infrastrukturkontrolle gefragt ist. Dieser Stufenaufbau erlaubt es, mit geringem Risiko zu starten und bei Bedarf auf leistungsfähigere Varianten der gleichen Modellfamilie zu wechseln, ohne die Architektur grundlegend zu ändern.
Für Self-Hosting stehen etablierte Werkzeuge bereit: Frameworks wie Ollama, llama.cpp und Hugging-Face-Transformers unterstützen Gemma-Architekturen direkt, ebenso wie Googles eigene On-Device-Runtime für den Einsatz auf Mobilgeräten. In quantisierter Form lassen sich selbst die größeren Gemma-Varianten auf einzelnen Consumer-GPUs betreiben — ein praktischer Vorteil gegenüber Modellen, die für den produktiven Einsatz zwingend Rechenzentrums-Hardware voraussetzen.
Für RAG-Architekturen bietet sich die Kombination mit EmbeddingGemma an, Googles kompaktem Embedding-Modell für Endgeräte, das für ressourcenschonende Retrieval-Pipelines ausgelegt ist. Wer Fine-Tuning auf eigene Fachterminologie plant, findet in der offenen Gemma-Community umfangreiche Tooling-Unterstützung, die speziell auf die kompakten Modellgrößen zugeschnitten ist.
DSGVO und Datenschutz
Bei vollständigem Self-Hosting bietet Gemma die denkbar stärkste datenschutzrechtliche Ausgangslage: Läuft das Modell im eigenen Rechenzentrum oder direkt auf dem Endgerät, verlässt kein Datensatz die eigene Infrastruktur. Es gibt in diesem Betriebsmodus keinen Auftragsverarbeiter und damit auch keinen Bedarf für einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO — ein struktureller Vorteil gegenüber jeder API-basierten Lösung, bei der zwangsläufig ein externer Anbieter beteiligt ist.
Wer Gemma stattdessen über Google Cloud Vertex AI Model Garden betreibt, kann EU-Regionen wie Frankfurt wählen und schließt einen AVV über Googles Data Processing Addendum ab. Dieser Betriebsweg bietet mehr Bequemlichkeit bei Skalierung und Verwaltung, verlagert aber Verantwortung für den Serverstandort an den Cloud-Anbieter — ein Kompromiss, der im Rahmen einer DSGVO-konformen KI-Einführung dokumentiert werden sollte.
Ein Punkt, den Unternehmen bei der Modellauswahl innerhalb der Gemma-Familie beachten sollten, ist die uneinheitliche Lizenzlage: Während Gemma 4 unter Apache 2.0 keine gesonderten Nutzungsbeschränkungen mehr enthält, gelten für Gemma 3 und die Spezialmodelle weiterhin die Gemma Terms of Use mit ihrer Prohibited-Use-Policy. Für die Dokumentation im Rahmen des EU AI Act und interner Compliance-Prozesse empfiehlt es sich, das konkret eingesetzte Modell samt Versionsnummer und Lizenztext festzuhalten, statt pauschal auf „Gemma" als offene Modellfamilie zu verweisen.
Fazit
Gemma ist die konsequenteste Antwort eines großen KI-Anbieters auf die Frage, wie sich Datensouveränität und KI-Souveränität technisch umsetzen lassen: offene Gewichte, Modellgrößen, die auf gewöhnlicher Hardware laufen, und seit Gemma 4 eine Lizenz ohne die Sonderregeln, die frühere offene Modelle rechtlich angreifbar machten. Für Unternehmen, die KI-Verarbeitung strikt in der eigenen Infrastruktur halten wollen — ob aus regulatorischen Gründen, wegen fehlender Netzanbindung im Feld oder aus grundsätzlicher Vorsicht gegenüber Cloud-Abhängigkeit — ist Gemma eine der wenigen Optionen, die dieses Ziel ohne Kompromisse bei der Modellqualität erreichbar macht.
Wer bereits mit Gemini arbeitet und einen selbst betreibbaren Ergänzungsbaustein sucht, findet in Gemma die technologisch naheliegende Wahl. Die uneinheitliche Lizenzlage zwischen Gemma 4 und älteren Generationen erfordert dabei sorgfältige Prüfung pro Modell — ein überschaubarer Aufwand angesichts des Freiheitsgrads, den offene Gewichte gegenüber jeder proprietären API bieten.
Innerhalb einer Multi-Modell-Strategie eignet sich Gemma besonders als lokales, kostengünstiges Standbein für Aufgaben, die keine maximale Reasoning-Tiefe benötigen, aber hohe Anforderungen an Datenlokalität stellen — während Gemini oder andere API-Modelle für Aufgaben reserviert bleiben, die deren größere Kapazität tatsächlich ausschöpfen.
Welches Modell trägt Ihre Use Cases — und was kostet der Betrieb?
In der KI-Strategie-Beratung erhalten Sie eine konkrete Modell-Empfehlung entlang Ihrer Use Cases: Hosting-Pfad von EU-Cloud bis Self-Hosting, DSGVO-Bewertung und Kostenrahmen — als umsetzbarer Fahrplan statt Folienstapel.