Ratgeber · Werkzeuge
Lokales KI-Modell oder Cloud-Dienst: Was bleibt wo und was bedeutet das für meine Daten?
Von Kevin Grundmann · 21. November 2026 · 7 Minuten Lesezeit
Bei einem Cloud-Dienst verlassen Ihre Eingaben den Betrieb und werden auf Servern des Anbieters verarbeitet. Bei einem lokalen Modell läuft alles auf eigenen Geräten, die Daten bleiben im Haus. Das bringt mehr Kontrolle, verlangt aber eigene Technik, eigene Pflege sowie meist etwas schwächere Modelle. Für viele Betriebe passt eine Mischung: Vertrauliches lokal, alles andere im Geschäftstarif eines Cloud-Dienstes.
Wo sind meine Daten?
Jede Anfrage an eine KI durchläuft drei Stationen: Sie geben etwas ein, ein Modell verarbeitet es, das Ergebnis wird samt Verlauf gespeichert. Der Unterschied zwischen lokal und Cloud liegt allein darin, wo die zweite und dritte Station stehen.
Der Weg einer Eingabe
Cloud-Dienst
- Eingabe: im Browser oder in der App, danach über das Internet zum Anbieter
- Verarbeitung: auf Servern des Anbieters, je nach Tarif in der EU oder weltweit
- Speicherung: Verläufe und Dateien liegen beim Anbieter, Fristen und Ort regelt der Vertrag
Lokales Modell
- Eingabe: am eigenen Rechner oder im Firmennetz
- Verarbeitung: auf dem eigenen Gerät oder Server, auch ohne Internet
- Speicherung: auf eigenen Datenträgern, Sie legen Fristen und Zugriffe selbst fest
Was „lokal” praktisch heißt
Ein lokales Modell ist eine Datei, die Sie herunterladen und auf eigener Technik ausführen. Dazu gehören vier Dinge.
- Ein offenes Modell. Verbreitet sind im November 2026 unter anderem Gemma von Google, Qwen von Alibaba, die offenen Modelle von Mistral aus Frankreich sowie Llama von Meta. Gemma 4 und Qwen 3 stehen unter der Apache-2.0-Lizenz, die auch die gewerbliche Nutzung erlaubt. Bei Mistral und Meta gelten je nach Modell andere Bedingungen. Ein Blick in die Lizenz gehört vor jeden Einsatz.
- Ein passender Rechner. Die Modelle gibt es in mehreren Größen. Google nennt für Gemma 4 in platzsparender Form einen Speicherbedarf von rund 3 Gigabyte für die kleinste Variante. Bei der größten sind es rund 18 Gigabyte, hinzu kommt Speicher für den laufenden Betrieb. Die kleinen Varianten laufen damit auf einem aktuellen Laptop. Die großen brauchen eine kräftige Grafikkarte oder einen kleinen Server.
- Eine Bedienoberfläche. Programme wie Ollama oder LM Studio laden das Modell und stellen ein Chatfenster bereit.
- Jemand, der sich kümmert. Das ist der Punkt, der am häufigsten fehlt.
Der ehrliche Vergleich
| Cloud-Dienst | Lokales Modell | |
|---|---|---|
| Datenkontrolle | Vertrag und Einstellungen des Anbieters | vollständig bei Ihnen |
| Leistungsfähigkeit | die stärksten Modelle, laufend erneuert | gut für viele Alltagsaufgaben, bei schwierigen meist schwächer |
| Kosten | monatlich je Person, kaum Anschaffung | Anschaffung der Technik, danach Strom und Arbeitszeit |
| Betrieb und Updates | erledigt der Anbieter | erledigen Sie oder Ihr Dienstleister |
| Abhängigkeit | von Preisen, Bedingungen und Modellwechseln des Anbieters | von eigener Technik und eigenem Wissen |
Keine Zeile hat einen eindeutigen Sieger. Wer lokal arbeitet, tauscht die Abhängigkeit vom Anbieter gegen die Abhängigkeit von der Person, die das System betreut.
Die Wege dazwischen
Zwischen „alles beim US-Anbieter” und „alles im eigenen Keller” liegen drei Zwischenwege.
Drei Zwischenwege
Was die Anbieter im November 2026 angeben, unterscheidet sich im Detail. OpenAI bietet berechtigten Geschäftskunden die Speicherung in Europa an, seit 2026 auch die Verarbeitung in der Region. Microsoft verweist für Copilot auf seine EU-Datengrenze. Google lässt in einzelnen Workspace-Editionen die Region für die Gemini-App festlegen. Bei Claude führt der Weg zur Verarbeitung in der EU derzeit über die Cloud-Plattformen von Amazon und Google. Diese Angaben ändern sich, prüfen Sie sie vor einer Entscheidung beim Anbieter.
Zur Übermittlung in die USA: Der Datenschutzrahmen zwischen EU und USA (EU-US Data Privacy Framework) ist weiterhin in Kraft. Das Gericht der EU hat eine Klage dagegen im September 2025 abgewiesen. Ein Rechtsmittel liegt beim Europäischen Gerichtshof, entschieden ist es noch nicht. Übermittlungen an zertifizierte US-Anbieter sind damit nach heutigem Stand zulässig. Wer langfristig plant, sollte wissen, dass sich das ändern kann.
Lokal ist nicht automatisch sicher
Ein häufiges Missverständnis: „Lokal” klingt nach Tresor, „Cloud” nach offenem Fenster. Beides stimmt so nicht. Ein eigener Server ohne Zugriffsschutz, ohne Updates und ohne Datensicherung ist ein Risiko, nur eben ein hausgemachtes. Ein Cloud-Dienst im Geschäftstarif mit Vertrag zur Auftragsverarbeitung ist für viele Aufgaben eine saubere Lösung. Worauf es dabei ankommt, steht im Beitrag ChatGPT im Unternehmen.
Welche Daten wohin?
Entscheidungshilfe
Wir arbeiten mit Berufsgeheimnissen, Gesundheitsdaten oder Mandantenakten.
lokal prüfenUnser Wert steckt in Konstruktions- und Kalkulationsdaten, die kein Dritter sehen soll.
lokal prüfenWir haben niemanden, der Technik betreut, auch keinen Dienstleister.
CloudDie Aufgaben wechseln ständig, vertraulich ist davon wenig.
CloudDer größte Teil ist unkritisch, ein kleiner Teil ist heikel.
MischungSo arbeite ich auch selbst: Unternehmensinformationen verarbeite ich mit lokal betriebenen Modellen, derzeit Gemma 4 und Qwen 3. Claude nutze ich nur für die Konzeption, ohne Unternehmensinformationen und ohne sensible Daten.
Ein Beispiel: Tom im Ingenieurbüro
Tom arbeitet in einem Ingenieurbüro. Im Alltag formuliert er Mails, fasst Normtexte zusammen, bereitet Besprechungen vor. Dafür nutzt das Büro einen Cloud-Dienst im Geschäftstarif. Die Konstruktionsdaten und Kalkulationen der Kunden sind etwas anderes: Viele stehen unter Vertraulichkeitsvereinbarung. Für sie steht im Büro ein Rechner mit Grafikkarte, auf dem ein offenes Modell läuft. Dort lässt Tom Leistungsverzeichnisse durchsehen und Angebote vergleichen. Eine Kollegin spielt einmal im Monat Updates ein und prüft die Datensicherung. Auf einer halben Seite steht, welche Daten wohin gehören.
Wann sich ein lokales Modell nicht lohnt
- Wenn niemand im Betrieb die Technik betreuen kann oder will. Wie Sie dann trotzdem gut starten, zeigt der Beitrag KI-Einstieg ohne IT-Abteilung.
- Wenn kaum vertrauliche Daten anfallen. Dann zahlen Sie Aufwand für einen Schutz, den Sie nicht brauchen.
- Wenn Sie auf die stärksten Modelle angewiesen sind, etwa für sehr lange Dokumente oder mehrstufige Aufgaben.
- Wenn es nur um gelegentliche Einzelfälle geht. Hier genügt oft, heikle Angaben vorher durch Platzhalter zu ersetzen, zum Beispiel mit der Prompt-Schleuse.
Dieser Beitrag klärt die Grundsatzfrage. Er ersetzt keine Rechtsberatung und keine Prüfung Ihrer Verträge. Bei Berufsgeheimnissen sprechen Sie bitte zusätzlich mit Ihrer Kammer, Ihrer Datenschutzbeauftragten oder einer Anwältin.
Typische Fehler
Lokal mit sicher gleichsetzen. Es liegt nahe, weil nichts das Haus verlässt. Ein ungepflegter Server ist trotzdem angreifbar. Planen Sie Zugriffsschutz, Updates und Datensicherung von Anfang an mit ein.
Die Technik kaufen, bevor die Aufgabe feststeht. Eine neue Grafikkarte fühlt sich nach Fortschritt an. Probieren Sie zuerst ein kleines Modell auf einem vorhandenen Rechner an drei echten Aufgaben aus.
Vom lokalen Modell dieselbe Qualität erwarten wie vom Cloud-Dienst. Der Vergleich drängt sich auf, weil beide wie ein Chatfenster aussehen. Lokale Modelle brauchen klarere Aufträge und besser ausgewählte Unterlagen. Wie das geht, erkläre ich unter Was ist Context Engineering?.
Den Betrieb an einer einzigen Person aufhängen. Meist richtet es jemand ein, der Freude daran hat. Wird diese Person krank oder geht, steht das System. Halten Sie Einrichtung und Zugänge schriftlich fest und benennen Sie eine Vertretung.
„Server in der EU” für die ganze Antwort halten. Der Speicherort ist nur ein Teil. Fragen Sie auch, wo verarbeitet wird, wer Zugriff hat und was der Vertrag zum Training sagt.
Alles auf einen Weg setzen. Eine einzige Lösung wirkt übersichtlich. In der Praxis ist die Mischung oft günstiger und trotzdem sauber: heikle Daten lokal, der Rest in der Cloud.
Das Wichtigste in Kürze
- Cloud heißt: Verarbeitung und Speicherung beim Anbieter, geregelt durch Vertrag und Einstellungen. Lokal heißt: beides bei Ihnen, samt Verantwortung.
- Ein lokales Modell braucht einen passenden Rechner, ein offenes Modell, eine Oberfläche sowie jemanden, der es pflegt.
- Lokal ist nicht automatisch sicher, Cloud nicht automatisch unsicher.
- Die Art der Daten entscheidet. Für viele Betriebe ist die Mischung der vernünftige Weg.
- Was Einrichtung und Begleitung kosten können, lesen Sie unter Was kostet eine KI-Beratung?