Zum Inhalt springen

Ratgeber · Werkzeuge

Lokales KI-Modell oder Cloud-Dienst: Was bleibt wo und was bedeutet das für meine Daten?

Von Kevin Grundmann · 21. November 2026 · 7 Minuten Lesezeit

Bei einem Cloud-Dienst verlassen Ihre Eingaben den Betrieb und werden auf Servern des Anbieters verarbeitet. Bei einem lokalen Modell läuft alles auf eigenen Geräten, die Daten bleiben im Haus. Das bringt mehr Kontrolle, verlangt aber eigene Technik, eigene Pflege sowie meist etwas schwächere Modelle. Für viele Betriebe passt eine Mischung: Vertrauliches lokal, alles andere im Geschäftstarif eines Cloud-Dienstes.

Wo sind meine Daten?

Jede Anfrage an eine KI durchläuft drei Stationen: Sie geben etwas ein, ein Modell verarbeitet es, das Ergebnis wird samt Verlauf gespeichert. Der Unterschied zwischen lokal und Cloud liegt allein darin, wo die zweite und dritte Station stehen.

Der Weg einer Eingabe

Cloud-Dienst

  • Eingabe: im Browser oder in der App, danach über das Internet zum Anbieter
  • Verarbeitung: auf Servern des Anbieters, je nach Tarif in der EU oder weltweit
  • Speicherung: Verläufe und Dateien liegen beim Anbieter, Fristen und Ort regelt der Vertrag

Lokales Modell

  • Eingabe: am eigenen Rechner oder im Firmennetz
  • Verarbeitung: auf dem eigenen Gerät oder Server, auch ohne Internet
  • Speicherung: auf eigenen Datenträgern, Sie legen Fristen und Zugriffe selbst fest
Bei der Cloud bestimmen Vertrag und Einstellungen, was mit den Daten geschieht. Lokal bestimmen Sie es selbst und tragen dafür die Verantwortung.

Was „lokal” praktisch heißt

Ein lokales Modell ist eine Datei, die Sie herunterladen und auf eigener Technik ausführen. Dazu gehören vier Dinge.

  • Ein offenes Modell. Verbreitet sind im November 2026 unter anderem Gemma von Google, Qwen von Alibaba, die offenen Modelle von Mistral aus Frankreich sowie Llama von Meta. Gemma 4 und Qwen 3 stehen unter der Apache-2.0-Lizenz, die auch die gewerbliche Nutzung erlaubt. Bei Mistral und Meta gelten je nach Modell andere Bedingungen. Ein Blick in die Lizenz gehört vor jeden Einsatz.
  • Ein passender Rechner. Die Modelle gibt es in mehreren Größen. Google nennt für Gemma 4 in platzsparender Form einen Speicherbedarf von rund 3 Gigabyte für die kleinste Variante. Bei der größten sind es rund 18 Gigabyte, hinzu kommt Speicher für den laufenden Betrieb. Die kleinen Varianten laufen damit auf einem aktuellen Laptop. Die großen brauchen eine kräftige Grafikkarte oder einen kleinen Server.
  • Eine Bedienoberfläche. Programme wie Ollama oder LM Studio laden das Modell und stellen ein Chatfenster bereit.
  • Jemand, der sich kümmert. Das ist der Punkt, der am häufigsten fehlt.

Der ehrliche Vergleich

Cloud-DienstLokales Modell
DatenkontrolleVertrag und Einstellungen des Anbietersvollständig bei Ihnen
Leistungsfähigkeitdie stärksten Modelle, laufend erneuertgut für viele Alltagsaufgaben, bei schwierigen meist schwächer
Kostenmonatlich je Person, kaum AnschaffungAnschaffung der Technik, danach Strom und Arbeitszeit
Betrieb und Updateserledigt der Anbietererledigen Sie oder Ihr Dienstleister
Abhängigkeitvon Preisen, Bedingungen und Modellwechseln des Anbietersvon eigener Technik und eigenem Wissen

Keine Zeile hat einen eindeutigen Sieger. Wer lokal arbeitet, tauscht die Abhängigkeit vom Anbieter gegen die Abhängigkeit von der Person, die das System betreut.

Die Wege dazwischen

Zwischen „alles beim US-Anbieter” und „alles im eigenen Keller” liegen drei Zwischenwege.

Drei Zwischenwege

Cloud mit EU-VerarbeitungDie großen Anbieter bieten Speicherung und teils Verarbeitung in der EU an. Oft gilt das nur für bestimmte Tarife oder neu angelegte Arbeitsbereiche.
Europäischer AnbieterDienste mit Sitz und Rechenzentren in Europa. Der Vertragspartner unterliegt europäischem Recht, die Auswahl an Modellen ist kleiner.
Gemieteter eigener ServerEin offenes Modell auf einem Server, den Sie in einem deutschen Rechenzentrum mieten. Kein Gerät im Haus, aber die Pflege bleibt bei Ihnen.
Wo ein Dienst verarbeitet, steht im Vertrag und in den Einstellungen, nicht in der Werbung. Fragen Sie nach beidem: Speicherort und Ort der Verarbeitung.

Was die Anbieter im November 2026 angeben, unterscheidet sich im Detail. OpenAI bietet berechtigten Geschäftskunden die Speicherung in Europa an, seit 2026 auch die Verarbeitung in der Region. Microsoft verweist für Copilot auf seine EU-Datengrenze. Google lässt in einzelnen Workspace-Editionen die Region für die Gemini-App festlegen. Bei Claude führt der Weg zur Verarbeitung in der EU derzeit über die Cloud-Plattformen von Amazon und Google. Diese Angaben ändern sich, prüfen Sie sie vor einer Entscheidung beim Anbieter.

Zur Übermittlung in die USA: Der Datenschutzrahmen zwischen EU und USA (EU-US Data Privacy Framework) ist weiterhin in Kraft. Das Gericht der EU hat eine Klage dagegen im September 2025 abgewiesen. Ein Rechtsmittel liegt beim Europäischen Gerichtshof, entschieden ist es noch nicht. Übermittlungen an zertifizierte US-Anbieter sind damit nach heutigem Stand zulässig. Wer langfristig plant, sollte wissen, dass sich das ändern kann.

Lokal ist nicht automatisch sicher

Ein häufiges Missverständnis: „Lokal” klingt nach Tresor, „Cloud” nach offenem Fenster. Beides stimmt so nicht. Ein eigener Server ohne Zugriffsschutz, ohne Updates und ohne Datensicherung ist ein Risiko, nur eben ein hausgemachtes. Ein Cloud-Dienst im Geschäftstarif mit Vertrag zur Auftragsverarbeitung ist für viele Aufgaben eine saubere Lösung. Worauf es dabei ankommt, steht im Beitrag ChatGPT im Unternehmen.

MerksatzDer Ort allein schützt keine Daten. Es schützt, wer sich darum kümmert.

Welche Daten wohin?

Entscheidungshilfe

Wir arbeiten mit Berufsgeheimnissen, Gesundheitsdaten oder Mandantenakten.

lokal prüfen

Unser Wert steckt in Konstruktions- und Kalkulationsdaten, die kein Dritter sehen soll.

lokal prüfen

Wir haben niemanden, der Technik betreut, auch keinen Dienstleister.

Cloud

Die Aufgaben wechseln ständig, vertraulich ist davon wenig.

Cloud

Der größte Teil ist unkritisch, ein kleiner Teil ist heikel.

Mischung
Die Daten entscheiden über den Weg, nicht die Technikbegeisterung. Meist führt das zur Mischung.

So arbeite ich auch selbst: Unternehmensinformationen verarbeite ich mit lokal betriebenen Modellen, derzeit Gemma 4 und Qwen 3. Claude nutze ich nur für die Konzeption, ohne Unternehmensinformationen und ohne sensible Daten.

Ein Beispiel: Tom im Ingenieurbüro

Tom arbeitet in einem Ingenieurbüro. Im Alltag formuliert er Mails, fasst Normtexte zusammen, bereitet Besprechungen vor. Dafür nutzt das Büro einen Cloud-Dienst im Geschäftstarif. Die Konstruktionsdaten und Kalkulationen der Kunden sind etwas anderes: Viele stehen unter Vertraulichkeitsvereinbarung. Für sie steht im Büro ein Rechner mit Grafikkarte, auf dem ein offenes Modell läuft. Dort lässt Tom Leistungsverzeichnisse durchsehen und Angebote vergleichen. Eine Kollegin spielt einmal im Monat Updates ein und prüft die Datensicherung. Auf einer halben Seite steht, welche Daten wohin gehören.

Wann sich ein lokales Modell nicht lohnt

  • Wenn niemand im Betrieb die Technik betreuen kann oder will. Wie Sie dann trotzdem gut starten, zeigt der Beitrag KI-Einstieg ohne IT-Abteilung.
  • Wenn kaum vertrauliche Daten anfallen. Dann zahlen Sie Aufwand für einen Schutz, den Sie nicht brauchen.
  • Wenn Sie auf die stärksten Modelle angewiesen sind, etwa für sehr lange Dokumente oder mehrstufige Aufgaben.
  • Wenn es nur um gelegentliche Einzelfälle geht. Hier genügt oft, heikle Angaben vorher durch Platzhalter zu ersetzen, zum Beispiel mit der Prompt-Schleuse.

Dieser Beitrag klärt die Grundsatzfrage. Er ersetzt keine Rechtsberatung und keine Prüfung Ihrer Verträge. Bei Berufsgeheimnissen sprechen Sie bitte zusätzlich mit Ihrer Kammer, Ihrer Datenschutzbeauftragten oder einer Anwältin.

Typische Fehler

Lokal mit sicher gleichsetzen. Es liegt nahe, weil nichts das Haus verlässt. Ein ungepflegter Server ist trotzdem angreifbar. Planen Sie Zugriffsschutz, Updates und Datensicherung von Anfang an mit ein.

Die Technik kaufen, bevor die Aufgabe feststeht. Eine neue Grafikkarte fühlt sich nach Fortschritt an. Probieren Sie zuerst ein kleines Modell auf einem vorhandenen Rechner an drei echten Aufgaben aus.

Vom lokalen Modell dieselbe Qualität erwarten wie vom Cloud-Dienst. Der Vergleich drängt sich auf, weil beide wie ein Chatfenster aussehen. Lokale Modelle brauchen klarere Aufträge und besser ausgewählte Unterlagen. Wie das geht, erkläre ich unter Was ist Context Engineering?.

Den Betrieb an einer einzigen Person aufhängen. Meist richtet es jemand ein, der Freude daran hat. Wird diese Person krank oder geht, steht das System. Halten Sie Einrichtung und Zugänge schriftlich fest und benennen Sie eine Vertretung.

„Server in der EU” für die ganze Antwort halten. Der Speicherort ist nur ein Teil. Fragen Sie auch, wo verarbeitet wird, wer Zugriff hat und was der Vertrag zum Training sagt.

Alles auf einen Weg setzen. Eine einzige Lösung wirkt übersichtlich. In der Praxis ist die Mischung oft günstiger und trotzdem sauber: heikle Daten lokal, der Rest in der Cloud.

Das Wichtigste in Kürze

  • Cloud heißt: Verarbeitung und Speicherung beim Anbieter, geregelt durch Vertrag und Einstellungen. Lokal heißt: beides bei Ihnen, samt Verantwortung.
  • Ein lokales Modell braucht einen passenden Rechner, ein offenes Modell, eine Oberfläche sowie jemanden, der es pflegt.
  • Lokal ist nicht automatisch sicher, Cloud nicht automatisch unsicher.
  • Die Art der Daten entscheidet. Für viele Betriebe ist die Mischung der vernünftige Weg.
  • Was Einrichtung und Begleitung kosten können, lesen Sie unter Was kostet eine KI-Beratung?

Kurz gefragt

Ihre Frage ist nicht dabei? Schreiben Sie mir.

Brauche ich für ein lokales KI-Modell einen eigenen Server?

Nicht unbedingt. Kleine offene Modelle laufen auf einem aktuellen Laptop. Für die größeren Varianten, die spürbar bessere Antworten geben, braucht es einen Rechner mit kräftiger Grafikkarte. Sollen mehrere Personen gleichzeitig damit arbeiten, ist ein kleiner Server sinnvoll.

Sind lokale Modelle so gut wie ChatGPT, Copilot oder Claude?

Für viele Alltagsaufgaben wie Zusammenfassen, Umformulieren oder Sortieren reichen sie aus. Bei langen Dokumenten, kniffligen Fragen und mehrstufigen Aufgaben liegen die großen Cloud-Modelle meist vorn. Probieren Sie es an Ihren eigenen Aufgaben aus.

Bleiben meine Daten bei einem Cloud-Dienst in der EU?

Das hängt von Anbieter, Tarif und Einstellung ab. Mehrere große Anbieter bieten Speicherung und teils auch Verarbeitung in der EU an, oft nur in bestimmten Tarifen oder für neu angelegte Arbeitsbereiche. Maßgeblich ist, was in Ihrem Vertrag steht.

Ist ein lokales Modell automatisch datenschutzkonform?

Nein. Die Datenschutzregeln gelten auch im eigenen Haus. Es entfällt die Weitergabe an einen Anbieter. Zugriffsschutz, Updates, Datensicherung sowie die Frage, wofür Sie die Daten nutzen dürfen, bleiben Ihre Aufgabe.

Weiterlesen

Lassen Sie uns 30 Minuten sprechen.

Kostenlos und unverbindlich. Sie schildern, wo es hakt, ich sage Ihnen ehrlich, ob und wie KI dabei hilft.

Lieber kurz per WhatsApp schreiben

Einen Teil meiner Arbeit erledige ich mit KI-Unterstützung: lokal mit Gemma 4 und Qwen 3, für die Konzeption mit Claude von Anthropic. Claude dient nur der Konzeption. Es erhält keine Informationen zu Unternehmen und keine sensiblen Daten. Jede Antwort prüfe ich selbst.

Ohne diese Zustimmung bearbeite ich Ihre Nachricht nicht. Sie können die Zustimmung jederzeit widerrufen.