Zum Inhalt springen

Ratgeber · Einstieg

Woran erkenne ich, dass eine KI-Antwort falsch ist?

Von Kevin Grundmann · 21. November 2026 · 7 Minuten Lesezeit

Am Klang erkennen Sie es nicht, denn eine falsche Antwort liest sich genauso flüssig wie eine richtige. Verlässlich ist nur das Prüfen: bei Zahlen, Namen, Quellen, Fristen sowie allem, was Folgen hat. Je größer die Folgen eines Fehlers wären, desto gründlicher prüfen Sie.

Warum eine KI falsche Angaben macht

Ein Sprachmodell erzeugt Wort für Wort die Fortsetzung, die am wahrscheinlichsten passt. Meistens ist das Wahrscheinliche auch das Richtige. Manchmal nicht. Dann entsteht eine Angabe, die gut klingt und trotzdem nicht stimmt. Fachleute nennen das Halluzination, also eine erfundene Angabe, die wie eine Tatsache vorgetragen wird.

Vier Gründe stecken meist dahinter:

  • Die KI formuliert, sie schlägt nicht nach. Ohne eingeschaltete Suche antwortet sie aus dem, was sie beim Training gelernt hat.
  • Ihr Wissen hat einen Stichtag. Was danach geändert wurde, kennt sie nicht. Die alte Regel nennt sie trotzdem mit voller Überzeugung.
  • Sie kennt Ihren Betrieb nicht. Preise, Abläufe oder Absprachen kann sie nur raten, solange Sie ihr die Unterlagen nicht geben.
  • Sie füllt Lücken, statt zu sagen, dass etwas fehlt. Neuere Modelle geben Unsicherheit öfter zu, verlassen können Sie sich darauf nicht.

Wie verbreitet das 2026 noch ist

Die Modelle sind spürbar besser geworden. Gelöst ist das Problem nicht. Drei Untersuchungen geben einen Eindruck.

Die Europäische Rundfunkunion und die BBC ließen 2025 über 3.000 Antworten von vier verbreiteten KI-Assistenten auf Nachrichtenfragen durch Journalisten bewerten. 45 Prozent der Antworten hatten mindestens einen erheblichen Mangel, 31 Prozent hatten Probleme bei den Quellenangaben.

Forschende der EPFL in Lausanne und aus Tübingen veröffentlichten Anfang 2026 einen bewusst schwierigen Test mit langen Gesprächen zu Recht, Medizin, Forschung sowie Programmierung. Selbst das beste Modell mit Websuche lag in rund 30 Prozent der Fälle daneben. Ohne Suche waren die Werte deutlich schlechter.

Eine Studie der Universität Stanford von 2024 prüfte juristische Recherche-Werkzeuge, die vor der Antwort in einer Fachdatenbank nachschlagen. Dieses Verfahren heißt RAG: Die KI bekommt passende Textstellen aus Unterlagen mitgeliefert. Die Werkzeuge irrten seltener als allgemeine Chatbots, lagen aber immer noch bei mehr als jeder sechsten Testfrage falsch.

Alle drei Tests sind streng und bilden nicht Ihren Büroalltag ab. Die Richtung ist trotzdem klar: Suche und eigene Unterlagen verringern die Fehler, sie beseitigen sie nicht.

Was passiert, wenn niemand prüft

Das Amtsgericht Köln erhielt 2025 in einem Familienverfahren einen Schriftsatz, dessen Fundstellen sich nicht finden ließen. Das Gericht hielt sie für offenbar von einer KI erzeugt und frei erfunden (Beschluss vom 2. Juli 2025, Az. 312 F 130/25). Das Kammergericht Berlin stieß wenige Monate später auf einen Beschluss des Bundesgerichtshofs, den es nicht gibt. Es erinnerte daran, dass Fundstellen vor dem Einreichen zu prüfen sind (Beschluss vom 20. November 2025, Az. 17 WF 144/25).

In beiden Fällen war die KI nicht das eigentliche Problem. Es fehlte der Blick in die Quelle.

Warnzeichen, die einen zweiten Blick verdienen

Kein Warnzeichen beweist einen Fehler. Jedes davon ist aber ein guter Anlass, kurz nachzusehen.

WarnzeichenWarum hinsehen
Sehr genaue Zahl ohne QuelleGenauigkeit wirkt glaubwürdig, auch wenn sie geraten ist
Zitate, Urteile, Aktenzeichen, NormnummernSie lassen sich leicht erfinden, sind aber auch leicht nachzuschlagen
Quelle, die sich nicht öffnen lässtOder die etwas anderes sagt als behauptet
Aktuelle Ereignisse und neue RegelnDer Stichtag des Modells liegt oft davor
RechenwegeEinzelne Schritte können stimmen, das Ergebnis trotzdem nicht
Aussagen über Ihren BetriebDie KI kennt nur, was Sie ihr gegeben haben

Die Prüf-Ampel: Wie viel Kontrolle ist angemessen?

Nicht jede Antwort braucht dieselbe Sorgfalt. Die Frage lautet: Was passiert, wenn es falsch ist?

Prüf-Ampel für KI-Ergebnisse

Grün · ohne Prüfung nutzbarFormulierungen glätten, Ideen sammeln, Gliederungen, Betreffzeilen. Sie lesen es ohnehin und merken, ob es passt.
Gelb · kurz prüfenZusammenfassungen eigener Unterlagen, Protokolle, Auswertungen. Stichprobe am Original: Stimmen Namen, Zahlen und Aussagen?
Rot · immer prüfenZahlen, Rechtliches, Fristen, Normen sowie alles, was an Kunden, Behörden oder die Öffentlichkeit geht.
Die Farbe richtet sich nach den Folgen eines Fehlers, nicht nach dem Werkzeug.

Fünf einfache Prüfwege

So prüfen Sie ohne Fachwissen über KI

1. Quelle öffnenLink anklicken und die Stelle suchen. Steht dort wirklich, was die KI sagt?
2. Am Original gegenlesenBei Zusammenfassungen: Zahlen, Namen und Daten mit der Unterlage vergleichen.
3. NachrechnenSummen und Prozente mit Taschenrechner oder Tabelle wiederholen.
4. Die KI befragenWo bist du unsicher? Woher stammt das? Hilft beim Finden, ist aber kein Beweis.
5. Fachkundige PersonBei Recht, Steuern, Technik oder Gesundheit schaut jemand vom Fach drauf.
FaustregelWege 1 bis 3 dauern Minuten. Weg 5 ist für alles in Rot gedacht.
Vier der fünf Wege kann jede Person im Betrieb gehen. Vorkenntnisse braucht es dafür nicht.
MerksatzPrüfen Sie nicht, wie überzeugend eine Antwort klingt. Prüfen Sie, was passiert, wenn sie falsch ist.

Ein Beispiel aus der Steuerkanzlei

Aylin arbeitet in einer Steuerkanzlei. Ein Mandant möchte wissen, bis wann er gegen seinen Steuerbescheid Einspruch einlegen kann. Aylin fragt zur Vorbereitung eine KI ohne Websuche. Die Antwort klingt sauber: Der Bescheid gelte am dritten Tag nach der Aufgabe zur Post als bekannt gegeben, von da an laufe ein Monat.

Aylin stutzt, weil eine Frist im Spiel ist. Sie schlägt in der Abgabenordnung nach. Seit 1. Januar 2025 gilt der Bescheid erst am vierten Tag als bekannt gegeben. Die KI hat den Stand vor ihrem Stichtag wiedergegeben. Das Nachschlagen hat zwei Minuten gedauert. Die Entscheidung über die Frist trifft ohnehin die Steuerberaterin.

Aylins Weg von der Antwort zur Auskunft

EntwurfKI nennt Frist und Regel
WarnzeichenAylin erkennt: Frist, also Rot
Quelle öffnenGesetzestext nachschlagen
FreigabeSteuerberaterin entscheidet

KI-Schritt Mensch

Die KI liefert die Vorarbeit. Prüfung und Entscheidung bleiben bei den Menschen in der Kanzlei.

Wie Sie der KI von vornherein die richtigen Unterlagen mitgeben, erklärt der Beitrag Was ist Context Engineering?. Wie ein klarer Auftrag aussieht, lesen Sie unter Was ist Prompt Engineering?.

Typische Fehler

Dem Tonfall vertrauen. Wir sind es gewohnt, dass sicheres Auftreten auf Wissen hindeutet. Bei einer KI sagt der Ton nichts über den Inhalt. Achten Sie auf die Art der Angabe: Zahl, Frist oder Quelle heißt nachsehen.

Die Quellenangabe für die Prüfung halten. Eine Fußnote sieht nach Beleg aus. Belegt ist die Aussage erst, wenn Sie die Quelle geöffnet und die Stelle gefunden haben.

Die KI als ihren eigenen Prüfer einsetzen. Die Rückfrage „Stimmt das?” ist schnell gestellt. Die KI kann dabei einen Fehler bestätigen oder Richtiges zurücknehmen. Nutzen Sie die Rückfrage als Hinweis, nicht als Ergebnis.

Alles oder nichts prüfen. Wer jedes Wort kontrolliert, spart keine Zeit und gibt bald auf. Wer nichts kontrolliert, erlebt irgendwann eine unangenehme Überraschung. Die Ampel hilft, die Sorgfalt zu verteilen.

Prüfen dem Zufall überlassen. Im vollen Alltag prüft, wer gerade daran denkt. Besser ist eine feste Regel, wer was vor dem Versand ansieht. Sie lässt sich in einer KI-Richtlinie festhalten. Welche Daten überhaupt hinein dürfen, steht im Beitrag ChatGPT im Unternehmen.

Ehrlich bleiben: Auch Menschen irren

Auch Kolleginnen, Fachbücher oder Internetseiten enthalten Fehler. Bei einer KI ist nur das gewohnte Signal anders: Ein Mensch zögert, wenn er unsicher ist, eine KI meist nicht. Es geht deshalb um angemessene Kontrolle, nicht um Misstrauen gegen jedes Wort.

Dieser Beitrag kann Ihnen keine Fehlerquote für Ihr Werkzeug nennen. Die Zahlen oben stammen aus strengen Tests zu bestimmten Aufgaben, außerdem ändern sich die Modelle laufend. Eine Liste von Warnzeichen fängt auch nicht jeden Fehler ab. Manche Irrtümer sehen völlig unauffällig aus. Wo viel auf dem Spiel steht, bleibt deshalb die fachkundige Person der letzte Schritt.

Das Wichtigste in Kürze

  • Am Klang erkennen Sie eine falsche KI-Antwort nicht. Verlässlich ist nur das Prüfen.
  • Zweiter Blick bei Zahlen, Zitaten, Quellen, Fristen, aktuellen Themen, Rechenwegen sowie Aussagen über Ihren Betrieb.
  • Die Ampel verteilt den Aufwand: Formulierungen frei, eigene Unterlagen per Stichprobe, alles mit Folgen immer.
  • Suche und eigene Unterlagen senken die Fehlerquote. Auf null bringen sie sie nicht.
  • Die KI nimmt Vorarbeit ab. Verantwortung und Entscheidung bleiben beim Menschen.

Kurz gefragt

Ihre Frage ist nicht dabei? Schreiben Sie mir.

Machen aktuelle KI-Modelle überhaupt noch Fehler?

Ja. Die Modelle sind besser geworden, aber fehlerfrei sind sie nicht. In einem bewusst schwierigen Test von Anfang 2026 lag selbst das beste Modell mit Websuche bei rund 30 Prozent der Fälle daneben. Im Büroalltag ist die Quote meist niedriger, null ist sie nie.

Ist eine Antwort mit Quellenangabe verlässlich?

Nicht automatisch. Eine Quelle kann erfunden sein, sich nicht öffnen lassen oder etwas anderes sagen als behauptet. Verlässlich wird die Angabe erst, wenn Sie die Quelle geöffnet und die Stelle gefunden haben.

Kann ich die KI einfach fragen, ob ihre Antwort stimmt?

Das hilft manchmal, weil die KI beim zweiten Durchgang eigene Fehler findet. Ein Beweis ist es nicht. Sie kann einen Fehler ebenso überzeugend bestätigen oder eine richtige Angabe auf Nachfrage zurücknehmen.

Muss ich jede KI-Antwort prüfen?

Nein. Bei Formulierungen oder Ideen merken Sie selbst, ob das Ergebnis passt. Geprüft wird, was als Tatsache weiterverwendet wird: Zahlen, Fristen, Rechtliches sowie alles, was an Kunden oder Behörden geht.

Weiterlesen

Lassen Sie uns 30 Minuten sprechen.

Kostenlos und unverbindlich. Sie schildern, wo es hakt, ich sage Ihnen ehrlich, ob und wie KI dabei hilft.

Lieber kurz per WhatsApp schreiben

Einen Teil meiner Arbeit erledige ich mit KI-Unterstützung: lokal mit Gemma 4 und Qwen 3, für die Konzeption mit Claude von Anthropic. Claude dient nur der Konzeption. Es erhält keine Informationen zu Unternehmen und keine sensiblen Daten. Jede Antwort prüfe ich selbst.

Ohne diese Zustimmung bearbeite ich Ihre Nachricht nicht. Sie können die Zustimmung jederzeit widerrufen.