Ratgeber · Einstieg
Woran erkenne ich, dass eine KI-Antwort falsch ist?
Von Kevin Grundmann · 21. November 2026 · 7 Minuten Lesezeit
Am Klang erkennen Sie es nicht, denn eine falsche Antwort liest sich genauso flüssig wie eine richtige. Verlässlich ist nur das Prüfen: bei Zahlen, Namen, Quellen, Fristen sowie allem, was Folgen hat. Je größer die Folgen eines Fehlers wären, desto gründlicher prüfen Sie.
Warum eine KI falsche Angaben macht
Ein Sprachmodell erzeugt Wort für Wort die Fortsetzung, die am wahrscheinlichsten passt. Meistens ist das Wahrscheinliche auch das Richtige. Manchmal nicht. Dann entsteht eine Angabe, die gut klingt und trotzdem nicht stimmt. Fachleute nennen das Halluzination, also eine erfundene Angabe, die wie eine Tatsache vorgetragen wird.
Vier Gründe stecken meist dahinter:
- Die KI formuliert, sie schlägt nicht nach. Ohne eingeschaltete Suche antwortet sie aus dem, was sie beim Training gelernt hat.
- Ihr Wissen hat einen Stichtag. Was danach geändert wurde, kennt sie nicht. Die alte Regel nennt sie trotzdem mit voller Überzeugung.
- Sie kennt Ihren Betrieb nicht. Preise, Abläufe oder Absprachen kann sie nur raten, solange Sie ihr die Unterlagen nicht geben.
- Sie füllt Lücken, statt zu sagen, dass etwas fehlt. Neuere Modelle geben Unsicherheit öfter zu, verlassen können Sie sich darauf nicht.
Wie verbreitet das 2026 noch ist
Die Modelle sind spürbar besser geworden. Gelöst ist das Problem nicht. Drei Untersuchungen geben einen Eindruck.
Die Europäische Rundfunkunion und die BBC ließen 2025 über 3.000 Antworten von vier verbreiteten KI-Assistenten auf Nachrichtenfragen durch Journalisten bewerten. 45 Prozent der Antworten hatten mindestens einen erheblichen Mangel, 31 Prozent hatten Probleme bei den Quellenangaben.
Forschende der EPFL in Lausanne und aus Tübingen veröffentlichten Anfang 2026 einen bewusst schwierigen Test mit langen Gesprächen zu Recht, Medizin, Forschung sowie Programmierung. Selbst das beste Modell mit Websuche lag in rund 30 Prozent der Fälle daneben. Ohne Suche waren die Werte deutlich schlechter.
Eine Studie der Universität Stanford von 2024 prüfte juristische Recherche-Werkzeuge, die vor der Antwort in einer Fachdatenbank nachschlagen. Dieses Verfahren heißt RAG: Die KI bekommt passende Textstellen aus Unterlagen mitgeliefert. Die Werkzeuge irrten seltener als allgemeine Chatbots, lagen aber immer noch bei mehr als jeder sechsten Testfrage falsch.
Alle drei Tests sind streng und bilden nicht Ihren Büroalltag ab. Die Richtung ist trotzdem klar: Suche und eigene Unterlagen verringern die Fehler, sie beseitigen sie nicht.
Was passiert, wenn niemand prüft
Das Amtsgericht Köln erhielt 2025 in einem Familienverfahren einen Schriftsatz, dessen Fundstellen sich nicht finden ließen. Das Gericht hielt sie für offenbar von einer KI erzeugt und frei erfunden (Beschluss vom 2. Juli 2025, Az. 312 F 130/25). Das Kammergericht Berlin stieß wenige Monate später auf einen Beschluss des Bundesgerichtshofs, den es nicht gibt. Es erinnerte daran, dass Fundstellen vor dem Einreichen zu prüfen sind (Beschluss vom 20. November 2025, Az. 17 WF 144/25).
In beiden Fällen war die KI nicht das eigentliche Problem. Es fehlte der Blick in die Quelle.
Warnzeichen, die einen zweiten Blick verdienen
Kein Warnzeichen beweist einen Fehler. Jedes davon ist aber ein guter Anlass, kurz nachzusehen.
| Warnzeichen | Warum hinsehen |
|---|---|
| Sehr genaue Zahl ohne Quelle | Genauigkeit wirkt glaubwürdig, auch wenn sie geraten ist |
| Zitate, Urteile, Aktenzeichen, Normnummern | Sie lassen sich leicht erfinden, sind aber auch leicht nachzuschlagen |
| Quelle, die sich nicht öffnen lässt | Oder die etwas anderes sagt als behauptet |
| Aktuelle Ereignisse und neue Regeln | Der Stichtag des Modells liegt oft davor |
| Rechenwege | Einzelne Schritte können stimmen, das Ergebnis trotzdem nicht |
| Aussagen über Ihren Betrieb | Die KI kennt nur, was Sie ihr gegeben haben |
Die Prüf-Ampel: Wie viel Kontrolle ist angemessen?
Nicht jede Antwort braucht dieselbe Sorgfalt. Die Frage lautet: Was passiert, wenn es falsch ist?
Prüf-Ampel für KI-Ergebnisse
Fünf einfache Prüfwege
So prüfen Sie ohne Fachwissen über KI
Ein Beispiel aus der Steuerkanzlei
Aylin arbeitet in einer Steuerkanzlei. Ein Mandant möchte wissen, bis wann er gegen seinen Steuerbescheid Einspruch einlegen kann. Aylin fragt zur Vorbereitung eine KI ohne Websuche. Die Antwort klingt sauber: Der Bescheid gelte am dritten Tag nach der Aufgabe zur Post als bekannt gegeben, von da an laufe ein Monat.
Aylin stutzt, weil eine Frist im Spiel ist. Sie schlägt in der Abgabenordnung nach. Seit 1. Januar 2025 gilt der Bescheid erst am vierten Tag als bekannt gegeben. Die KI hat den Stand vor ihrem Stichtag wiedergegeben. Das Nachschlagen hat zwei Minuten gedauert. Die Entscheidung über die Frist trifft ohnehin die Steuerberaterin.
Aylins Weg von der Antwort zur Auskunft
KI-Schritt Mensch
Wie Sie der KI von vornherein die richtigen Unterlagen mitgeben, erklärt der Beitrag Was ist Context Engineering?. Wie ein klarer Auftrag aussieht, lesen Sie unter Was ist Prompt Engineering?.
Typische Fehler
Dem Tonfall vertrauen. Wir sind es gewohnt, dass sicheres Auftreten auf Wissen hindeutet. Bei einer KI sagt der Ton nichts über den Inhalt. Achten Sie auf die Art der Angabe: Zahl, Frist oder Quelle heißt nachsehen.
Die Quellenangabe für die Prüfung halten. Eine Fußnote sieht nach Beleg aus. Belegt ist die Aussage erst, wenn Sie die Quelle geöffnet und die Stelle gefunden haben.
Die KI als ihren eigenen Prüfer einsetzen. Die Rückfrage „Stimmt das?” ist schnell gestellt. Die KI kann dabei einen Fehler bestätigen oder Richtiges zurücknehmen. Nutzen Sie die Rückfrage als Hinweis, nicht als Ergebnis.
Alles oder nichts prüfen. Wer jedes Wort kontrolliert, spart keine Zeit und gibt bald auf. Wer nichts kontrolliert, erlebt irgendwann eine unangenehme Überraschung. Die Ampel hilft, die Sorgfalt zu verteilen.
Prüfen dem Zufall überlassen. Im vollen Alltag prüft, wer gerade daran denkt. Besser ist eine feste Regel, wer was vor dem Versand ansieht. Sie lässt sich in einer KI-Richtlinie festhalten. Welche Daten überhaupt hinein dürfen, steht im Beitrag ChatGPT im Unternehmen.
Ehrlich bleiben: Auch Menschen irren
Auch Kolleginnen, Fachbücher oder Internetseiten enthalten Fehler. Bei einer KI ist nur das gewohnte Signal anders: Ein Mensch zögert, wenn er unsicher ist, eine KI meist nicht. Es geht deshalb um angemessene Kontrolle, nicht um Misstrauen gegen jedes Wort.
Dieser Beitrag kann Ihnen keine Fehlerquote für Ihr Werkzeug nennen. Die Zahlen oben stammen aus strengen Tests zu bestimmten Aufgaben, außerdem ändern sich die Modelle laufend. Eine Liste von Warnzeichen fängt auch nicht jeden Fehler ab. Manche Irrtümer sehen völlig unauffällig aus. Wo viel auf dem Spiel steht, bleibt deshalb die fachkundige Person der letzte Schritt.
Das Wichtigste in Kürze
- Am Klang erkennen Sie eine falsche KI-Antwort nicht. Verlässlich ist nur das Prüfen.
- Zweiter Blick bei Zahlen, Zitaten, Quellen, Fristen, aktuellen Themen, Rechenwegen sowie Aussagen über Ihren Betrieb.
- Die Ampel verteilt den Aufwand: Formulierungen frei, eigene Unterlagen per Stichprobe, alles mit Folgen immer.
- Suche und eigene Unterlagen senken die Fehlerquote. Auf null bringen sie sie nicht.
- Die KI nimmt Vorarbeit ab. Verantwortung und Entscheidung bleiben beim Menschen.