Wenn KI halluziniert
Eine KI erfindet manchmal Fakten, Zahlen oder Quellen, und zwar genauso überzeugend formuliert wie richtige Antworten. Sie berechnet, was plausibel klingt, statt nachzuschlagen.
💡 Für Ideen und Entwürfe ist KI super. Wichtige Fakten, Gesetze und Zahlen aber immer gegenprüfen.
Warum KIs halluzinieren
Ein LLM ist darauf trainiert, plausible Texte zu erzeugen, nicht darauf, Fakten nachzuschlagen. Fehlt ihm Wissen, füllt es die Lücke mit dem, was wahrscheinlich klingt: ein Buchtitel, der passen könnte, ein Gesetzesparagraf, der echt wirkt, eine Studie, die es nie gab. Die Formulierung ist dabei genauso selbstbewusst wie bei richtigen Antworten.
Ein Beispiel aus dem Alltag
Wie jemand auf einer Party, der auf jede Frage eine flüssige Antwort hat, auch wenn er es eigentlich nicht weiß. Klingt überzeugend, stimmt aber nicht immer.
Häufiger Irrtum
„Wenn die KI eine Quelle angibt, stimmt die Aussage.“ Auch Quellenangaben können erfunden sein. Ein Klick auf den Link oder eine kurze Suche zeigt schnell, ob es die Quelle wirklich gibt.
Häufige Fragen
Wie kann ich Halluzinationen vermeiden?
Der KI Material mitgeben, etwa einen Text oder ein Dokument, und sie bitten, sich nur darauf zu stützen. Ausdrücklich erlauben, „weiß ich nicht“ zu sagen. Und wichtige Fakten immer gegenprüfen.
Werden Halluzinationen mit neueren Modellen seltener?
Ja, neuere Modelle halluzinieren deutlich seltener, vor allem wenn sie Quellen durchsuchen können. Ganz verschwunden ist das Problem aber nicht.