Halluzination
Eine Halluzination ist eine selbstbewusst geäußerte, aber falsche oder erfundene Aussage eines KI-Modells.
Sprachmodelle erzeugen plausible Texte, statt Fakten nachzuschlagen, und erfinden daher Namen, Zahlen, Zitate und Quellenangaben. Halluzinationen treten eher auf bei obskuren Themen, in langen Ausgaben und wenn eine Frage keine gute Antwort hat. Auch Spracherkennungsmodelle können halluzinieren und Wörter ausschreiben, die nie gesprochen wurden; OpenAI sagt, dass dies bei Whisper vorkommen kann.
Halluzinationen lassen sich verringern, indem Sie dem Modell Quellmaterial an die Hand geben, es auffordern zu sagen, wenn es etwas nicht weiß, ein stärkeres Reasoning-Modell verwenden und wichtige Aussagen selbst prüfen. Keine dieser Maßnahmen beseitigt das Risiko.
Verwandte Begriffe
- Retrieval-Augmented Generation (RAG) Retrieval-Augmented Generation ermöglicht einem Modell, aus Ihren eigenen Dokumenten zu antworten, indem es die passenden Passagen abruft und in den Prompt einfügt.
- Benchmark Ein Benchmark ist ein standardisierter Test zum Vergleich von Modellen, etwa ein Satz Mathe-, Coding- oder Wissensfragen; die Scores sind nützlich, aber leicht überzuinterpretieren.