Als Hallucination oder Halluzination bezeichnet man die Fähigkeit von Sprachmodellen, Inhalte zu produzieren, die sprachlich plausibel, aber faktisch falsch sind. Das Modell erfindet Quellen, Zahlen oder Namen, die es nicht belegen kann – ohne zu kennzeichnen, dass die Aussage unsicher ist.
Ursache ist die statistische Natur der Modelle: Sie optimieren auf wahrscheinliche Fortsetzungen, nicht auf verifizierte Wahrheit. Im produktiven Einsatz zählen Halluzinationen zu den größten Risiken – und werden durch RAG mit Zitaten, Guardrails, Temperatur-Absenkung und klar strukturierte Prompts reduziert.
Für den sicheren Einsatz von KI im Unternehmen – inklusive Grounding und Evaluations-Pipelines – sind wir im Bereich Künstliche Intelligenz der richtige Partner.
