Inhalt
Halluzinationen vermeiden Sie in KI-Funktionen nicht mit einem einzigen Trick, sondern mit mehreren Schutzschichten: verlässlichen Quellen im Kontext, eng gefassten Aufgaben, maschinell prüfbaren Ausgaben, systematischen Tests und einer Oberfläche, die Unsicherheit ehrlich zeigt. Ganz ausschließen lassen sich erfundene Antworten bei Sprachmodellen nicht – aber so stark reduzieren und abfangen, dass KI-Funktionen im Geschäftsalltag zuverlässig sind. Dieser Artikel zeigt, wie das in der Praxis aussieht.
Was KI-Halluzinationen sind und warum sie entstehen
Von Halluzination spricht man, wenn ein Sprachmodell eine Antwort erzeugt, die überzeugend klingt, aber sachlich falsch oder nicht durch die vorliegenden Informationen gedeckt ist: ein erfundener Tarif, eine nicht existierende Produktfunktion, eine falsch zitierte Vertragsklausel. Die Ursachen sind strukturell:
- Wahrscheinlichkeit statt Wissen: Sprachmodelle erzeugen den plausibelsten nächsten Text. Plausibel heißt nicht korrekt.
- Fehlender Kontext: Kennt das Modell Ihre aktuellen Preise oder Richtlinien nicht, füllt es die Lücke mit allgemeinem Wissen.
- Veraltetes Trainingswissen: Was nach dem Trainingsstand passiert ist, weiß das Modell nicht.
- Zu offene Aufgaben: „Beantworte alle Fragen der Kunden“ lädt zum Raten ein; „Beantworte Fragen zu Lieferzeiten anhand dieser Tabelle“ nicht.
- Antwortdruck: Ohne ausdrückliche Erlaubnis, „Ich weiß es nicht“ zu sagen, antworten Modelle lieber irgendetwas.
Die wirksamsten Gegenmaßnahmen im Überblick
| Maßnahme | Wirkt gegen | Aufwand |
|---|---|---|
| Grounding mit RAG (Antwort nur aus bereitgestellten Quellen) | Fehlendes und veraltetes Wissen | Mittel |
| Eng definierte Aufgaben und Systemanweisungen | Raten bei offenen Fragen | Gering |
| Strukturierte Ausgaben mit Schema-Validierung | Formfehler, fehlende Felder | Gering |
| Fakten aus Systemen statt aus dem Modell (Tool-Aufrufe) | Erfundene Zahlen, Preise, Status | Mittel |
| Quellenangaben und Zitat-Prüfung | Nicht belegte Aussagen | Mittel |
| Evaluation mit Testdatensatz | Unbemerkte Qualitätsverluste | Mittel |
| Menschliche Freigabe bei kritischen Ausgaben | Folgenreiche Fehler | Je nach Volumen |
Grounding: Das Modell an Ihre Fakten binden
Der größte Hebel ist, das Modell nicht aus dem Gedächtnis antworten zu lassen. Bei Retrieval-Augmented Generation sucht die App zunächst passende Abschnitte aus Ihren Dokumenten, Produktdaten oder FAQs und gibt sie dem Modell mit der Anweisung, ausschließlich darauf basierend zu antworten. Wie das technisch funktioniert, erklärt unser Artikel RAG erklärt.
Wichtig für die Qualität:
- Retrieval testen: Viele „Halluzinationen“ sind in Wahrheit Suchfehler – das Modell bekam schlicht die falschen Abschnitte.
- Exakte Werte aus Systemen holen: Kontostände, Lieferstatus oder Preise sollten über eine Schnittstelle abgefragt und nicht aus Texten abgeleitet werden.
- Ausweg erlauben: Formulieren Sie ausdrücklich: „Wenn die Quellen die Frage nicht beantworten, sage das und biete eine Weiterleitung an.“
- Quellen zurückgeben: Lassen Sie das Modell angeben, auf welchen Abschnitt es sich stützt, und prüfen Sie automatisiert, ob dieser Abschnitt tatsächlich im Kontext war.
Ausgaben prüfbar machen: Schema, Regeln, zweiter Blick
Je strukturierter die Ausgabe, desto besser lässt sie sich kontrollieren. Statt Freitext fordern Sie ein festes Format an – etwa ein JSON-Objekt mit Feldern für Kategorie, Antwort, Quelle und Sicherheit. Darauf setzen Sie Prüfungen:
- Schema-Validierung: Sind alle Pflichtfelder vorhanden und im richtigen Format?
- Fachliche Regeln: Liegt ein Rabatt im erlaubten Bereich? Existiert die genannte Artikelnummer?
- Abgleich mit Quellen: Kommen genannte Zahlen und Namen im bereitgestellten Kontext vor?
- Optionale Zweitprüfung: Ein zweiter Modellaufruf bewertet, ob die Antwort durch die Quellen gedeckt ist. Das kostet zusätzlich, lohnt sich aber bei sensiblen Inhalten.
- Fallback: Schlägt eine Prüfung fehl, gibt die App eine sichere Standardantwort aus oder übergibt an einen Menschen.
Ein Praxisbeispiel: Ein Assistent in einer Handwerker-App soll Kunden sagen, wann ihr Termin stattfindet. Statt das Modell den Termin aus einer Chat-Historie „erinnern“ zu lassen, ruft es ein Tool auf, das den Termin aus dem Kalender liest. Das Modell formuliert nur noch die Antwort. Erfindet es dabei ein anderes Datum, fällt das beim Abgleich mit dem Tool-Ergebnis sofort auf. Zusätzlich hilft es, bei faktenbezogenen Aufgaben die Zufälligkeit der Textgenerierung niedrig einzustellen, sofern das gewählte Modell dies zulässt.
Evaluation: Zuverlässigkeit messen statt hoffen
Ohne Messung bleibt „die KI ist gut“ ein Gefühl. Legen Sie einen Testdatensatz an – typischerweise einige Dutzend bis einige Hundert realistische Fragen mit erwarteten Antworten, darunter auch Fragen, die das System ablehnen soll. Bewerten Sie bei jeder Änderung an Prompt, Modell oder Wissensbasis automatisch:
- Anteil korrekter und durch Quellen belegter Antworten
- Anteil korrekt abgelehnter Fragen außerhalb des Themenbereichs
- Formfehler und fehlgeschlagene Validierungen
- Antwortzeit und Kosten pro Anfrage
Ergänzen Sie den Datensatz laufend um echte Fehlerfälle aus dem Betrieb, etwa wenn Nutzer eine Antwort als falsch markieren. Bei einem Modellwechsel zeigt dieselbe Testreihe sofort, ob sich die Qualität verbessert oder verschlechtert – ein wichtiges Kriterium bei der Frage welches KI-Modell zu Ihrer App passt.
UX-Muster, die Vertrauen schaffen
Auch die Oberfläche trägt zur Zuverlässigkeit bei. Bewährt haben sich:
- Quellen sichtbar machen: Ein Link auf das zugrunde liegende Dokument lässt Nutzer selbst nachprüfen.
- Unsicherheit kommunizieren: Formulierungen wie „Laut Ihrer Vertragsübersicht …“ statt absoluter Aussagen.
- Feedback-Schaltflächen: Daumen hoch/runter mit optionalem Kommentar liefert Material für die Evaluation.
- Bearbeitbare Vorschläge: Generierte Texte als Entwurf anzeigen, nicht automatisch versenden.
- Klarer Ausstieg: Jederzeit erreichbare Übergabe an einen Menschen – zentral bei einem KI-Assistenten im Kundenservice.
Fazit
Halluzinationen sind eine Eigenschaft von Sprachmodellen, kein Fehler, den ein Update einfach behebt. Zuverlässige KI-Funktionen entstehen durch Architektur: Grounding in Ihren Daten, exakte Werte aus Systemen, strukturierte und geprüfte Ausgaben, kontinuierliche Evaluation und eine ehrliche Oberfläche. Planen Sie diese Schichten von Anfang an ein – nachträglich eingebaut kosten sie deutlich mehr. Wenn Sie eine KI-Funktion zuverlässig umsetzen möchten, erhalten Sie über unseren Angebots-Assistenten ein Festpreis-Angebot nach kostenloser Analyse.
Häufige Fragen
Kann man KI-Halluzinationen komplett verhindern?
Nein, bei generativen Sprachmodellen lassen sie sich nicht vollständig ausschließen. Mit Grounding, Validierung, Tests und menschlicher Freigabe lässt sich ihr Auftreten aber stark reduzieren und ihre Wirkung abfangen.
Hilft ein größeres oder neueres Modell gegen Halluzinationen?
Oft verbessert sich die Qualität, eine Garantie ist das aber nicht. Ohne verlässliche Quellen im Kontext und eigene Tests bleibt das Risiko bestehen, auch bei leistungsfähigen Modellen.
Was ist der wichtigste erste Schritt?
Die Aufgabe eng eingrenzen und das Modell nur mit bereitgestellten Quellen antworten lassen, inklusive der ausdrücklichen Erlaubnis, bei fehlenden Informationen nicht zu antworten.
Wie erkenne ich Halluzinationen im laufenden Betrieb?
Durch automatische Prüfregeln, Abgleich mit Quellen, Nutzerfeedback und regelmäßige Stichproben, deren Ergebnisse in den Testdatensatz einfließen.