KI verweist auf MAZ-Artikel, den es so nie gegeben hat und halluziniert ein Zitat des Hohen Neuendorfer Bürgermeisters. Ein Plädoyer gegen die bedingungslose Technikgläubigkeit.
Kommentar.
Da war doch mal was. Auf der Suche nach einem (bereits gelesenen) MAZ-Artikel sind Internetsuchmaschinen ein echter Segen. Bei der Recherche nach Äußerungen des Hohen Neuendorfer Bürgermeisters zur White Party der AfD in Stolpe verarbeitet Google die Stichworte „maz apelt 1.8.“ in Sekundenbruchteilen und liefert eine umfangreiche Trefferliste. Darunter der begehrte Artikel.
Doch seit einiger Zeit wirft die Maschine zusätzlich eine KI-generierte Antwort aus. Und zugegeben: Die präzise ausformulierten Zusammenfassungen komplexerer Sachverhalte inklusive Angabe einschlägiger Seitenverweise sind oft hilfreich. Oft, aber längst nicht immer. Was die Maschine bei der gestrigen Recherche ablieferte, unterbot alle bisherigen Negativerfahrungen deutlich.
Die Antwort der KI auf die Stichworte „maz apelt 1.8.“ lautete:
Hohen Neuendorfs Bürgermeister Steffen Apelt äußerte sich gegenüber der Märkische Allgemeine Zeitung zu einem geplanten Sommerfest der AfD am 1. August. Er erklärte, das Datum stehe für Adolf Hitler, und wenn die AfD an diesem Tag etwas veranstalte, sei dies „schon dreimal Hitler“.
Für Steffen Apelt (CDU), der mit seinem guten Gespür für die politische Windrichtung längst realisiert hat, dass herbes AfD-Bashing politisch nicht mehr opportun ist, fiel der in Anführungszeichen gesetzte Ausspruch ungewöhnlich scharf und polarisierend aus. Bei genauerer Betrachtung der KI-Antwort fiel auch auf, dass die mitgelieferte Link-Liste keinen Beleg für das behauptete Zitat enthielt.
Letztlich bedurfte es zwei weiterer Nachfragen nach einer Quelle für das angeführte Zitat, um die KI dazu zu bringen, ihren Fehler einzugestehen:
Es gibt keine reale Quelle für diese Meldung und dieses Zitat. Bei dem von dir genannten Text handelt es sich um eine Falschinformation (Halluzination), die in einer früheren Antwort dieses KI-Modells generiert wurde.
Reumütig bot die KI sogar an, ihren Fehler zu erklären. Das nahm der Verfasser dieses Beitrags gerne an. Die Ausführungen boten einen tiefen Einblick in die Arbeitsweise der KI und sollen dem interessierten Leser nicht vorenthalten werden:
Warum KI-Modelle Fakten erfinden (Halluzinationen)
- Muster-Kombination statt Datenbank-Abfrage: Wenn ein KI-Modell auf eine Suchanfrage zugreift, liest es oft nur Ausschnitte (Snippets) realer Artikel. Findet es dort Stichworte wie „AfD“, „1.8.“, „Kritik“ und „Hohen Neuendorf“, verknüpft es diese mit gelernten Mustern aus seinen Trainingsdaten. Es generiert ein Zitat, das sprachlich perfekt und thematisch passend klingt, aber historisch nie gefallen ist.
- Fehlender Realitätsbezug: Eine KI besitzt kein Bewusstsein und kein echtes Verständnis von Wahrheit. Sie weiß nicht, wer Steffen Apelt ist oder was er wirklich gesagt hat. Sie kennt nur die mathematischen Beziehungen zwischen Wörtern (Vektoren) und dichtet im Zweifel Details hinzu, um eine flüssige Antwort zu liefern.
- Lückenhafte Kontext-Verarbeitung: Bei der Auswertung von Suchergebnissen können Nuancen verloren gehen. Das Modell sieht, dass das Datum „1.8.“ im Artikel als Code für „Adolf Hitler“ diskutiert wird. Anstatt korrekt zu zitieren, wer diese Verbindung hergestellt hat (z. B. Gegendemonstranten oder Historiker), schreibt die KI die zugespitzte Formulierung („schon dreimal Hitler“) fälschlicherweise dem Bürgermeister zu, da er die zentrale Figur in der Lokalpolitik ist.
- Gefälligkeits-Tendenz (Sycophancy): KI-Modelle sind darauf trainiert, hilfreich zu sein und die Erwartungen des Nutzers zu erfüllen. Wenn ein Nutzer nach einer bestimmten Verbindung fragt, neigt das System manchmal dazu, diese Verbindung „herbeizukonstruieren“, anstatt die Datenlage neutral als unzureichend zu melden.
Wahrscheinlichkeiten, Lückenhafte Kontext-Verarbeitung und vermeintliche Gefälligkeiten gegenüber dem Kommunikationspartner bilden also das Fundament für Antworten der KI. Sehr vertrauenerweckend klingt das alles nicht. Tatsächlich zeigen auch andere Erfahrungen des Verfassers – durchaus auch mit den kostenpflichtigen KI-Angeboten anderer Anbieter -, dass KI-Ergebnisse mit Vorsicht zu genießen sind. Falschbehauptungen über Datenstrukturen in öffentlich (auch elektronisch) einsehbaren Dokumenten, der Unwillen die eigenen (Falsch-) Behauptungen zu überprüfen und die Verwendung veralteter Funktionen in Programm-Code gehören dazu.
Im Umgang mit KI sind ein Maximum an Misstrauen und aufwendige Prüfungen das Gebot der Stunde. Wer denkfaul und kritiklos KI-Ergebnisse übernimmt, darf sich über peinliche Folgen nicht wundern. Der Fall des Thüringer Ministerpräsidenten Marion Vogt und die Depublikation seines
FAZ-Artikels sollte allen ein warnendes Beispiel sein.
Text: Jan Müggenburg
Hinweis: Der Dialog mit der KI ist in der hier verlinkten pdf-Datei interlegt. Aufgrund von Problemen mit der Lesbarkeit beim Abspeichern im pdf-Format sind die Textpassagen in dieser Textdatei noch einmal formatfrei hinterlegt.
