KI-Sprachmodelle verändern beim Editieren von Dokumenten systematisch Fakten

Eine Studie von Microsoft Research belegt, dass Large Language Models (LLMs) beim Überarbeiten von Texten subtile, aber folgenschwere Fehler einbauen. Diese Verfälschungen gehen über klassische Halluzinationen hinaus, da sie oft logisch klingen und bei einer oberflächlichen Prüfung unentdeckt bleiben. Besonders kritisch ist die Tendenz der Modelle, Informationen bei wiederholten Bearbeitungsdurchgängen schrittweise zu verzerren.

Warum es zählt

Content-Verantwortliche müssen ihre Qualitätssicherung anpassen und dürfen KI-optimierte Texte nicht ungeprüft freigeben. Da sich Fehler bei iterativen Bearbeitungen potenzieren, ist eine strikte Kontrolle der Faktenintegrität für die Markenglaubwürdigkeit unerlässlich.