Der britische Philosoph Tim Crane warnt vor einem grundlegenden Denkfehler im Umgang mit KI-Chatbots: Sie wirkten oft überzeugend, seien aber keine verlässliche Quelle für Wissen. Wer verstehe, wie Sprachmodelle mit Fakten, Wahrheit und Wissen umgehen, erkenne auch besser, warum Fehler und Täuschungen in Antworten nicht bloß Randprobleme sind, sondern zum Kern der Technologie gehören.
Crane knüpft damit an eine Debatte an, die mit Wikipedia breiter geführt wurde als je zuvor. Als die Online-Enzyklopädie vor rund zwei Jahrzehnten an Reichweite gewann, galt sie vielen zunächst als unzuverlässig, weil Inhalte von einer großen Zahl freiwilliger Nutzerinnen und Nutzer erstellt werden. Gleichzeitig zeigte sich aber auch: Für viele Themen liefert sie brauchbare Orientierung, während bei Spezialwissen oder Fachgebieten Schwächen, Ungenauigkeiten und Irrtümer rasch sichtbar werden.
Genau an dieser Stelle sieht Crane eine Parallele zu heutigen Chatbots. Auch sie erzeugen Texte, die flüssig und überzeugend klingen, ohne dass daraus automatisch Wahrheitsgehalt folgt. Das Problem sei nicht nur, dass einzelne Antworten falsch sein können. Problematisch sei vielmehr, dass viele Nutzerinnen und Nutzer die Systeme wie Auskunftsmaschinen behandeln, obwohl sie statistisch Wahrscheinlichkeiten berechnen und keine Faktenprüfung vornehmen.
Besonders kritisch reagiert Crane auf Aussagen aus dem Umfeld von KI-Entwicklern, wonach Sprachmodelle auf der Gesamtheit menschlichen Wissens beruhten. Diese Beschreibung greift aus seiner Sicht zu kurz. Denn die Modelle greifen nicht auf ein geprüftes Wissensarchiv zu, sondern auf große Datenmengen aus dem Internet, in denen auch Fehler, Widersprüche und Unschärfen stecken. Daraus entstehe ein System, das plausibel klinge, aber nicht automatisch zuverlässig sei.
Für die kulturelle Debatte ist das mehr als eine technische Feinheit. Es geht um die Frage, welche Rolle Wissen in einer Öffentlichkeit spielt, die sich immer stärker auf automatisierte Antworten verlässt. Wenn Nutzerinnen und Nutzer nicht mehr unterscheiden können, ob eine Aussage belegt, wahrscheinlich oder bloß sprachlich überzeugend ist, verschiebt sich das Verhältnis zwischen Information und Erkenntnis.
Crane erinnert damit an eine alte Einsicht, die im digitalen Zeitalter neuerlich an Gewicht gewinnt: Wissen entsteht nicht dadurch, dass etwas oft wiederholt oder überzeugend formuliert wird. Es braucht überprüfbare Grundlagen, Kontext und den Willen, Irrtümer zu erkennen. Gerade bei Wikipedia und KI-Chatbots bleibt diese Unterscheidung entscheidend.
