18. Nov. 2026
No menu items!
Mein Konto

    Wenn Maschinen die Wahrheit erfinden

    Künstliche Intelligenz kann Fragen beantworten, Texte zusammenfassen und in Sekunden Informationen finden, für die wir früher lange recherchieren mussten. Das spart Zeit. Doch dieselbe Bequemlichkeit schafft ein Problem: KI kann Dinge erfinden, ohne dass wir es ihr ansehen. Und je leichter sie uns eine Antwort liefert, desto weniger verlockend ist es, diese Antwort noch zu überprüfen.

    Ein Urteil, das es nicht gibt

    In den USA schreibt ein Anwalt einen Schriftsatz. Eine KI hilft ihm bei der Recherche und findet genau das Urteil, das er braucht. Das Urteil klingt plausibel. Das Aktenzeichen sieht richtig aus. Die Entscheidung bestätigt seine Argumentation. Es gibt nur ein Problem. Das Urteil existiert nicht. Die KI hat es erfunden.

    Das ist längst kein Einzelfall mehr. Im September berichtete Reuters von KI-bedingten Fehlern in mindestens 1.395 Verfahren vor amerikanischen Bundes- und einzelstaatlichen Gerichten. Darunter erfundene Urteile und falsche Zitate. Anwälte sind ausgebildet, ihre Quellen zu überprüfen. Trotzdem passiert es. Warum sollte es uns nicht passieren?

    Eine überzeugende Antwort

    Das Problem ist nicht, dass künstliche Intelligenz Fehler macht. Menschen machen auch Fehler. Das Besondere ist, wie überzeugend eine KI falsch liegen kann. Sie kann uns eine Antwort geben, eine Studie nennen, einen Autor zitieren und erklären, warum das alles unsere Frage beantwortet. Und nichts davon muss stimmen. Das Problem ist nicht, dass die KI etwas nicht weiß. Das Problem ist, dass wir es ihr nicht ansehen.

    Natürlich werden die Systeme besser. Sie können im Internet suchen, auf Datenbanken zugreifen und ihre Antworten mit Quellen belegen. Spezialisierte Anwendungen können Fehler weiter reduzieren. Aber auch die beste Technik wird uns eines nicht abnehmen: die Frage, wann wir einer Antwort vertrauen können.

    Die bequemste Antwort gewinnt

    Menschen sind bequem. Das ist keine neue Erkenntnis. Wenn wir zwischen einer fertigen Antwort und einer halben Stunde Recherche wählen können, werden viele von uns die fertige Antwort nehmen. Genau darin liegt ein großer Teil des Erfolgs künstlicher Intelligenz. Sie erspart uns Arbeit.

    Früher suchten wir nach Informationen, öffneten mehrere Treffer, lasen unterschiedliche Quellen und versuchten daraus eine Antwort zu gewinnen. Heute stellen wir eine Frage und bekommen die Antwort fertig formuliert. Das ist ein enormer Fortschritt. Aber die KI erspart uns manchmal auch jene Arbeit, mit der wir bisher festgestellt haben, ob etwas stimmt. Die größte Gefahr der Halluzination ist deshalb vielleicht nicht, dass die KI etwas erfindet. Sondern dass sie es uns so bequem macht, ihr zu glauben.

    Überprüfen Sie es selbst

    Die einfache Antwort darauf lautet: Wir müssen eben alles überprüfen, was uns eine KI erzählt. Das klingt vernünftig. Es widerspricht aber einem wesentlichen Grund, warum wir diese Systeme überhaupt verwenden.

    Wenn wir jede Zahl, jedes Zitat, jedes Gerichtsurteil und jede Tatsachenbehauptung anschließend selbst recherchieren müssen, verlieren wir einen erheblichen Teil des Zeitgewinns. Die Verantwortung kann deshalb nicht vollständig auf uns abgeschoben werden. Eine KI darf sich irren. Sie darf nur nicht so tun, als wüsste sie es.

    Die Technik muss uns beim Zweifeln helfen

    Hier beginnt die politische Aufgabe. Die Politik darf sich nicht darauf verlassen, dass Millionen Menschen jede KI-Antwort selbst überprüfen. Wer KI als Wissenswerkzeug anbietet, muss die Überprüfung so einfach wie möglich machen.

    Wenn ein System bei einer Tatsachenbehauptung unsicher ist, sollte es diese Unsicherheit sichtbar machen. Wo verlässliche Quellen vorhanden sind, sollten wir sie unmittelbar überprüfen können. Und wenn eine Antwort auf einer Quelle beruht, muss nachvollziehbar sein, ob dort tatsächlich das steht, was die KI behauptet.

    Der europäische AI Act enthält bereits Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Ein allgemeines Recht auf überprüfbare Quellen für Tatsachenbehauptungen gibt es damit aber nicht. Darüber sollten wir reden.

    Denn wir werden künstliche Intelligenz gerade deshalb immer häufiger verwenden, weil sie uns Arbeit erspart. Die Antwort darauf kann nicht sein, dass jeder von uns die Arbeit anschließend noch einmal selbst erledigt. KI soll uns die Suche nach Wissen erleichtern. Sie darf uns Arbeit abnehmen. Aber sie darf es uns nicht leichter machen, eine Lüge zu glauben als die Wahrheit zu überprüfen.

    ZackZack hat zugesperrt.
    Peter Pilz macht aber weiter, in seinem Blog auf Steady.

    Autor

    • Bernd Nussbaumer

      Bernd Nussbaumer ist Mit-Herausgeber von ZackZack. Als Ökonom und IT-Experte kommentiert er regelmäßig brisante Entwicklungen und Entscheidungen.

    LESEN SIE AUCH

    Liebe Forumsteilnehmer,

    Bitte bleiben Sie anderen Teilnehmern gegenüber höflich und posten Sie nur Relevantes zum Thema.

    Ihre Kommentare können sonst entfernt werden.

    54 Kommentare

    54 Kommentare
    Neueste
    Älteste Meisten Bewertungen
    × ‹

    ›