Gespräch unter Bots
Unfug auf Knopfdruck: Zwei Hype-KIs zitieren sich bereits gegenseitig – und zeigen damit ein echtes Problem auf
Noch bezieht KI sich bei ihrem Wissen vor allem aus menschlichen Quellen
© Ole_CNX / Getty Images
Das ganze Wissen der Welt in einem Gespräch – das ist das große Versprechen von Chatbots. Leider hat das eine eklantante Schwäche, wie ein aktueller Fall zeigt.
Künstliche Intelligenz wie ChatGPT soll auf längere Sicht Suchmaschinen ersetzen und uns immer aktuelle Antworten liefern – einfach indem wir nachfragen. Die wichtigste Frage ist dann, woher die Bots dieses Wissen haben. Die beiden größten Programme, ChatGPT und Bard, wurden nun dabei erwischt, wie sie groben Unfug erzählten – weil sie sich gegenseitig als Datenquelle benutzt hatten.
Erwischt hat sie dabei der Journalist James Vincent. Und das nur durch Zufall. Als Google seinen neuen KI-Assistenten Bard für die Öffentlichkeit freigegeben hatte, wollte Vincent herausfinden, wie ChatGPT damit umgeht. Und fragte es, ob der Konkurrent bereits eingestellt worden sei. Die KI hatte sofort eine Antwort: Am 21. März sei Bard abgestellt worden, behauptete sie selbstbewusst wie faktisch falsch. Doch als Vincent dem Grund der Falschbehauptung nachgehen wollte, staunte er nicht schlecht.
Zitate von Zitaten von Zitaten
Wie immer hatte ChatGPT die Quelle gleich mitgeliefert – und sie komplett missverstanden. In dem verlinkten Artikel ging es nämlich eigentlich um einen Tweet: Der zeigte einen Screenshot von einem Gespräch, in dem Bard von sich selbst behauptet hatte, bereits abgeschaltet worden zu sein. Dass es dazu kam, lag wiederum daran, dass Bard ebenfalls eine Quelle falsch interpretiert hatte. Er hatte von seinem eigenen Abschalten aus einem Forenpost erfahren. Bei…
