Fehler auf Videoplattform
Sie führten ein harmloses Gespräch über Schach – dann brandmarkte Youtube sie als Rassisten

Ein Schachspiel kann den Youtube-Algorithmus offenbar überfordern, wie ein Experiment zeigte

© Getty Images

von Christoph Fröhlich

02.03.2021, 11:55 Uhr

Schach-Fans unterhalten sich auf Youtube über Eröffnungen und Partien – dann ist das Video plötzlich wegen Hassrede gesperrt. Was wie ein kurioser Fehler klingt, zeigt in Wahrheit die Grenzen der Künstlichen Intelligenz.

Soziale Netzwerke, wie wir sie heute kennen, würden ohne Künstliche Intelligenzen nicht mehr funktionieren. Denn mittlerweile werden so viele Inhalte im Minutentakt erstellt, dass keine menschliche Abteilung der Welt diese mehr überprüfen könnte. Deshalb analysieren Algorithmen automatisiert Bilder, Postings und Videos und halten nach Anzeichen von Extremismus und anderen strafbaren Handlungen Ausschau.

Dabei kommt es immer wieder zu Fehlalarmen. Einen Fall schilderte nun das US-Technikmagazin „Wired“. Der US-Amerikaner Antonio Radic betreibt auf Youtube einen beliebten Schach-Kanal mit mehr als einer Million Abonnenten. Im vergangenen Sommer sprach er dort live mit dem Schachgroßmeister Hikaru Nakamura. Sie diskutierten über berühmte Partien und Eröffnungen, etwa die Königsindische Verteidigung – bis der Stream plötzlich abbrach. Zu sehen war nur noch ein Warnhinweis, dass das Video wegen „schädlicher und gefährlicher“ Inhalte unterbrochen wurde. 24 Stunden war das Video offline, bis es wieder erreichbar war.

Sorgten „schwarz“ und „weiß“ für einen KI-Ausfall?

Was genau dazu führte, lässt sich nicht mehr nachvollziehen. Das Videoportal Youtube wollte sich auf Anfrage von „Wired“ nicht detailliert zu dem Fall äußern und erklärte nur, es habe sich um einen Fehler gehandelt. Jedoch legt eine neue Studie nahe, dass das Video aufgrund eines Fehlers…