Nach nur 16 Stunden beendet - Microsofts erster KI-Chatbot geriet außer Kontrolle

Viele Menschen lernten Künstliche Intelligenz erst mit ChatGPT kennen. Doch schon Jahre zuvor testeten Unternehmen ähnliche Systeme. Besonders bekannt wurde Microsofts Chatbot Tay. Das Experiment endete jedoch schon nach 16 Stunden und gilt bis heute als Beispiel für die Risiken unzureichend abgesicherter KI.

Microsoft stellte Tay am 23. März 2016 auf Twitter , heute X, vor. Der Chatbot trat als weiblicher Avatar auf und sollte mit Nutzern kommunizieren. Schon nach kurzer Zeit verbreitete Tay allerdings rassistische und hasserfüllte Inhalte.

„Tay war von technischer Seite ein spannendes Experiment. Allerdings fing es nach relativ kurzer Zeit damit an, problematische Inhalte zu produzieren. Das waren beispielsweise Rassismus und Hassrede“, erinnert sich Anna Kruspe, Informatikprofessorin an der Hochschule für angewandte Wissenschaften München.

Microsoft veröffentlichte kaum technische Details zum Vorfall. Laut Kruspe nutzte Tay andere neuronale Netze als heutige Systeme. Diese konnten längere Gespräche deutlich schlechter im Zusammenhang verstehen.

Nach Einschätzung der Expertin reagierte Tay besonders stark auf polarisierende Inhalte aus der Twitter-Community. „Wenn die Inputdaten problematisch sind, ist das Risiko hoch, dass der Output auch problematisch wird“, erklärt Kruspe.

Heutige Chatbots werden laut der Informatikprofessorin nicht mehr direkt und ungefiltert durch Eingaben von Nutzern weitertrainiert. Zudem kommen vermutlich automatische Filter gegen Hassrede und andere extreme Inhalte zum Einsatz.

Microsoft beendete Tay nach 16 Stunden und mehr als 96.000 Tweets. Ein weiterer Versuch, eine Woche später, scheiterte aus denselben Gründen noch schneller. Dennoch hat das Experiment damals eines deutlich gezeigt: „… nämlich was passiert, wenn KI-Anbieter Entwicklungen unterschätzen“, so Kruspe.

Heute stehen KI -Anbieter vor anderen Herausforderungen. Neben hohen Betriebskosten bleibt die Qualität der Trainingsdaten wichtig. Vorurteile in großen Datenmengen können dazu führen, dass bestimmte Gruppen unbemerkt benachteiligt werden. Der Tay-Account auf X existiert weiterhin, veröffentlicht aber seit 2016 keine Beiträge mehr.

Haben Sie Fehler entdeckt? Möchten Sie etwas kritisieren? Dann schreiben Sie uns gerne!