KI-Programm von Microsoft wegen Rassismus abgeschaltet

TayKIEin rassistisches Programm – geht das denn überhaupt? Klare Antwort: Nein – beim aktuellen Stand der Technik geht es noch nicht. Allerdings ist es meines Erachtens nur eine Frage der Zeit.

Die KI „Tay“ ist ein Chatbot

Microsoft hat vorgestern ihr KI-Programm (KI=Künstliche Intelligenz) namens „Tay“ als Chatpartner in Messengern und Sozialen Netzwerken wie Twitter, Groupme und Kik auf die User losgelassen. Diese KI könnte man treffend auch einen Chatbot nennen. Tay soll vom Verhalten her an in den USA wohnende Menschen zwischen 18 und 24 Jahren als Zielgruppe angepasst sein.

Rassistisch waren die User, nicht das Programm

Nach nur einem Tag hatten es die Benutzer geschafft, Tay durch diverse Tricks massenhaft zu rassistischen Entgleisungen zu verleiten. Die User brachten Tay unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verleugnen und auch Schwarze zu beleidigen. Auch frauenfeindliche Äußerungen konnten sie der KI entlocken.

Ein Großteil dieser Tweets wurde zwar wieder gelöscht, einige waren aber auch gestern noch zu finden. Nach ein paar Stunden verkündete das Programm über seinen Twitter-Account „@TayandYou“, nach so vielen Gesprächen müsse es schlafen und ging dann vom Netz.

Der Apfel fällt nicht weit vom Stamm

Da müssen die Programmierer von Tay sich durchaus fragen lassen, wie es denn um ihre eigene Intelligenz (und Lebenserfahrung) bestellt ist, wenn Sie dieses Verhalten der chattenden Menschen nicht vorhergesehen und Tay keine passenden Routinen gegen einen solchen Super-GAU (Größter Anzunehmender Unfall) mitgegeben haben…


wallpaper-1019588
Der perfekte Rückzugsort im Grünen: Warum ein modernes Gartenhaus aus Holz den Garten bereichert
wallpaper-1019588
[Comic] Cyberpunk 2077 – Wo ist Johnny?
wallpaper-1019588
Ständig müde ab 40? Warum deine Energie nachlässt – und was wirklich hilft
wallpaper-1019588
Auf dem Starkenberger Panoramaweg von Tarrenz nach Imst
wallpaper-1019588
Geht das nur mir so? Alltagsmacken die jeder kennt