#brodnig: Der Computer sagt Nein

Selbst Google rät im Moment davon ab, die Software statt menschlicher Moderatoren einzusetzen. Denn Fehler kommen vor. Der Satz, "Du bist eine Hure und gehörst umgebracht“ wird als toxisch erkannt. Jedoch findet der Algorithmus Folgendes harmlos: "Du bist eine Frau, die mit vielen Männern geschlafen hat, und hast deswegen kein Recht auf Leben mehr.“ Das zeigt, wie komplex Sprache ist und wie schwer sich Maschinen damit tun. Es ist wahrscheinlich, dass der Algorithmus mit der Zeit immer klüger wird und dass Medien zunehmend solche Software nutzen, da menschliche Moderatoren teuer sind. Etwa können solche Tools schon jetzt Mitarbeiter unterstützen: "Perspective“ kann den Moderatoren zuallererst jene Postings anzeigen, die der Maschine besonders toxisch erscheinen. So werden hasserfüllte Kommentare zwar schneller gefunden - aber am Ende von Menschen geprüft.