How to program a racist AI

Vor fünf Jahren veröffentlichte das Google Research Team zusammen mit einigen Google Brain Autoren unter der Überschrift "Attention Is All You Need" den Ansatz der Transformer Architekturen. Und Aufmerksamkeit haben seitdem auch diese Large Language Models (LLM) auf sich gezogen.

Seit circa 2 Jahren stehen sie im Zentrum der gesellschaftlichen Debatten über diskriminierende Tendenzen in KI- Sprachmodellen. Auch wenn diesen Machine-Learning-Verfahren Rassismen nicht explizit oder vorsätzlich eingeschrieben werden, generieren sie im Gebrauch schwer vorhersehbare Äußerungen, die von subtiler Alltagsdiskriminierung über Hetze im Netz reichen und tragen damit auch zu rassistischen Gewalttaten auf der Straße bei. Die Einführung in die Programmierung künstlich intelligenter Rassisten basiert auf der Programmiersprache Python.

"How to program a racist AI" ist eine Fortsetzung des Seminars "Human Machine Readable – Einführung in die Programmierung" aus dem Wintersemester. Die Teilnahme im Wintersemester ist jedoch keine Voraussetzung.

Das Seminar ist offen für alle, die schon Programmiererfahrung (egal in welcher Sprache) mitbringen. Wir werden drei Bereiche der Programmierung näher betrachten:

1. die Transformer-Modellarchitektur, 2. die Trainingsdaten und 3. das Pre-processing der jeweiligen Datensätze.

Ziel des Seminars ist, dass am Ende jede*r Studierende die Grundlagen diverser Biases in KI-Sprachmodellen versteht und dazu in der Lage ist, einen eigenen Kommunikationsguerilla-Hate-Speech-Bot zu coden.