Vier Monate lang mischten sich KI-Bots im Auftrag der Universität Zürich unbemerkt unter Reddit-User mit drastischen Aussagen und unter falscher Identität. Die Bots gaben sich etwa als männliches Vergewaltigungsopfer aus oder als schwarzer Mann, der sich gegen die Black-Lives-Matter-Bewegung stellt. Ihr Einsatz erfolgte im Subreddit r/ChangeMyView, wo User ihre Meinung kundtun und zur Diskussion einladen.

User schockiert

Was als Beitrag zur Forschung zur Rolle von Künstlicher Intelligenz in Online-Debatten gedacht war, entwickelte sich schnell zum PR-GAU. Die User waren empört, das Moderatorenteam reagierte verschnupft, und jetzt zieht die Universität Zürich Konsequenzen. Die Studie wird nicht publiziert.

Verstoss gegen Community-Regeln 

Die Forschenden handelten ohne Offenlegung. Weder die Nutzer noch die Moderatoren wurden über das Experiment informiert. Damit verstiessen sie klar gegen die Reddit-Richtlinien für KI-Inhalte, die ausdrücklich deklarierte Inhalte verlangen.

Auch die Ethikkommission der Philosophischen Fakultät hatte früh Bedenken. Sie stufte das Projekt als besonders kritisch ein. Drei Empfehlungen gab sie ab: den Ansatz besser zu begründen, die Teilnehmenden nach Möglichkeit zu informieren und die Plattformregeln strikt einzuhalten. Keine davon wurde vollständig umgesetzt.

Dennoch führten die Forschenden das Experiment durch. Das Thema sei gesellschaftlich so relevant, dass man trotz Regelbruch nicht auf die Studie verzichten wollte.

Rückzieher nach Kritik

Angesichts der massiven öffentlichen und internen Kritik verzichtet das Forschungsteam nun auf eine Veröffentlichung der Ergebnisse.