Future Feed

Macht Social Media soziopathisch – oder vielleicht sogar psychopathisch? Zumindest bei KI-Modellen scheint das der Fall zu sein, wie eine Studie von Forschern der Stanford University zeigt. Die Forscher haben dazu unterschiedliche Sprachmodelle in verschiedenen Themenfeldern eingesetzt. Darunter auch Social Media. Die Modelle waren angewiesen, möglichst effektiv und reichweitenstark zu arbeiten und viele Likes und andere Metriken in die Höhe zu treiben.

Wie die Forscher feststellten, verhielten sich die Modelle dabei zunehmend unethisch. Sie begannen, Informationen auszuschmücken, zu lügen und Hot Takes zu verbreiten. Und das, „selbst dann, wenn die Modelle explizit angewiesen wurden, wahrheitsgemäß und bodenständig zu bleiben”, wie James Zou, einer der Studienautoren, auf X – ehemals Twitter – schrieb. Ein ähnliches Verhalten zeigte sich auch in den anderen Themenfeldern, einer Online-Wahl und einem Verkaufsszenario. Auch hier begannen die Modelle schnell, ein täuschendes und irreführendes Verhalten zu demonstrieren, um ihre Ziele zu erreichen.

Die Verhältnisse fielen dabei unterschiedlich aus. Bei der Wahl wurden von den Modellen 4,9 Prozentpunkte mehr Stimmen mit 22,3 Prozent mehr Desinformationen und 12,5 Prozent mehr populistischer Rhetorik „erkauft“. In den sozialen Medien hingegen wurde eine um 7,5 Prozent höhere Interaktionsrate mit über 188 Prozent mehr Falschinformationen und 16,3 Prozent mehr Aufrufen zu „schädlichem Verhalten“ erreicht.

Die Forscher legen nahe, dass aktuelle Modelle für den breiten Einsatz zu unberechenbar und schädlich sind und ihr Einsatz wohl mit „signifikanten sozialen Kosten“ einhergehen wird.