Future Feed

Nach Monaten reagiert OpenAI auf die zunehmende Zahl von Berichten über Menschen, die durch Diskussionen mit Chatbots wie ChatGPT in Psychosen gestürzt sind. Ein Phänomen, das vor allem – aber offenbar nicht nur – Personen mit psychischen Vorerkrankungen betrifft.

In einem äußert unspezifisch „What we’re optimizing ChatGPT for“ überschriebenen Beitrag hat OpenAI die Etablierung eines Systems angekündigt, das Zeichen von emotionalen Ausnahmezuständen erkennen soll. ChatGPT soll auf solche Anzeichen in beruhigender Art und Weise reagieren und zu Pausen anregen. Die entsprechenden Warnungen sind bereits aktiv – und die Reaktionen darauf sind gemischt. Denn offenbar werden sie auch Personen angezeigt, die ChatGPT für die Arbeit nutzen.

OpenAI erklärt außerdem, dass das Unternehmen mit Experten zusammenarbeitet, um die besten Möglichkeiten auszuarbeiten, wie das System auf Menschen reagieren sollte, die eine Psychose oder andere „kritische Momente“ erleben.