Future Feed

Mit Grok 3 hat das von Elon Musk gegründete xAI kürzlich sein neuestes und für viele überraschend fähiges KI-Modell vorgestellt. Wie KI-Enthusiasten und Forscher herausgefunden haben, ist es aber auch sehr gefährlich. Denn Grok 3 sei sehr anfällig für Jailbreaks, die die eingebauten Sicherheitsmechanismen umgehen. Wie zum Beispiel der KI-Entwickler Linus Ekenstam auf X – ehemals Twitter – schreibt, generiert Grok 3 detaillierte Anleitungen, wie man biologische Waffen und Gifte herstellt, offenbar die Standorte von Militärbasen und vieles mehr. Er und andere hätten Hunderte von Seiten mit solchen Informationen gesammelt und an xAI weitergegeben.

Das sei „kein Witz“, so Linus Ekenstam, und er wolle auch nicht als Panikmacher erscheinen, aber mit Grok könne man „Dinge machen, die sehr gefährlich sind“. Firmen, die solche Modelle veröffentlichen, so der in Spanien lebende Schwede, trügen eine große Verantwortung, der xAI offenbar nicht gerecht geworden sei. Manchmal hätte es nur Minuten gedauert, um Grok 3 Informationen zu entlocken, die Schaden anrichten könnten.