Was uns der erste Star-Trek-Film zur KI-Sicherheitsdebatte sagt

Am Montag, den 5. Oktober dieses Jahres, ist in Braunschweig das neue Forschungsgebäude des Fraunhofer-Zentrums für Energiespeicher und Systeme, kurz ZESS, eröffnet worden. Dort sollen in den kommenden Jahren Wissenschaftler und Ingenieure an den Energiespeichern der Zukunft forschen, die die Energiewende ermöglichen und neue Technologien voranbringen sollen. Darunter sind unter anderem Festkörperbatterien, die leistungsfähiger und sicherer als die heute vielfach genutzten Lithium-Ionen-Batterien sein sollen. Vor allem für Elektrofahrzeuge, Drohnen und Roboter könnten diese wegweisend sein.

Ebenso befassen sich die Forscher des ZESS mit der Speicherung von Energie in Form von Wasserstoff und anderen Substanzen. Ein Forschungsprojekt ist dabei die sogenannte Powerpaste, bei der Wasserstoff in einer zahnpastaartigen Substanz gebunden wird, die in einer Tube oder Kartusche gelagert werden kann. Bei einer Kombination mit Wasser wird der Wasserstoff als Gas freigesetzt. Auch mit der Weiterverwertung und dem Recycling von Batterien aller Art befassen sich die Teams des neuen Forschungsgebäudes.

Um den Anforderungen des AI Act der Europäischen Union gerecht zu werden, sollen Texte von EU-Nutzern von ChatGPT sowie Codes und Modell-Schnittstellen zukünftig mit einem digitalen Wasserzeichen versehen werden. Dies wird dadurch erreicht, dass die Wortauswahl der genutzten Modelle so beeinflusst wird, dass ein wieder auslesbares statistisches Muster in den Texten entsteht. Dieses Muster soll lediglich nachweisen, ob ein Text mit einem OpenAI-Modell generiert wurde, nicht aber von wem oder mit welchem Tool.

Wie OpenAI auf X anmerkt, haben KI-Wasserzeichen für Texte Schwächen. Vor allem in kurzen Texten können sie schwer erkennbar sein. Ebenso können Nachbearbeitungen, Veränderungen und Übersetzungen die Wasserzeichen entfernen. Generell sind derartige Wasserzeichen ebenso wie KI-Detektoren für Texte umstritten. Denn teilweise können sie auch menschengeschriebene Texte fälschlicherweise als KI-generiert erkennen. Die Wasserzeichen für OpenAI-Texte sollen in den „kommenden Wochen“ aktiviert werden.

Laut Axios soll ein KI-Start-up namens Reflection AI in Kürze das KI-Wettrennen in den USA aufmischen. Das 2024 von ehemaligen DeepMind-Mitarbeitern gegründete Unternehmen hat anscheinend still und leise ein Sprachmodell trainiert, das fast an die Leistung von Spitzenmodellen der US-KI-Größen heranreicht. Ähnlich wie chinesische KI-Unternehmen will Reflection AI dieses Modell kostenlos als Open Weight über Plattformen wie Hugging Face zum Download bereitstellen.

Das könnte die Marktposition von OpenAI und Anthropic weiter schwächen, deren Geschäftsmodelle in diesem Jahr bereits zunehmend von deutlich günstigeren KI-Modellen aus China untergraben werden. Einer der größten Investoren von Reflection AI ist der Chip-Hersteller Nvidia, der sich bereits seit Monaten für freie KI-Modelle stark macht. Angeblich sollen neben Reflection AI noch weitere, bisher eher unbekannte KI-Firmen die Veröffentlichung freier Modelle planen.

Update: Reflection hat sein Modell am Abend des 5. Oktobers enthüllt. Dabei handelt es sich um Beam, ein für agentische Nutzung optimiertes Sprachmodell mit 503 Milliarden Parametern. Es ist zunächst für eine begrenzte Zahl an Nutzern über einen Chat von Reflection AI selbst nutzbar. Die Modelldateien sollen noch diesen Monat veröffentlicht werden.