Was uns der erste Star-Trek-Film zur KI-Sicherheitsdebatte sagt

In rund vier Jahren will die ESA mit ihrem Rover Rosalind Franklin im Rahmen der Mission ExoMars den roten Planeten erkunden. Das sechsrädrige Gefährt soll dabei Bodenproben nehmen, diese in einem bordeigenen Labor analysieren und dadurch nach Spuren von Leben suchen. Um sicherzustellen, dass das auch alles funktioniert, wurde dessen Prototyp Charlie gerade in irdischen Gefilden erprobt. Und zwar in der steinigen Umgebung der Region Tabernas in Spanien, die mit ihren Geröllfeldern und Felshügeln als Marsersatz taugt.

Rund acht Tage wurde der Rover durch die Gegend gefahren, die unter anderem auch als Drehort für Game of Thrones und Indiana Jones und der letzte Kreuzzug herhielt. Dabei kam er rund 220 Meter weit und wurde von einem Forscherteam aus über 1.200 Kilometern Entfernung dirigiert. Teilstücke der Strecke durfte der Rover auch selbst mit einem autonomen Navigationssystem zurücklegen. Das alles diente auch als Schulung für das Forscherteam selbst, das sich dadurch mit der Software sowie den Fähigkeiten und Grenzen des Rovers vertraut machen konnte.

Wie Die Zeit berichtet, hat eine Sicherheitslücke das deutsche Stromnetz angreifbar gemacht. Die Lücke lag jedoch nicht bei den Energieversorgern, sondern bei der Cloud-Verwaltungsplattform iSolarCloud des chinesischen Solartechnologieanbieters Sungrow. Diese wird für die Überwachung und Steuerung von Wechselrichtern des Unternehmens genutzt. Diese sind sowohl in professionellen Solarkraftwerken als auch in zahlreichen kleineren Anlagen von Gewerbegebäuden und Privathaushalten integriert.  Wie der IT-Sicherheitsexperte Marlon Starkloff herausfand, war es durch die Lücke in der Plattform möglich, sich Administratorenrechte zu verschaffen und dadurch Zugang zu allen mit der Plattform verbundenen Geräten zu erlangen.

Mit wenigen Klicks hätte er 2,2 Millionen Solaranlagen auf der ganzen Welt überwachen, steuern und abschalten können. Hätte er dies für die 250.000 Anlagen in Deutschland getan, hätte er dem Stromnetz mehrere Gigawatt an Einspeiseleistung entziehen und dadurch in Teilen Deutschlands einen Stromausfall hervorrufen können. Auch die Einspeisung von Schadsoftware über ein falsches Update wäre möglich gewesen. Das chinesische Unternehmen habe „schnellstmöglich die erforderlichen Maßnahmen ergriffen“ und die Lücke geschlossen. Bereits seit mehreren Jahren warnen IT-Sicherheitsexperten vor zentralen Plattformen, die Solaranlagen oder Bauteile in Energienetzen zentral steuern lassen.

Das französische KI-Unternehmen Mistral hat überraschend ein neues multimodales Sprachmodell vorgestellt. Mistral Large 4 verfügt über eine Billion Parameter und soll am 27. Oktober als Open-Weight-Download verfügbar werden. Damit ist es das bisher größte offene KI-Sprachmodell, das nicht aus China stammt. Laut Mistral lautet der Spitzname des Modells Le Chonk – der Moppel. Der Name ist eine Referenz auf ein Gerücht und Meme, das vor wenigen Monaten kursierte: Mistral arbeite an einem Modell namens Le Chaton Fat – zu Deutsch: die fette Katze.

Mistral-CEO Arthur Mensch zufolge ist das Modell zwar kleiner als die führenden chinesischen Konkurrenzsysteme – Kimi K3 verfügt über 2,8 Milliarden Parameter und Qwen 3.8 Max über 2,4 –, übertrifft diese aber in einigen Teilbereichen. Unter anderem bei Cyber- bzw. IT-Sicherheit. Hier rangiert das Modell laut Artificial Analysis sogar unter den Top 5 weltweit. Auch beim Programmieren und im Intelligence-Index liegt das Modell erstaunlich weit vorne. Derzeit soll Mistral bereits mit den Arbeiten am Nachfolger Mistral Large 5 begonnen haben.