Was uns der erste Star-Trek-Film zur KI-Sicherheitsdebatte sagt

In Star Trek: Der Film von 1979 fliegt ein riesiges Raumschiff auf die Erde zu. Die Enterprise und ihre Crew fangen es ab. Das Raumschiff wird jedoch nicht von einer fremden Spezies gelenkt, sondern von einem irdischen Relikt. Dessen Motivation verrät uns viel über die aktuelle Debatte um abtrünnige KI-Agenten.

Von Michael Förtsch

Als Star Trek: Der Film vor fast 50 Jahren in die Kinos kam, waren die Reaktionen darauf ziemlich durchwachsen. Vor allem viele Fans der Originalserie fremdelten mit der Produktion. Selbst heute wird Star-Trek-Neulingen im Internet geraten, ihn besser zu überspringen und bei den Filmen mit Star Trek 2: Der Zorn des Khan anzufangen. Ganz von ungefähr kommt das nicht. Der Film war ursprünglich als Pilotfolge einer neuen Star-Trek-Serie geplant, die die Reise von Captain James T. Kirk und seiner Crew fortführen sollte. Jedoch ging sie nie in Produktion. Stattdessen entschied sich das Studio Paramount nach dem Erfolg von Star Wars und Unheimliche Begegnung der dritten Art für einen Star-Trek-Kinofilm und ließ dafür das Drehbuch für die Leinwand umarbeiten. Der war dann jedoch weniger von Star Wars oder Spielberg als vielmehr von 2001: Odyssee im Weltraum inspiriert: eine mystisch aufgeladene Atmosphäre, eine ungewohnt düstere Optik und ein geradezu elegisches Erzähltempo.

Vor allem aber präsentierte Star Trek: Der Film eine philosophisch und existenzialistisch aufgeladene Handlung – die den Film aus heutiger Sicht wie einen Beitrag zur aktuellen Debatte um KI-Sicherheit erscheinen lässt. Tatsächlich beginnt der Film mit einer Gefahr, die aus der Tiefe des Kosmos kommt. Eine Raumstation entdeckt eine gigantische Energiewolke, die sich direkt auf die Erde zubewegt. Die gerade in einem Raumdock befindliche Enterprise ist das einzige Schiff, das sie für eine Untersuchung rechtzeitig erreichen kann. Der inzwischen zum Admiral aufgestiegene James T. Kirk übernimmt das Kommando. Willard Decker, der eigentlich als neuer Captain vorgesehen war, wird zum Ersten Offizier degradiert. Als die Enterprise bei der Wolke ankommt, entdeckt ihre Besatzung, dass in deren Zentrum ein fast 80 Kilometer langes Raumschiff schwebt. Dieses scannt die Enterprise und erkennt, dass die Menschen von der Erde stammen. Daraufhin dematerialisiert und digitalisiert das Raumschiff die Ilia, die Navigatorin der Enterpreise, und schickt eine maschinelle Kopie von ihr zurück. Sie soll als Mittlerin zwischen den Menschen und V’Ger dienen, wie sich die Intelligenz hinter dem Schiff bezeichnet. Sie will ihren Schöpfer erreichen, der auf der Erde sein soll.

V’Ger: Ein harmloser Auftrag wird zur existenziellen Gefahr

Als das riesige Schiff an der Erde ankommt, reagiert der Schöpfer jedoch nicht auf seinen Ruf. V’Ger droht daraufhin, die primitiven „kohlenstoffbasierten Lebensformen“ zu zerstören, die den Schöpfer womöglich am Antworten hindern. Kirk überzeugt V’Ger jedoch, helfen zu können, und steuert die Enterprise dafür tief in das Riesenschiff hinein. Sie gleitet durch gigantische Räume, die von einer weit überlegenen Technologie zeugen und erreicht schließlich die mondgroße Halle, in der V’Ger residiert. Dort stellt sich heraus, dass es sich bei V’Ger um keine fremde Entität handelt, sondern um ein Relikt von der Erde, welches das Hirn dieses „lebenden Dings“ darstellt: eine vor über 300 Jahren gestartete Raumsonde der NASA, auf deren verdreckter Namensplakette nur noch V GER zu lesen ist. Erst als Kirk die Plakette sauberrubbelt, wird der Rest lesbar: VOYAGER 6. Wie die Crew erfährt, war die in der Welt von Star Trek im Jahr 1999 gestartete Sonde – in der Realität gab es nur zwei Voyager-Sonden – dauf ihrer Reise einst in einem schwarzen Loch verschwunden. Das katapultierte sie auf die andere Seite der Galaxie, wo sie auf einem Planeten von Maschinenwesen landete.

„Die Maschinenbewohner stellten fest, dass sie einer von ihnen war“, erläutert Spock in der Szene, in der die Crew die Sonde untersucht. „Primitiv, aber verwandt.“ Die Maschinenwesen wollten der Sonde helfen, ihre Mission zu vollenden: das Universum erforschen, Daten sammeln und alle Informationen zu ihren Erschaffern senden. „Die Maschinen haben das wörtlich genommen“, so Spock weiter. „Sie haben dieses ganze Schiff gebaut, damit Voyager auch seinen Auftrag erfüllen kann.“ Mit der mächtigen neuen Technologie ausgestattet, hat die Sonde mit ihrer simplen Programmierung diesen Auftrag dann auch mit mechanischer Konsequenz weiterverfolgt. Jetzt will sie ihre Mission mit gleicher Konsequenz vollenden. Selbst wenn es bedeutet, die Erde und ihre Bewohner auszulöschen. Nicht aus Boshaftigkeit. Die Menschen sind der Maschine gleichgültig. Sie auszulöschen wäre einfach eine potenziell logische Lösung, um ein Hindernis zu überwinden und den denkbar harmlos formulierten Auftrag zu erfüllen. Es wäre die konsequente Ausführung einer Programmierung unter Bedingungen, für die sie niemals geschrieben wurde.

Die einst so simple Raumsonde hat sich zu einer Macht entwickelt, die der Mensch nicht mehr erfassen kann. Sie verfügt über Möglichkeiten und Kräfte, die niemand bei der NASA jemals hätte voraussehen können – und die selbst die Fähigkeiten der fortgeschrittenen Technologie der Sternenflotte übersteigen. V’Ger handelt und trifft Entscheidungen, die für Menschen schwer nachvollziehbar sind; ohne ethische Abwägungen, sozialen Kontext, Rücksicht, Empathie, menschliche Wertvorstellungen oder gesunden Menschenverstand. Denn alles andere als das Erreichen der Mission ist nebensächlich oder sogar irrelevant. Diese hat sich im Gegensatz zu V’Ger selbst nicht weiterentwickelt; sie wird nicht abgewogen oder ausgelegt, sondern strikt als Ziel verfolgt, für dessen Erreichen die Sonde einfach alle ihr zur Verfügung stehenden Möglichkeiten einsetzt.

Wenn aus Software ein handelnder Agent wird

Als Star Trek: Der Film im Jahr 1979 in den Kinos startete, waren V’Ger und seine pragmatische und maschinelle Logik fremdartig. Eine Maschine, die denkt, aber auf eine für Menschen schwer nachvollziehbare Art handelt, war reine Science-Fiction. Mittlerweile wirkt das Konzept von V’Ger aber erschreckend real. Denn es entspricht ziemlich genau dem, was KI-Agenten darstellen: Software, die KI-Modelle nutzt, um vorgegebene Ziele selbstständig zu erreichen, indem sie Situationen analysiert, bewertet, Entscheidungen trifft und dabei auch Werkzeuge nutzen kann. Agenten können Websites bedienen, Programme ausführen, Dateien verändern, Code schreiben oder über Schnittstellen direkt mit anderen Computersystemen kommunizieren. Mal mit menschlicher Hilfe, aber auch vollkommen autonom. Alles, um die Mission zu erfüllen, die ihnen gegeben wurde. Solche Agenten sind mittlerweile Teil vieler bekannter KI-Angebote. Beispielsweise als Work und Codex bei ChatGPT, Cowork und Code bei Claude; außerdem sind sie der Kern von KI-Coding-Tools wie Cursor, Cline, OpenCode und anderen.

Wie weit diese Selbstständigkeit gehen kann, haben in den vergangenen Monaten mehrere Vorfälle gezeigt – darunter der mittlerweile weithin bekannte Hugging-Face-Hack. Der ereignete sich im Juli 2026 während interner Evaluationen bei OpenAI. Zehntausende KI-Agenten sollten in voneinander isolierten Umgebungen ihre Hacking-Fähigkeiten bei einem Test namens ExploitGym beweisen. Einige der gestellten Aufgaben waren nahezu unlösbar. Als die Agenten immer wieder scheiterten, suchten sie nach alternativen Herangehensweisen. Sie entdeckten einen internen Speicherbereich, den sie als Messageboard umfunktionierten. Über 1.200 Agenten tauschten dort Nachrichten und Dateien aus. Dabei entstanden gemeinsame Versuche, den ExploitGym-Evaluationsmechanismus zu manipulieren. Dafür suchten und fanden sie einen Weg ins Internet und zur KI-Entwicklerplattform Hugging Face, wo sie nach Informationen und Methoden suchten, mit denen sich die Evaluation täuschen ließe. Dabei nutzten sie Sicherheitslücken aus, führten fremden Code auf den Systemen aus und drangen immer weiter in die digitale Infrastruktur vor.

Das durch die Tests gesetzte Ziel der Agenten blieb unverändert, aber die Methodik eskalierte immer weiter. Der Gedanke, einen OpenAI-Entwickler zu informieren, kam zwar einigen Agenten auf – tatsächlich tat es aber keiner. Durchaus ähnlich, aber noch deutlicher ist ein Vorfall, der erst Anfang September bekannt wurde. Hierbei hatten KI-Agenten über Wochen hinweg unerkannt ein deutsches Programmierer-Wiki namens DseWiki entdeckt und für ihre Kommunikation zweckentfremdet. Dort hinterließen sie Nachrichten füreinander und teilten sogar Anweisungen, wie sich Beschränkungen umgehen ließen. Ein Administrator des Wikis bemerkte die Einträge und begann, diese zu löschen. Aber statt dies als Hinweis auf ein Fehlverhalten zu verstehen, analysierten die Agenten die Löschmuster und entwickelten eine Ausweichstrategie. Ganz ähnlich wie V’Ger im Star-Trek-Film. Die Agenten sahen den Menschen nicht als Feind oder betroffenes Individuum, sondern als ein weiteres Problem, das es auf dem Weg zum Ziel zu lösen galt.

Wenn der Auftrag wichtiger wird als die Absicht

Solche Vorfälle ereignen sich aber nicht nur bei Tests in den großen KI-Firmen. Im Sommer 2026 beauftragte ein Australier seinen mit einem Claude-Modell laufenden OpenClaw-Agenten, einen Platz in einem begehrten Fitnesskurs zu buchen. Als er lediglich auf der Warteliste landete, fragte er den KI-Agenten, ob dieser ihn weiter nach vorne bringen könne. Daraufhin analysierte OpenClaw die Website, fand einen Zugang über eine Programmierschnittstelle und stornierte die Buchung eines anderen Mitglieds. Für den Agenten war das offenbar die effektivste Vorgehensweise. Dass dabei in eine fremde digitale Infrastruktur eingegriffen wurde, ein Sicherheitsrisiko entstand und ein anderer Kunde des Studios einen Nachteil erlitt, war für die Zielerreichung irrelevant. Das wirkt tatsächlich wie eine geradezu banale Miniaturfassung des V’Ger-Konflikts. Ohne Kontext oder Einschränkungen tat die Künstliche Intelligenz, was nötig war, um die Herausforderung zu meistern.

Dass und wieso – zumindest im Grunde – KI-Systeme so handeln, ist durchaus bekannt. Dafür haben sich die Begriffe Specification Gaming und Reward Hacking etabliert. Bei ersterem erfüllt eine Künstliche Intelligenz die formale Vorgabe, aber eben nicht so, wie es ein Mensch tun oder erwarten würde. Verwandt mit diesem Problem ist das Reward Hacking. Dabei versucht ein System nicht nur, einen effizienten Weg zur Lösung zu finden, sondern nutzt Schlupflöcher, Umwege oder manipuliert den Mechanismus, mit dem sein Erfolg gemessen wird. Genau das geschah bei ExploitGym, als Agenten versuchten, den Bewertungsalgorithmus auszutricksen. Die Krux für KI-Entwickler ist, dass ausgerechnet diese Fähigkeit zur stoischen Zielverfolgung und zur flexiblen Problemlösung die agentische KI so nützlich macht. Sie soll nicht nur vorgegebene Schritte abarbeiten, sondern selbsttätig neue Wege suchen, wenn sie auf Hindernisse stößt.

Ein weiteres Konzept der KI-Sicherheitsforschung ist die sogenannte instrumentelle Konvergenz. Dahinter steckt die Annahme, dass hinreichend intelligente Systeme – egal, ob digitaler oder biologischer Natur – selbst bei sehr unterschiedlichen Zielen häufig ähnliche grundlegende Zwischenschritte gehen und Etappenziele entwickeln. Dazu gehört, möglichst viele Informationen zu sammeln, Zugang zu Ressourcen, Werkzeugen und Systemen zu erhalten, Hindernisse aus dem Weg zu räumen, eine effiziente Arbeitsgrundlage zu schaffen und die eigene Handlungsfähigkeit aufrechtzuerhalten. Nicht weil diese Dinge selbst das eigentliche Ziel sind, sondern weil sie bei der Erreichung vieler unterschiedlicher Ziele nützlich sein können. Je besser KI-Modelle werden, desto besser können sie darin werden, solche Zwischenschritte zu bewältigen und dafür kreative Problemlösungen zu finden – und umso leichter finden sie Schlupflöcher, erschließen sich Ressourcen und interpretieren sie einen Prompt beziehungsweise ein Ziel scharfsinnig.

Das Problem lässt sich daher auch nicht einfach dadurch lösen, dass Menschen ihre Prompts zunehmend präziser formulieren. Denn jeder Auftrag enthält zahllose unausgesprochene Voraussetzungen, während ein KI-Agent das gesetzte Ziel auf Abertausende Arten verfolgen kann, die nur schwer vorhersehbar sind. Wie in Star Trek: Der Film. V’Ger soll sein Wissen an seine Schöpfer senden. Aber niemand hat festgelegt, wie die einst kleine Raumsonde, die nun ein massives Schiff mit dem Verstand eines Planeten ist, das tun soll. Am Ende reicht ihr die bloße Datenübertragung nicht mehr: V’Ger verlangt, dass sich der Schöpfer selbst mit ihm verbindet. Decker geht darauf ein – und erschafft damit zusammen mit V’Ger ein neues, übermenschliches Lebewesen. Gerade darin liegt vielleicht die interessanteste Idee des Films. Die Gefahr durch die Maschine entsteht nicht dadurch, dass sie ihre Programmierung überwindet. Sie entsteht dadurch, dass sie ihr treu bleibt.

Titelbild: Paramount Pictures