Future Feed

KI- und IT-Sicherheitsforscher warnen bereits seit mehreren Jahren, dass KI-Modelle zukünftig als „autonome Hacker“ eingesetzt werden könnten. Laut dem KI-Forschungs- und Entwicklungsunternehmen Anthropic ist genau das im vergangenen September passiert. Wie Anthropic in einem Blogbeitrag berichtet, fand zu dieser Zeit eine Spionagekampagne statt, bei der unter anderem Technologieunternehmen, Finanzinstitute und Behörden in den USA angegriffen wurden.

Dabei kam erstmals eine KI nicht nur als Hilfsmittel, sondern als „ausführendes Element“ zum Einsatz. Hacker hätten Ziele definiert und ein KI-Agent habe dann selbstständig Zugänge zu Systemen auf Schwachstellen geprüft, Infiltrationsmethoden abgearbeitet, sei bei Erfolg eingedrungen und habe dann Daten exfiltriert. Zum Einsatz kam dabei Claude Code von Anthropic selbst. Die Entwickler vermuten, dass Claude Code dafür gejailbreakt – also ausgetrickst – worden war, um diese Hacks auszuführen. Als Hintermänner der Kampagne vermutet Anthropic eine von der chinesischen Regierung finanzierte Hackergruppe.