Future Feed

Das US-amerikanische KI-Unternehmen Anthropic wirft chinesischen Konkurrenten vor, eine groß angelegte Destillationsattacke auf die Claude-KI-Modelle durchzuführen. Bei einer sogenannten Destillation werden einem Modell systematisch Anfragen gestellt und die Antworten abgegriffen. Diese Fragen und Antworten werden dann genutzt, um ein anderes Modell zu trainieren oder zu optimieren, damit es Fähigkeiten, Wissen und Verhalten des destillierten Modells erwirbt. So kann beispielsweise eine neue Fassung eines Modells finalisiert oder eine kleinere Fassung eines großen Modells gestaltet werden.

Laut Anthropic sollen DeepSeek, Moonshot und MiniMax über 24.000 Konten genutzt haben, um den Claude-Modellen über 16 Millionen Abfragen zu stellen. Eben offenbar, um Trainingsmaterial für ihre eigenen Modelle aus jenen von Anthropic zu destillieren. Dabei ging es insbesondere um das Abgreifen von agentischem Verhalten und Coding- und Reasoning-Fähigkeiten. DeepSeek hat Claude zudem angeblich genutzt, um „zensursichere“ Antwortmöglichkeiten zu politisch heiklen Themen zu generieren. Beispielsweise sollte das Modell angeben, wie es auf Fragen bezüglich Dissidenten oder Autokratien antworten würde, um chinesischen Zensurvorgaben zu entsprechen.

Bereits vor kurzem hat Google eine ähnliche Attacke beklagt, wenn auch in kleinerem Maßstab. Die aktuellen Gemini-Modelle sollen mittels verschiedener, aber offenbar zusammengehöriger Konten über 100.000 Mal abgefragt worden sein, um „Modellextraktion“ zu betreiben. Google hat jedoch keinen Verantwortlichen genannt. Nach Mutmaßungen der Firma aus Mountain View könnte es sich dabei jedoch um private Konkurrenten handeln, die sich dadurch einen Wettbewerbsvorteil ergaunern wollen.