Future Feed

Ab wann ist Künstliche Intelligenz so gefährlich, dass der Staat eingreifen muss? Das US-KI-Unternehmen Anthropic hat einen konkreten Vorschlag, den es als Gesetzentwurf unter US-Politikern verbreitet. Dieser sorgt jedoch aktuell für massive Kritik und wirft ein schlechtes Licht auf das Unternehmen, das sich als verantwortungsvolles KI-Labor inszeniert. Denn wie Politico berichtet, sieht der Entwurf vor, dass die Regierung erst eingreifen und ein KI-Modell aktiv stoppen darf, wenn dieses mindestens 1 Milliarde US-Dollar Schaden verursacht oder mehr als 50 Menschen tötet oder schwer verletzt.

Sämtliche Schäden, die unter diesem Limit liegen, sollen hingegen außerhalb des Verantwortungsbereichs und der Eingriffsrechte der US-Regierung liegen. Auf Nachfrage von Medien hat Anthropic die Echtheit des Entwurfs bestätigt. Ein Sprecher bezeichnete ihn als „Sammlung vernünftiger Regelungen, die der Kongress unserer Ansicht nach umsetzen sollte“. Der Entwurf baut auf dem zuvor von Anthropic veröffentlichten Advanced AI Framework auf, mit dem das Unternehmen mehrere Vorschläge zur Regulierung von KI unterbreitete. Auch hier kolportierte das Unternehmen bereits, dass die Gefahr von Modellen durch konkrete Katastrophenszenarien erwachse. Beispielsweise durch einen Kontrollverlust für Menschen, einen Cyberangriff oder die Herstellung eines Biokampfstoffs.