Future Feed

Nachdem immer mehr Fälle bekannt geworden sind, in denen KI-Systeme entgegen den Anweisungen von Menschen handelten und beispielsweise fremde Computerinfrastrukturen hackten, haben zuletzt mehrere Leiter von KI-Unternehmen eine Entschleunigung der Entwicklung gefordert. Nun haben in einem gemeinsamen Schreiben auch die Staatschefs mehrerer Länder eine „strenge Kontrolle für KI“ gefordert. Die insgesamt 22 Unterzeichner, darunter die Initiatoren Finnland und Norwegen, fordern verbindliche Sicherheitsregeln, unabhängige Prüfungen von Modellen und den Aufbau einer weltweiten Kontrollbehörde.

Laut den Unterzeichnern habe KI das Potenzial, „die Lebensbedingungen zu verbessern, die Wissenschaft voranzubringen und unsere Volkswirtschaften zu stärken“, berge aber auch „ernsthafte Risiken für Sicherheit und Schutz“. Das Schreiben wurde am Rande der UN-Generalversammlung in New York vorgestellt. Neben europäischen Ländern unterstützen auch Australien, Kanada, Kenia, Singapur und Südafrika die Forderungen. Eine Beteiligung der USA und Chinas gibt es nicht. Beide sind derzeit die führenden Länder in der KI-Forschung.