Future Feed

Der Anthropic-CEO Dario Amodei gilt als einer der weltweit führenden KI-Forscher. In einem Essay hat er sich nun das Ziel gesetzt, in den nächsten Jahren eine Art MRT für Künstliche Intelligenz zu entwickeln. Also eine Technologie, mit der man in die Modelle hineinschauen und sie bei der Arbeit beobachten kann. Denn wie Amodei sagt, würden selbst die besten KI-Forscher immer noch nicht verstehen, wie Künstliche Intelligenz konkret funktioniert.

„Wenn ein generatives KI-System etwas tut, zum Beispiel ein Finanzdokument zusammenfasst, haben wir keine Ahnung, warum es auf einer bestimmten oder präzisen Ebene die Entscheidungen trifft, die es trifft – warum es bestimmte Wörter anderen vorzieht oder warum es gelegentlich einen Fehler macht, obwohl es normalerweise genau ist“, sagt Amodei. „Dieser Mangel an Verständnis ist in der Geschichte der Technologie beispiellos.“

Das alles, so der KI-Forscher, sei eigentlich ein guter Grund für jeden, sich Sorgen zu machen. Es müssten daher unbedingt Wege gefunden werden, die Künstliche Intelligenz transparenter und ihre Prozesse nachvollziehbarer zu machen. Denn sonst drohe ein Szenario, in dem die Menschheit einer Technologie die Kontrolle überlässt, die sie nicht verstehen kann. Sein Team bei Anthropic mache Fortschritte dabei, KI-Modelle interpretierbar zu machen und hoffe, bis 2027 eine Software zu haben, die Modelle eingehend analysieren kann. Das sei aber nicht sicher – und deshalb sei er durchaus besorgt.