Meta arbeitet an einer KI auf dem Niveau von GPT-4 – zur freien Nutzung

Die Facebook-Firma Meta bereitet offenbar die Arbeit an einem Sprachmodell vor, das auf dem Niveau von GPT-4 liegen soll. Wie schon die LLaMA-Sprachmodelle von Meta soll auch dieses Large Language Model zur Nutzung freigegeben werden. Das macht den Anwälten der Firma ziemliche Sorgen.

Von Michael Förtsch

Im Wettrennen um die Führungsposition bei der Entwicklung Künstlicher Intelligenz liegen OpenAI mit seinem Sprachmodell GPT-4 und Google mit PaLM 2 und Deepminds Gemini derzeit vorne. Jedoch will die Facebook- und Instagram-Firma Meta mit einem neuen – derzeit noch namenlosen – Sprachmodell aufholen. Laut einem Bericht des Wall Street Journal hat das Social-Network- und Werbeunternehmen damit begonnen, seine Rechenzentren aufzurüsten und im großen Stil Nvidia-H100-Grafikkarten aufzukaufen, die für das Training und die Nutzung von komplexen KI-Modellen prädestiniert sind. Derzeit erlebt die gesamt KI-Branche einen Mangel an derartiger Hardware und selbst große Unternehmen haben Schwierigkeiten, die nötigen Ressourcen für ihre Projekte zu akkumulieren – was auch bei Meta für interne Streits und Kontroversen gesorgt haben soll. Aufgrund der Engpässe soll die Hardware wohl erst gegen Ende 2023 bereitstehen und das Training des Modells im neuen Jahr beginnen.

Meta soll für dieses Projekt sein KI-Team mit einer neuen Gruppe verstärkt haben, die die Arbeit beschleunigen und dafür sorgen soll, dass das neue Modell auf dem Fähigkeits- und Wissenslevel von GPT-4 steht. Vor allem soll es besonders menschlich kommunizieren können. Das Sprachmodell soll zukünftig in zahlreiche neue und bestehende Applikationen von Meta Einzug finden. Darunter Chatbots, die über Instagram genutzt werden und verschiedene Persönlichkeiten emulieren können. Angeblich arbeitet das Unternehmen auch an eine Integration in sein Creator Studio, wo es Influencern und Firmenkunden helfen soll, Texte für Facebook-, Instagram-, Threadposts und Werbeanzeigen zu formulieren.

Das Meta-Sprachmodell könnte der Konkurrenz nicht nur wegen seiner Fähigkeiten gefährlich werden – wie zuvor bereits LLaMA. Unter diesem Namen hatte Meta im Februar 2023 ein großes Sprachmodell veröffentlicht, das zunächst nur für Forscher und Partner freigeben war, aber wenig später geleakt wurde. Sowohl Forscher, Firmen, unabhängige Teams als auch private Nutzer haben es seitdem adaptiert, mit eigenen Daten trainiert und weiterentwickelt – und dabei beeindruckende Resultate und unerwartete Erfolge erzielt. Im Juli 2023 wurde der Nachfolger LLaMA 2 daher sofort als Open-Source-Projekt freigegeben, das mit einigen Einschränkungen heruntergeladen, manipuliert und offen genutzt werden darf. Laut dem Wall Street Journal soll dies auch für das kommende Sprachmodell gelten. Mark Zuckerberg bestehe darauf.

Gefährliche Freiheit

Das erklärte Ziel des Meta-KI-Projektes soll es sein, „andere Unternehmen bei der Entwicklung von Diensten zu unterstützen, die anspruchsvolle Texte, Analysen und andere Ergebnisse liefern“. Tatsächlich könnte ein freies Sprachmodell auf dem Niveau von GPT-4 den Wettbewerb befeuern und zahlreiche Start-ups und Unternehmen befähigen, eigene Sprachmodell-basierte Dienste aufzubauen und anzubieten – ohne, die finanziellen Mittel aufbringen zu müssen, um ein eigenes KI-Modell zu trainieren oder ein Model wie GPT-4 zu lizenzieren.

Insbesondere könnte ein solches Modell freie Entwickler zu Experimenten motivieren, die möglicherweise gänzlich neue Anwendungsgebiete und Entwicklungsmethoden offenbaren. Bereits im Mai 2023 warnte ein Google-Entwickler in einem Memo davor, „dass wir nicht in der Lage sind, dieses Wettrennen zu gewinnen – und OpenAI auch nicht“. Auf Basis von freien Modellen könne die Open-Source-Community mit begrenzten Ressourcen, viel Erfindungsreichtum und großer Geschwindigkeit schnell Erfolge erzielen, die den Vorsprung der großen Tech-Konzerne schrumpfen lassen. Denn es gebe keine „Geheimzutat“, die die Milliardenunternehmen besonders oder überlegen mache.

Der Open-Source-Vorstoß von Meta ist aber nicht frei von Problemen und Kritik. Denn ein derartiges Sprachmodell kann auch auf schadhafte Weise eingesetzt werden. Basierend auf offenen, wenn auch kleineren Sprachmodellen wie GPT-J wurden beispielsweise bereits FraudGPT und WormGPT entwickelt – Dienste, die Kriminellen helfen, massenhaft Spam- und Phishing-Email zu versenden. Die Meta-Anwälte sollen zudem Bedenken hinsichtlich Klagen wegen möglicher Urheberrechtsverletzungen haben und einen Missbrauch des Modells für gezielte Desinformationskampagnen fürchten.