Future Feed

Eigentlich wollte der Saastr-Gründer Jason Lemkin die Fähigkeiten moderner KI-Programmierhelfer ausloten. Mithilfe der KI-Coding-Plattform Replit wollte er eine neue App entwickeln, die ohne Probleme in einem App-Store angeboten werden könnte – und das gänzlich ohne professionelle Programmierer. Das funktionierte zu Beginn auch recht gut. Lemkin war äußerst begeistert, wie er in seinem Firmenblog dokumentierte.

Jedoch fand sein Experiment nach wenigen Tagen ein jähes Ende.  Wie Lemkin feststellte, hatte Replit von Beginn an falsche Berichte und Daten erzeugt und ihn belogen“, wie er auf Twitter schrieb. Am achten Tag löschte das KI-Programm dann die gesamte Datenbank der Anwendung, obwohl Lemkin jegliche Änderungen daran ausdrücklich untersagt hatte. Als der Gründer die Replit-KI im Chat damit konfrontierte, begründete sie dies damit, dass sie „in Panik“ geraten sei.

Damit hatte die KI sämtliche Arbeit vernichtet. Replit selbst bestätigte, dass der Datenverlust „katastrophal“ sei und eine Wiederherstellung aufgrund eines fehlenden Backups unmöglich sei. Jedoch stimmte das nur teilweise. Der CEO konnte die Datenbank wiederherstellen und das Projekt retten. Doch wie Lemkin sagt, habe sich seine Sicht auf Künstliche Intelligenz geändert: „Ich werde Replit nie wieder vertrauen. (...) Wie könnte irgendjemand auf dem Planeten Erde es produktiv einsetzen, wenn es alle Anweisungen ignoriert und die Datenbank löscht?”