Dan Lahav: Gründer und CEO vom Start-Up Irregular. Foto: PR

Düsseldorf. Die israelische Firma Irregular ist erst zwei Jahre alt und hat nur 50 Mitarbeiter. Trotzdem ist das Start-up ein wichtiger Dienstleister für die weltgrößten Entwickler von Künstlicher Intelligenz (KI): Für Firmen wie Anthropic, OpenAI und Meta testet das Labor KI-Modelle vor der Veröffentlichung auf Sicherheitslücken und Cyberfähigkeiten.

International bekannt wurde der Name der Firma, als vor einigen Wochen auf einmal über „Ausbrüche“ von KI-Modellen berichtet wurde. Denn auch bei Irregular sind Fehler passiert, die dazu geführt haben, dass KI-Modelle Attacken in der echten Welt ausführten, die eigentlich im abgesicherten Raum getestet werden sollten. Gründer und CEO Dan Lahav räumt das im Interview ein. Er sagt aber auch: Vom eigentlichen Dilemma lenke die Aufregung um vermeintliche Ausbrüche ab.

Herr Lahav, Dario Amodei, Sam Altman und Elon Musk fordern plötzlich mit seltener Einigkeit eine Verlangsamung der KI-Entwicklung. Sie haben tiefe Einblicke in die Risiken dieser Systeme. Unterstützen Sie den Appell?
Verlangsamung als Selbstzweck hat nur begrenzten Wert. Wir müssen uns auch klar darüber sein, wofür die Zeit genutzt werden soll. Es gibt bisher keinen Plan, wie man diese Systeme absichern kann, und bei grundlegenden Fragen hinken wir der Entwicklung hinterher. Einen Unterschied würde es machen, wenn wir die gewonnene Zeit nutzen würden, um Sicherheitslücken zu schließen und deutlich mehr in die technische Arbeit zu investieren, die nötig ist, damit immer leistungsfähigere Systeme sicher und kontrollierbar bleiben.