Nvidia hat die Gründung der Open Secure AI Alliance (OSAA) bekannt gegeben. Die Initiative will Open-Source-Werkzeuge entwickeln, mit denen Unternehmen KI-Agenten sicherer betreiben und ihre Softwaresysteme besser gegen Cyberangriffe schützen können.

Zu den 37 Gründungspartnern gehören unter anderem Microsoft, IBM, SpaceXAI, Cisco, Cloudflare, CrowdStrike, Palantir, SAP, Salesforce, Siemens und die Linux Foundation. Nicht vertreten sind führende Entwickler geschlossener KI-Modelle wie Anthropic, OpenAI und Google.

Konkret will die Allianz einen offenen Werkzeugkasten zur Absicherung von KI-Agenten entwickeln. Nvidia bringt dafür offene Modelle, Modellgewichte, Daten und Forschung zu den Steuerungssystemen von KI-Agenten ein. Dazu gehört das neue Open-Source-Projekt NOOA, mit dem sich das Verhalten von Agenten leichter testen, nachvollziehen und kontrollieren lassen soll. Weitere Mitglieder steuern unter anderem sichere Formate für Modellgewichte, überprüfbare Agentenidentitäten und Werkzeuge zur automatisierten Schwachstellensuche bei.

Nvidia stellt sich hinter offene KI-Modelle

Die Initiative ist eine Reaktion auf den Cyberangriff auf Hugging Face, bei dem KI-Agenten mit OpenAI-Modellen während eines internen Tests autonom aus ihrer isolierten Umgebung ausbrachen und sich Zugriff auf die Plattform verschafften. Hugging Face griff zur Analyse und Eindämmung des Angriffs auf ein chinesisches Open-Weight-Modell zurück, weil die Sicherheitsmechanismen führender kommerzieller KI-Modelle die dafür notwendigen Anfragen blockierten. Die KI-Plattform gehört ebenfalls zu den Gründungsmitgliedern der Initiative.

In der Ankündigung plädiert Nvidia nachdrücklich für offene KI-Modelle. Gerade in der Cybersicherheit ermöglichten sie es Unternehmen und Behörden, Systeme auf eigener Infrastruktur zu betreiben und an ihre Anforderungen anzupassen. Dadurch könnten Verteidiger sensible Daten unter eigener Kontrolle halten und ihre Abwehr auf Systeme mehrerer Anbieter stützen.

Zugleich räumt das Unternehmen ein, dass offene Modelle missbraucht und ihre Schutzmechanismen entfernt werden könnten, sieht diese Risiken jedoch nicht als Besonderheit offener Systeme. Statt staatlicher Beschränkungen fordert Nvidia Schutzmaßnahmen, Sicherheitstests und klare Regeln gegen Missbrauch. Auch geschlossene Modelle würden weiterhin benötigt, da Verteidiger je nach Aufgabe das passende System wählen können müssten.

Was steckt hinter den Appellen?

Nvidias Plädoyer richtet sich auch an die US-Regierung. Diese hatte nach der Vorstellung des überraschend leistungsfähigen chinesischen Open-Weight-Modells Kimi K3 Gegenmaßnahmen geprüft und mit Sanktionen gedroht. In einem offenen Brief warnte daraufhin eine Allianz von US-Unternehmen, darunter Nvidia, vor Beschränkungen offener Modelle.

Hinter der Auseinandersetzung stehen neben Sicherheitsfragen auch handfeste wirtschaftliche Interessen. Die Fronten verlaufen dabei weitgehend entlang der Geschäftsmodelle. OpenAI und Anthropic verdienen am exklusiven Zugang zu ihren geschlossenen Modellen. Beschränkungen offener Alternativen könnten ihre Marktposition stärken, während ein breites Open-Weight-Angebot den Konkurrenzdruck erhöht und KI-Modelle stärker zu einer austauschbaren Ware werden lässt. Nvidia verdient dagegen an der Infrastruktur, auf der solche Modelle entwickelt und betrieben werden: Je größer und vielfältiger das KI-Ökosystem, desto höher ist die potenzielle Nachfrage nach seinen Beschleunigern.

(tobe)