„Cloudflare OS‟ heißt ein neues, von Cloudflare aufgelegtes Open-Source-Projekt, das als modellunabhängige Arbeitsumgebung für KI-Agenten in Unternehmen konzipiert ist. Cloudflare, Betreiber eines Content Delivery Networks, hat Cloudflare OS zunächst für den internen Gebrauch erstellt und gibt es jetzt für Dritte frei. Entgegen dem Namen handelt es sich nicht um ein Betriebssystem für Computer, sondern um eine Plattform, auf der Daten, KI-Agenten, Anwendungen und andere Ressourcen in kontrollierter Weise zu einander finden sollen.

Idealerweise soll Cloudflare OS von allen Mitarbeitern eines Unternehmens eingesetzt werden, damit möglichst alles Wissen samt der unternehmensinternen Terminologie und aller Abläufe, alle Daten, alle Anwendungen und alle KI-Agenten zur Verfügung stehen. Das soll zu besseren Ergebnissen aus Large Language Models (LLM) führen, bei geringerem Token-Verbrauch, weil der notwendige Kontext nicht jeder Eingabe hinzugefügt werden muss.

Gleichzeitig soll Cloudflare OS darauf achten, dass KI-Agenten eines Mitarbeiters nur auf jene Daten zugreifen, die der Mitarbeiter explizit freigibt. Das soll auch Zugriff auf Daten, auf die der Mitarbeiter selbst nicht zugreifen dürfte, verunmöglichen. Zudem dürfen auch Ausgaben des KI-Agenten (oder die vom KI-Agenten geschriebene Software) nur entsprechend Berechtigten zugänglich sein. Der Sourcecode steht ab sofort bei Github online.

Drei Teile

Aus Anwendersicht steht eine browserbasierte Chat-Oberfläche im Zentrum. Dort geben sie Fragen oder Anweisungen an ein LLM ein. Ein AI Gateway kennt die Identität des Anwenders und leitet dessen Eingaben zu einem passenden KI-Modell, unter Beachtung zugewiesener Rate-Limits und Tokenbudgets.

Konzeptuell besteht Cloudflare OS laut Ankündigung aus drei Teilen: Einem Sicherheitsrahmen, einer Plattform für persönliche, abwandelbare Anwendungen, die Mitarbeiter mit einander teilen können, sowie den Workspaces, die isoliert von einander laufen. Dort können KI-Agenten nicht nur Dokumente erstellen, sondern auch mit geringem Risiko Software schreiben und ausführen. Die Elemente müssen nicht statisch sein, sondern können auch mit Datenquellen verbunden werden, sodass sich die Ausgaben ändern, wenn sich Informationen an der Quelle ändern.

(ds)