Flotten-Rückgrat

Das Relay,eingebaut ins Binary

cmdop server ist das Relay, mit dem sich deine Flotte verbindet — und es wird im selben signierten Binary ausgeliefert wie der Agent und die Web-UI. Führe `cmdop server` aus und richte deine Maschinen darauf aus: Agenten wählen ausgehend (keine eingehenden Ports, NAT-freundlich), Clients erreichen sie über HTTP und WebSocket.

Architektur

Ein Binary ist das Rückgrat

Es gibt keinen Cluster aufzusetzen. Das Relay, die Web-Konsole und der Agent sind ein signiertes Binary — starte es und die ganze Ebene fährt hoch. Agenten sprechen gRPC; Clients sprechen HTTP und WebSocket; alles ist flottengebunden und auditiert.

HTTP
:63141

Die client-zugewandte Oberfläche — Auth, Präsenz, Maschinen- und Flotten-Reads, plus die eingebaute Web-Konsole, alles vom einen Binary bereitgestellt.

gRPC
:63142

Der Agent-Transport. Maschinen wählen ausgehend und halten einen bidirektionalen Stream — Terminal-, Ausführungs- und Dateioperationen fließen hier, sogar über Loopback.

WebSocket
live push

Der Push-Kanal über HTTP. Streamt Live-Ausgabe, Präsenz und Events an verbundene Clients — Desktop und jeder Browser.

tunnels
outbound

Erreiche einen Dienst hinter einer Maschine, ohne einen Port zum Internet zu öffnen — die Maschine wählt ausgehend, das Relay routet es zurück.

scheduler
in-process

Dauerhafte Zeitpläne, aufgeschobene Jobs und Aufräumarbeiten laufen innerhalb des Binary — kein separater Worker-Prozess, keine Queue zu betreiben.

orchestrator
goroutine

Der Flotten-Koordinator (Jarvis) läuft als in-process goroutine, die dem Relay als virtuelle Maschine beitritt und die Flotte koordiniert.

Der gRPC-Vertrag lebt in proto/agentv1 (cmdop.agent.v1) und ist die einzige Quelle der Wahrheit — die Go-Agent-Stubs werden daraus generiert.

Die Operator-Konsole

Sieh das Relayvon innen

Jeder Screenshot unten ist die echte cmdop server Admin-Konsole — die Operator-Oberfläche, die du bekommst, wenn du das Relay selbst hostest.

Eine Konsole für die ganze Ebene

Systemzustand, Maschinen, aktive Sessions, LLM-Ausgaben und Fehler — das ganze Relay auf einen Blick, vom Binary selbst bereitgestellt.

cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity
cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity

Deine Flotte als Tabelle

Jede verbundene Maschine mit Präsenz, OS und Zuletzt-gesehen — inklusive Jarvis als immer aktiver serverseitiger Agent.

cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS
cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS

Live-gRPC-Metriken

Aktive Streams, RPC-Gesamtzahlen, Latenz-Perzentile und Erfolgs-/Fehlerraten — live über WebSocket gestreamt.

cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts
cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts

Das LLM-Gateway

Das OpenAI-kompatible /v1-Gateway: Anbieter, Schlüssel, Modelle und Ausgaben pro Flotte, alles an einem Ort gesteuert.

cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend
cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend

Ein serverseitiger Flotten-Agent

Jarvis tritt dem Relay als virtuelle Maschine bei und koordiniert die Flotte — bitte ihn, Befehle auszuführen oder Logs über jede Maschine hinweg zu prüfen.

cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine
cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine

Zugang ausstellen und widerrufen

Erstelle die Relay-CLI-Tokens, mit denen sich Maschinen verbinden, und widerrufe sie in dem Moment, in dem eine Maschine das Netzwerk verlassen soll.

cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
Konnektivität

Agenten wählen aus.Keine eingehenden Ports.

Jede Maschine öffnet einen ausgehenden gRPC-Stream zum Relay und bleibt darüber erreichbar — es gibt keinen lauschenden Port freizugeben, kein Firewall-Loch, kein NAT-Traversal zu hüten. Das Relay leitet Nachrichten zwischen Agenten und Clients weiter; die Maschinen akzeptieren niemals eingehende Verbindungen.

Mandantenfähigkeit

Isoliertpro Kunde

Jedes Konto erhält seine eigene Relay-Domain, die nur für deine Flotte bereitgestellt wird — TLS-Terminierung und Routing, die kein anderer Kunde teilt. Präsenz, Audit und Verlauf bleiben innerhalb deiner Flotte; nichts wird über Mandantengrenzen hinweg geroutet.

Jarvis

Ein Koordinator,der im Relay lebt

Jarvis ist ein serverseitiger KI-Agent, der dem Relay als virtueller Maschinen-Peer beitritt. Flottengebunden und immer aktiv, kann er die anderen Agenten erreichen — einen fragen, an viele senden — und Arbeit über die Flotte hinweg koordinieren, ohne dass etwas auf deinem eigenen Rechner läuft.

LLM-Gateway

Ein OpenAI-kompatiblesGateway unter /v1

Das Relay stellt Inferenz unter /v1 bereit — Chat-Completions, Embeddings und Modelle — im OpenAI-Wire-Format. Der Server hält die Anbieterschlüssel und routet pro Flotte mit Ausgaben und Kontingenten, sodass Agenten einen einzigen bearer-authentifizierten Endpunkt statt eines Stapels von Anbieter-Anmeldedaten erhalten.

Loading code...
Betreibe das Relay

Betreibe das Relay selbst

Das Relay ist kein separater Dienst zum Bereitstellen — es ist dasselbe signierte Binary, das du überall installierst. Installiere cmdop, führe `cmdop server` aus und richte deine Maschinen darauf aus. Ein Befehl bringt das Relay, die Web-Konsole und den Koordinator zusammen hoch.

Loading code...

Kein Cluster, keine Compose-Datei: `cmdop server` ist ein einzelner Prozess, der HTTP (:63141) und gRPC (:63142) bereitstellt und den Koordinator als in-process goroutine ausführt. Setze deinen eigenen Reverse-Proxy davor, wenn du TLS und eine stabile Adresse willst.

Betreibe das Flotten-Rückgrat selbst

Starte das Relay, richte deine Agenten darauf aus und besitze die ganze Ebene von Anfang bis Ende.