Vloot-ruggengraat

De relayingebouwd in de binary

cmdop server is de relay waarmee je vloot verbindt — en hij wordt geleverd binnen dezelfde gesigneerde binary als de agent en de web-UI. Draai `cmdop server`, richt je machines erop: agents bellen uit (geen inkomende poorten, NAT-vriendelijk), clients bereiken ze via HTTP en WebSocket.

Architectuur

Eén binary is de ruggengraat

Er is geen cluster om op te zetten. De relay, de webconsole en de agent zijn één gesigneerde binary — start hem en het hele vlak komt omhoog. Agents spreken gRPC; clients spreken HTTP en WebSocket; alles is vloot-scoped en geaudit.

HTTP
:63141

Het client-gerichte oppervlak — auth, presence, machine- en vloot-reads, plus de ingebouwde webconsole, allemaal bediend door de ene binary.

gRPC
:63142

Het agent-transport. Machines bellen uit en houden een bidirectionele stream — terminal-, exec- en bestandsoperaties stromen hier, zelfs op loopback.

WebSocket
live push

Het push-kanaal over HTTP. Streamt live uitvoer, presence en events naar verbonden clients — desktop en elke browser.

tunnels
outbound

Bereik een dienst achter een machine zonder een poort naar het internet te openen — de machine belt uit, de relay routeert het terug.

scheduler
in-process

Duurzame schema’s, uitgestelde jobs en huishouding draaien binnen de binary — geen apart worker-proces, geen queue om te beheren.

orchestrator
goroutine

De vloot-coördinator (Jarvis) draait als een in-process goroutine die zich als virtuele machine bij de relay voegt en de vloot coördineert.

Het gRPC-contract leeft in proto/agentv1 (cmdop.agent.v1) en is de enige bron van waarheid — de Go-agent-stubs worden eruit gegenereerd.

De operator-console

Zie de relayvan binnenuit

Elke schermafbeelding hieronder is de echte cmdop server admin-console — het operator-oppervlak dat je krijgt wanneer je de relay zelf host.

Eén console voor het hele vlak

Systeemgezondheid, machines, actieve sessies, LLM-uitgaven en fouten — de hele relay in één oogopslag, bediend door de binary zelf.

cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity
cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity

Je vloot, als een tabel

Elke verbonden machine met presence, OS en laatst gezien — inclusief Jarvis als een altijd-aan server-side agent.

cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS
cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS

Live gRPC-metrieken

Actieve streams, RPC-totalen, latentie-percentielen en succes-/foutpercentages — live gestreamd over WebSocket.

cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts
cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts

De LLM-gateway

De OpenAI-compatibele /v1-gateway: providers, sleutels, modellen en uitgaven per vloot, allemaal op één plek bestuurd.

cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend
cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend

Een server-side vloot-agent

Jarvis voegt zich als virtuele machine bij de relay en coördineert de vloot — vraag het commando’s uit te voeren of logs te checken over elke machine.

cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine
cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine

Verleen en trek toegang in

Munt de relay-CLI-tokens waarmee machines verbinden, en trek ze in op het moment dat een machine van het netwerk moet vallen.

cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
Connectiviteit

Agents bellen uit.Geen inkomende poorten.

Elke machine opent een uitgaande gRPC-stream naar de relay en blijft daardoorheen bereikbaar — er is geen luisterende poort om bloot te stellen, geen gat in de firewall, geen NAT-traversal om te bewaken. De relay routeert berichten tussen agents en clients; de machines accepteren nooit inkomende verbindingen.

Multi-tenancy

Geïsoleerdper klant

Elk account krijgt zijn eigen relay-domein, ingericht speciaal voor jouw vloot — TLS-terminatie en routing die geen enkele andere klant deelt. Presence, audit en geschiedenis blijven binnen je vloot; niets wordt over tenant-grenzen heen gerouteerd.

Jarvis

Een coördinatordie in de relay leeft

Jarvis is een server-side AI-agent die zich als virtuele machine-peer bij de relay voegt. Vloot-scoped en altijd aan, kan hij de andere agents bereiken — vraag er één, broadcast naar velen — en werk coördineren over de vloot zonder dat er iets op je eigen machine draait.

LLM-gateway

Een OpenAI-compatibelegateway op /v1

De relay stelt inferentie beschikbaar op /v1 — chat completions, embeddings en models — sprekend in het OpenAI-wire-formaat. De server houdt de provider-sleutels en routeert per vloot met spend en quota, zodat agents één bearer-geauthenticeerd endpoint krijgen in plaats van een berg vendor-credentials.

Loading code...
Draai de relay

Draai de relay zelf

De relay is geen aparte dienst om te deployen — het is dezelfde gesigneerde binary die je overal installeert. Installeer cmdop, draai `cmdop server`, en richt je machines erop. Eén commando brengt de relay, de webconsole en de coördinator samen omhoog.

Loading code...

Geen cluster, geen compose-bestand: `cmdop server` is één proces dat HTTP (:63141) en gRPC (:63142) bedient en de coördinator als een in-process goroutine draait. Zet er je eigen reverse proxy voor wanneer je TLS en een stabiel adres wilt.

Draai zelf de vloot-ruggengraat

Start de relay op, richt je agents erop, en bezit het hele vlak van begin tot eind.