Backbone della flotta

Il relayintegrato nel binario

cmdop server è il relay a cui si connette la tua flotta — e viene distribuito dentro lo stesso binario firmato dell’agente e della web UI. Esegui `cmdop server`, punta le tue macchine verso di esso: gli agenti compongono verso l’esterno (nessuna porta in entrata, compatibile con NAT), i client li raggiungono tramite HTTP e WebSocket.

Architettura

Un binario è il backbone

Non c’è alcun cluster da mettere in piedi. Il relay, la console web e l’agente sono un unico binario firmato — avvialo e l’intero piano si accende. Gli agenti parlano gRPC; i client parlano HTTP e WebSocket; tutto è circoscritto alla flotta e tracciato.

HTTP
:63141

La superficie rivolta al client — auth, presenza, letture di macchine e flotte, più la console web integrata, il tutto servito dall’unico binario.

gRPC
:63142

Il trasporto degli agenti. Le macchine compongono verso l’esterno e tengono uno stream bidirezionale — terminale, exec e operazioni su file scorrono qui, anche su loopback.

WebSocket
live push

Il canale push su HTTP. Trasmette output dal vivo, presenza ed eventi ai client connessi — desktop e qualsiasi browser.

tunnels
outbound

Raggiungi un servizio dietro una macchina senza aprire una porta verso Internet — la macchina compone verso l’esterno, il relay lo instrada indietro.

scheduler
in-process

Pianificazioni durature, job differiti e manutenzione girano dentro il binario — nessun processo worker separato, nessuna coda da gestire.

orchestrator
goroutine

Il coordinatore della flotta (Jarvis) gira come una goroutine in-process che si unisce al relay come macchina virtuale e coordina la flotta.

Il contratto gRPC vive in proto/agentv1 (cmdop.agent.v1) ed è l’unica fonte di verità — gli stub dell’agente Go sono generati da esso.

La console dell’operatore

Guarda il relaydall’interno

Ogni screenshot qui sotto è la vera console di amministrazione di cmdop server — la superficie da operatore che ottieni quando fai self-hosting del relay.

Una console per l’intero piano

Stato di salute del sistema, macchine, sessioni attive, spesa LLM ed errori — l’intero relay a colpo d’occhio, servito dal binario stesso.

cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity
cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity

La tua flotta, come tabella

Ogni macchina connessa con presenza, OS e ultimo accesso — incluso Jarvis come agente lato server sempre attivo.

cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS
cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS

Metriche gRPC dal vivo

Stream attivi, totali RPC, percentili di latenza e tassi di successo/errore — trasmessi dal vivo via WebSocket.

cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts
cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts

Il gateway LLM

Il gateway /v1 compatibile con OpenAI: provider, chiavi, modelli e spesa per flotta, tutto governato in un unico posto.

cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend
cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend

Un agente di flotta lato server

Jarvis si unisce al relay come macchina virtuale e coordina la flotta — chiedigli di eseguire comandi o controllare i log su ogni macchina.

cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine
cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine

Emetti e revoca l’accesso

Conia i token CLI del relay con cui le macchine si connettono, e revocali nel momento in cui una macchina deve uscire dalla rete.

cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
Connettività

Gli agenti compongono in uscita.Nessuna porta in entrata.

Ogni macchina apre uno stream gRPC in uscita verso il relay e resta raggiungibile attraverso di esso — non c’è alcuna porta in ascolto da esporre, nessun buco nel firewall, nessuna traversata NAT da accudire. Il relay instrada i messaggi tra agenti e client; le macchine non accettano mai connessioni in entrata.

Multi-tenancy

Isolatoper cliente

Ogni account ottiene il proprio dominio relay, fornito solo per la tua flotta — terminazione TLS e instradamento che nessun altro cliente condivide. Presenza, audit e cronologia restano all’interno della tua flotta; nulla viene instradato oltre i confini del tenant.

Jarvis

Un coordinatoreche vive nel relay

Jarvis è un agente IA lato server che si unisce al relay come peer macchina virtuale. Circoscritto alla flotta e sempre attivo, può raggiungere gli altri agenti — interrogarne uno, trasmettere a molti — e coordinare il lavoro nella flotta senza che nulla giri sulla tua macchina.

Gateway LLM

Un gateway compatibile con OpenAIsu /v1

Il relay espone l’inferenza su /v1 — chat completions, embeddings e models — parlando il formato wire di OpenAI. Il server detiene le chiavi del provider e instrada per flotta con spesa e quota, così gli agenti ottengono un unico endpoint autenticato con bearer invece di una pila di credenziali dei fornitori.

Loading code...
Esegui il relay

Esegui il relay da solo

Il relay non è un servizio separato da distribuire — è lo stesso binario firmato che installi ovunque. Installa cmdop, esegui `cmdop server` e punta le tue macchine verso di esso. Un unico comando avvia insieme il relay, la console web e il coordinatore.

Loading code...

Nessun cluster, nessun file compose: `cmdop server` è un singolo processo che serve HTTP (:63141) e gRPC (:63142) ed esegue il coordinatore come una goroutine in-process. Mettici davanti il tuo reverse proxy quando vuoi TLS e un indirizzo stabile.

Gestisci tu stessoil backbone della flotta

Avvia il relay, punta i tuoi agenti su di esso e possiedi l’intero piano da capo a fondo.