フリートの背骨

リレーバイナリに組み込まれている

cmdop server は、あなたのフリートが接続するリレーです——そしてエージェントとウェブ UI と同じ署名済みバイナリの中に同梱されています。`cmdop server` を実行し、マシンをそこへ向けてください。エージェントはダイヤルアウトし(インバウンドポートなし、NAT に優しい)、クライアントは HTTP と WebSocket で到達します。

アーキテクチャ

1 つのバイナリが背骨

立ち上げるクラスタはありません。リレー、ウェブコンソール、エージェントは 1 つの署名済みバイナリです——起動すれば、プレーン全体が立ち上がります。エージェントは gRPC を話し、クライアントは HTTP と WebSocket を話します。すべてがフリート単位でスコープされ、監査されます。

HTTP
:63141

クライアント向けのサーフェス——認証、プレゼンス、マシンとフリートの読み取り、加えて組み込みのウェブコンソール、すべてを 1 つのバイナリが提供します。

gRPC
:63142

エージェントのトランスポート。マシンはダイヤルアウトして双方向ストリームを保持します——ターミナル、実行、ファイル操作がここを流れます。ループバック上でも同様です。

WebSocket
live push

HTTP 上のプッシュチャネル。ライブ出力、プレゼンス、イベントを接続中のクライアント——デスクトップとどのブラウザにも——ストリームします。

tunnels
outbound

インターネットにポートを開けることなく、マシンの背後にあるサービスに到達します——マシンがダイヤルアウトし、リレーがそれをルーティングして戻します。

scheduler
in-process

永続的なスケジュール、遅延ジョブ、ハウスキーピングがバイナリの中で実行されます——別のワーカープロセスも、運用すべきキューもありません。

orchestrator
goroutine

フリートコーディネーター(Jarvis)は、仮想マシンとしてリレーに参加しフリートを調整する、インプロセスの goroutine として動作します。

gRPC コントラクトは proto/agentv1(cmdop.agent.v1)にあり、唯一の信頼できる情報源です——Go エージェントのスタブはここから生成されます。

オペレーターコンソール

リレーを内側から見る

以下のスクリーンショットはすべて、実際の cmdop server 管理コンソールです——リレーをセルフホストしたときに得られるオペレーターの操作画面。

プレーン全体を 1 つのコンソールで

システムヘルス、マシン、アクティブセッション、LLM の支出、エラー——リレー全体を一目で、バイナリ自身が提供します。

cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity
cmdop server overview — system health (six processes), machines, sessions, LLM spend, errors and recent activity

あなたのフリートを表として

プレゼンス、OS、最終確認時刻つきで接続中のすべてのマシン——常時稼働のサーバーサイドエージェントとしての Jarvis を含みます。

cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS
cmdop server machines — the fleet as a table with Jarvis as an always-on server agent, presence and OS

ライブの gRPC メトリクス

アクティブストリーム、RPC 合計、レイテンシのパーセンタイル、成功/エラー率——WebSocket でライブ配信されます。

cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts
cmdop server gRPC monitoring — live streams, RPC totals, latency percentiles and success/error charts

LLM ゲートウェイ

OpenAI 互換の /v1 ゲートウェイ:プロバイダー、キー、モデル、フリート単位の支出——すべてを 1 か所で統制します。

cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend
cmdop server model routing — the OpenAI-compatible LLM gateway: providers, keys, models and per-fleet spend

サーバーサイドのフリートエージェント

Jarvis は仮想マシンとしてリレーに参加し、フリートを調整します——すべてのマシンでコマンドを実行したりログを確認したりするよう頼めます。

cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine
cmdop server Jarvis — the server-side fleet coordinator agent that joins the relay as a virtual machine

アクセスを発行・取り消し

マシンが接続に使うリレー CLI トークンを発行し、マシンをネットワークから外すべき瞬間にそれを取り消します。

cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
cmdop server agent tokens — issue and revoke the relay CLI tokens machines connect with
接続性

エージェントはダイヤルアウトする。インバウンドポートなし。

すべてのマシンはリレーへアウトバウンドの gRPC ストリームを開き、それを通じて到達可能なまま保たれます——公開すべきリッスンポートも、ファイアウォールの穴も、世話すべき NAT トラバーサルもありません。リレーはエージェントとクライアントの間でメッセージをルーティングし、マシンがインバウンド接続を受け入れることは決してありません。

マルチテナンシー

隔離される顧客ごとに

すべてのアカウントに、あなたのフリート専用にプロビジョニングされた独自のリレードメインが与えられます——TLS 終端とルーティングは他のどの顧客とも共有しません。プレゼンス、監査、履歴はあなたのフリート内に留まり、テナント境界をまたいでルーティングされるものは何もありません。

Jarvis

コーディネーターリレーの中に生きる

Jarvis は、仮想マシンのピアとしてリレーに参加するサーバーサイドの AI エージェントです。フリート単位でスコープされ常時稼働し、他のエージェントに到達できます——1 つに問い合わせ、多数にブロードキャストし——あなた自身のマシン上で何も動かすことなく、フリート全体の作業を調整します。

LLM ゲートウェイ

OpenAI 互換のゲートウェイを /v1 で

リレーは /v1 で推論を公開します——チャット補完、埋め込み、モデル——OpenAI のワイヤーフォーマットを話します。サーバーがプロバイダーキーを保持し、支出とクォータとともにフリート単位でルーティングするので、エージェントはベンダー資格情報の山ではなく、1 つの bearer 認証エンドポイントを得ます。

Loading code...
セルフホスト

リレーを自分で動かす

リレーはデプロイすべき別サービスではありません——それはあなたがどこにでもインストールする、同じ署名済みバイナリです。cmdop をインストールし、`cmdop server` を実行し、マシンをそこへ向けてください。1 つのコマンドで、リレー、ウェブコンソール、コーディネーターがまとめて立ち上がります。

Loading code...

クラスタも compose ファイルもありません:`cmdop server` は HTTP (:63141) と gRPC (:63142) を提供し、コーディネーターをインプロセスの goroutine として動かす単一プロセスです。TLS と安定したアドレスが欲しいときは、自分のリバースプロキシを前段に置いてください。

フリートの背骨を自分で動かす

リレーを立ち上げ、エージェントをそこへ向け、プレーン全体を端から端まで所有しましょう。