Deutsch
Loslegen

Agent Sandboxes Jeder Befehl, Host und Turn

Alles sehen, was eine Sandbox getan hat

Geht der Lauf eines Agenten schief, willst du wissen, was in seiner Sandbox passiert ist. Observability für Sandboxes hält die Antwort bereit: Metriken, eine Aufzeichnung jedes Befehls, jedes erreichten Hosts und jedes Agent-Turns, über dieselbe API, die sie ausführt.

Metriken einer Sandbox

get_sandbox_metrics antwortet mit CPU, wobei 100 % heißt, dass jede vCPU beschäftigt ist, belegtem RAM, belegter Disk und Bytes rein und raus, als Punkte, gemittelt über einen Schritt: standardmäßig die letzte Stunde oder jeder Zeitraum in den letzten 24 h, mit einem Schritt ab 5 s, bis zu 1.000 Punkte. Der Server einer Sandbox behält ihre Metriken 24 h lang.

Events: was passiert ist, während es passiert

Jede Sandbox zeichnet auf, was in ihr passiert, das Älteste zuerst, als Liste zum Durchblättern oder als Live-Stream, dem du ab jedem Punkt folgst:

  • Lebenszyklus: erstellt, pausiert, gestoppt, fortgesetzt, Größe geändert und gelöscht, jeweils mit Grund, etwa ein Aufruf, Leerlauf, ein Aufwachen oder ein Absturz; ein Erstellen nennt seine Größe und ein Fork seine Quelle.
  • Befehle, die geendet haben: die ersten 1.024 Bytes des Befehls, sein Exit-Code, wie lange er lief und ob die API, SSH oder ein Terminal ihn gestartet hat.
  • Egress, minutenweise pro Host und Port: erlaubt oder abgelehnt, seine Verbindungen, Bytes in jede Richtung und die Secrets, die in seine Requests eingesetzt wurden.
  • Ports, minutenweise: Requests, wie viele mit 5xx beantwortet wurden, und Bytes in jede Richtung.
  • Agent-Turns: der Agent, die ersten 200 Zeichen des Prompts, wie der Turn endete, und seine Tokens rein und raus.

Eine Sandbox behält die neuesten 10.000 Events jeder Art, und eine Liste oder ein Stream kann nur die Arten nehmen, nach denen du fragst. Sie zeichnet bis zu 600 Befehle und Agent-Turns pro Minute auf; weitere werden in den folgenden Minuten aufgezeichnet.

from pethost.sandboxes import Sandboxes

sandboxes = Sandboxes()  # liest PETHOST_TOKEN
sandbox_id = sandboxes.list_sandboxes(name="api-dev").sandboxes[0].sandbox_id

points = sandboxes.get_sandbox_metrics(sandbox_id).points  # die letzte Stunde
print(max(point.cpu_percent for point in points), points[-1].memory_used_bytes)

for event in sandboxes.watch_sandbox_events(sandbox_id):  # was bisher passiert ist, dann live
    if event.command:
        print(event.time, event.command.exit_code, event.command.command)
    elif event.egress and not event.egress.allowed:
        print(event.time, "refused:", event.egress.host)
pethost sandbox events api-dev -f                    # jedes Event, dann neue, sobald sie kommen
pethost sandbox events api-dev --kind egress -n 50   # die letzten 50 Egress-Events

Befehle, Transkripte und Verbrauch

Neben den Events zeigt list_commands, was gerade läuft, gestartet über die API, SSH oder ein Terminal. get_command und watch_command liefern die Ausgabe eines Befehls, die letzten 64 KiB und dann live, und die Sandbox behält die letzten 100 beendeten Befehle.

watch_conversation streamt die Unterhaltung eines Coding-Agenten: jeden Prompt, jede Nachricht, jeden Tool-Aufruf mit Eingabe und Ausgabe und das Ende jedes Turns. Eine Unterhaltung bleibt auf der Disk der Sandbox: Eine Pause behält sie, ein Fork nimmt sie mit, und eine Vorlage lässt sie weg.

Jede Sandbox meldet die Sekunden, in denen sie lief und pausiert war, die GiB-Stunden, die sie gespeichert war, und was sie bisher gekostet hat, und list_usage liefert eine Zeile pro Tag, Zähler und Größe, wie abgerechnet. Die Web-Konsole zeigt die Metriken und Events einer Sandbox auf ihrer Seite.

Was wie lange bleibt

Metriken bleiben 24 h, und Events, die neuesten 10.000 jeder Art, so lange, wie die Sandbox lebt. Wird eine Sandbox gelöscht, bleibt ihr Eintrag 30 Tage mit ihrem letzten Verbrauch, und ihre Events und Metriken einen Tag.

Was es noch nicht gibt

Es gibt noch keine Webhooks und keinen Export über OpenTelemetry. Um dein eigenes Monitoring zu füttern, folge dem Stream oder blättere die Liste ab der ID des letzten Events durch, das du gelesen hast: Die ID eines späteren Events ist immer größer, also liest du keines zweimal. Die Anleitung zu Observability hat jedes Feld, und die Seite zur Egress-Allowlist erklärt, wie die Hosts in Egress-Events geprüft werden.

Doku lesen

Fragen

Wie lange bleiben die Metriken einer Sandbox?

24 h, auf dem Server der Sandbox, mit einem Schritt ab 5 s.

Kann ich Events an mein Monitoring schicken?

Per Push noch nicht: Es gibt keine Webhooks und keinen Export über OpenTelemetry. Folge watch_sandbox_events, oder frag list_sandbox_events regelmäßig mit der ID des letzten Events ab, das du gelesen hast.

Bleiben die Transkripte eines Agenten erhalten?

Ja, auf der Disk der Sandbox, so lange, wie die Sandbox lebt. Eine Pause behält sie, und ein Fork nimmt sie mit.

Kann ich sehen, welche Hosts eine Sandbox erreicht hat?

Ja. Ihre Egress-Events führen jeden Host und Port minutenweise auf, erlaubt oder abgelehnt, mit seinen Verbindungen und Bytes in jede Richtung.

Was bleibt, nachdem eine Sandbox gelöscht wurde?

Ihr Eintrag mit ihrem letzten Verbrauch, 30 Tage lang; ihre Events und Metriken einen Tag lang.

Verwandte Funktionen

Gib deinem Agenten einen Computer in 0,15 s

Kostenlose Testphase starten