Українська
Почати

Agent Sandboxes Кожна команда, хост і хід

Видно все, що зробила пісочниця

Коли прогін агента йде не так, хочеться знати, що відбувалося в його пісочниці. Спостережуваність пісочниць зберігає відповідь: метрики, запис кожної команди, кожного хоста й кожного ходу агента, через той самий API, що їх запускає.

Метрики пісочниці

get_sandbox_metrics повертає CPU, де 100 % — усі vCPU зайняті, зайняту пам’ять, зайнятий диск і байти вхідного й вихідного трафіку, як точки, усереднені за крок: типово за останню годину або за будь-який проміжок в останні 24 години, з кроком від 5 с, до 1 000 точок. Сервер пісочниці зберігає її метрики 24 години.

Події: що сталося й коли

Кожна пісочниця записує, що в ній відбувалося, від найдавнішого, як список, який можна гортати, або як потік наживо, за яким можна стежити з будь-якої точки:

  • Життєвий цикл: створення, пауза, зупинка, продовження, зміна розміру й видалення, кожне з причиною, як-от запит, простій, пробудження чи збій; створення називає свій розмір, а копіювання — вихідну пісочницю.
  • Команди, що завершилися: перші 1 024 байти команди, її код виходу, як довго вона працювала і що її запустило: API, SSH чи термінал.
  • Вихідний трафік, щохвилини за кожним хостом і портом: дозволено чи відхилено, з’єднання, байти в кожен бік і секрети, підставлені в запити.
  • Порти, щохвилини: запити, скільки з них отримали відповідь 5xx, і байти в кожен бік.
  • Ходи агента: агент, перші 200 символів промпту, як завершився хід, і його вхідні й вихідні токени.

Пісочниця зберігає 10 000 найновіших подій кожного типу, а список чи потік може брати лише ті типи, які ви попросите. Вона записує до 600 команд і ходів агентів на хвилину; решта записується в наступні хвилини.

from pethost.sandboxes import Sandboxes

sandboxes = Sandboxes()  # читає PETHOST_TOKEN
sandbox_id = sandboxes.list_sandboxes(name="api-dev").sandboxes[0].sandbox_id

points = sandboxes.get_sandbox_metrics(sandbox_id).points  # остання година
print(max(point.cpu_percent for point in points), points[-1].memory_used_bytes)

for event in sandboxes.watch_sandbox_events(sandbox_id):  # що вже сталося, потім наживо
    if event.command:
        print(event.time, event.command.exit_code, event.command.command)
    elif event.egress and not event.egress.allowed:
        print(event.time, "refused:", event.egress.host)
pethost sandbox events api-dev -f                    # усі події, потім нові, щойно надходять
pethost sandbox events api-dev --kind egress -n 50   # останні 50 подій вихідного трафіку

Команди, транскрипти й використання

Окрім подій, list_commands показує, що виконується зараз, запущене через API, SSH чи термінал. get_command і watch_command дають вивід команди, останні 64 KiB, а потім наживо, і пісочниця зберігає останні 100 завершених команд.

watch_conversation транслює розмову агента для коду: кожен промпт, повідомлення, виклик інструмента з вхідними й вихідними даними та кінець кожного ходу. Розмова лишається на диску пісочниці: пауза її зберігає, копія переносить, а шаблон не включає.

Кожна пісочниця повідомляє, скільки секунд вона працювала й була на паузі, скільки GiB-годин зберігалася і скільки вже коштувала, а list_usage дає рядок на кожен день, лічильник і розмір, так, як це нараховано. Вебпанель показує метрики й події пісочниці на її сторінці.

Що зберігається і як довго

Метрики зберігаються 24 години, а події, 10 000 найновіших кожного типу, — скільки живе пісочниця. Коли пісочницю видаляють, її запис зберігається 30 днів разом із підсумковим використанням, а події й метрики — добу.

Чого ще немає

Вебхуків і експорту OpenTelemetry поки немає. Щоб передавати дані у власний моніторинг, стежте за потоком або гортайте список від id останньої прочитаної події: id пізнішої події завжди більший, тож ви ніколи не прочитаєте одну двічі. Посібник зі спостережуваності описує кожне поле, а сторінка списку дозволених адрес пояснює, як перевіряються хости в подіях вихідного трафіку.

Читати документацію

Запитання

Скільки зберігаються метрики пісочниці?

24 години, на сервері пісочниці, з кроком від 5 с.

Чи можна надсилати події в мій моніторинг?

Самі вони поки не надсилаються: вебхуків чи експорту OpenTelemetry немає. Стежте за watch_sandbox_events або опитуйте list_sandbox_events з id останньої прочитаної події.

Чи зберігаються транскрипти агента?

Так, на диску пісочниці, скільки живе пісочниця. Пауза їх зберігає, а копія переносить.

Чи можна побачити, до яких хостів дісталася пісочниця?

Так. Її події вихідного трафіку щохвилини перелічують кожен хост і порт, дозволений чи відхилений, з його з’єднаннями й байтами в кожен бік.

Що лишається після видалення пісочниці?

Її запис із підсумковим використанням — на 30 днів; її події й метрики — на добу.

Дивіться також

Дайте агентові комп’ютер за 0,15 с

Почати пробний період