Compare commits

...

17 Commits

Author SHA1 Message Date
5ead4543ee tester(ET): auto-commit from tester run_id=494
All checks were successful
CI / test (push) Successful in 33s
CI / test (pull_request) Successful in 29s
2026-06-09 19:55:00 +03:00
247915e3d1 reviewer(ET): auto-commit from reviewer run_id=493 2026-06-09 19:55:00 +03:00
664c2e945a feat(infra): auto-prune docker build cache on mva154 (ORCH-062)
Add src/build_cache_pruner.py — a background daemon thread modelled 1:1 on
src/disk_watchdog.py that periodically runs STRICTLY `docker builder prune -f
--filter until=<until>` (BuildKit GC) on the HOST over ssh. It is the "second
half" of the disk-watchdog (ORCH-063): the watchdog signals, the pruner cleans.
Removes the root cause of the 07.06.2026 incident (build cache ~11GB -> disk
100% -> whole self-hosting pipeline down) automatically, без оператора.

ADR-001 (Variant A): host-over-ssh, same channel as image_freshness/self_deploy
(no docker CLI in the image). Touches ONLY the build cache — no image/system
prune, no image/container removal, never restarts the docker daemon or the prod
container (self-hosting safety). No ssh target -> tick is a no-op.

- src/config.py: ORCH_BUILD_CACHE_PRUNE_* flags + defensive validators
  (interval/timeout >0, until ~ ^\d+[smhdw]?$, notify_min_gb >=0 -> safe default).
- src/main.py: start last (after disk_watchdog) / stop first in lifespan;
  additive read-only build_cache_prune block in GET /queue.
- never-raise on two levels (per-command + per-tick); kill-switch
  ORCH_BUILD_CACHE_PRUNE_ENABLED (false -> daemon does not start, 1:1 as before).
- STAGE_TRANSITIONS / QG_CHECKS / check_* / _parse_* / DB schema UNCHANGED;
  last-run/last-result is in-memory (no migration).
- tests/test_build_cache_pruner.py: TC-01..TC-12 (23 cases, docker fully mocked).
- .env.example + CHANGELOG.md updated; INFRA.md / architecture docs already
  carry the component (architecture stage).

Refs: ORCH-062

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-09 19:55:00 +03:00
d2604e42cd architect(ET): auto-commit from architect run_id=491 2026-06-09 19:55:00 +03:00
621c1352e1 analyst(ET): auto-commit from analyst run_id=490 2026-06-09 19:55:00 +03:00
e86ea82501 docs: init ORCH-062 business request 2026-06-09 19:55:00 +03:00
1b03f6b3a7 docs(ORCH-062): staging gate log — SUCCESS (8/10, C9a/C9b infra-waived) 2026-06-09 19:54:36 +03:00
4d74d981da Merge pull request 'ORCH-063 — Disk-watchdog: мониторинг диска mva154 + Telegram-алерт при ≥85%' (#98) from feature/ORCH-063-infra-mva154-85 into main
Some checks failed
CI / test (push) Has been cancelled
2026-06-09 19:13:33 +03:00
deploy-finalizer
2bd3bb75d4 deploy(ORCH-036): finalize SUCCESS for ORCH-063
All checks were successful
CI / test (push) Successful in 30s
CI / test (pull_request) Successful in 30s
2026-06-09 19:08:50 +03:00
efd744f766 tester(ET): auto-commit from tester run_id=488
All checks were successful
CI / test (push) Successful in 35s
CI / test (pull_request) Successful in 32s
2026-06-09 19:04:36 +03:00
fb4203b8f9 reviewer(ET): auto-commit from reviewer run_id=486 2026-06-09 19:04:36 +03:00
8759cb7df8 feat(disk-watchdog): host-FS fill heartbeat + Telegram alert at >=85% (ORCH-063)
Adds src/disk_watchdog.py — a background daemon thread modelled on
reconciler/job_reaper that measures host-FS fill via the mounted bind-paths
(/repos, /app/data) with shutil.disk_usage and Telegram-alerts the operator at
>= threshold (default 85%). The missing proactive signal: on 07.06.2026 the
mva154 host disk silently hit 100% and stalled the whole self-hosting pipeline.

- Pure decide_action(used_pct, threshold, prev, now, realert_s): alert on
  crossing up, cooldown re-alert, single recovery below threshold (unit-tested
  without a thread/timer; clock injected).
- measure_paths: shutil.disk_usage per path, dedup by st_dev, per-path
  never-raise (a broken path never fails the tick).
- Config flags ORCH_DISK_MONITOR_* with defensive validation (threshold 1..100,
  positive intervals -> default + warning). Kill-switch -> daemon does not start.
- Additive disk_monitor block in GET /queue; start/stop in main.lifespan.
- never-raise (per-path/per-tick/per-send); STAGE_TRANSITIONS/QG_CHECKS/check_*/
  DB schema untouched, no migration (anti-spam state in-memory).

Tests: tests/test_disk_watchdog.py (TC-01..TC-12, 18 cases); full suite green
(1296). Docs: INFRA.md, .env.example, CHANGELOG.md (architecture/README.md +
ADRs authored at architecture stage).

Refs: ORCH-063
Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-09 19:04:36 +03:00
4d9251c698 architect(ET): auto-commit from architect run_id=484 2026-06-09 19:04:36 +03:00
8ace9f880d analyst(ET): auto-commit from analyst run_id=483 2026-06-09 19:04:36 +03:00
8c97a6ab1c docs: init ORCH-063 business request 2026-06-09 19:04:36 +03:00
a499ee8e42 docs(ORCH-063): staging gate log — SUCCESS (8/10, C9a/C9b infra-waived)
Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-09 19:04:16 +03:00
fb96556a79 Merge pull request 'ORCH-092 — промпт-аудит 6 агентов: расхардкод даты/модели, escalation, чистка' (#97) from feature/ORCH-092-6-escalation into main
Some checks failed
CI / test (push) Has been cancelled
2026-06-09 17:50:42 +03:00
36 changed files with 4012 additions and 0 deletions

View File

@@ -267,6 +267,45 @@ ORCH_REAPER_MAX_RUNNING_S=3600
ORCH_REAPER_FINALIZE_GRACE_S=300
ORCH_LEASE_RECLAIM_ENABLED=true
# ORCH-063: disk-watchdog — background heartbeat that measures HOST-FS fill via the
# mounted bind-paths (/repos, /app/data) with shutil.disk_usage (NOT the container
# overlay /) and Telegram-alerts the operator at >= threshold. On 07.06.2026 the
# mva154 host disk silently hit 100% and stalled the WHOLE self-hosting pipeline;
# this is the missing proactive signal. Daemon thread modelled on reconciler/reaper
# (start/stop in main.lifespan, /queue snapshot, never-raise). Anti-spam state is
# in-memory (no DB migration); the watchdog only READS fill and SENDS Telegram — it
# never touches the disk/container or restarts prod (self-hosting safety).
# DISK_MONITOR_ENABLED -> kill-switch; false -> the daemon does not start (1:1 as before).
# DISK_MONITOR_INTERVAL_S -> heartbeat measurement period, seconds (order of minutes).
# DISK_MONITOR_THRESHOLD_PCT -> fill % that triggers the alert (Owner-fixed 85; valid 1..100).
# DISK_MONITOR_REALERT_S -> cooldown between repeat alerts while above threshold (~6h).
# DISK_MONITOR_PATHS -> CSV of monitored HOST bind-paths; empty -> /repos,/app/data.
ORCH_DISK_MONITOR_ENABLED=true
ORCH_DISK_MONITOR_INTERVAL_S=300
ORCH_DISK_MONITOR_THRESHOLD_PCT=85
ORCH_DISK_MONITOR_REALERT_S=21600
ORCH_DISK_MONITOR_PATHS=/repos,/app/data
# ORCH-062: build-cache-pruner — the "second half" of the disk-watchdog
# (watchdog SIGNALS, pruner CLEANS). A daemon thread modelled on disk_watchdog
# that periodically runs STRICTLY `docker builder prune -f --filter until=<until>`
# on the HOST over ssh (BuildKit GC). Touches ONLY the build cache: never
# images/containers of running services, never restarts the docker daemon or the
# prod container (self-hosting safety). State is in-memory (no DB migration). No
# ssh host configured -> the tick is a no-op. See docs/operations/INFRA.md.
# BUILD_CACHE_PRUNE_ENABLED -> kill-switch; false -> the daemon does not start (1:1 as before).
# BUILD_CACHE_PRUNE_INTERVAL_S -> tick period, seconds (order of hours; default ~6h). >0, else default.
# BUILD_CACHE_PRUNE_UNTIL -> retention age for the warm cache (`--filter until=`); ^\d+[smhdw]?$, else 24h.
# BUILD_CACHE_PRUNE_ALL -> add `-a` (ALWAYS paired with until); default false.
# BUILD_CACHE_PRUNE_TIMEOUT_S -> bound on the ssh command, seconds. >0, else default.
# BUILD_CACHE_PRUNE_NOTIFY_MIN_GB -> Telegram when reclaimed >= N GB; 0 -> silent.
ORCH_BUILD_CACHE_PRUNE_ENABLED=true
ORCH_BUILD_CACHE_PRUNE_INTERVAL_S=21600
ORCH_BUILD_CACHE_PRUNE_UNTIL=24h
ORCH_BUILD_CACHE_PRUNE_ALL=false
ORCH_BUILD_CACHE_PRUNE_TIMEOUT_S=120
ORCH_BUILD_CACHE_PRUNE_NOTIFY_MIN_GB=0
# ORCH-022: security-gate (secret-scanning + dependency audit) on the
# deploy-staging -> deploy edge, run FIRST among the edge sub-gates. Deterministic
# (no LLM): gitleaks (offline secret-scan, pinned Go binary in the image) + pip-audit

View File

@@ -3,6 +3,18 @@
Формат: [Keep a Changelog](https://keepachangelog.com/). Записи — на смысловой PR/задачу.
## [Unreleased]
- **Build-cache-pruner: авто-prune docker build cache на mva154** (ORCH-062, `feat`): новый фоновый daemon-поток `src/build_cache_pruner.py` (каркас `disk_watchdog`) — «вторая половина» disk-watchdog (ORCH-063): **watchdog сигналит — pruner убирает**. Устраняет корень инцидента 07.06.2026 (docker build cache ≈11 ГБ → диск mva154 100% → падение self-hosting-конвейера всех проектов) **автоматически, без оператора**. **Аддитивно, never-raise:** `STAGE_TRANSITIONS`/`QG_CHECKS`/`check_*`/`_parse_*`/`src/stage_engine.py`/схема БД — **не тронуты**, новой миграции нет (состояние last-run/last-result — in-memory, best-effort).
- **Периодическая уборка (FR-1/AC-1):** каждые `build_cache_prune_interval_s` (дефолт **21600с = 6ч**) тик выполняет **строго `docker builder prune -f --filter until=<until>`** (BuildKit GC). Анти-частота — pure-функция `decide_prune(prev_run_ts, now, interval_s)` (юнит-тестируема без потока/таймера, время инъецируется). Дефолт `until=24h` удерживает тёплый недавний кэш (BR-2/AC-2); `-a/--all` (`build_cache_prune_all`, дефолт `False`) — **только в паре** с возрастным фильтром.
- **Self-hosting безопасность (FR-3/AC-3):** команда затрагивает **только** build cache — **нет** `docker image prune`/`docker system prune`, удаления образов/контейнеров запущенных сервисов, остановки/рестарта контейнеров; прод-контейнер `orchestrator` **никогда** не рестартится. Уборка исполняется **на хосте через ssh** (`deploy_ssh_user@deploy_ssh_host`, тот же канал, что `image_freshness`/`self_deploy` — в образе нет docker CLI). Нет ssh-таргета → тик no-op (наблюдаемо в `status().last_error`).
- **never-raise (FR-6/AC-4):** per-команда (ненулевой rc / `TimeoutExpired` / `OSError`/`FileNotFoundError` / недоступность ssh / parsing-ошибка → лог + проглот, тик жив) и per-tick (внешний `try/except` в `_run`, как `disk_watchdog`). Фоновый цикл и конвейер не падают.
- **Конфигурируемость + kill-switch (FR-5/AC-5/AC-6):** флаги `build_cache_prune_enabled`/`_interval_s`/`_until`/`_all`/`_timeout_s`/`_notify_min_gb` (`src/config.py`, env `ORCH_BUILD_CACHE_PRUNE_*`) с defensive-валидацией (интервал/таймаут >0, `until` ~ `^\d+[smhdw]?$`, notify_min_gb ≥0 → невалидное к безопасному дефолту + warning, старт не падает). `build_cache_prune_enabled=false` → демон не стартует (старт/стоп в `main.lifespan` рядом с `disk_watchdog`, гард), `GET /queue``{"enabled": false}` — поведение 1:1 как до задачи.
- **Наблюдаемость (FR-4/AC-7):** аддитивный read-only блок `build_cache_prune` в `GET /queue` (`enabled`/`interval_s`/`until`/`all`/`last_run_ts`/`last_reclaimed`[+`_bytes`]/`last_error`); `status()` never-raise. Опц. Telegram при освобождении ≥ `notify_min_gb` ГБ (дефолт `0` = тихо). Тесты: `tests/test_build_cache_pruner.py` (TC-01..TC-12, 23 кейса, docker замокан — ни один тест не трогает реальный docker); полный регресс `tests/` зелёный (1319). Документация: `docs/operations/INFRA.md` (секция авто-prune + env-карта; снята формулировка ORCH-063 «освобождение build cache — ручная операция»), `docs/architecture/README.md`, `.env.example`. ADR: `docs/work-items/ORCH-062/06-adr/ADR-001-build-cache-pruner.md`, сквозной `docs/architecture/adr/adr-0025-build-cache-pruner.md`. Откат: `ORCH_BUILD_CACHE_PRUNE_ENABLED=false` (миграций нет).
- **Disk-watchdog: мониторинг заполнения диска mva154 + Telegram-алерт при ≥85%** (ORCH-063, `feat`): новый фоновый daemon-поток `src/disk_watchdog.py` (каркас `reconciler`/`job_reaper`) — недостающий **проактивный** сигнал о заполнении хост-диска (07.06.2026 диск mva154 тихо дорос до 100% и положил весь self-hosting-конвейер всех проектов). **Аддитивно, never-raise:** `STAGE_TRANSITIONS`/`QG_CHECKS`/`check_*`/схема БД — **не тронуты**, новой миграции нет (состояние анти-спама — in-memory).
- **Замер хост-ФС (FR-2/AC-8):** каждые `disk_monitor_interval_s` (дефолт 300с) меряет заполнение **смонтированных хост-bind-путей** (`/repos`, `/app/data`) через stdlib `shutil.disk_usage`НЕ overlay `/` контейнера, НЕ субпроцесс `df`; дедуп путей по физическому устройству (`st_dev`) → один алерт на раздел. Недоступный путь → пропуск с warning, остальные пути меряются (per-path never-raise).
- **Решение об алерте (FR-3/FR-4/AC-2..AC-4):** pure-функция `decide_action(used_pct, threshold, prev_state, now, realert_s)` (юнит-тестируема без потока/таймера, время инъецируется): алерт на пересечении порога (дефолт **85%**, граница `>=` включительно), cooldown-повтор `disk_monitor_realert_s` (~6ч, анти-спам — не на каждом тике), однократный recovery при возврате ниже порога. Алерт — `send_telegram` (notifying, не silent), best-effort.
- **Конфигурируемость + kill-switch (FR-5/AC-5):** флаги `disk_monitor_enabled`/`_interval_s`/`_threshold_pct`/`_realert_s`/`_paths` (`src/config.py`, env `ORCH_DISK_MONITOR_*`) с defensive-валидацией (порог 1..100, интервалы > 0 → невалидное к дефолту + warning). `disk_monitor_enabled=false` → демон не стартует (старт/стоп в `main.lifespan`, гард), `GET /queue``{"enabled": false}` — поведение 1:1 как сейчас.
- **Наблюдаемость (FR-6/AC-7):** аддитивный read-only блок `disk_monitor` в `GET /queue` (`enabled`/`threshold_pct`/`interval_s`/`realert_s`/`last_run_ts`/`paths`[`used_pct`/`free_gb`/`free_pct`/`alerting`/`last_alert_at`]); существующие ключи `/queue` не изменены; `status()` never-raise.
- **Self-hosting безопасность (NFR-6):** watchdog только читает заполнение и шлёт уведомление — не трогает диск/контейнер, не рестартит прод; безопасен для enduro-trails в общем инстансе. Откат тривиален (`ORCH_DISK_MONITOR_ENABLED=false`, миграций нет). Тесты: `tests/test_disk_watchdog.py` (TC-01..TC-12, 18 кейсов); полный регресс `tests/` зелёный (1296). Документация: `docs/architecture/README.md` (компонент + блок `/queue`), `docs/operations/INFRA.md` (что мониторится/порог/как отключить/реакция на алерт), `.env.example`. ADR: `docs/work-items/ORCH-063/06-adr/ADR-001-disk-watchdog.md`, сквозной `docs/architecture/adr/adr-0024-disk-watchdog.md`.
- **Промпт-аудит 6 агентов: расхардкод даты/модели, сверка гейтов, escalation, чистка** (ORCH-092 / эпилог эпика ORCH-52, `docs`): точечная правка 6 системных промптов `.openclaw/agents/*.md` + анти-регресс-тестов, устраняющая класс дефектов промптов (хардкод даты/модели в примерах, размазанная эскалация, нереализуемая/конфликтующая инструкция rebase, мёртвая инструкция reviewer, недообогащённый tester). **Docs/prompts-only:** `src/**`, `STAGE_TRANSITIONS`, `QG_CHECKS`, состав machine-verdict ключей и схема БД — **не тронуты**; `frontmatter_validation_strict` остаётся `False`. Машинные verdict-ключи (`verdict:`/`result:`/`staging_status:`/`deploy_status:`/`security_status:` + значения APPROVED/REQUEST_CHANGES/PASS/FAIL/SUCCESS/FAILED) и канон 52d/52c/52e (5 секций, 6 полей) — байт-в-байт.
- **Расхардкод даты/модели (FR-1/FR-2, AC-1/AC-2):** во всех 6 промптах копируемые примеры frontmatter несут плейсхолдеры `created_at: <YYYY-MM-DD>` / `model_used: <resolve ORCH-41>` + явную врезку «не копируй буквально: подставь `date +%F` и фактическую модель из конфига». Литерал `claude-opus-4-8` остаётся лишь как справка в таблице полей (вне копируемого блока).
- **Сверка имён гейтов (FR-3, AC-3):** все `check_*` в 6 промптах сверены с реестром `QG_CHECKS` — несовпадений нет (`check_tests_passed` подтверждён валидным, не «исправлен вслепую»); закреплено интеграционным тестом.

View File

@@ -13,6 +13,8 @@
- **Queue** (`src/queue_worker.py`, ORCH-1) — персистентная очередь задач (SQLite `jobs`), atomic claim, max_concurrency, ретраи, restart-safe. **ORCH-026:** `claim_next_job` гейтит задачи с незавершёнными зависимостями (`job_deps`, `NOT EXISTS`) без занятия слота; декларации/циклы — leaf `src/task_deps.py`.
- **Job-reaper** (`src/job_reaper.py`, ORCH-065 — [adr-0011](adr/adr-0011-job-reaper-lease-reclaim.md)) — фоновый daemon-поток (каркас `reconciler`), стартует/останавливается в `main.lifespan` (после `reconciler.start()` / перед `worker.stop()`). Детектирует «мёртвый» `running`-job **без рестарта** процесса (Tier-1 мёртвый `jobs.pid` после `reaper_dead_ticks` тиков; Tier-2 `agent_runs.exit_code` записан, а job ещё `running`; Tier-3 backstop `reaper_max_running_s`) и приводит строку к корректному статусу через те же контракты (`_try_advance_stage`/`_finalize_job`, gate-driven; exit≠0/неизвестно → `attempts<max``queued`, иначе `failed`+Telegram). Атомарный reap-claim (guard `status='running'`) совместим со стартовым `requeue_running_jobs`. Тот же поток периодически делает проактивный реклейм stale/dead merge-lease (см. ниже). never-raise; kill-switch `ORCH_REAPER_ENABLED`; снимок в `GET /queue` (блок `reaper`).
- **Reconciler** (`src/reconciler.py`, ORCH-053 — реализовано, [adr-0007](adr/adr-0007-reconciler.md)) — фоновый daemon-поток (паттерн `queue_worker`), стартует/останавливается в `main.lifespan` (после `worker.start()` / перед `worker.stop()`). Реконсилирует рассинхрон «источник истины ≠ стадия задачи» при потерянном webhook. F-1 gate-side (продвигает застрявшую стадию по локальной БД через штатный `advance_stage(..., finished_agent=None)`), F-2 plane-side (опрос Plane API → `handle_*` из `plane.py`), F-3 (БД-fallback `sha→branch` в `handle_ci_status`). Источник истины — гейт/Plane, не событие; идемпотентность (active-job guard + atomic-claim + grace); kill-switch `ORCH_RECONCILE_ENABLED`. `analysis` F-1 не трогает (человеческий гейт). F-1 также пропускает escalated (retry≥лимита) и Blocked/Needs-Input задачи (ORCH-060). Наблюдаемость — блок `reconcile` в `GET /queue`.
- **Disk-watchdog** (`src/disk_watchdog.py`, ORCH-063 — [adr-0024](adr/adr-0024-disk-watchdog.md)) — фоновый daemon-поток (каркас `reconciler`/`job_reaper`), стартует/останавливается в `main.lifespan` (старт последним — после `reaper.start()`; стоп первым в reverse-порядке; гард `disk_monitor_enabled`). Каждые `disk_monitor_interval_s` (дефолт 300с) меряет заполнение **хост-ФС** по смонтированным bind-путям (`/repos`, `/app/data`) через stdlib `shutil.disk_usage` (не overlay `/` контейнера, не субпроцесс `df`; дедуп путей по `st_dev`). Решение об алерте — pure-функция `decide_action(used_pct, threshold, prev_state, now, realert_s)`: алерт на пересечении порога (дефолт **85%**), cooldown-повтор `disk_monitor_realert_s` (анти-спам, не на каждом тике), однократный recovery при возврате ниже порога. Алерт — `send_telegram` (notifying, best-effort). Состояние анти-спама — in-memory (без миграции БД). never-raise (per-path/per-tick/per-send); только читает и уведомляет — не трогает диск/контейнер, не рестартит прод (self-hosting безопасность). Kill-switch `ORCH_DISK_MONITOR_ENABLED`; снимок — блок `disk_monitor` в `GET /queue` (`enabled`/`threshold_pct`/`interval_s`/`realert_s`/`paths`[`used_pct`/`free_gb`/`alerting`/`last_alert_at`]). `STAGE_TRANSITIONS`/`QG_CHECKS`/схема БД — не тронуты. Детали — `docs/work-items/ORCH-063/06-adr/ADR-001-disk-watchdog.md`.
- **Build-cache-pruner** (`src/build_cache_pruner.py`, ORCH-062 — [adr-0025](adr/adr-0025-build-cache-pruner.md)) — фоновый daemon-поток (каркас `disk_watchdog`), стартует/останавливается в `main.lifespan` (старт последним — после `disk_watchdog.start()`; стоп первым в reverse; гард `build_cache_prune_enabled`). «Вторая половина» disk-watchdog: **watchdog сигналит — pruner убирает**. Каждые `build_cache_prune_interval_s` (дефолт 21600с = 6ч) выполняет **строго `docker builder prune -f --filter until=<until>`** (BuildKit GC; дефолт `until=24h` — удаляет build cache старше суток, тёплый кэш сохраняет; `-a` опционально, только в паре с фильтром). Затрагивает **только** build cache — НЕ образы/контейнеры; рестарт docker daemon/прода не выполняется (self-hosting безопасность). В контейнере нет `docker` CLI (`Dockerfile:11`), поэтому уборка идёт **на хосте через ssh** каналом `deploy_ssh_user@deploy_ssh_host` (как `image_freshness`/`self_deploy`); пустой `deploy_ssh_host` → тик no-op (скоуп на self-host). never-raise (per-команда/per-tick); учёт результата in-memory (без миграции БД). Kill-switch `ORCH_BUILD_CACHE_PRUNE_ENABLED`; снимок — блок `build_cache_prune` в `GET /queue` (`enabled`/`interval_s`/`until`/`last_run_ts`/`last_reclaimed`/`last_error`). `STAGE_TRANSITIONS`/`QG_CHECKS`/схема БД — не тронуты. Детали — `docs/work-items/ORCH-062/06-adr/ADR-001-build-cache-pruner.md`.
- **Notifications / Live-tracker** (`src/notifications.py`, ORCH-042/ORCH-067) — ОДНА live-карточка на задачу (`update_task_tracker`), обновляется на каждом переходе. Режим `ORCH_TRACKER_MODE` (дефолт `bump` с ORCH-067: delete+silent send+repoint внизу чата; `edit` — правка на месте). Карточка несёт строку Plane-статуса `📍 …` (оффлайн-ядро `plane_status_label` + best-effort live-overlay `_live_plane_branch_override`, kill-switch `ORCH_TRACKER_LIVE_STATUS`) и кликабельный номер задачи (`plane_issue_link`/`link_for` → ссылка в Plane, fail-safe на сырой номер). **ORCH-080:** оба низкоуровневых примитива (`send_telegram`/`edit_telegram`) шлют payload с `disable_web_page_preview: True` — Telegram больше не разворачивает баннер link-preview Plane под карточкой/уведомлениями; `parse_mode: HTML` сохранён (ссылка остаётся кликабельной), безусловно без kill-switch. Все алерты, упоминающие `work_item_id`, делают номер кликабельным. **ORCH-087:** bump ведёт авторитетный леджер всех созданных карточек (`tracker_messages`, `deleted_at IS NULL` = жива) и на каждом обновлении зачищает ВСЕ незакрытые mid (а не только скаляр `tracker_message_id`) → класс «замёрзшая сирота» устранён; строка стадии несёт фактический эффорт рядом с моделью (`· {model} · {effort}`, колонка `agent_runs.effort`, стамп в `launcher._spawn`); done-строка времени переписана на три подписанных метрики `⏱️ Агенты · твоё{~cap} · общее с ожиданием` (кап `ORCH_TRACKER_BRD_REVIEW_CAP_S`); deploy-цикл дополнен overlay-ключом `confirm_deploy`. Контракт всего компонента — never raises; карточка всегда silent. Детали — [internals.md](internals.md) §7 и [ADR-001](../work-items/ORCH-087/06-adr/ADR-001-tracker-orphan-cleanup.md).
- **Project Registry** (`src/projects.py`, ORCH-6) — Plane project id → repo + prefix; фильтрация вебхуков по проекту.
- **Plane Sync** (`src/plane_sync.py`) — синхронизация статусов/комментариев в Plane. Резолв статусов проекта `get_project_states` (ORCH-10) кэширует `{logical_key→uuid}` per-project; **ORCH-068** добавляет в кэш-запись `{uuid→group}` (для терминал-исключения F-2) и **TTL** `ORCH_PLANE_STATES_TTL_S` (дефолт 300с; `0` → прежний lifetime-кэш) — устаревший набор статусов самозалечивается без рестарта процесса через существующий `reload_project_states()` (баг кэша после появления нового Plane-статуса). Форма возврата `get_project_states` неизменна (обратная совместимость).

View File

@@ -27,6 +27,10 @@ Per-work-item решения живут в `docs/work-items/<id>/06-adr/ADR-NNN-
| adr-0019 | Стандарт документов конвейера (PIPELINE_DOCS, слой 1) | accepted | 2026-06-09 | ORCH-075 |
| adr-0020 | Единый frontmatter-контракт + спека handoff (reader/writer/валидатор) | accepted | 2026-06-09 | ORCH-076 |
| adr-0021 | Канон Anthropic для агент-промптов + эмиссия frontmatter-схемы 52c | proposed | 2026-06-09 | ORCH-077 |
| adr-0022 | Стандарт трассировочных маркеров `ORCH-NNN` | accepted | 2026-06-09 | ORCH-078 |
| adr-0023 | Обзорная ось reviewer + закрытие эпика 52 | accepted | 2026-06-09 | ORCH-079 |
| adr-0024 | Disk-watchdog — heartbeat-сигнал заполнения хост-ФС | proposed | 2026-06-09 | ORCH-063 |
| adr-0025 | Build-cache-pruner — авто-prune docker build cache на хосте | proposed | 2026-06-09 | ORCH-062 |
> ⚠️ Историческая коллизия: номер `0007` занят двумя файлами —
> `adr-0007-reconciler.md` (ORCH-053) и `adr-0007-executable-self-deploy.md`
@@ -36,6 +40,8 @@ Per-work-item решения живут в `docs/work-items/<id>/06-adr/ADR-NNN-
> adr-0016 **amends** adr-0013/0014 (гарантирует открытый код-PR перед merge_pr, ORCH-082).
> adr-0020 реализует машинный слой к adr-0019 (ORCH-52b→52c).
> adr-0021 реализует слой промптов к adr-0019/0020 (ORCH-52d — замыкает эпик 52).
> adr-0025 **комплементарен** adr-0024 (watchdog сигналит о росте диска — pruner убирает
> доминирующего «пожирателя», docker build cache).
## Формат
**Контекст → Решение → Альтернативы → Последствия → Связи.** Статус: proposed / accepted / superseded.

View File

@@ -0,0 +1,59 @@
---
work_item: ORCH-063
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# adr-0024: Disk-watchdog — фоновый heartbeat-демон мониторинга заполнения хост-ФС
> Сквозной (cross-cutting) ADR: вводит **новый фоновый компонент** оркестратора в ряду
> `reconciler` (adr-0007) и `job_reaper` (adr-0011). Детальное решение задачи —
> `docs/work-items/ORCH-063/06-adr/ADR-001-disk-watchdog.md`.
## Статус
Proposed (ORCH-063)
## Контекст
07.06.2026 диск хоста mva154 тихо дорос до 100% и положил **весь self-hosting-конвейер** (один
прод-инстанс `orchestrator` обслуживает все прод-проекты из общей БД/очереди). Проактивного сигнала
о заполнении диска у системы не было. Оркестратор уже имеет два проверенных фоновых daemon-потока с
единым каркасом (`threading.Thread(daemon=True)` + `threading.Event`, `start/stop/status`,
never-raise, снимок в `GET /queue`): `reconciler` (ORCH-053) и `job_reaper` (ORCH-065). Новый
эксплуатационный watchdog логично встроить тем же паттерном.
## Решение
Вводится третий фоновый компонент **disk-watchdog** (`src/disk_watchdog.py`):
- **Калька каркаса** `reconciler`/`reaper`: daemon-поток, чистый stop через `_stop.wait(interval)`,
контракт `start()`/`stop(timeout)`/`status()`, старт/стоп в `main.lifespan` (старт последним —
после `reaper.start()`; стоп первым в reverse-порядке), наблюдаемость — аддитивный блок
`disk_monitor` в `GET /queue`.
- **Замер** заполнения **хост-ФС** через смонтированные bind-пути (`/repos`, `/app/data`) stdlib
`shutil.disk_usage` (не overlay `/` контейнера, не субпроцесс `df`); дедуп путей по `st_dev`.
- **Решение об алерте** — pure-функция от `(used_pct, threshold, prev_state, now, realert_s)`:
алерт на пересечении порога (дефолт 85%), ограниченный cooldown-повтор, recovery при возврате
ниже порога. Состояние анти-спама — in-memory (без миграции БД).
- **Алерт** — `send_telegram` (notifying), best-effort. Kill-switch `disk_monitor_enabled`.
- **Только сигнал, не лечение:** watchdog читает и уведомляет, не трогает диск/контейнер, не
рестартит прод (self-hosting безопасность). Авто-очистка диска — отдельная задача.
**Инварианты:** `STAGE_TRANSITIONS`, реестр `QG_CHECKS`, `check_*`, схема БД — **не меняются**
(watchdog — эксплуатационный демон, не Quality Gate, как `reconciler`/`reaper`). never-raise на
уровнях per-path / per-tick / per-send. При выключенном kill-switch — поведение 1:1 как сейчас
(нулевая регрессия для enduro-trails).
## Последствия
- **+** Ранний сигнал предотвращает групповой простой всех проектов; дёшево, без внешних
зависимостей (принцип «всё в Docker на одном сервере, минимум зависимостей»).
- **+** Знакомый паттерн фонового демона → низкий риск, простое сопровождение.
- **** In-memory состояние / best-effort Telegram — допустимы для раннего сигнала (не SLA).
- **Откат:** `ORCH_DISK_MONITOR_ENABLED=false`; миграций БД нет.
## Ссылки
- Задачный ADR: `docs/work-items/ORCH-063/06-adr/ADR-001-disk-watchdog.md`
- Родственные компоненты: [adr-0007-reconciler.md](adr-0007-reconciler.md),
[adr-0011-job-reaper-lease-reclaim.md](adr-0011-job-reaper-lease-reclaim.md)
- Топология host-разделов: `docs/operations/INFRA.md`
</content>

View File

@@ -0,0 +1,86 @@
---
work_item: ORCH-062
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# adr-0025: Build-cache-pruner — фоновый heartbeat-демон авто-уборки docker build cache на хосте
> Сквозной (cross-cutting) ADR: вводит **новый фоновый компонент** оркестратора в ряду
> `reconciler` (adr-0007), `job_reaper` (adr-0011) и `disk_watchdog` (adr-0024). Детальное
> решение задачи — `docs/work-items/ORCH-062/06-adr/ADR-001-build-cache-pruner.md`.
## Статус
Proposed (ORCH-062)
## Контекст
07.06.2026 диск хоста mva154 тихо дорос до 100% и положил **весь self-hosting-конвейер всех
проектов** (один прод-инстанс `orchestrator` на общей БД/очереди). Доминирующий «пожиратель» —
**docker build cache** (≈11 ГБ от частых пересборок прод/staging-образов). `disk_watchdog`
(adr-0024, ORCH-063) ввёл **сигнал** о заполнении (Telegram ≥85%) и явно отложил авто-очистку в
отдельную задачу. ORCH-062 — эта задача: **автоматическое освобождение build cache**, чтобы
инцидент не повторялся без оператора.
Сверено по коду: контейнер `orchestrator` **не содержит docker CLI** (`Dockerfile:11` — только
`openssh-client git curl`); host-docker-операции приложение уже делает **через ssh на хост**
(`image_freshness.image_revision`, `self_deploy` Phase B), канал `deploy_ssh_user@deploy_ssh_host`
настроен. У оркестратора три проверенных фоновых daemon-потока с единым каркасом.
## Решение
Вводится четвёртый фоновый компонент **build-cache-pruner** (`src/build_cache_pruner.py`):
- **Калька каркаса** `disk_watchdog`/`reconciler`/`reaper`: daemon-поток, чистый стоп через
`_stop.wait(interval)`, контракт `start()`/`stop(timeout)`/`status()`, старт/стоп в
`main.lifespan` (старт последним — после `disk_watchdog.start()`; стоп первым в reverse),
наблюдаемость — аддитивный блок `build_cache_prune` в `GET /queue`. Leaf-модуль (без обратных
зависимостей на `stage_engine`/`stages`/`qg`).
- **Уборка — строго `docker builder prune -f --filter until=<until>`** (BuildKit GC, дефолт
`until=24h`): удаляется только старый build cache, тёплый ≤24ч сохраняется. `-a` — опционально и
только в паре с возрастным фильтром. **Запрещены** `docker image prune`/`system prune`/удаление
образов запущенных сервисов/остановка-рестарт контейнеров.
- **Исполнение на хосте через ssh** (CLI в контейнере нет): `ssh deploy_ssh_user@deploy_ssh_host
"docker builder prune …"`, bounded таймаутом. **Нет ssh-таргета → тик no-op** → фича
естественно скоупится на self-hosting-прод.
- **Конфиг/kill-switch** (`ORCH_BUILD_CACHE_PRUNE_*`, дефолты безопасные): `enabled` (дефолт
`true`), `interval_s` (6ч), `until` (`24h`), `all` (`false`), `timeout_s`, `notify_min_gb`.
Валидаторы по образцу `disk_monitor_*` (невалид → лог + дефолт).
- **Сигнал + лечение как пара:** disk_watchdog сигналит о росте диска, build-cache-pruner убирает
доминирующего «пожирателя» — две половины одной операционной защиты.
**Инварианты:** `STAGE_TRANSITIONS`, реестр `QG_CHECKS`, `check_*`, `src/stage_engine.py`, схема БД
— **не меняются** (pruner — эксплуатационный демон, не Quality Gate, как watchdog/reaper). Без
миграции БД (учёт результата in-memory, best-effort). never-raise per-команда/per-tick. Уборка
**никогда** не рестартит docker daemon/прод-контейнер (self-hosting безопасность; рестарт-путь —
отвергнутый Вариант B). При выключенном kill-switch — поведение 1:1 как сейчас (нулевая регрессия
для enduro-trails).
## Альтернативы
- **host `daemon.json builder.gc.defaultKeepStorage`** — отвергнуто: требует рестарта docker
daemon (останавливает ВСЕ контейнеры хоста = групповой self-hosting риск); политика по объёму,
не по возрасту; не наблюдаемо в `GET /queue`.
- **host-cron** — отвергнуто как основное (оставлено ручным fallback): off-git невидимая инфра,
без `/queue`-наблюдаемости, без config-kill-switch, не тестируется.
- **raw-HTTP по docker.sock / docker CLI в образе** — отвергнуто: лишний код / раздувание образа
против уже существующего ssh-канала.
## Последствия
- **+** Корень инцидента 07.06 устраняется автоматически; тёплый кэш сохранён; без новых
зависимостей и без рестарта docker/прода (принцип «всё в Docker, минимум зависимостей»).
- **+** Знакомый паттерн фонового демона → низкий риск, наблюдаемость, обратимость, тестируемость.
- **** Зависимость от ssh на хост (как `image_freshness`/`self_deploy`); нет таргета → no-op
(наблюдаемо), фича не работает, но ничего не ломает.
- **Откат:** `ORCH_BUILD_CACHE_PRUNE_ENABLED=false`; миграций БД нет.
## Ссылки
- Задачный ADR: `docs/work-items/ORCH-062/06-adr/ADR-001-build-cache-pruner.md`
- Инфра/риски: `docs/work-items/ORCH-062/07-infra-requirements.md`,
`docs/work-items/ORCH-062/10-tech-risks.md`
- Комплемент: [adr-0024-disk-watchdog.md](adr-0024-disk-watchdog.md) (ORCH-063 — сигнал)
- Родственные компоненты: [adr-0007-reconciler.md](adr-0007-reconciler.md),
[adr-0011-job-reaper-lease-reclaim.md](adr-0011-job-reaper-lease-reclaim.md)
- Топология host / env-карта: `docs/operations/INFRA.md`
</content>

View File

@@ -58,6 +58,47 @@ ADR `docs/work-items/ORCH-040/06-adr/ADR-001-run-agents-as-host-uid.md` и гл
- `~/.orchestrator-ssh``/home/slin/.ssh` (ro, деплой по ssh; target в HOME агента,
согласован с `HOME=/home/slin` из launcher — ORCH-040, ранее `/root/.ssh`)
### Disk-watchdog: мониторинг заполнения диска mva154 (ORCH-063)
07.06.2026 диск хоста mva154 тихо дорос до 100% и положил **весь конвейер всех проектов**
(один прод-инстанс `orchestrator` на общей БД/очереди). Чтобы такой инцидент сигнализировался
**заранее**, работает фоновый daemon-поток `src/disk_watchdog.py` (каркас `reconciler`/`job_reaper`):
- **Что мониторится:** заполнение **хост-разделов** по смонтированным bind-путям (`/repos`
host `/home/slin/repos`, `/app/data` → host `./data`) через stdlib `shutil.disk_usage`НЕ
overlay `/` контейнера (иначе замер ложно-низкий). Пути с одним физическим устройством (`st_dev`)
дедуплицируются → один алерт, не два.
- **Порог и период:** при заполнении **≥ 85%** (`ORCH_DISK_MONITOR_THRESHOLD_PCT`) шлётся
Telegram-алерт оператору; замер — раз в 300с (`ORCH_DISK_MONITOR_INTERVAL_S`). Пока диск выше
порога, повтор — не чаще раза в ~6ч (`ORCH_DISK_MONITOR_REALERT_S`, анти-спам). При возврате
ниже порога — однократное recovery-сообщение.
- **Как отключить:** `ORCH_DISK_MONITOR_ENABLED=false` (демон не стартует; `GET /queue`
`disk_monitor.enabled=false`; поведение 1:1 как сейчас). Наблюдаемость — блок `disk_monitor` в
`GET /queue` (последний замер: `used_pct`/`free_gb`/`alerting`/`last_alert_at` по каждому пути).
- **Что делать при алерте:** watchdog **только сигнализирует** — он не трогает диск/контейнер и не
рестартит прод (self-hosting безопасность). Освобождение **docker build cache** автоматизировано
отдельным демоном (ORCH-062, см. ниже); прочие «пожиратели» — старые worktree-каталоги
`/home/slin/repos/_wt/*` завершённых задач, логи, dangling-образы (`docker image prune`) —
по-прежнему **ручная** операция оператора (авто-уборка этих категорий — вне объёма ORCH-062/063).
### Build-cache-pruner: авто-prune docker build cache на mva154 (ORCH-062)
Доминирующий «пожиратель» в инциденте 07.06.2026 — **docker build cache** (≈11 ГБ от частых
пересборок прод/staging-образов). Чтобы он не мог снова заполнить диск **без оператора**, работает
фоновый daemon-поток `src/build_cache_pruner.py` (каркас `disk_watchdog`) — «вторая половина»
watchdog'а: **watchdog сигналит, pruner убирает**.
- **Что делает:** каждые `ORCH_BUILD_CACHE_PRUNE_INTERVAL_S` (дефолт 21600с = 6ч) выполняет
**строго `docker builder prune -f --filter until=<until>`** (BuildKit GC; дефолт `until=24h`
удаляется build cache старше суток, тёплый свежий кэш сохраняется). Команда затрагивает **только
build cache** — НЕ образы/контейнеры запущенных сервисов; рестарт docker daemon/прода НЕ
выполняется (self-hosting безопасность).
- **Как исполняется:** в контейнере нет `docker` CLI (образ несёт только `openssh-client git`),
поэтому уборка идёт **на хосте через ssh** тем же каналом `ORCH_DEPLOY_SSH_USER@_HOST`, что
деплой/`image_freshness`. **Пустой `ORCH_DEPLOY_SSH_HOST` → тик no-op** (фича активна только на
self-host, где ssh настроен).
- **Как отключить:** `ORCH_BUILD_CACHE_PRUNE_ENABLED=false` (демон не стартует; поведение 1:1 как
до ORCH-062). Наблюдаемость — блок `build_cache_prune` в `GET /queue` (`enabled`/`interval_s`/
`until`/`last_run_ts`/`last_reclaimed`/`last_error`); never-raise; in-memory учёт (без миграции).
- **Ручной fallback** (если ssh-канал недоступен) — host-cron на mva154:
`0 */6 * * * docker builder prune -f --filter until=24h` (off-git, процедура Owner).
## Переменные окружения (карта; значения — в `.env`)
| Переменная | Назначение |
@@ -91,6 +132,17 @@ ADR `docs/work-items/ORCH-040/06-adr/ADR-001-run-agents-as-host-uid.md` и гл
| `ORCH_RECONCILE_GRACE_DEFAULT_S` | порог «застряла» по `tasks.updated_at`, сек; дефолт `600` |
| `ORCH_RECONCILE_GRACE_OVERRIDES_JSON` | per-stage пороги, напр. `{"development":300}`; невалидный JSON → дефолт |
| `ORCH_RECONCILE_NOTIFY_UNBLOCK` | слать Telegram при разблокировке застрявшей задачи; дефолт `true` |
| `ORCH_DISK_MONITOR_ENABLED` | kill-switch disk-watchdog (ORCH-063); дефолт `true`. `false` → демон не стартует, поведение 1:1 как сейчас |
| `ORCH_DISK_MONITOR_INTERVAL_S` | период heartbeat-замера заполнения диска, сек; дефолт `300` |
| `ORCH_DISK_MONITOR_THRESHOLD_PCT` | порог заполнения для алерта, %; дефолт `85` (валидация 1..100, иначе → дефолт) |
| `ORCH_DISK_MONITOR_REALERT_S` | cooldown повторного алерта, пока выше порога, сек; дефолт `21600` (~6 ч) |
| `ORCH_DISK_MONITOR_PATHS` | CSV отслеживаемых **хост**-bind-путей; пусто → `/repos,/app/data` |
| `ORCH_BUILD_CACHE_PRUNE_ENABLED` | kill-switch build-cache-pruner (ORCH-062); дефолт `true`. `false` → демон не стартует, поведение 1:1 как до задачи |
| `ORCH_BUILD_CACHE_PRUNE_INTERVAL_S` | период тика авто-prune, сек; дефолт `21600` (~6 ч); валидация >0, иначе → дефолт |
| `ORCH_BUILD_CACHE_PRUNE_UNTIL` | возраст удержания тёплого кэша (`docker builder prune --filter until=`); дефолт `24h`; валидация `^\d+[smhdw]?$`, иначе → `24h` |
| `ORCH_BUILD_CACHE_PRUNE_ALL` | добавить `-a` к prune (только в паре с `until`); дефолт `false` |
| `ORCH_BUILD_CACHE_PRUNE_TIMEOUT_S` | таймаут ssh-команды prune, сек; дефолт `120` |
| `ORCH_BUILD_CACHE_PRUNE_NOTIFY_MIN_GB` | Telegram при освобождении ≥ N ГБ; дефолт `0` (тихо) |
| `DEPLOY_SSH_USER` / `_HOST` / `DEPLOY_HOOK_SCRIPT` | параметры деплой-хука |
**Секреты — только в `.env` / `.env.staging` на хосте, в гит НЕ коммитятся.** Канон — `.env.example`, `.env.staging.example`.

View File

@@ -0,0 +1,7 @@
# Business Request: INFRA: авто-prune docker build cache на mva154 (диск забивается)
Work Item ID: ORCH-062
## Description
TBD

View File

@@ -0,0 +1,145 @@
---
work_item: ORCH-062
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 01 — BRD (бизнес-требования): ORCH-062 — INFRA: авто-prune docker build cache на mva154
Work Item: **ORCH-062** · Repo: **orchestrator** · Стадия: analysis
## 1. Бизнес-контекст и проблема
**Установленный факт (инцидент 07.06.2026).** Хост-диск mva154 тихо дорос до 100% и положил
**весь конвейер всех проектов** (один прод-инстанс `orchestrator` на общей БД/очереди обслуживает
и `enduro-trails`, и `orchestrator`). Доминирующий «пожиратель» в этом инциденте — **docker build
cache**: частые пересборки образа (`docker compose up -d --build` при прод-деплое, пересборки
staging-образа `--profile staging` и `check_staging_image_fresh` ORCH-058) накапливают слои build
cache, который дорос до **≈11 ГБ**. Заполнение диска положило **CI + Gitea** и остановило приём
вебхуков/обработку очереди.
**Что уже сделано (ORCH-063, не дублировать).** Введён фоновый daemon `src/disk_watchdog.py`,
который **только сигнализирует** (Telegram-алерт при заполнении ≥85%). В ADR/INFRA ORCH-063 явно
зафиксировано: *«watchdog только сигнализирует — он не трогает диск/контейнер … Авто-очистка — вне
объёма ORCH-063 (отдельная задача)»*. **ORCH-062 — и есть эта отдельная задача:** автоматическое
освобождение места за счёт build cache, чтобы инцидент 07.06 не повторялся и не требовал ручного
вмешательства оператора.
**Приоритет:** P1 (риск повторной полной остановки конвейера всех проектов).
## 2. Объём (scope)
### В объёме
- Автоматическое периодическое освобождение **docker build cache** на хосте mva154, чтобы он не
мог бесконтрольно дорасти до заполнения диска.
- Удержание «тёплого» недавнего кэша (политика хранения по возрасту, ориентир из запроса —
`until=24h`), чтобы не убивать скорость штатных пересборок.
- Наблюдаемость результата авто-prune для оператора (когда последний раз отработал, сколько
освобождено / текущий объём build cache).
- Обратимость: kill-switch и конфигурируемость периода/порога/политики хранения.
- Документирование операционной процедуры в `docs/operations/INFRA.md` (и инфра-требований в
`07-infra-requirements.md` — заполняет архитектор).
### Вне объёма
- **Очистка прочих «пожирателей» диска** (старые worktree-каталоги `/home/slin/repos/_wt/*`
завершённых задач, логи, dangling-образы `docker image prune`) — это **ручная** операция
оператора по ORCH-063; авто-уборка этих категорий — отдельные задачи, здесь НЕ делается.
- **Изменение поведения disk-watchdog** (`src/disk_watchdog.py`, пороги/алерты ORCH-063) — не
трогаем; ORCH-062 ортогонален и комплементарен (watchdog сигналит, pruner убирает).
- **Любое управление конвейером / стадиями / Quality Gates.** Авто-prune — операционная фоновая
задача, НЕ элемент `STAGE_TRANSITIONS` / `QG_CHECKS` (ровно как watchdog/reconciler/job_reaper).
- **Перезапуск/рестарт прод-контейнера** `orchestrator` ради уборки — категорически вне объёма
(self-hosting групповой риск).
- Выбор между конкретными механизмами реализации (heartbeat-демон в приложении vs host
`daemon.json builder.gc` vs host-cron) — это **архитектурное решение** (06-adr), не предмет BRD.
## 3. Заинтересованные стороны
- **Owner / оператор (slin, homenet542@gmail.com)** — заказчик, принимает результат, владеет
хостом mva154 и его host-prerequisites.
- **Все прод-проекты** (`enduro-trails`, `orchestrator`) — косвенно затронуты: общий инстанс,
общий диск; падение диска = простой всех.
- **Self-hosting контур** — изменение касается инструмента, который работает в проде и обслуживает
другие проекты; безопасность изменения критична.
## 4. Бизнес-требования (BR)
- **BR-1 (авто-освобождение)** — docker build cache очищается **автоматически, периодически, без
ручного вмешательства** оператора, так что он не может бесконтрольно заполнить диск (устранение
корня инцидента 07.06).
- **BR-2 (удержание тёплого кэша)** — очистка удаляет преимущественно **старый** build cache
(политика по возрасту, ориентир `until=24h`); свежий кэш недавних сборок сохраняется, чтобы
штатные пересборки не теряли скорость без необходимости.
- **BR-3 (self-hosting безопасность)** — операция уборки **никогда не нарушает работу запущенных
контейнеров и не удаляет образы/слои, используемые работающими прод-контейнерами**, и **никогда
не рестартит/не роняет прод**. Затрагивается **только build cache** (`docker builder prune`), не
образы запущенных сервисов.
- **BR-4 (наблюдаемость)** — оператор может увидеть состояние авто-prune: включён ли, когда
последний раз отработал, объём/освобождено (через тот же канал наблюдаемости, что у фоновых
демонов — блок в `GET /queue`, и/или Telegram при значимом освобождении).
- **BR-5 (обратимость)** — поведение управляется **kill-switch**: выключение возвращает систему к
поведению «как сейчас» 1:1 (никакой авто-уборки), как у `ORCH_DISK_MONITOR_ENABLED` /
`ORCH_RECONCILE_ENABLED`.
- **BR-6 (конфигурируемость)** — период, порог запуска и политика хранения (возраст/объём
удержания) задаются конфигом (env), с безопасными дефолтами; невалидные значения деградируют на
дефолт (как валидаторы ORCH-063).
## 5. Нефункциональные требования (NFR)
- **NFR-1 (never-raise)** — фоновая уборка не должна ронять процесс/конвейер ни на одном уровне:
ошибка docker-команды / недоступность docker.sock / таймаут логируются и проглатываются (как
per-tick/per-send never-raise в `disk_watchdog.py`).
- **NFR-2 (изоляция от Quality Gate)** — `STAGE_TRANSITIONS` / `QG_CHECKS` / `check_*` / схема БД
**не изменяются**; авто-prune — операционный демон/процедура, не гейт.
- **NFR-3 (нулевая регрессия при выключении)** — при выключенном kill-switch поведение байт-в-байт
как до задачи; никакого фонового потока/процедуры не стартует.
- **NFR-4 (низкий оверхед)** — частота уборки — порядка часов; сама команда `docker builder prune`
дешева и не должна влиять на латентность конвейера; уборка не должна конкурировать за ресурсы с
активными сборками сверх необходимого.
- **NFR-5 (best-effort состояние)** — учёт «когда убирали в последний раз» может быть in-memory /
best-effort (как анти-спам watchdog'а): сброс при рестарте безопасен (приведёт максимум к одной
лишней безопасной уборке), без новой миграции БД.
- **NFR-6 (документируемость)** — операционная процедура, env-переменные и поведение при сбое
зафиксированы в `docs/operations/INFRA.md` и `.env.example` в том же PR (golden source = код+доки).
## 6. Допущения и ограничения
- **A-1.** У контейнера `orchestrator` есть доступ к `/var/run/docker.sock` (через `group_add:
["999"]`, gid docker — НЕ удалять, ORCH-040), что технически позволяет приложению вызывать
`docker builder prune`. Это **не предрешает** выбор реализации (демон в приложении vs host-уровень).
- **A-2.** `docker builder prune` по контракту docker затрагивает **только build cache**, не
останавливает контейнеры и не удаляет образы запущенных сервисов — это основа безопасности BR-3.
- **A-3.** Доминирующий «пожиратель» в инциденте — именно build cache (≈11 ГБ); прочие категории
(worktree/логи/dangling-образы) адресуются отдельно (см. Вне объёма).
- **A-4.** Хост — mva154 (`network_mode: host`), uid рантайма 1000:1000; любые host-prerequisites
(например, права на docker.sock, настройка `daemon.json` если выбран этот путь) — процедура
Owner, в git не коммитятся (по аналогии с P-1…P-4 в INFRA.md).
- **Ограничение C-1.** Нельзя рестартить docker daemon в рабочее время без окна тишины, если
выбранный архитектором путь (`daemon.json builder.gc`) требует перезапуска демона — это решает и
планирует архитектор/Owner (вне объёма кода).
## 7. Критерии успеха
- Build cache на mva154 удерживается в безопасных пределах **автоматически**: после внедрения
повторение сценария 07.06 (build cache → 11 ГБ → диск 100%) предотвращается без ручных действий.
- Свежие сборки не теряют скорость без необходимости (тёплый кэш ≤ политики хранения сохраняется).
- Запущенные прод-контейнеры и обслуживание `enduro-trails` не затронуты; прод не рестартился.
- Оператор видит состояние авто-prune и может его выключить одним флагом.
- Детальные PASS/FAIL — в `03-acceptance-criteria.md`.
## 8. Риски
Краткий перечень (детальная проработка — `10-tech-risks.md`, заполняет архитектор):
- **R-1.** Слишком агрессивная политика (`-a` без возрастного фильтра / малый `until`) убивает
тёплый кэш → каждая сборка «холодная» и медленная. Митигирует BR-2 (удержание по возрасту).
- **R-2.** Гонка уборки с активной сборкой staging/прод-образа (`check_staging_image_fresh`,
build-once retag) → теоретически удаление кэша во время сборки. `docker builder prune` штатно не
трогает кэш, занятый активной сборкой, но политику/таймиг проверить (адресует архитектор).
- **R-3.** Реализация через host-`daemon.json` требует рестарта docker daemon → риск для
self-hosting; реализация через демон в приложении требует доступа к docker.sock и устойчивости к
его недоступности.
- **R-4.** Ошибочное расширение скоупа на `docker image prune` / `system prune` → удаление образов
запущенных контейнеров. Жёстко исключено BR-3 (только build cache).

View File

@@ -0,0 +1,139 @@
---
work_item: ORCH-062
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 02 — ТЗ (TRZ): ORCH-062 — INFRA: авто-prune docker build cache на mva154
Work Item: **ORCH-062** · Repo: **orchestrator** · Стадия: analysis
> ТЗ описывает **требуемое поведение и точки изменения**, выведенные из BRD и фактического кода.
> **Выбор механизма реализации — за архитектором (`06-adr`).** Запрещено комментировать ТЗ задним
> числом: если требование не годится — вернуть в Анализ.
## 1. Сводка изменения
Ввести **автоматическое периодическое освобождение docker build cache** на хосте mva154, чтобы
build cache не мог дорасти до заполнения диска (корень инцидента 07.06.2026, ≈11 ГБ → диск 100% →
падение CI+Gitea+конвейера всех проектов). Это комплемент к disk-watchdog (ORCH-063, «только
сигнал»): watchdog предупреждает, **pruner убирает**. Требование — безопасно для self-hosting
(только build cache, без рестарта прода, never-raise), обратимо (kill-switch), наблюдаемо (`GET
/queue`) и конфигурируемо.
**Развилка реализации (решает архитектор, фиксируется в `06-adr` + `07-infra-requirements.md`):**
- **Вариант A — heartbeat-демон в приложении:** новый leaf-модуль, фоновый
`threading.Thread(daemon=True)`, моделируемый **1:1 на `src/disk_watchdog.py`**
(`start()/stop()/status()`, `threading.Event`, per-tick never-raise, kill-switch, блок в `GET
/queue`), который периодически вызывает `docker builder prune` через docker.sock.
- **Вариант B — host-уровень `daemon.json builder.gc.defaultKeepStorage`:** конфигурация
garbage-collection BuildKit на хосте (инфра-процедура Owner, без кода приложения).
- **Вариант C — host-cron** `docker builder prune -af --filter until=24h` (инфра-процедура Owner).
ТЗ ниже формулирует требования **инвариантно к выбору**; колонка «применимость» в §2 помечает, что
именно затрагивается при code-пути (Вариант A). Если архитектор выбирает чистый инфра-путь (B/C),
изменения `src/**` не требуются, а предметом становятся `07-infra-requirements.md` + INFRA.md +
host-процедура (см. §7, §5 теста).
## 2. Задействованные модули / пути
| Путь | Действие | Применимость |
|------|----------|--------------|
| `src/build_cache_pruner.py` (новый leaf) | создать: фоновый демон-pruner по образцу `src/disk_watchdog.py` | Вариант A |
| `src/config.py` | добавить флаги kill-switch/период/политика хранения (блок рядом с `disk_monitor_*`, строки ~392442) + валидаторы | Вариант A (часть флагов — и для B/C как декларация) |
| `src/main.py` | в `lifespan``start()`/`stop()` нового демона рядом с `disk_watchdog.start()/stop()` (строки ~113120); в `GET /queue` — блок наблюдаемости рядом с `"disk_monitor": disk_watchdog.status()` (строка ~186) | Вариант A |
| `.env.example` | задокументировать новые env-переменные (канон) | A / B / C (декларация) |
| `docs/operations/INFRA.md` | секция «авто-prune build cache» + переменные в карте env; уточнить, что освобождение build cache теперь автоматизировано (ORCH-063 говорил «ручная операция») | A / B / C (обязательно) |
| `docs/work-items/ORCH-062/06-adr/ADR-001-*.md` | решение по выбору механизма + параметрам (архитектор) | A / B / C |
| `docs/work-items/ORCH-062/07-infra-requirements.md` | host-prerequisites/процедура (docker.sock / daemon.json / cron) (архитектор) | A / B / C |
| `tests/test_build_cache_pruner.py` (новый) | unit/integration по `04-test-plan.yaml` | Вариант A |
| `CHANGELOG.md` | запись в `## [Unreleased]` | A / B / C |
> Модуль-pruner должен быть **leaf** (как `disk_watchdog.py`, `serial_gate.py`, `task_deps.py`):
> без обратных зависимостей на `stage_engine`/`stages`/`qg`, чтобы не задевать конвейер.
## 3. Функциональные требования
### FR-1 — периодическая авто-уборка build cache (BR-1)
Build cache очищается автоматически по расписанию/периодически без участия оператора. Для code-пути
(A): фоновый поток с периодом `prune_interval_s` (порядка часов) вызывает уборку каждый тик. Для
инфра-пути (B/C): garbage-collection BuildKit / cron обеспечивают эквивалентную периодичность.
Привязка: BR-1.
### FR-2 — политика удержания тёплого кэша (BR-2)
Уборка по умолчанию удаляет **старый** build cache, удерживая свежий. Ориентир из бизнес-запроса —
возрастной фильтр `--filter until=24h` (для пути A: команда вида `docker builder prune -f --filter
until=<retention>`), либо порог объёма `builder.gc.defaultKeepStorage` (для пути B). Параметры
удержания конфигурируемы (см. §ниже). Флаг `-a/--all` применять **только** в сочетании с возрастным
фильтром/политикой удержания, не как «снести весь кэш». Привязка: BR-2.
### FR-3 — self-hosting-безопасность операции (BR-3, NFR-2)
- Уборка затрагивает **исключительно build cache** — команда строго `docker builder prune`
(BuildKit GC). **Запрещены** `docker image prune`, `docker system prune`, любое удаление образов
запущенных сервисов и любая остановка/рестарт контейнеров.
- Операция **никогда не рестартит и не роняет прод-контейнер** `orchestrator` (групповой риск
self-hosting).
- Для пути A: вызов docker — неблокирующий конвейер, с таймаутом; недоступность docker.sock →
пропуск тика (never-raise).
- Привязка: BR-3, NFR-1, NFR-2.
### FR-4 — наблюдаемость (BR-4)
Состояние авто-prune доступно оператору. Для пути A — блок в `GET /queue` (как `disk_monitor`):
`enabled`, `interval_s`, `retention`, `last_run_ts`, и (best-effort) результат последней уборки
(освобождено байт / текущий объём build cache, если доступно из `docker builder prune`/`du`).
Опционально — Telegram-сообщение при значимом освобождении (как recovery-сообщение watchdog'а).
Для пути B/C — наблюдаемость через хост (`docker system df`), описанная в INFRA.md. Привязка: BR-4.
### FR-5 — kill-switch + конфигурируемость (BR-5, BR-6, NFR-3)
- `*_enabled` (kill-switch, дефолт безопасный): выключено → демон не стартует (путь A) / процедура
неактивна; поведение 1:1 как до задачи (NFR-3).
- Конфигурируемые: период (`*_interval_s`), политика удержания (возраст `until` и/или объём
`keep_storage`), опц. порог запуска. Невалидные значения → лог-warning + дефолт (как валидаторы
`disk_monitor_interval_s`/`disk_monitor_threshold_pct` в `config.py`).
- Область раската — безопасная: операция привязана к хосту mva154; не вводит per-repo гейтов.
- Привязка: BR-5, BR-6.
### FR-6 — never-raise на всех уровнях (NFR-1)
Любая ошибка (subprocess-сбой, ненулевой rc, таймаут, недоступность docker.sock, parsing-ошибка
вывода) логируется и проглатывается; фоновый цикл/процедура продолжает жить и не влияет на
конвейер. Для пути A — `try/except` per-tick и per-команда, как `_run`/`tick`/`_send` в
`disk_watchdog.py`. Привязка: NFR-1, NFR-5.
## 4. Изменения API
**Внешних HTTP-эндпоинтов оркестратора (`src/main.py`) НЕ добавлять и не менять контрактно.**
Допустимо (путь A): `GET /queue` дополнить **read-only** блоком `build_cache_pruner`/аналогичным
ключом (наблюдаемость, не источник истины) — по образцу блока `disk_monitor`. Внутренний контракт
нового модуля (путь A) — `start()` / `stop(timeout)` / `status() -> dict`, 1:1 как `DiskWatchdog`.
## 5. Изменения схемы БД
**Нет.** Схема БД (`src/db.py`) не трогается. Учёт «времени последней уборки» — in-memory /
best-effort (NFR-5), новой миграции не требуется (как анти-спам-состояние disk-watchdog).
## 6. Требования к новым/изменённым QG checks
**Нет.** `QG_CHECKS` / `check_*` / `_parse_*` / `STAGE_TRANSITIONS` / `src/stage_engine.py` **не
изменяются**. Авто-prune — операционный фоновый демон/процедура (категория `reconciler` /
`job_reaper` / `disk_watchdog`), **не** элемент реестра Quality Gate.
## 7. Совместимость / регресс · артефакты pipeline
- **Обратная совместимость / обратимость:** kill-switch (FR-5) выключает фичу в 1:1-исходное
состояние; никаких изменений поведения для `enduro-trails` и для конвейера (демон ортогонален).
- **Область раската:** только хост mva154 / self-hosting инстанс; фича не вводит per-repo гейтов и
не меняет рёбер конвейера.
- **Артефакты pipeline, которые должны быть созданы/обновлены:**
- `06-adr/ADR-001-*.md` — выбор механизма (A/B/C) + параметры удержания/периода (архитектор).
- `07-infra-requirements.md` — host-процедура: доступ к docker.sock (A) / правка `daemon.json` +
окно рестарта docker daemon (B) / cron-юнит (C) (архитектор).
- `10-tech-risks.md` — детализация R-1…R-4 из BRD (архитектор).
- `docs/operations/INFRA.md` — секция авто-prune + карта env; снять формулировку ORCH-063
«освобождение места — ручная операция» в части build cache.
- `.env.example` — новые переменные.
- `CHANGELOG.md``## [Unreleased]`.
- `12-review.md`, `13-test-report.md`, `14-deploy-log.md`, `15-staging-log.md` — по ходу конвейера.
- `tests/` — реализовать тесты из `04-test-plan.yaml` (путь A).

View File

@@ -0,0 +1,129 @@
---
work_item: ORCH-062
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 03 — Критерии приёмки (Acceptance Criteria): ORCH-062 — авто-prune docker build cache на mva154
Work Item: **ORCH-062** · Repo: **orchestrator** · Стадия: analysis
Формат: каждый критерий имеет **PASS** (что должно быть истинно для приёмки) и **FAIL** (что
считается провалом). Reviewer/tester проверяют их буквально по файлам репозитория и поведению.
> Критерии сформулированы инвариантно к выбору механизма (heartbeat-демон A / `daemon.json` B /
> cron C). Где критерий специфичен пути A (код), это помечено; при выборе B/C его проверяет
> эквивалент на хосте, задокументированный в `07-infra-requirements.md` / INFRA.md.
---
## AC-1 — Авто-уборка build cache выполняется без оператора
**Условие:** build cache очищается автоматически и периодически (BR-1/FR-1).
- **PASS:** существует автоматический механизм (демон-тик пути A / BuildKit GC пути B / cron пути C),
который без ручного вмешательства запускает уборку build cache с настроенным периодом; механизм
описан в `06-adr` и INFRA.md.
- **FAIL:** уборка возможна только ручным запуском оператором; либо механизм не описан/не внедрён.
---
## AC-2 — Удерживается тёплый недавний кэш
**Условие:** очистка по умолчанию удаляет старый кэш, сохраняя свежий (BR-2/FR-2).
- **PASS:** команда/политика по умолчанию несёт возрастной фильтр (ориентир `until=24h`) или порог
объёма (`builder.gc.defaultKeepStorage`); `-a/--all` (если используется) применяется только в
паре с фильтром удержания. Параметр удержания конфигурируем.
- **FAIL:** дефолт безусловно сносит весь build cache (например, `docker builder prune -af` без
возрастного фильтра/порога), убивая тёплый кэш каждой сборки.
---
## AC-3 — Self-hosting безопасность: только build cache, без рестарта прода
**Условие:** операция затрагивает только build cache и не нарушает работу контейнеров (BR-3/FR-3).
- **PASS:** используется строго `docker builder prune` (BuildKit GC); в коде/процедуре **нет**
`docker image prune`, `docker system prune`, остановки/рестарта контейнеров или прод-деплоя;
обслуживание `enduro-trails` и прод-контейнер `orchestrator` не затрагиваются.
- **FAIL:** найдено любое удаление образов запущенных сервисов / `system prune` / любая
остановка/рестарт прод-контейнера в рамках уборки.
---
## AC-4 — never-raise: уборка не роняет конвейер
**Условие:** ошибки уборки изолированы (NFR-1/FR-6).
- **PASS:** сбой docker-команды, ненулевой rc, таймаут или недоступность docker.sock логируются и
проглатываются; фоновый цикл/процедура продолжает работу; конвейер не падает. (Путь A:
per-tick/per-команда `try/except`, как `disk_watchdog._run`/`tick`.)
- **FAIL:** ошибка уборки всплывает в процесс/останавливает фоновый цикл/влияет на обработку очереди.
---
## AC-5 — kill-switch отключает фичу в исходное состояние
**Условие:** обратимость одним флагом (BR-5/FR-5/NFR-3).
- **PASS:** при выключенном `*_enabled` демон не стартует (путь A) / процедура неактивна; поведение
системы 1:1 как до задачи; (путь A) `GET /queue` показывает `enabled=false`. Флаг задокументирован
в `.env.example` и INFRA.md.
- **FAIL:** фича работает при выключенном флаге, либо kill-switch отсутствует/не документирован.
---
## AC-6 — Конфигурируемость с безопасными дефолтами
**Условие:** период/политика удержания настраиваемы, невалид деградирует на дефолт (BR-6/FR-5).
- **PASS:** период (`*_interval_s`) и политика удержания (возраст/объём) читаются из env с
безопасными дефолтами; невалидное значение → лог-warning + дефолт (как валидаторы
`disk_monitor_*` в `src/config.py`).
- **FAIL:** параметры захардкожены без возможности конфигурации, либо невалидное значение роняет
старт/процедуру.
---
## AC-7 — Наблюдаемость состояния авто-prune
**Условие:** оператор видит состояние уборки (BR-4/FR-4).
- **PASS:** (путь A) `GET /queue` содержит read-only блок авто-prune (`enabled`, `interval_s`,
`retention`, `last_run_ts`, best-effort результат последней уборки); `status()` never-raise.
(Путь B/C) способ наблюдения (`docker system df`) описан в INFRA.md.
- **FAIL:** состояние авто-prune нигде не наблюдаемо.
---
## AC-8 — Изоляция от Quality Gate и схемы БД
**Условие:** конвейер и гейты не затронуты (NFR-2/FR §5,§6).
- **PASS:** `STAGE_TRANSITIONS`, `QG_CHECKS`, `check_*`, `_parse_*`, `src/stage_engine.py` и схема
БД (`src/db.py`) — без изменений; новый модуль (путь A) — leaf без зависимостей на конвейер.
- **FAIL:** изменён любой элемент реестра гейтов / переходов стадий / схемы БД, либо введена новая
миграция ради учёта уборки.
---
## AC-9 — Документация и регресс
**Условие:** golden source обновлён, полный регресс зелёный (NFR-6).
- **PASS:** `docs/operations/INFRA.md` обновлён (секция авто-prune + env-карта; снята формулировка
ORCH-063 «освобождение build cache — ручная операция»); `.env.example` несёт новые ключи;
`CHANGELOG.md` имеет запись Unreleased; `06-adr/ADR-001-*.md` и `07-infra-requirements.md`
заполнены; `pytest tests/ -q` зелёный.
- **FAIL:** функционал изменён, но INFRA.md/.env.example/CHANGELOG/ADR не обновлены; либо регресс
`tests/` красный.
---
## Сводная матрица AC ↔ FR/BR
| AC | Покрывает |
|----|-----------|
| AC-1 | BR-1 / FR-1 |
| AC-2 | BR-2 / FR-2 |
| AC-3 | BR-3 / FR-3 / NFR-2 |
| AC-4 | NFR-1 / FR-6 |
| AC-5 | BR-5 / FR-5 / NFR-3 |
| AC-6 | BR-6 / FR-5 |
| AC-7 | BR-4 / FR-4 |
| AC-8 | NFR-2 / FR-5 / FR-6 (TRZ §5,§6) |
| AC-9 | NFR-6 |

View File

@@ -0,0 +1,95 @@
work_item: ORCH-062
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
title: "Авто-prune docker build cache на mva154 — план тестов"
framework: pytest
scope: >
Покрывает code-путь (Вариант A — heartbeat-демон src/build_cache_pruner.py по образцу
src/disk_watchdog.py): чистая decision-логика (надо ли убирать на этом тике), построение
безопасной docker-команды с политикой удержания, never-raise на ошибках subprocess/таймаут/
недоступность docker.sock, kill-switch (демон не стартует), наблюдаемость status()/GET /queue,
интеграция в lifespan. ВНЕ покрытия pytest: реальный вызов docker (subprocess мокается — тесты
не должны трогать настоящий docker daemon), реальное освобождение диска. Если архитектор выберет
чистый инфра-путь (B daemon.json / C cron) без кода src/**, применимые TC сводятся к ручной
host-верификации, описанной в 07-infra-requirements.md / INFRA.md (см. TC-10).
notes: >
docker-вызовы изолируются моками (monkeypatch subprocess.run / docker-клиента) — НИ ОДИН тест не
выполняет настоящий `docker builder prune`. Время/период инъектируются (now_provider), как в
тестах disk_watchdog. Полный регресс `pytest tests/ -q` остаётся зелёным; STAGE_TRANSITIONS /
QG_CHECKS / схема БД не затрагиваются — отдельных гейт-тестов фича не добавляет.
tests:
- id: TC-01
type: unit
description: "decide-функция: при включённом pruner и истёкшем периоде с прошлой уборки решение = PRUNE"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-02
type: unit
description: "decide-функция: период с прошлой уборки не истёк → решение = SKIP (анти-частота, NFR-4)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-03
type: unit
description: "Построение docker-команды несёт возрастной фильтр удержания (until=<retention>) и НЕ содержит image/system prune (FR-2/FR-3/AC-2/AC-3)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-04
type: unit
description: "never-raise: subprocess бросает исключение / возвращает ненулевой rc → тик не падает, ошибка залогирована (FR-6/AC-4)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-05
type: unit
description: "never-raise: недоступность docker.sock (FileNotFoundError/PermissionError) → тик пропускается, цикл жив (FR-6/AC-4)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-06
type: unit
description: "never-raise: таймаут docker-команды (TimeoutExpired) проглатывается, фоновый цикл продолжает работу (FR-6/AC-4)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-07
type: unit
description: "kill-switch: при *_enabled=False start() — no-op, фоновый поток не стартует (FR-5/AC-5/NFR-3)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-08
type: unit
description: "config: невалидный *_interval_s / retention → лог-warning + безопасный дефолт, старт не падает (FR-5/AC-6)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-09
type: unit
description: "status() never-raise и содержит enabled/interval_s/retention/last_run_ts + best-effort результат последней уборки (FR-4/AC-7)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-10
type: unit
description: "Изоляция от Quality Gate: модуль-pruner — leaf, не импортирует stage_engine/stages/qg; STAGE_TRANSITIONS и QG_CHECKS не изменены (NFR-2/AC-8)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-11
type: integration
description: "lifespan: при включённом флаге демон стартует в app-lifespan и корректно останавливается на shutdown (рядом с disk_watchdog), docker замокан (FR-1/AC-1)"
module: tests/test_build_cache_pruner.py
expected: PASS
- id: TC-12
type: integration
description: "GET /queue содержит read-only блок авто-prune с состоянием (enabled/interval_s/retention/last_run_ts); при выключенном флаге enabled=false (FR-4/AC-5/AC-7)"
module: tests/test_build_cache_pruner.py
expected: PASS

View File

@@ -0,0 +1,206 @@
---
work_item: ORCH-062
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# ADR-001: Авто-prune docker build cache — фоновый heartbeat-демон, выполняющий `docker builder prune` на хосте через ssh
Work Item: **ORCH-062** — INFRA: авто-prune docker build cache на mva154
Стадия: **architecture**
Сквозная регистрация: **`docs/architecture/adr/adr-0025-build-cache-pruner.md`** (кросс-каттинг —
вводит новый фоновый компонент в ряду `reconciler`/`job_reaper`/`disk_watchdog`).
## Статус
Proposed
## Контекст
07.06.2026 хост-диск mva154 тихо дорос до 100% и положил **весь self-hosting-конвейер всех
проектов** (один прод-инстанс `orchestrator` на общей БД/очереди обслуживает и `enduro-trails`, и
`orchestrator`). Доминирующий «пожиратель» — **docker build cache** (≈11 ГБ), накопленный частыми
пересборками (`docker compose up -d --build` при прод-деплое; пересборка staging-образа
`--profile staging`; build-once retag за `check_staging_image_fresh`, ORCH-058). ORCH-063 ввёл
disk-watchdog, который **только сигнализирует** (Telegram-алерт ≥85%) и явно отложил авто-очистку в
отдельную задачу. **ORCH-062 — эта задача.**
BRD/ТЗ ставят развилку реализации (`06-adr` решает):
- **A** — heartbeat-демон в приложении (`src/build_cache_pruner.py`), 1:1 на `src/disk_watchdog.py`.
- **B** — host `daemon.json builder.gc.defaultKeepStorage` (BuildKit GC, инфра-процедура Owner).
- **C** — host-cron `docker builder prune -af --filter until=24h` (инфра-процедура Owner).
**Факты, сверенные с кодом (важно для выбора):**
- **Контейнер `orchestrator` НЕ содержит `docker` CLI.** `Dockerfile:11` ставит только
`openssh-client git curl ca-certificates`. `src/image_freshness.py::image_revision` прямо
фиксирует: *«`docker` lives on the HOST (the container ships only `openssh-client git`), so when
`ssh_target` is given the inspect runs over ssh»*. → Любая docker-операция приложения над хостом
идёт **через ssh на хост** (`ssh deploy_ssh_user@deploy_ssh_host docker …`), как уже делают
`image_freshness` и `self_deploy` (Phase B). Допущение BRD A-1 («docker.sock смонтирован →
приложение может вызвать `docker builder prune`») верно на уровне сокета, но **не** даёт готового
CLI; raw-HTTP-over-UDS — лишний код против существующего ssh-канала.
- В оркестраторе уже три проверенных фоновых daemon-потока с единым каркасом
(`threading.Thread(daemon=True)` + `threading.Event`, `start()/stop(timeout)/status()`,
per-tick never-raise, kill-switch, снимок в `GET /queue`): `reconciler` (ORCH-053),
`job_reaper` (ORCH-065), `disk_watchdog` (ORCH-063, `src/disk_watchdog.py`).
- ssh-канал на хост сконфигурирован и доступен: `settings.deploy_ssh_user` (дефолт `slin`),
`settings.deploy_ssh_host`; ключи проброшены ro (`~/.orchestrator-ssh → /home/slin/.ssh`,
ORCH-040); `slin` — в группе docker (деплой-хук запускает `docker compose` на хосте).
- `docker builder prune` по контракту BuildKit затрагивает **только build cache**, не
останавливает контейнеры и не удаляет образы запущенных сервисов (основа BR-3).
## Решение
### Сводка
Выбран **Вариант A — фоновый heartbeat-демон `src/build_cache_pruner.py`**, смоделированный
**1:1 на `src/disk_watchdog.py`** (тот же каркас, контракт, kill-switch, never-raise, блок в
`GET /queue`), который **периодически выполняет `docker builder prune` на ХОСТЕ через ssh**
тем же каналом `deploy_ssh_user@deploy_ssh_host`, что уже используют `image_freshness` и
`self_deploy`. Это «вторая половина» disk-watchdog: **watchdog сигналит — pruner убирает**.
Варианты B и C отклонены (см. «Альтернативы»). Вариант C сохраняется как
**задокументированный ручной fallback** в `07-infra-requirements.md` на случай, если ssh-канал
недоступен.
### D1 — Механизм: фоновый демон приложения (A), не host-инфра (B/C) — BR-1/FR-1
Новый **leaf**-модуль `src/build_cache_pruner.py` (без обратных зависимостей на
`stage_engine`/`stages`/`qg`, как `disk_watchdog`/`serial_gate`/`task_deps`). Класс
`BuildCachePruner` с каркасом `disk_watchdog`: daemon-поток, чистый стоп через
`_stop.wait(interval)`, контракт `start()/stop(timeout)/status()`, модульный singleton
`build_cache_pruner`. Каждые `build_cache_prune_interval_s` (дефолт **21600с = 6ч**, NFR-4
«порядка часов») один тик выполняет уборку. Выбор A над B/C даёт: наблюдаемость в `GET /queue`,
kill-switch из конфига, golden-source-в-git, юнит-тесты, и **симметрию с disk-watchdog** (один
паттерн на два смежных эксплуатационных демона) — это снижает стоимость сопровождения и
когнитивную нагрузку следующего агента.
### D2 — Команда и политика удержания: строго BuildKit GC с возрастным фильтром — BR-2/BR-3/FR-2/FR-3
- Команда уборки — **строго `docker builder prune -f --filter until=<until>`** (BuildKit GC).
Дефолт `until=24h` (`build_cache_prune_until`, ориентир из бизнес-запроса): удаляется build
cache **старше 24ч**, свежий тёплый кэш недавних сборок сохраняется (BR-2/AC-2).
- Флаг `-a/--all`**только** опционально (`build_cache_prune_all`, дефолт `False`) и **всегда в
паре с возрастным фильтром**; «снести весь кэш» (`prune -af` без `until`) запрещён дефолтом.
- **Жёстко запрещены** `docker image prune`, `docker system prune`, любое удаление образов
запущенных сервисов, любая остановка/рестарт контейнеров. Затрагивается **только** build cache
(BR-3/AC-3). Уборка **никогда** не рестартит/не роняет прод-контейнер `orchestrator`
(групповой риск self-hosting).
### D3 — Канал исполнения: ssh на хост (CLI в контейнере нет) — BR-3/FR-3/NFR-1
- Уборка исполняется на хосте: `ssh -o StrictHostKeyChecking=no <deploy_ssh_user@deploy_ssh_host>
"docker builder prune -f --filter until=<until>"`, по образцу `image_freshness.image_revision`
(`ssh_target`-ветка). Это где **физически** живёт build cache (host docker daemon).
- **Нет ssh-таргета (`deploy_ssh_host` пуст) → тик no-op** (лог + `status()` отражает причину).
Это естественно **скоупит** фичу на self-hosting-прод (где ssh настроен) и делает дефолт
безопасным для любого окружения без host-доступа — параллель тому, как `self_deploy`/
`image_freshness` деградируют без `_ssh_target()`.
- Вызов **bounded** таймаутом (`build_cache_prune_timeout_s`, дефлот 120с) и **неблокирующий**
конвейер (отдельный daemon-поток). Любой сбой — ниже D6.
### D4 — Конфиг, kill-switch, дефолты — BR-5/BR-6/FR-5/NFR-3
Новый блок флагов в `src/config.py` рядом с `disk_monitor_*` (env-префикс `ORCH_BUILD_CACHE_PRUNE_*`):
| Поле (`settings.*`) | env | Дефолт | Назначение |
|---|---|---|---|
| `build_cache_prune_enabled` | `ORCH_BUILD_CACHE_PRUNE_ENABLED` | `True` | kill-switch; `False` → демон не стартует, поведение 1:1 как до задачи (NFR-3) |
| `build_cache_prune_interval_s` | `ORCH_BUILD_CACHE_PRUNE_INTERVAL_S` | `21600` (6ч) | период тика, сек |
| `build_cache_prune_until` | `ORCH_BUILD_CACHE_PRUNE_UNTIL` | `24h` | возраст удержания (`--filter until=`) |
| `build_cache_prune_all` | `ORCH_BUILD_CACHE_PRUNE_ALL` | `False` | добавить `-a` (только в паре с `until`) |
| `build_cache_prune_timeout_s` | `ORCH_BUILD_CACHE_PRUNE_TIMEOUT_S` | `120` | таймаут ssh-команды, сек |
| `build_cache_prune_notify_min_gb` | `ORCH_BUILD_CACHE_PRUNE_NOTIFY_MIN_GB` | `0` | Telegram при освобождении ≥ N ГБ; `0` → тихо (без нотификаций) |
**Дефолт `enabled=True` (обоснование, не самоочевидно):** (а) бизнес-цель BR-1 — авто-предотвращение
инцидента *без ручного вмешательства*; дефолт `False` означал бы, что оператор обязан вспомнить и
включить флаг, что подрывает саму задачу; (б) операция документированно-безопасна (только build
cache, never images/containers/restart — D2/A-2); (в) при отсутствии ssh-таргета тик no-op (D3) →
фича безопасна-по-построению в любом окружении без host-доступа; (г) полностью обратима kill-switch.
Это сознательный, явно зафиксированный компромисс «безопасный дефолт vs авто-цель» в пользу
авто-цели, при сохранённой обратимости. Параллель: `disk_monitor_enabled` тоже дефолт `True`.
**Валидаторы** (паттерн `_disk_positive_int`/`_disk_threshold_pct` из `config.py`): невалидный
`interval_s`/`timeout_s` (не-int / ≤0) → лог-warning + дефолт; невалидный `until` (не матчит
`^\d+[smhdw]?$`) → лог-warning + `24h`. Невалидное значение **никогда** не роняет старт (AC-6).
### D5 — Наблюдаемость — BR-4/FR-4
Аддитивный read-only блок `build_cache_prune` в `GET /queue` (как `disk_monitor`):
`enabled`, `interval_s`, `until`, `all`, `last_run_ts`, `last_reclaimed` (распарсенное
`Total reclaimed space: …` из вывода `docker builder prune`, best-effort), `last_error`
(строка причины последнего сбоя/no-op, или `null`). `status()` — never-raise (минимум
`{"enabled": …}` при ошибке). Опционально — `send_telegram` при освобождении
≥ `notify_min_gb` (по образцу recovery-сообщения watchdog'а; дефолт выключено).
### D6 — Инварианты и never-raise — NFR-1/NFR-2/NFR-5/FR-6, AC-4/AC-8
- `STAGE_TRANSITIONS`, реестр `QG_CHECKS`, `check_*`, `_parse_*`, `src/stage_engine.py`, схема БД
(`src/db.py`) — **не изменяются**. Pruner — эксплуатационный демон, не Quality Gate (категория
`reconciler`/`job_reaper`/`disk_watchdog`).
- **Без миграции БД**: учёт «когда убирали в последний раз»/последний результат — **in-memory**,
best-effort; сброс при рестарте безопасен (максимум одна лишняя безопасная уборка, NFR-5).
- **never-raise на двух уровнях:** per-команда (ненулевой rc / таймаут / `OSError` /
недоступность ssh / parsing-ошибка вывода → лог + проглот, тик жив) и per-tick (внешний
`try/except` в `_run`, как `disk_watchdog._run`). Фоновый цикл и конвейер не падают.
- **Self-hosting:** ssh выполняет `docker builder prune` на хосте под `slin` (в группе docker);
команда не трогает образы/контейнеры запущенных сервисов; прод не рестартится. Обслуживание
`enduro-trails` в общем инстансе не затронуто.
### D7 — Жизненный цикл (`main.lifespan`)
Старт демона — **последним**, сразу после `disk_watchdog.start()` (строки ~113114 `main.py`);
стоп — **первым** в reverse-порядке, перед `disk_watchdog.stop()`. `start()` чтит kill-switch
(no-op при `enabled=False`), как `DiskWatchdog.start()`.
## Альтернативы
- **Вариант B — host `daemon.json builder.gc.defaultKeepStorage`** — **отвергнуто:** применение
конфигурации требует **рестарта docker daemon** на mva154, что останавливает **ВСЕ** контейнеры
хоста (прод `orchestrator` + всё остальное) → катастрофический self-hosting blast radius (BRD
C-1/R-3). Дополнительно: политика BuildKit GC — по **объёму** (`defaultKeepStorage`), а не по
возрасту (BR-2 хочет `until=24h`); состояние не наблюдаемо в `GET /queue` (только хостовый
`docker system df`); конфигурация — off-git host-артефакт.
- **Вариант C — host-cron** `docker builder prune -af --filter until=24h` — **отвергнуто как
основное** (сохранено как ручной fallback в `07`): off-git невидимая инфра (следующий
оператор/агент её не видит), **нет** наблюдаемости в `GET /queue`, **нет** kill-switch из
конфига, **не** покрывается `tests/` — ломает принцип self-contained/reproducible/observable,
которому следуют остальные демоны.
- **A через raw-HTTP по docker.sock (без ssh)** — **отвергнуто:** требует ручного HTTP-over-UDS
клиента (chunked-ответы, версионирование API) — лишний код против уже существующего,
проверенного ssh-канала `image_freshness`/`self_deploy`.
- **A через `docker` CLI, вкомпилированный в образ** — **отвергнуто:** раздувает образ и требует
пересборки/рестарта прода ради уборки; ssh-канал на хост уже есть и не трогает образ.
## Последствия
- **+** Корень инцидента 07.06 (build cache → 100% диска) устраняется **автоматически**, без
ручного вмешательства; тёплый кэш ≤24ч сохранён → штатные пересборки не «холодные».
- **+** Знакомый паттерн фонового демона (калька `disk_watchdog`) → низкий риск, наблюдаемость в
`GET /queue`, обратимость одним флагом, юнит-тестируемость, golden-source-в-git.
- **+** Без новых внешних зависимостей и без рестарта docker daemon/прода (принцип «всё в Docker
на одном сервере, минимум зависимостей»); ssh-канал переиспользован.
- **** Зависимость от ssh-доступа на хост (как у `image_freshness`/`self_deploy`); при
отсутствии — тик no-op (наблюдаемо в `status().last_error`), фича просто не работает, но ничего
не ломает. Митигейшн: документированный host-prerequisite + fallback-cron (`07`).
- **** In-memory учёт результата (без миграции) — допустим для эксплуатационного демона (не SLA).
- **Откат:** `ORCH_BUILD_CACHE_PRUNE_ENABLED=false` → демон не стартует, поведение 1:1 как до
задачи; миграций БД нет, удалять нечего.
## Ссылки
- BRD: `docs/work-items/ORCH-062/01-brd.md`
- TRZ: `docs/work-items/ORCH-062/02-trz.md`
- Acceptance: `docs/work-items/ORCH-062/03-acceptance-criteria.md`
- Инфра-требования: `docs/work-items/ORCH-062/07-infra-requirements.md`
- Тех-риски: `docs/work-items/ORCH-062/10-tech-risks.md`
- Сквозной ADR: `docs/architecture/adr/adr-0025-build-cache-pruner.md`
- Сверено по коду: `src/disk_watchdog.py` (каркас-образец), `src/image_freshness.py`
(`image_revision`/`_ssh_target` — ssh-канал к host docker), `src/config.py`
(`disk_monitor_*` + валидаторы, `deploy_ssh_user/host`), `src/main.py`
(`lifespan` старт/стоп демонов, `GET /queue`), `Dockerfile:11` (нет docker CLI в образе).
- Родственные компоненты: `docs/architecture/adr/adr-0024-disk-watchdog.md` (ORCH-063),
`adr-0007-reconciler.md`, `adr-0011-job-reaper-lease-reclaim.md`.
</content>
</invoke>

View File

@@ -0,0 +1,76 @@
---
work_item: ORCH-062
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 07 — Инфра-требования: ORCH-062 — авто-prune docker build cache на mva154
Work Item: **ORCH-062** · Repo: **orchestrator** · Стадия: architecture
> Решение: **Вариант A** (фоновый демон приложения, `docker builder prune` на хосте через ssh) —
> см. `06-adr/ADR-001-build-cache-pruner.md`. Этот файл фиксирует host-prerequisites выбранного
> пути и задокументированный ручной fallback (Вариант C, host-cron).
## I-1. Топология / окружения
- Без изменений топологии: **новый внутренний фоновый daemon-поток** в существующем прод-контейнере
`orchestrator` (8500), наравне с `reconciler`/`job_reaper`/`disk_watchdog`. Новых контейнеров,
портов, сетей, томов — **нет**.
- Уборка исполняется **на хосте mva154** (host docker daemon — там физически живёт build cache)
через уже существующий ssh-канал `deploy_ssh_user@deploy_ssh_host`
(по образцу `image_freshness`/`self_deploy` Phase B). В контейнере `docker` CLI **нет**
(`Dockerfile:11` — только `openssh-client git curl`), поэтому raw-вызов CLI в контейнере
невозможен — только ssh на хост.
## I-2. Переменные окружения / секреты
Новые env (дефолты безопасны; полная карта — `docs/operations/INFRA.md`; канон — `.env.example`):
| env | Дефолт | Назначение |
|-----|--------|------------|
| `ORCH_BUILD_CACHE_PRUNE_ENABLED` | `true` | kill-switch; `false` → демон не стартует, 1:1 как до задачи |
| `ORCH_BUILD_CACHE_PRUNE_INTERVAL_S` | `21600` (6ч) | период тика, сек (валидация >0, иначе → дефолт) |
| `ORCH_BUILD_CACHE_PRUNE_UNTIL` | `24h` | возраст удержания тёплого кэша (`--filter until=`); валидация `^\d+[smhdw]?$`, иначе → `24h` |
| `ORCH_BUILD_CACHE_PRUNE_ALL` | `false` | добавить `-a` (только в паре с `until`) |
| `ORCH_BUILD_CACHE_PRUNE_TIMEOUT_S` | `120` | таймаут ssh-команды, сек |
| `ORCH_BUILD_CACHE_PRUNE_NOTIFY_MIN_GB` | `0` | Telegram при освобождении ≥ N ГБ; `0` → тихо |
- Переиспользуются существующие `ORCH_DEPLOY_SSH_USER` (дефолт `slin`) / `ORCH_DEPLOY_SSH_HOST` как
ssh-таргет. **Пустой `ORCH_DEPLOY_SSH_HOST` → тик no-op** (фича не активна вне self-host).
- Секретов не добавляет. ssh-ключи уже проброшены ro (`~/.orchestrator-ssh → /home/slin/.ssh`,
ORCH-040); в git не коммитятся.
## I-3. Деплой / рестарт
- **Рестарт docker daemon — НЕ требуется** (ключевое отличие от отклонённого Варианта B). Уборка —
это `docker builder prune` (BuildKit GC), без правки `daemon.json`.
- **Рестарт прод-контейнера ради уборки — категорически НЕ требуется и запрещён** (self-hosting
групповой риск). Сам код демона активируется штатным конвейерным деплоем оркестратора
(staging 8501 → Confirm Deploy → prod), не отдельной операцией.
- Host-prerequisites выбранного пути A (процедура Owner, в git не коммитятся — как P-1…P-4 в
INFRA.md):
1. На хосте установлен `docker` и пользователь `slin` — в группе `docker` (уже выполняется:
деплой-хук запускает `docker compose` на хосте).
2. ssh с контейнера на хост под `slin` работает без пароля (уже настроено для Phase B деплоя).
Иные действия Owner не требуются — фича включена дефолтом и активна при наличии ssh-таргета.
### Ручной fallback (Вариант C, host-cron) — если ssh-канал недоступен
Если по какой-то причине ssh-канал на хост закрыт, эквивалентную защиту можно временно обеспечить
host-cron на mva154 (процедура Owner, off-git):
```cron
# каждые 6 часов: удалить build cache старше 24ч (только build cache, не образы/контейнеры)
0 */6 * * * docker builder prune -f --filter until=24h >> /var/log/orch-build-cache-prune.log 2>&1
```
Это fallback, не основной путь: cron не наблюдаем в `GET /queue` и не имеет config-kill-switch.
## I-4. CI/CD
- `.gitea/workflows/`**без изменений**. Добавляется юнит-тест `tests/test_build_cache_pruner.py`
(путь A), исполняется существующим `pytest tests/ -q`; docker/ssh в тестах мокируются (как
`image_freshness`-тесты не требуют реального docker).
</content>

View File

@@ -0,0 +1,43 @@
---
work_item: ORCH-062
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 10 — Технические риски: ORCH-062 — авто-prune docker build cache на mva154
Work Item: **ORCH-062** · Repo: **orchestrator** · Стадия: architecture
> Информационный (гейтом не парсится). Детализация R-1…R-4 из BRD + риски, выявленные при
> архитектурном решении (Вариант A, ssh-на-хост). Решение — `06-adr/ADR-001-build-cache-pruner.md`.
## Реестр рисков
| ID | Риск | Вер. | Влия. | Митигейшн |
|----|------|------|-------|-----------|
| TR-1 | **Слишком агрессивная политика** (`-a` без возрастного фильтра / малый `until`) убивает тёплый кэш → каждая сборка «холодная», медленная (BRD R-1) | Низ. | Сред. | Дефолт `docker builder prune -f --filter until=24h` **без** `-a`; `-a` — только опционально и всегда в паре с `until` (D2/AC-2). Параметр удержания конфигурируем |
| TR-2 | **Гонка уборки с активной сборкой** staging/прод-образа (`check_staging_image_fresh`, build-once retag) — теоретическое удаление кэша во время сборки (BRD R-2) | Низ. | Низ. | `docker builder prune --filter until=24h` по контракту BuildKit не трогает кэш, занятый/использованный активной сборкой (свежий < 24ч); период тика — порядка часов (6ч), не конкурирует за ресурсы (NFR-4) |
| TR-3 | **Контейнер не имеет docker CLI** (`Dockerfile:11`) → наивный `subprocess.run(["docker",…])` упал бы FileNotFoundError | — (закрыт решением) | — | Решено архитектурно: уборка идёт через **ssh на хост** (`image_freshness`-канал), не CLI-в-контейнере. Не риск реализации, а зафиксированный инвариант D3 |
| TR-4 | **ssh-канал недоступен** (нет `deploy_ssh_host` / закрыт ssh) → уборка не выполняется | Низ. | Сред. | Тик no-op + причина в `status().last_error` (наблюдаемо в `GET /queue`); never-raise — конвейер не страдает; документированный host-cron fallback (`07` I-3); disk-watchdog продолжает сигналить о росте диска |
| TR-5 | **Расширение скоупа** на `docker image prune` / `system prune` → удаление образов запущенных контейнеров (BRD R-4) | Низ. | Выс. | Жёстко исключено D2/FR-3/AC-3: команда строго `docker builder prune`; reviewer проверяет отсутствие `image prune`/`system prune`/рестарта в коде и процедуре |
| TR-6 | **Рестарт прода/докера ради уборки** (групповой self-hosting риск) | — (исключён) | Выс. | Вариант B (рестарт docker daemon) отвергнут именно по этой причине; Вариант A не рестартит ни прод, ни docker daemon (D3/I-3) |
| TR-7 | **Сбой docker-команды/таймаут** на хосте всплывает в фоновый поток → останавливает цикл/конвейер | Низ. | Сред. | never-raise per-команда и per-tick (D6/FR-6/AC-4), как `disk_watchdog._run`/`tick`; ненулевой rc/таймаут/`OSError` логируются и проглатываются |
| TR-8 | **Telegram-шум** при каждом тике | Низ. | Низ. | Нотификация только при освобождении ≥ `notify_min_gb`; дефолт `0` → тихо (D4/D5) |
## Сводный вывод
Доминирующий класс — **операционная безопасность self-hosting** (уборка на проде, обслуживающем
все проекты). Все высоко-влиятельные риски (TR-5/TR-6) **структурно исключены** выбором узкой
команды `docker builder prune` и отказом от рестарта docker daemon/прода (отклонён Вариант B).
Остаточные риски — низкой вероятности и нейтрализуются never-raise + наблюдаемостью в `GET /queue`
+ обратимостью kill-switch.
**Эскалация:** вводится **новый фоновый компонент** (leaf-демон) — формально подпадает под
`arch:major-change`. Однако это калька уже принятого паттерна `disk_watchdog`/`reconciler`/
`job_reaper` **без** изменения `STAGE_TRANSITIONS`/`QG_CHECKS`/схемы БД и **без** рестарта прода,
поэтому остаточный риск для прод-конвейера — **низкий**; возврат в анализ не требуется (ТЗ
реализуемо без нарушения принципов архитектуры).
</content>

View File

@@ -0,0 +1,95 @@
---
verdict: APPROVED
work_item: ORCH-062
stage: review
author_agent: reviewer
status: approved
created_at: 2026-06-09
model_used: claude-opus-4-8
type: review
work_item_id: ORCH-062
version: 1
---
# Review ORCH-062 — INFRA: авто-prune docker build cache на mva154
## Summary
PR вводит фоновый daemon-поток `src/build_cache_pruner.py` («вторая половина» disk-watchdog
ORCH-063): периодически выполняет **строго `docker builder prune -f --filter until=<until>`** на
хосте через ssh, устраняя корень инцидента 07.06.2026 (build cache → 100% диска) автоматически.
Проверены все 4 оси. Реализация **точно** соответствует ADR-001 (D1…D7) и закрывает все 9 критериев
приёмки. Полный регресс зелёный (`pytest tests/ -q`**1319 passed**); новый модуль покрыт
`tests/test_build_cache_pruner.py` (TC-01…TC-12, 23 кейса, docker замокан — ни один тест не трогает
реальный docker/диск). Реестр QG, переходы стадий и схема БД **не тронуты** (проверено `git diff`:
`src/stages.py`/`src/stage_engine.py`/`src/qg/`/`src/db.py` без изменений). Документация (golden
source) обновлена в том же PR. **Findings P0/P1 отсутствуют.**
### Соответствие ТЗ / Acceptance Criteria
- **AC-1** (авто-уборка без оператора): ✅ тик каждые `interval_s` (дефолт 6ч), pure-функция
`decide_prune`.
- **AC-2** (тёплый кэш удерживается): ✅ дефолт `until=24h`; `-a` добавляется **только в паре** с
`until` (`build_prune_command`, TC-03).
- **AC-3** (self-hosting безопасность): ✅ строго `docker builder prune`; в коде **нет**
`image prune`/`system prune`/удаления контейнеров/рестарта прода (TC-03 ассертит явно).
- **AC-4** (never-raise): ✅ per-команда + per-tick `try/except` (TC-04/05/06).
- **AC-5** (kill-switch): ✅ гард в `main.lifespan` + `start()` (TC-07).
- **AC-6** (конфигурируемость + валидаторы): ✅ `_bcp_positive_int`/`_bcp_until`/`_bcp_notify_min_gb`
деградируют на безопасный дефолт + warning, старт не падает (TC-08).
- **AC-7** (наблюдаемость): ✅ read-only блок `build_cache_prune` в `GET /queue`, `status()`
never-raise (TC-09/TC-12).
- **AC-8** (изоляция от QG/БД): ✅ leaf-модуль (TC-10 AST-проверка импортов); `STAGE_TRANSITIONS`/
`QG_CHECKS`/схема БД не тронуты (проверено diff).
- **AC-9** (документация + регресс): ✅ см. раздел «Документация»; регресс зелёный.
### Соответствие ADR
- **ADR-001 D1** (leaf-демон, не host-инфра B/C): ✅ модуль leaf, каркас `disk_watchdog`.
- **D2** (команда + удержание): ✅ строго BuildKit GC, `-a` только с `until`.
- **D3** (ssh-канал, no-op без таргета): ✅ `_ssh_target()`, пустой `deploy_ssh_host` → no-op
(TC-05).
- **D4** (конфиг/дефолты/валидаторы): ✅ 6 флагов и дефолты (`enabled=True`, `interval=21600`,
`until=24h`, `all=False`, `timeout=120`, `notify_min_gb=0`) совпадают с таблицей ADR.
- **D5** (наблюдаемость): ✅ форма `status()` соответствует.
- **D6** (инварианты/never-raise/без миграции): ✅ in-memory state, два уровня never-raise.
- **D7** (lifecycle): ✅ старт последним после `disk_watchdog.start()`, стоп первым в reverse.
- **Трассировка маркеров:** правки в `main.py`/`config.py`/`INFRA.md` аддитивны рядом с маркерами
ORCH-063; инвариант disk-watchdog (порядок старт/стоп демонов) сохранён — стоп идёт строго в
reverse (`build_cache_pruner.stop()``disk_watchdog.stop()`). Нарушений нет.
### Качество кода
- Docstrings на всех публичных функциях/методах; модульный docstring фиксирует инварианты.
- `shlex.quote` на `until` (защита remote-shell) поверх regex-валидации `^\d+[smhdw]?$`
двойная защита от инъекции.
- `decide_prune` вынесена в чистую функцию → детерминированно тестируема без потока/таймера.
- Тесты содержательные: проверяют поведение (no-op без таргета, запись `last_error`, парсинг
reclaimed, изоляция от QG через AST), а не тривиальные ассерты.
## Findings
### P0 — Blocker
- Нет.
### P1 — Must fix
- Нет.
### P2 — Should fix
- Нет (опционально, не блокирует): `decide_prune(interval_s)` и `_stop.wait(interval_s)` дважды
гейтят один интервал — это осознанный belt-and-braces (помечено в docstring), регрессом не
является.
## Документация
Документация обновлена в том же PR — ось пройдена (golden source = код):
- **`docs/operations/INFRA.md`**: добавлена секция «Build-cache-pruner (ORCH-062)» + 6 строк в
карте env; **снята** формулировка ORCH-063 «освобождение build cache — ручная операция» в части
build cache (требование AC-9 / TRZ §7 выполнено буквально).
- **`docs/architecture/README.md`**: новый компонент в ряду фоновых демонов.
- **`docs/architecture/adr/README.md`**: индекс adr-0025 (+ комплементарность adr-0024).
- **`docs/architecture/adr/adr-0025-build-cache-pruner.md`**: сквозной ADR.
- **`.env.example`**: 6 новых ключей `ORCH_BUILD_CACHE_PRUNE_*` (канон).
- **`CHANGELOG.md`**: запись в `## [Unreleased]`.
- **Артефакты задачи**: `06-adr/ADR-001`, `07-infra-requirements.md`, `10-tech-risks.md` заполнены.
Изменений в `README.md` «Известные ограничения» (ORCH-079) данный PR не закрывает — обзорная витрина
обновления не требует.

View File

@@ -0,0 +1,86 @@
---
result: PASS # PASS | FAIL — машинный вердикт, UPPERCASE
work_item: ORCH-062
stage: testing
author_agent: tester
status: pass
created_at: 2026-06-09
model_used: claude-opus-4-8
type: test-report
work_item_id: ORCH-062
---
# Test Report — ORCH-062 — INFRA: авто-prune docker build cache на mva154
## Окружение
- Python: 3.12.13
- pytest: 8.3.3
- Worktree: `/repos/_wt/orchestrator/feature_ORCH-062-infra-prune-docker-build-cache/`
- Ветка: `feature/ORCH-062-infra-prune-docker-build-cache`
- Дата: 2026-06-09
- Команда: `cd <worktree> && python -m pytest tests/ -v --tb=short`
## Предусловия
- Review-вердикт ORCH-062 (`12-review.md`): **APPROVED** (P0/P1 отсутствуют). ✅
- Тесты прогнаны строго из worktree ветки задачи (не из общего `/repos/orchestrator`). ✅
## Smoke API (read-only)
| Проверка | Результат |
|----------|-----------|
| `GET /health` | ✅ `{"status":"ok","service":"orchestrator"}` |
| `GET /status` | ✅ отвечает (ORCH-062 = id 75, stage `testing`) |
| `GET /queue` → блок `serial_gate` (ORCH-088) | ✅ присутствует |
| `GET /queue` → блок `auto_labels` (ORCH-089) | ✅ присутствует |
| `GET /queue` → блок `build_cache_prune` (ORCH-062) | ⚠️ отсутствует в проде — **ожидаемо** (см. примечание) |
> **Примечание (не регресс):** прод-контейнер на 8500 работает на текущем (старом) коде —
> фича ORCH-062 ещё НЕ задеплоена (это стадия `testing`, деплой впереди). Блок
> `build_cache_prune` в `GET /queue` проверяется на коде ветки интеграционным TC-12
> (`test_tc12_queue_has_build_cache_block` / `test_tc12_queue_disabled_block`) через
> FastAPI test client — оба PASS. Смок-требование о наличии `serial_gate` (и `auto_labels`)
> в полезной нагрузке `/queue` выполнено. Регресса смока нет.
## Результаты по TC (04-test-plan.yaml ↔ 03-acceptance-criteria.md)
| TC ID | Тип | Описание | AC | Pytest-кейс(ы) | Результат |
|-------|-----|----------|----|----------------|-----------|
| TC-01 | unit | decide=PRUNE при истёкшем периоде | AC-1 | `test_tc01_decide_prune_when_interval_elapsed` | PASS |
| TC-02 | unit | decide=SKIP внутри периода (анти-частота) | AC-1 | `test_tc02_decide_skip_within_interval` | PASS |
| TC-03 | unit | команда несёт `until=<retention>`, только builder, без image/system prune; `-a` только с `until` | AC-2/AC-3 | `test_tc03_command_carries_until_and_is_builder_only`, `test_tc03_all_flag_only_paired_with_until` | PASS |
| TC-04 | unit | never-raise: исключение / ненулевой rc → тик не падает, ошибка залогирована | AC-4 | `test_tc04_subprocess_exception_does_not_raise`, `test_tc04_nonzero_rc_recorded` | PASS |
| TC-05 | unit | never-raise: недоступность docker.sock / пустой ssh-таргет → тик no-op, цикл жив | AC-4 | `test_tc05_socket_unavailable_skips_tick`, `test_tc05_no_ssh_target_is_noop` | PASS |
| TC-06 | unit | never-raise: таймаут команды проглатывается | AC-4 | `test_tc06_timeout_swallowed` | PASS |
| TC-07 | unit | kill-switch: `*_enabled=False` → start() no-op, поток не стартует | AC-5 | `test_tc07_killswitch_does_not_start`, `test_tc07_killswitch_status_block` | PASS |
| TC-08 | unit | config: невалидный interval/until/notify_min_gb → warning + безопасный дефолт, старт не падает | AC-6 | `test_tc08_invalid_interval_falls_back_to_default`, `test_tc08_invalid_until_falls_back_to_24h`, `test_tc08_negative_notify_min_gb_falls_back_to_zero` | PASS |
| TC-09 | unit | status() never-raise + содержит enabled/interval_s/until/last_run_ts/last_reclaimed/last_error | AC-7 | `test_tc09_status_shape`, `test_tc09_status_reflects_last_prune` | PASS |
| TC-10 | unit | изоляция от QG: leaf-модуль (нет импортов stage_engine/stages/qg); STAGE_TRANSITIONS/QG_CHECKS не изменены | AC-8 | `test_tc10_module_is_leaf_no_pipeline_imports`, `test_tc10_stage_transitions_and_qg_unchanged` | PASS |
| TC-11 | integration | lifespan: при включённом флаге демон стартует и корректно останавливается | AC-1 | `test_tc11_lifespan_starts_and_stops` | PASS |
| TC-12 | integration | `GET /queue` несёт read-only блок авто-prune; при выключенном флаге `enabled=false` | AC-5/AC-7 | `test_tc12_queue_has_build_cache_block`, `test_tc12_queue_disabled_block` | PASS |
Доп. кейсы модуля (вне нумерации TC, усиливают покрытие): `test_parse_reclaimed_variants`,
`test_notify_on_significant_reclaim` — PASS.
**Покрытие:** все 12 TC из `04-test-plan.yaml` выполнены и сопоставлены с критериями приёмки
AC-1…AC-8. AC-9 (документация + зелёный регресс) подтверждён зелёным `pytest tests/` и
review-осью документации (`12-review.md`).
## Вывод pytest
Модуль ORCH-062 (`tests/test_build_cache_pruner.py`):
```
collected 23 items
... (TC-01 … TC-12, 23 кейса) ...
======================== 23 passed, 1 warning in 0.38s =========================
```
Полный регресс (`pytest tests/ -v --tb=short`):
```
======================= 1319 passed, 1 warning in 34.74s =======================
```
(1 warning — известная Pydantic V2 deprecation в `src/config.py:8`, не связана с задачей.)
## Итог
PASS — все 1319 тестов зелёные, новый модуль покрыт TC-01…TC-12 (23 кейса, docker замокан —
ни один тест не трогает реальный docker/диск), smoke read-only OK (`serial_gate` и `auto_labels`
присутствуют в `/queue`). Каждый TC из плана сопоставлен с AC. Задача готова к переходу на
`deploy-staging`.

View File

@@ -0,0 +1,41 @@
---
staging_status: SUCCESS
work_item: ORCH-062
stage: deploy-staging
author_agent: deployer
status: success
created_at: 2026-06-09
model_used: claude-opus-4-8
timestamp: 2026-06-09T16:53:42Z
base_url: http://localhost:8501
---
# Staging Gate Log
Staging test suite completed against the live staging environment (`orchestrator-staging`, port 8501).
- **Mode:** stub
- **Result:** 8/10 checks PASS — **exit code 0**
- **REAL failed:** none
- **Verdict:** SUCCESS (infra-waived)
The canonical invocation was run inside the `orchestrator-staging` container
(`docker exec … python3 /repos/orchestrator/scripts/staging_check.py --base-url http://localhost:8501 --mode stub`),
so B6 registry-isolation read the running instance's own `.env.staging` process-env (sandbox present, prod ET/ORCH absent).
## Block results
- **[A] SMOKE** — A1 `/health` 200, A2 `/queue` 200, A3 `ORCH_STAGING=true` — all PASS.
- **[B] ACCESS** — B4 Plane sandbox (R), B5 Gitea sandbox (R+push=true), B6 registry isolation — all PASS.
- **[C] E2E (stub)** — C7 create issue (PASS), C8 trigger pipeline (PASS), C9a/C9b waived (see below).
## INFRA-WAIVED (ORCH-061, observability)
```
INFRA-WAIVED: C9a Branch appears in orchestrator-sandbox, C9b Analyst job enqueued in staging queue (known sandbox-infra; real checks green)
VERDICT: SUCCESS (exit 0) — SUCCESS (infra-waived): ['C9a Branch appears in orchestrator-sandbox', 'C9b Analyst job enqueued in staging queue'] are known sandbox-infra checks; all real checks green
```
C9a/C9b are the two sandbox-infra-only checks (sandbox branch / analyst-job) that depend on SANDBOX bot accounts being project members — not on the pipeline. They are tolerated per ORCH-061 because every REAL check is green; the suite still exits 0. Per the verdict contract, the exit-code → `staging_status` mapping is unchanged: exit 0 → SUCCESS.
Advance to `deploy`.

View File

@@ -0,0 +1,7 @@
# Business Request: INFRA: мониторинг диска mva154 + алерт при >85%
Work Item ID: ORCH-063
## Description
TBD

View File

@@ -0,0 +1,147 @@
---
work_item: ORCH-063
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 01 — BRD (бизнес-требования): ORCH-063 — INFRA: мониторинг диска mva154 + алерт при >85%
Work Item: **ORCH-063** · Repo: **orchestrator** (self-hosting) · Стадия: analysis
Заказчик: Слава (Владелец/оператор)
Тип: INFRA · Приоритет: **P1**
---
## 1. Бизнес-контекст и проблема
### 1.1. Инцидент (установленный факт)
**07.06.2026** диск на хосте **mva154** (`slin@82.22.50.71`) незаметно дорос до **100%** и положил
**весь конвейер**: CI стал красным, очередь Gitea застряла. Сбой произошёл **тихо** — не было
ни одного предупреждающего сигнала до полного исчерпания диска. Разбор был ручным и пост-фактум.
### 1.2. Корневая боль
У оркестратора **нет проактивного сигнала о заполнении диска**. Диск хоста заполняется накопительно
и предсказуемо (git-worktree в `/repos/_wt/...`, образы Docker, БД `./data/orchestrator.db`, логи),
но оператор узнаёт о проблеме только когда уже **поздно** — конвейер всех проектов (self-hosting:
`orchestrator` + `enduro-trails` из одного инстанса) уже встал.
### 1.3. Self-hosting контекст (групповой риск)
Прод-инстанс `orchestrator` (8500) — ОДИН на ВСЕ прод-проекты, с общей БД и общей очередью
(`docs/operations/INFRA.md`). Исчерпание диска роняет конвейер **всех** проектов сразу. Ранний
сигнал (heartbeat-watchdog) — дешёвая страховка от дорогого группового простоя.
### 1.4. Что нужно (формулировка Владельца)
**Heartbeat-watchdog:** периодически измерять заполнение диска (`df`); при превышении порога
**85%** — слать алерт Славе (Telegram). Сигнал должен прийти **заранее**, пока есть запас места
на ручную/будущую авто-очистку.
---
## 2. Объём (scope)
### 2.1. В объёме
- **Фоновый watchdog-демон** (по образцу `reconciler`/`job_reaper`, ORCH-053/065): периодически
семплит заполнение хост-ФС, на которой живут рабочие данные оркестратора (репозитории, БД,
Docker), и при пересечении порога шлёт Telegram-алерт оператору.
- **Конфигурируемый порог** (дефолт **85%**), период опроса, kill-switch.
- **Анти-спам:** алерт по факту пересечения порога + ограниченное по частоте повторение, пока
заполнение выше порога (а не на каждом тике); сообщение о возврате «ниже порога» (recovery).
- **Наблюдаемость** последнего замера/состояния алерта в `GET /queue` (read-only).
- **never-raise:** любой сбой watchdog не влияет на конвейер.
### 2.2. Вне объёма (явно, не делать)
- **Авто-очистка / garbage collection диска** (прунинг старых worktree, образов, логов, vacuum БД) —
отдельная задача; ORCH-063 только **сигнализирует**, не **лечит**.
- Интеграция с внешними системами мониторинга (Prometheus/Grafana/Zabbix), метрики/экспортёры.
- Алерт-каналы кроме существующего Telegram (`send_telegram`).
- Мониторинг ресурсов кроме диска (CPU/RAM/inode — возможное расширение, не сейчас; inode —
кандидат на follow-up, см. §8 R-4).
- Мониторинг нескольких хостов / удалённый сбор (только локальный хост текущего инстанса).
- Изменение `STAGE_TRANSITIONS`, реестра `QG_CHECKS`, стадий конвейера, схемы БД-контрактов.
---
## 3. Заинтересованные стороны
- **Владелец/оператор (Слава):** получает алерт, выполняет ручную очистку/реакцию; принимает
результат.
- **Self-hosting прод (`orchestrator`):** обслуживает enduro-trails из того же инстанса — watchdog
не должен мешать/ронять конвейер (изоляция через never-raise).
- **Все прод-проекты:** косвенные бенефициары — ранний сигнал предотвращает групповой простой.
---
## 4. Бизнес-требования (BR)
| ID | Требование | Связь |
|----|------------|-------|
| BR-1 | Оркестратор **периодически** (heartbeat) измеряет заполнение хост-файловой системы, на которой растут его рабочие данные (репозитории `/repos`, БД `/app/data`, Docker). | FR-1, AC-1 |
| BR-2 | При достижении/превышении **порога заполнения** (дефолт **85%**) оператор получает **Telegram-алерт** с действенными деталями: точка монтирования/путь, занято %, свободно (ГБ/%). | FR-2, FR-3, AC-2 |
| BR-3 | **Анти-спам:** алерт шлётся при **пересечении** порога (переход «ниже→на/выше»), а далее повторяется не чаще, чем раз в настраиваемый период (`re-alert`), пока заполнение остаётся выше порога — конвейер/чат не заваливается одинаковыми сообщениями на каждом тике. | FR-4, AC-3 |
| BR-4 | При возврате заполнения **ниже порога** состояние алерта сбрасывается и отправляется однократное сообщение восстановления «диск ниже порога» (recovery), чтобы оператор знал, что инцидент снят. | FR-4, AC-4 |
| BR-5 | Порог, период опроса, период повторного алерта и набор отслеживаемых путей **конфигурируемы**; есть **kill-switch** для полного отключения watchdog (нулевая регрессия). | FR-5, AC-5 |
| BR-6 | **never-raise:** любая ошибка измерения/отправки алерта/самого демона **не роняет** и не блокирует конвейер (фоновый поток, изолированный как `reconciler`/`reaper`). | NFR-1, AC-6 |
| BR-7 | Текущее состояние watchdog (последний замер по путям, состояние алерта, время последнего алерта, порог/период) наблюдаемо в `GET /queue` (read-only). | FR-6, AC-7 |
| BR-8 | Watchdog стартует/останавливается вместе с приложением (в `main.lifespan`) и не требует ручного запуска. | FR-1, AC-8 |
---
## 5. Нефункциональные требования (NFR)
| ID | Требование |
|----|------------|
| NFR-1 | **never-raise / изоляция:** watchdog — отдельный daemon-поток (паттерн `reconciler`/`job_reaper`); исключение в тике логируется и не прерывает ни поток, ни конвейер. |
| NFR-2 | **Дешевизна:** замер диска — лёгкая операция (предпочтительно stdlib `shutil.disk_usage`, без тяжёлого порождения процессов на каждом тике); период опроса по умолчанию — порядка минут (не секунд), чтобы не создавать нагрузки. |
| NFR-3 | **Корректность источника замера (self-hosting):** измеряется заполнение **хост-ФС**, а не overlay-ФС контейнера. Контейнер видит хост-разделы через bind-mount'ы (`/repos`, `/app/data`); замер обязан отражать раздел(ы), которые реально заполняются на хосте (см. §6). |
| NFR-4 | **Нулевая регрессия:** при выключенном kill-switch поведение приложения идентично текущему; enduro-trails и конвейер не затрагиваются. |
| NFR-5 | **Инварианты неизменны:** `STAGE_TRANSITIONS`, реестр `QG_CHECKS`, `check_*`, существующие таблицы-контракты БД — не меняются. Допустимо не вводить новую миграцию (состояние watchdog — best-effort, может жить в памяти). |
| NFR-6 | **Self-hosting безопасность:** watchdog только **читает** заполнение и **шлёт** уведомление — не выполняет действий над диском/контейнером, не рестартит прод. |
---
## 6. Допущения и ограничения
- **Видимость хост-диска из контейнера.** Оркестратор бежит в контейнере с `network_mode: host` и
bind-mount'ами `/home/slin/repos → /repos`, `./data → /app/data`, `/var/run/docker.sock`
(`docs/operations/INFRA.md`). Замер `shutil.disk_usage()`/`df` по **смонтированному пути**
(`/repos`, `/app/data`) отражает заполнение **хост-раздела**, который этот путь подмонтировал —
именно той ФС, что переполнилась 07.06. Замер по `/` (overlay контейнера) **нерепрезентативен** и
не должен использоваться как источник истины.
- **Один заполняющийся раздел.** На mva154, вероятно, рабочие данные (`/home/slin/repos`,
`./data`, Docker) лежат на одном host-разделе; набор отслеживаемых путей по умолчанию должен
покрывать его и при совпадении физического устройства не дублировать алерт (дедуп по устройству —
желательное, не блокирующее требование; решение — за архитектором).
- **Best-effort алертинг.** Доставка Telegram не гарантирована (та же `send_telegram`, never-raise);
watchdog — ранний сигнал, не SLA-гарантия. Состояние анти-спама может быть in-memory (после
рестарта допустим повторный алерт, если всё ещё выше порога — это безопасно).
- **Порог 85%** — зафиксирован Владельцем как дефолт; конфигурируем (BR-5) на случай тюнинга.
- **Только сигнал, не лечение.** Авто-освобождение места — вне объёма (§2.2).
---
## 7. Критерии успеха (резюме; детали — 03-acceptance-criteria.md)
- AC-1 watchdog периодически измеряет заполнение хост-ФС и стартует с приложением.
- AC-2 при ≥85% оператор получает Telegram-алерт с действенными деталями.
- AC-3 анти-спам: один алерт на пересечение + ограниченное повторение, не на каждом тике.
- AC-4 возврат ниже порога → сброс состояния + recovery-сообщение.
- AC-5 порог/период/пути/kill-switch конфигурируемы; выключение → нулевая регрессия.
- AC-6 любой сбой watchdog не роняет конвейер (never-raise).
- AC-7 состояние watchdog видно в `GET /queue`.
---
## 8. Риски (детали — 10-tech-risks.md, заполняет архитектор)
- **R-1** — замер по неверной ФС (overlay `/` контейнера вместо хост-раздела) → ложно-низкое
заполнение → watchdog «молчит» при реально полном хосте (повтор инцидента 07.06). Митигировать:
замер по bind-mount-путям хост-разделов (NFR-3).
- **R-2** — спам-алерты на каждом тике при длительном превышении порога → шум, оператор глохнет к
сигналу. Митигировать: анти-спам/cooldown (BR-3).
- **R-3** — порог 85% слишком близок к 100% при быстром росте (один большой build/worktree) →
оператор не успевает среагировать. Зафиксирован как дефолт Владельцем; конфигурируемость (BR-5)
оставляет рычаг. Возможный follow-up — второй «критический» порог (напр. 95%) с более громким
алертом (кандидат, не в объёме).
- **R-4** — исчерпание **inode** (а не байтов) тоже валит ФС, но не ловится замером по %-байтам.
Кандидат на расширение (вне объёма ORCH-063).
- **R-5** — `df`/субпроцесс на каждом тике — лишняя нагрузка; предпочесть stdlib (NFR-2).

View File

@@ -0,0 +1,186 @@
---
work_item: ORCH-063
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 02 — ТЗ (TRZ): ORCH-063 — INFRA: мониторинг диска mva154 + алерт при >85%
Work Item: **ORCH-063** · Repo: **orchestrator** · Стадия: analysis
> ТЗ описывает **что** и **где** должно измениться (модули/контракты/артефакты), выведенное из BRD и
> фактического кода. **Как** (точная структура демона, способ замера, хранение состояния анти-спама,
> точки врезки) — решает архитектор в `06-adr/`. ТЗ фиксирует требования и границы.
---
## 1. Сводка изменения
Ввести **disk-watchdog** — фоновый daemon-поток (по образцу `reconciler`/`job_reaper`), который
периодически (heartbeat) измеряет заполнение **хост-файловой системы** через смонтированные в
контейнер bind-пути и при пересечении настраиваемого порога (дефолт **85%**) шлёт **Telegram-алерт**
оператору. Анти-спам (алерт на пересечение + ограниченное повторение + recovery при возврате ниже
порога), наблюдаемость в `GET /queue`, kill-switch, never-raise. **Машина стадий, реестр QG и схема
БД-контрактов не меняются; новой миграции не требуется.**
---
## 2. Задействованные модули / пути
| Путь | Действие |
|------|----------|
| `src/disk_watchdog.py` *(новый leaf-модуль; имя — на усмотрение архитектора)* | **создать** — чистая логика замера + решение об алерте (pure, тестируемо) + daemon-обёртка (`threading.Thread(daemon=True)` + `threading.Event`, `start`/`stop`/`status`), never-raise. Образец: `src/reconciler.py`, `src/job_reaper.py`. |
| `src/config.py` | **изменить** — добавить флаги фичи (см. §8). |
| `src/main.py` | **изменить**`start()`/`stop()` watchdog в `lifespan` (после `reaper.start()` / в reverse-порядке на shutdown); добавить read-only блок `disk_monitor` в `GET /queue`. |
| `src/notifications.py` | **изменить (опц.)** — переиспользовать `send_telegram(text)` (notifying) напрямую из watchdog **или** добавить тонкий helper `notify_disk_alert(...)`/`notify_disk_recovery(...)` (never-raise). Выбор — архитектор. |
| `.env.example` | **изменить** — задокументировать новые `ORCH_DISK_*` переменные (дескрипторы, без значений-секретов). |
> Чистую логику (замер по путям, дедуп по устройству, решение «алертить / повторить / recovery» как
> функция от текущего %, порога и предыдущего состояния) держать в **leaf-модуле**, never-raise, по
> образцу `src/task_deps.py` / `src/post_deploy.py` — для юнит-тестируемости без фонового потока.
---
## 3. Функциональные требования
### FR-1 — Heartbeat-демон (BR-1, BR-8)
- Фоновый daemon-поток измеряет заполнение диска каждые `disk_monitor_interval_s` секунд.
- Стартует/останавливается в `main.lifespan` (паттерн `reconciler.start()`/`reaper.start()` и reverse
на shutdown). Период — `threading.Event().wait(interval)` (чистый stop, как `reconciler._run`).
- Контракт демона: `start()`, `stop(timeout)`, `status() -> dict` (для `/queue`).
### FR-2 — Замер заполнения хост-ФС (BR-1, NFR-3)
- Для каждого пути из `disk_monitor_paths` измерить заполнение (`used/total`, %), свободно (байты/%).
- **Источник — смонтированные хост-пути**, а не overlay `/` контейнера (NFR-3): дефолтный набор
путей должен покрывать раздел(ы), на которых растут рабочие данные оркестратора — `/repos`
(host `/home/slin/repos`) и `/app/data` (host `./data`). Способ замера — предпочтительно stdlib
`shutil.disk_usage(path)` (без субпроцесса `df` на каждом тике, NFR-2); финальный выбор — архитектор.
- При совпадении физического устройства у нескольких путей — желательно не дублировать алерт (дедуп
по устройству `st_dev`/mount); требование «желательно», не блокирующее.
- Недоступный/несуществующий путь → пропуск этого пути с лог-warning, без падения тика.
### FR-3 — Алерт при превышении порога (BR-2)
- Если заполнение пути **`disk_monitor_threshold_pct`** (дефолт `85`) — сформировать и отправить
Telegram-алерт через `send_telegram` (notifying, **не** silent — это alert, как `notify_error`).
- **Содержимое алерта (действенное):** идентификатор хоста/пути (точка монтирования), занято %,
свободно (ГБ и/или %), порог. Текст — на русском, по стилю существующих `notify_*`-алертов.
### FR-4 — Анти-спам, повтор и recovery (BR-3, BR-4)
- Решение об отправке — функция от `(current_pct, threshold, previous_state, now)`:
- **переход «ниже→на/выше порога»** → отправить алерт (первое пересечение);
- **остаётся выше порога** → повторно слать **не чаще**, чем раз в `disk_monitor_realert_s`
(cooldown), а не на каждом тике;
- **переход «выше→ниже порога»** → сбросить состояние алерта и отправить однократное
**recovery-сообщение** «диск ниже порога» (notifying).
- Состояние анти-спама может быть **in-memory** (best-effort; после рестарта допустим повторный
алерт, если всё ещё выше порога — безопасно, NFR-5). Время — через инъецируемый `now`-провайдер,
чтобы решение было тестируемо без реального таймера.
### FR-5 — Конфигурируемость и kill-switch (BR-5, NFR-4)
- Поведение управляется флагами `config.py` (см. §8). При `disk_monitor_enabled=False` watchdog
**не запускается** (демон не стартует в `lifespan`) — нулевая регрессия.
### FR-6 — Наблюдаемость (BR-7)
- `GET /queue` получает аддитивный read-only блок `disk_monitor` (по образцу блоков `reconcile`/
`reaper`/`serial_gate`): `enabled`, `threshold_pct`, `interval_s`, `paths` с последним замером
(`used_pct`, `free_bytes`/`free_gb`), `alerting` (bool на путь/глобально), `last_alert_at`.
never-raise: при ошибке — минимальный словарь с флагами.
---
## 4. Изменения API
- **Новых обязательных endpoint'ов нет.** Снимок состояния отдаётся через существующий `GET /queue`
(аддитивный блок `disk_monitor`, §3/FR-6); существующие ключи ответа не меняются.
- Опционально (на усмотрение архитектора, **не обязательно**): отдельный `GET /disk` для on-demand
замера. Если вводится — задокументировать в README. Рекомендация: ограничиться блоком в `/queue`.
---
## 5. Изменения схемы БД
**Нет.** Состояние watchdog — best-effort, держится в памяти демона (NFR-5). Новых таблиц/колонок/
миграций не вводится. `STAGE_TRANSITIONS`/`QG_CHECKS`/`tasks`/`jobs`/`agent_runs` — без изменений.
> Если архитектор решит сделать состояние last-alert durable (переживающим рестарт) — допустима
> только **аддитивная, идемпотентная** миграция (`CREATE TABLE IF NOT EXISTS`), но это **не**
> требование ТЗ (по умолчанию — in-memory).
---
## 6. Требования к новым/изменённым QG checks
**Нет.** Watchdog — фоновый эксплуатационный демон, **не** Quality Gate стадии. Реестр `QG_CHECKS` и
`check_*` не трогаются (аналогично `reconciler`/`job_reaper`, которые тоже не являются QG).
---
## 7. Совместимость / регресс
- **Аддитивно:** новый leaf-модуль + точечные врезки в `main.lifespan` и `GET /queue` + флаги config.
Существующий код не переписывается.
- **Kill-switch** `disk_monitor_enabled` (дефолт `True`): `False` → демон не стартует, `/queue`-блок
отдаёт `{"enabled": false}` — поведение приложения 1:1 как сейчас (NFR-4).
- **never-raise:** изоляция фонового потока (паттерн `reconciler`/`reaper`); сбой замера/отправки/
тика не влияет на конвейер (BR-6/NFR-1). Демон бежит в общем self-hosting-инстансе — обязан быть
безопасным для enduro-trails.
- **Обратимость:** удаление эффекта = выключение флага; миграций БД нет, откат тривиален.
- **Self-hosting:** watchdog только читает заполнение и шлёт уведомление — не трогает диск/контейнер,
не рестартит прод (NFR-6).
---
## 8. Конфигурация (`src/config.py`)
По образцу `reconcile_*` / `merge_gate_*`:
| Поле (env) | Тип / дефолт | Назначение |
|------------|--------------|------------|
| `disk_monitor_enabled` (`ORCH_DISK_MONITOR_ENABLED`) | `bool = True` | kill-switch; `False` → демон не стартует (нулевая регрессия). |
| `disk_monitor_interval_s` (`ORCH_DISK_MONITOR_INTERVAL_S`) | `int = 300` | период heartbeat-замера, сек (порядок минут, NFR-2). |
| `disk_monitor_threshold_pct` (`ORCH_DISK_MONITOR_THRESHOLD_PCT`) | `int = 85` | порог заполнения для алерта (дефолт фиксирован Владельцем). |
| `disk_monitor_realert_s` (`ORCH_DISK_MONITOR_REALERT_S`) | `int = 21600` | минимальный интервал между повторными алертами, пока выше порога (анти-спам; ~6 ч). |
| `disk_monitor_paths` (`ORCH_DISK_MONITOR_PATHS`) | `str = "/repos,/app/data"` (CSV) | отслеживаемые пути (смонтированные хост-разделы, NFR-3); пусто → дефолтный набор. |
Финальный набор/имена флагов и дефолты уточняет архитектор; диапазон/валидация значений (порог в
1..100, интервалы > 0) — defensive, невалидное → дефолт + лог-warning (паттерн `reconcile_grace_*`).
---
## 9. Артефакты pipeline (создать/обновить в ТОМ ЖЕ PR)
Документация — golden source (CLAUDE.md §2). По итогам разработки обновить:
- `docs/work-items/ORCH-063/06-adr/ADR-001-disk-watchdog.md` — решение (способ замера хост-ФС,
набор путей/дедуп, хранение состояния анти-спама, точки врезки, дефолты порога/периода).
- `docs/architecture/README.md` — новый компонент «Disk-watchdog (ORCH-063)» в списке компонентов +
описание блока `disk_monitor` в `GET /queue`.
- `docs/operations/INFRA.md` — раздел/строки про disk-watchdog: что мониторится, порог, как
отключить (`ORCH_DISK_MONITOR_ENABLED`), что делать при алерте (ручная очистка — ссылка/руководство).
- `.env.example` — новые `ORCH_DISK_*` дескрипторы.
- `CHANGELOG.md` — запись `feat:`.
- При новом endpoint `/disk` (если архитектор введёт) — обновить таблицу API в README.
---
## 10. Инварианты (не нарушать)
- `STAGE_TRANSITIONS`, реестр `QG_CHECKS`, `check_*`, схема существующих таблиц БД — **без изменений**.
- never-raise на тик демона; сбой watchdog не блокирует и не роняет конвейер (NFR-1).
- Замер — по **хост-разделам** (bind-mount-пути), не по overlay `/` контейнера (NFR-3).
- Не рестартить/не ронять прод-контейнер; watchdog только читает и уведомляет (NFR-6, self-hosting).
- При выключенном флаге — поведение 1:1 как сейчас; enduro-trails не затрагивается.
---
## 11. Открытые вопросы для архитектора (не блокируют анализ)
- OQ-1: Способ замера — stdlib `shutil.disk_usage(path)` vs субпроцесс `df` (рекомендация — stdlib,
NFR-2).
- OQ-2: Дедуп путей по физическому устройству (`os.stat().st_dev`), чтобы единый host-раздел не
алертил дважды.
- OQ-3: Состояние анти-спама — in-memory (рекомендация) vs durable (доп. таблица); влияет на
поведение после рестарта.
- OQ-4: Нужен ли второй «критический» порог (напр. 95%) с усиленным/более частым алертом — кандидат,
по умолчанию **нет** (один порог 85%).
- OQ-5: Helper в `notifications.py` (`notify_disk_alert`) vs прямой вызов `send_telegram` из watchdog.

View File

@@ -0,0 +1,132 @@
---
work_item: ORCH-063
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 03 — Критерии приёмки (Acceptance Criteria): ORCH-063 — INFRA: мониторинг диска mva154 + алерт при >85%
Work Item: **ORCH-063** · Repo: **orchestrator** · Стадия: analysis
Формат: каждый критерий имеет **PASS** (что должно быть истинно для приёмки) и **FAIL** (что
считается провалом). Reviewer/tester проверяет их буквально по файлам репозитория и тестам.
---
## AC-1 — Heartbeat-демон запускается с приложением
**Условие:** фоновый disk-watchdog периодически измеряет заполнение диска и стартует вместе с
приложением без ручного запуска.
- **PASS:** есть daemon-поток (паттерн `reconciler`/`job_reaper`: `threading.Thread(daemon=True)` +
`threading.Event`), стартующий в `main.lifespan` (после `reaper.start()`) и останавливающийся на
shutdown; период замера = `disk_monitor_interval_s`; есть метод `status()`.
- **FAIL:** watchdog не стартует автоматически; блокирующий `time.sleep` без чистого stop; замер
выполняется в обработчике вебхука/в горячем пути конвейера, а не в отдельном демоне.
---
## AC-2 — Алерт при заполнении ≥ порога
**Условие:** при заполнении отслеживаемого пути ≥ `disk_monitor_threshold_pct` (дефолт 85%) оператор
получает Telegram-алерт с действенными деталями.
- **PASS:** при `used_pct ≥ threshold` вызывается `send_telegram` (notifying, не silent) с
сообщением, содержащим путь/точку монтирования, занято %, свободно (ГБ или %) и порог.
- **FAIL:** алерт не отправляется при превышении; отправляется silent (`disable_notification=True`)
и не пингует; сообщение без действенных деталей (нет %/пути/свободно).
---
## AC-3 — Анти-спам: не на каждом тике
**Условие:** при длительном превышении порога алерт не дублируется на каждом тике.
- **PASS:** алерт отправляется при пересечении порога (переход «ниже→на/выше»); пока заполнение
остаётся выше порога, повторный алерт шлётся не чаще `disk_monitor_realert_s`. Решение об отправке
выражено чистой функцией от `(current_pct, threshold, previous_state, now)` и покрыто юнит-тестом.
- **FAIL:** алерт шлётся на каждом тике при стабильном превышении; нет cooldown/состояния; логика
отправки не тестируема (зашита в поток с реальным таймером).
---
## AC-4 — Recovery при возврате ниже порога
**Условие:** при возврате заполнения ниже порога состояние сбрасывается и приходит однократное
сообщение восстановления.
- **PASS:** переход «выше→ниже порога» сбрасывает состояние алерта и отправляет ровно одно
recovery-сообщение «диск ниже порога»; последующее новое превышение снова алертит (цикл повторяем).
- **FAIL:** после спада ниже порога состояние не сбрасывается (новое превышение молчит из-за
«залипшего» cooldown); recovery шлётся повторно на каждом тике ниже порога.
---
## AC-5 — Конфигурируемость и kill-switch
**Условие:** порог, период, период повтора, пути и включение конфигурируемы; выключение даёт нулевую
регрессию.
- **PASS:** в `config.py` есть `disk_monitor_enabled` / `disk_monitor_interval_s` /
`disk_monitor_threshold_pct` / `disk_monitor_realert_s` / `disk_monitor_paths` (с env-маппингом);
при `disk_monitor_enabled=False` демон не стартует, `/queue`-блок отдаёт `{"enabled": false}`,
поведение приложения идентично текущему. Новые env задокументированы в `.env.example`.
- **FAIL:** значения захардкожены; нет kill-switch; при выключении меняется поведение конвейера;
env не задокументированы.
---
## AC-6 — never-raise (изоляция от конвейера)
**Условие:** любой сбой watchdog не роняет и не блокирует конвейер.
- **PASS:** замер по несуществующему/недоступному пути, ошибка `send_telegram`, исключение в тике —
логируются и **не** пробрасываются; демон продолжает работу; конвейер и enduro-trails не
затронуты. Покрыто тестом (замер по битому пути / исключение в отправке → тик не падает).
- **FAIL:** исключение в тике останавливает поток или всплывает в приложение; недоступный путь
роняет замер всех путей.
---
## AC-7 — Наблюдаемость в `GET /queue`
**Условие:** состояние watchdog видно в `GET /queue`.
- **PASS:** ответ `GET /queue` содержит аддитивный блок `disk_monitor` с `enabled`, `threshold_pct`,
`interval_s`, `paths` (последний замер: `used_pct`, свободно), `alerting`, `last_alert_at`;
существующие ключи ответа не изменены; блок never-raise (при ошибке — минимальный словарь).
- **FAIL:** блока нет; изменены/сломаны существующие ключи `/queue`; блок может выбросить исключение.
---
## AC-8 — Корректный источник замера (хост-ФС)
**Условие:** замер отражает заполнение хост-раздела, а не overlay-ФС контейнера.
- **PASS:** дефолтный набор путей — смонтированные хост-пути (`/repos`, `/app/data`); замер по ним
репрезентативен для заполняющегося хост-раздела. Источником истины **не** является `shutil.disk_usage("/")`
(overlay контейнера).
- **FAIL:** мониторится только `/` контейнера → ложно-низкое заполнение при реально полном хосте
(риск повтора инцидента 07.06).
---
## AC-9 — Документация обновлена (golden source)
**Условие:** документация обновлена в том же PR (CLAUDE.md §2; reviewer-ось).
- **PASS:** обновлены `docs/architecture/README.md` (компонент + блок `/queue`),
`docs/operations/INFRA.md` (что мониторится, порог, как отключить, реакция на алерт),
`.env.example` (новые `ORCH_DISK_*`), `CHANGELOG.md` (`feat:`); создан
`docs/work-items/ORCH-063/06-adr/ADR-001-*.md`.
- **FAIL:** функционал добавлен, но обзорные/операционные доки или ADR не обновлены.
---
## Сводная матрица AC ↔ FR/BR
| AC | Покрывает |
|----|-----------|
| AC-1 | BR-1 / BR-8 / FR-1 |
| AC-2 | BR-2 / FR-2 / FR-3 |
| AC-3 | BR-3 / FR-4 |
| AC-4 | BR-4 / FR-4 |
| AC-5 | BR-5 / FR-5 / NFR-4 |
| AC-6 | BR-6 / NFR-1 |
| AC-7 | BR-7 / FR-6 |
| AC-8 | NFR-3 / FR-2 |
| AC-9 | CLAUDE.md §2 (документация = golden source) |

View File

@@ -0,0 +1,92 @@
work_item: ORCH-063
stage: analysis
author_agent: analyst
status: ready-for-review
created_at: 2026-06-09
model_used: claude-opus-4-8
title: "Disk-watchdog mva154: heartbeat-замер + Telegram-алерт при >85%"
framework: pytest
scope: >
Покрывается: чистая логика решения об алерте (порог/анти-спам/recovery), замер заполнения
по путям с дедупом/never-raise, формат алерт-сообщения, daemon start/stop/status,
блок disk_monitor в GET /queue, нулевая регрессия при выключенном kill-switch.
Вне покрытия: реальная отправка в Telegram (мокается), реальное заполнение диска mva154,
внешние системы мониторинга, авто-очистка диска (вне объёма ORCH-063).
notes: >
Время и Telegram-транспорт инъецируются/мокаются: now-провайдер для cooldown,
monkeypatch send_telegram для перехвата вызовов. shutil.disk_usage мокается для задания
used_pct без реального диска. Полный регресс tests/ должен оставаться зелёным.
Имена модулей/функций финализирует архитектор (ADR-001) — module в TC ориентировочны.
tests:
- id: TC-01
type: unit
description: "Решение алертить: used_pct >= threshold и состояние было 'ниже' -> should_alert=True (пересечение порога)."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-02
type: unit
description: "Анти-спам: used_pct >= threshold, состояние уже 'выше', с последнего алерта прошло < realert_s -> should_alert=False (не на каждом тике)."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-03
type: unit
description: "Повтор по cooldown: 'выше' порога, прошло >= realert_s с последнего алерта -> should_alert=True (повторный алерт)."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-04
type: unit
description: "Recovery: переход used_pct < threshold из состояния 'выше' -> сброс состояния + ровно одно recovery-сообщение; ниже порога устойчиво -> recovery не повторяется."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-05
type: unit
description: "Граница порога: used_pct ровно == threshold трактуется как превышение (>= порога алертит); used_pct == threshold-1 -> молчит."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-06
type: unit
description: "Замер по путям: для каждого пути считается used_pct/free через (мок) shutil.disk_usage; совпадающие по устройству пути дедуплицируются (одно срабатывание)."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-07
type: unit
description: "never-raise: недоступный/несуществующий путь и исключение в send_telegram логируются и не пробрасываются; тик завершается, демон жив."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-08
type: unit
description: "Формат алерта: сообщение содержит путь/точку монтирования, used_pct, свободно (ГБ или %) и порог; отправляется notifying (disable_notification не True)."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-09
type: unit
description: "Kill-switch: при disk_monitor_enabled=False демон не стартует в lifespan (или start() — no-op); замеры/алерты не выполняются."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-10
type: unit
description: "status(): возвращает dict с enabled/threshold_pct/interval_s/paths(последний замер)/alerting/last_alert_at; never-raise при отсутствии замеров."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-11
type: integration
description: "GET /queue содержит аддитивный блок disk_monitor с ожидаемыми ключами; существующие ключи ответа (counts/reconcile/reaper/serial_gate/...) не изменены."
module: tests/test_disk_watchdog.py
expected: PASS
- id: TC-12
type: integration
description: "Тик демона при замоканном высоком заполнении (>=85%) вызывает send_telegram один раз; при выключенном флаге GET /queue отдаёт disk_monitor.enabled=false и алертов нет (нулевая регрессия)."
module: tests/test_disk_watchdog.py
expected: PASS

View File

@@ -0,0 +1,196 @@
---
work_item: ORCH-063
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# ADR-001: Disk-watchdog — heartbeat-демон мониторинга заполнения хост-ФС + Telegram-алерт при ≥85%
Work Item: **ORCH-063** — INFRA: мониторинг диска mva154 + алерт при >85%
Стадия: **architecture**
Сквозная регистрация: **`docs/architecture/adr/adr-0024-disk-watchdog.md`** (новый фоновый
компонент-демон в ряду `reconciler`/`job_reaper` — кросс-каттинговое решение).
## Статус
Proposed
## Контекст
07.06.2026 диск хоста **mva154** (`slin@82.22.50.71`) тихо дорос до 100% и положил **весь
конвейер всех проектов** (CI красный, очередь Gitea застряла). Корневая боль: у оркестратора
**нет проактивного сигнала** о заполнении диска — оператор узнаёт о проблеме постфактум, когда
self-hosting-инстанс `orchestrator` (8500, один на все прод-проекты, общая БД/очередь) уже встал
(BRD §1).
Факты, сверенные с кодом:
- В оркестраторе уже есть **каркас фонового daemon-потока**, повторённый дважды:
`src/reconciler.py::Reconciler` (ORCH-053) и `src/job_reaper.py` (ORCH-065) — оба
`threading.Thread(daemon=True)` + `threading.Event`, чистый stop через `self._stop.wait(interval)`,
контракт `start()`/`stop(timeout)`/`status()`, **never-raise** на тик, наблюдаемость через
`GET /queue`. Старт/стоп — в `src/main.py::lifespan` (старт после `reaper.start()`, стоп в
reverse-порядке), снимок — в `@app.get("/queue")` (`"reaper": reaper.status()` и др.).
- Контейнер бежит `network_mode: host` с bind-mount'ами host-разделов: `/home/slin/repos → /repos`,
`./data → /app/data` (`docs/operations/INFRA.md` §«Тома»). Именно эта ФС переполнилась 07.06.
Замер по overlay `/` контейнера нерепрезентативен (BRD §6, NFR-3).
- Алерты шлются через `src/notifications.py::send_telegram` (notifying по умолчанию; silent —
только при явном `disable_notification`).
- Образец «чистая leaf-логика + тонкая обёртка» уже принят: `src/task_deps.py`, `src/serial_gate.py`,
`src/staging_verdict.py` — pure-функции (never-raise) + точечные врезки.
«Как есть» не годится: единственный сигнал о диске — падение всего конвейера. Нужен дешёвый ранний
heartbeat-watchdog. ТЗ (02-trz) фиксирует требования; данный ADR фиксирует **как** (§OQ-1..OQ-5).
## Решение
### Сводка
Вводим **disk-watchdog** — новый фоновый daemon-поток `src/disk_watchdog.py`, точная калька
архитектуры `reconciler`/`job_reaper`. Демон каждые `disk_monitor_interval_s` (дефолт 300с) меряет
заполнение **смонтированных хост-путей** через stdlib `shutil.disk_usage(path)`, дедуплицирует пути
по физическому устройству (`os.stat(path).st_dev`), и через **чистую функцию решения** от
`(used_pct, threshold, prev_state, now)` решает: послать алерт (пересечение порога вверх), повторить
(cooldown `disk_monitor_realert_s`), послать recovery (возврат вниз) или молчать. Состояние
анти-спама — **in-memory** (без миграции БД). Наблюдаемость — аддитивный блок `disk_monitor` в
`GET /queue`. Kill-switch `disk_monitor_enabled`. **never-raise** на каждом уровне.
`STAGE_TRANSITIONS`/`QG_CHECKS`/`check_*`/схема БД — **не трогаются**.
### D1 — Способ замера: stdlib `shutil.disk_usage` (OQ-1, FR-2/NFR-2)
Замер каждого пути — `shutil.disk_usage(path)` (`total`/`used`/`free` в байтах), `used_pct =
round(used / total * 100, 1)`. Чистый системный вызов `statvfs`, без порождения субпроцесса `df` на
каждом тике (NFR-2: heartbeat порядка минут, дёшево). `df` отвергнут (см. Альтернативы).
- **Почему репрезентативно для хост-ФС (NFR-3, AC-8):** `shutil.disk_usage(path)` возвращает
статистику ФС, которой принадлежит `path`. На bind-mount'е `/repos`/`/app/data` это **хост-раздел**
(тот, что переполнился 07.06), а не overlay контейнера. Дефолтный набор путей —
`/repos,/app/data`; `shutil.disk_usage("/")` **не** используется как источник истины.
- Недоступный/несуществующий путь (`FileNotFoundError`/`PermissionError`/`OSError`) → пропуск
**этого** пути с `logger.warning`, остальные пути меряются дальше (FR-2, AC-6: один битый путь не
роняет весь тик).
### D2 — Дедуп путей по физическому устройству (OQ-2, FR-2)
Перед замером пути резолвим `os.stat(path).st_dev` и схлопываем пути с одинаковым `st_dev` в один
логический раздел (ключ дедупа — `st_dev`; для отображения берём первый успешно резолвнутый путь).
На mva154 `/repos` и `/app/data` с высокой вероятностью лежат на одном host-разделе (BRD §6) → один
алерт, а не два дубля. Дедуп — **желательное** требование (BRD §6), реализуемое, never-raise: ошибка
`os.stat` → путь обрабатывается как отдельный (fail-open, без потери замера).
### D3 — Чистая функция решения + модель состояния (OQ-3, FR-4, AC-3/AC-4)
Решение об отправке вынесено в **pure-функцию** (юнит-тестируема без потока и реального таймера,
AC-3):
```
decide_action(used_pct, threshold, prev: PathAlertState, now, realert_s) -> Action
# Action ∈ {NONE, ALERT, REALERT, RECOVERY}
```
- `prev.alerting == False` и `used_pct >= threshold`**ALERT** (пересечение «ниже→на/выше»);
- `prev.alerting == True` и `used_pct >= threshold` и `now - prev.last_alert_at >= realert_s`
**REALERT** (cooldown истёк); иначе при `alerting && >=threshold`**NONE** (анти-спам: не на
каждом тике, BR-3/AC-3);
- `prev.alerting == True` и `used_pct < threshold`**RECOVERY** (переход «выше→ниже», ровно одно
сообщение, сброс `alerting`, BR-4/AC-4);
- `prev.alerting == False` и `used_pct < threshold`**NONE** (норма).
**Модель состояния (in-memory, per device/path):** `PathAlertState{alerting: bool, last_alert_at:
float|None}`, словарь `{dedup_key -> PathAlertState}` в демоне. Durable-хранение **отвергнуто**
(OQ-3): TRZ §5/NFR-5 допускает in-memory, состояние best-effort. После рестарта `alerting`
сбрасывается → при всё ещё полном диске придёт повторный алерт — это **безопасно** (ранний сигнал,
не SLA). **Время инъецируется** `now`-провайдером (дефолт — обёртка над часами; в тестах — фейк),
чтобы cooldown/recovery тестировались детерминированно (AC-3).
### D4 — Отправка алерта: формат в leaf + `send_telegram` напрямую (OQ-5, FR-3)
Форматирование текста — pure-функция в `disk_watchdog.py` (`format_alert_message` /
`format_recovery_message`, тестируема). Отправка — **прямой** `send_telegram(text)`
(**notifying**, не silent — это алерт, как `notify_error`); отдельный helper в `notifications.py`
**не** вводим (минимизация поверхности; OQ-5 оставляет выбор за архитектором). Вызов `send_telegram`
обёрнут `try/except` → ошибка доставки логируется и не роняет тик (BR-6/AC-6; доставка best-effort,
BRD §6).
- **Содержимое (действенное, FR-3/AC-2):** точка монтирования/путь, занято %, свободно (ГБ и %),
порог; текст на русском в стиле существующих `notify_*`. Пример:
`🔴 Диск mva154: /repos заполнен на 87.3% (порог 85%). Свободно 6.2 ГБ (12.7%). Освободите
место — риск остановки конвейера всех проектов.`
Recovery: `🟢 Диск mva154: /repos вернулся ниже порога — 78.1% (свободно 11.0 ГБ).`
### D5 — Один порог 85% (OQ-4, BR-2)
Один настраиваемый порог `disk_monitor_threshold_pct` (дефолт 85, зафиксирован Владельцем).
Второй «критический» порог (напр. 95%) с усиленным алертом — **вне объёма** (OQ-4, BRD §8 R-3),
кандидат на follow-up. Конфигурируемость порога (BR-5) оставляет рычаг тюнинга.
### D6 — Lifecycle и точки врезки (FR-1/FR-5/FR-6, AC-1/AC-5/AC-7)
- **`src/disk_watchdog.py`** (новый leaf) — pure-логика (`measure_paths`, `decide_action`,
`format_*`) + класс `DiskWatchdog(threading.Thread(daemon=True) + threading.Event)` с
`start()`/`stop(timeout=5.0)`/`status()`; цикл `while not self._stop.is_set(): try: tick();
except: log; self._stop.wait(interval)`. Модуль-синглтон `disk_watchdog = DiskWatchdog()`.
- **`src/config.py`** — флаги §«Конфигурация» (D7); defensive-валидация значений (порог 1..100,
интервалы > 0) → невалидное к дефолту + warning (паттерн `reconcile_grace_*`).
- **`src/main.py::lifespan`** — `disk_watchdog.start()` **последним** (после `reaper.start()`,
гард `if settings.disk_monitor_enabled`), `disk_watchdog.stop()` **первым** в `finally`
(reverse-порядок). Демон независим (не трогает очередь/БД) → порядок не критичен, но
следуем конвенции.
- **`@app.get("/queue")`** — аддитивный ключ `"disk_monitor": disk_watchdog.status()`; существующие
ключи не меняются; `status()` never-raise (при ошибке — `{"enabled": ...}` минимум, FR-6/AC-7).
Снимок: `enabled`, `threshold_pct`, `interval_s`, `realert_s`, `paths` (по каждому
устройству/пути: `path`, `used_pct`, `free_gb`, `alerting`, `last_alert_at`).
- **`.env.example`** — дескрипторы `ORCH_DISK_*` (AC-5).
### D7 — Конфигурация (`src/config.py`, FR-5/AC-5)
| Поле (env) | Тип / дефолт | Назначение |
|------------|--------------|------------|
| `disk_monitor_enabled` (`ORCH_DISK_MONITOR_ENABLED`) | `bool = True` | kill-switch; `False` → демон не стартует (нулевая регрессия, NFR-4). |
| `disk_monitor_interval_s` (`ORCH_DISK_MONITOR_INTERVAL_S`) | `int = 300` | период heartbeat (порядок минут, NFR-2). |
| `disk_monitor_threshold_pct` (`ORCH_DISK_MONITOR_THRESHOLD_PCT`) | `int = 85` | порог алерта (дефолт Владельца). |
| `disk_monitor_realert_s` (`ORCH_DISK_MONITOR_REALERT_S`) | `int = 21600` | cooldown повторного алерта выше порога (~6 ч, анти-спам). |
| `disk_monitor_paths` (`ORCH_DISK_MONITOR_PATHS`) | `str = "/repos,/app/data"` (CSV) | отслеживаемые host-пути (NFR-3); пусто → дефолтный набор. |
### D8 — Инварианты (NFR-5/NFR-6, AC-6)
- `STAGE_TRANSITIONS`, реестр `QG_CHECKS`, `check_*`, схема существующих таблиц БД — **без изменений**
(watchdog — эксплуатационный демон, не QG; как `reconciler`/`reaper`). Новой миграции нет (D3).
- **never-raise** на трёх уровнях: per-path (D1), per-tick (внешний `try/except` в `_run`),
per-send (D4). Сбой watchdog не блокирует и не роняет конвейер (BR-6/NFR-1).
- **Self-hosting безопасность (NFR-6):** watchdog только **читает** заполнение и **шлёт** Telegram —
не трогает диск/контейнер, не рестартит прод. Безопасен для enduro-trails в общем инстансе.
## Альтернативы
- **Субпроцесс `df -P` на каждом тике** — отвергнут: лишнее порождение процесса при heartbeat
порядка минут (NFR-2), парсинг вывода, зависимость от формата `df`. `shutil.disk_usage` — stdlib,
без субпроцесса, кроссплатформенно.
- **Замер по `/` (overlay контейнера)** — отвергнут: нерепрезентативен для хост-раздела (NFR-3/AC-8),
прямой путь к повтору инцидента 07.06 (ложно-низкое заполнение).
- **Durable-состояние анти-спама (доп. таблица)** — отвергнуто: TRZ §5/NFR-5 допускает in-memory;
повторный алерт после рестарта при полном диске безопасен; миграция = лишняя поверхность и
усложнение отката.
- **Внешний мониторинг (Prometheus/Grafana/node_exporter)** — вне объёма (BRD §2.2): тяжёлая
инфра-зависимость против принципа «минимум зависимостей, всё в Docker на одном сервере». Дешёвый
встроенный heartbeat закрывает боль.
- **Новый endpoint `GET /disk`** — не вводим (TRZ §4 рекомендация): снимок отдаётся блоком в
`/queue`, меньше API-поверхности.
## Последствия
- **+** Ранний сигнал о заполнении диска до остановки конвейера всех проектов; дешёвая страховка от
дорогого группового self-hosting-простоя.
- **+** Полная архитектурная калька проверенных `reconciler`/`reaper` → низкий риск, знакомый паттерн
для ревью/сопровождения.
- **+** Чистая pure-логика (`decide_action`, `format_*`, `measure_paths`) юнит-тестируема без потока
и таймера (AC-3/AC-6).
- **** In-memory состояние → повторный алерт после рестарта при всё ещё полном диске. Митигейшн:
это безопасно (ранний сигнал, не SLA; NFR-5) и редко (рестарт прода — событие).
- **** Best-effort доставка Telegram (та же `send_telegram`): алерт может не дойти при сбое сети.
Митигейшн: watchdog — ранний сигнал, не гарантия; cooldown-повтор повышает шанс доставки.
- **** Дедуп по `st_dev` не покрывает редкий случай разных устройств для `/repos` и `/app/data`
(тогда — два независимых алерта, что корректно). Без ущерба.
- **Откат:** `ORCH_DISK_MONITOR_ENABLED=false` (демон не стартует, блок `/queue` → `{"enabled":
false}`, поведение 1:1 как сейчас). Полное удаление — снять врезки в `main.py`/`config.py` +
удалить leaf; миграций БД нет → откат тривиален (TRZ §7).
## Ссылки
- BRD: `docs/work-items/ORCH-063/01-brd.md`
- TRZ: `docs/work-items/ORCH-063/02-trz.md`
- Acceptance: `docs/work-items/ORCH-063/03-acceptance-criteria.md`
- Инфра: `docs/work-items/ORCH-063/07-infra-requirements.md`
- Риски: `docs/work-items/ORCH-063/10-tech-risks.md`
- Сквозной ADR: `docs/architecture/adr/adr-0024-disk-watchdog.md`
- Сверено по коду: `src/reconciler.py` (каркас демона), `src/job_reaper.py` (lifecycle/status),
`src/main.py` (lifespan §94-118, `/queue` §142-173), `src/notifications.py::send_telegram`,
`docs/operations/INFRA.md` (bind-mount'ы `/repos`, `/app/data`).
</content>
</invoke>

View File

@@ -0,0 +1,63 @@
---
work_item: ORCH-063
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 07 — Инфра-требования: ORCH-063 — мониторинг диска mva154 + алерт при ≥85%
Work Item: **ORCH-063** · Repo: **orchestrator** (self-hosting) · Стадия: architecture
## I-1. Топология / окружения
Топология **не меняется**. Watchdog работает внутри существующего контейнера `orchestrator`
(8500, `network_mode: host`) и опирается на уже существующие bind-mount'ы host-разделов:
- `/home/slin/repos → /repos` (рабочие репозитории, git-worktree `/repos/_wt/...`);
- `./data → /app/data` (SQLite БД).
Именно эта host-ФС переполнилась 07.06. Замер ведётся по смонтированным путям `/repos`, `/app/data`
(`shutil.disk_usage`), что отражает **хост-раздел**, а не overlay `/` контейнера (NFR-3/AC-8). Новых
контейнеров/портов/томов/сетей не требуется. Тот же демон автоматически работает и в staging-инстансе
(8501) — на собственной Ф С/путях, без отдельной настройки.
## I-2. Переменные окружения / секреты
Новые env (дескрипторы — в `.env.example`; **без секретов**):
| Env | Дефолт | Назначение |
|-----|--------|------------|
| `ORCH_DISK_MONITOR_ENABLED` | `true` | kill-switch (false → демон не стартует, нулевая регрессия). |
| `ORCH_DISK_MONITOR_INTERVAL_S` | `300` | период heartbeat-замера, сек. |
| `ORCH_DISK_MONITOR_THRESHOLD_PCT` | `85` | порог заполнения для алерта. |
| `ORCH_DISK_MONITOR_REALERT_S` | `21600` | cooldown повторного алерта выше порога (~6 ч). |
| `ORCH_DISK_MONITOR_PATHS` | `/repos,/app/data` | CSV отслеживаемых host-путей. |
Telegram-доставка использует **существующие** секреты `send_telegram` (`ORCH_TELEGRAM_*` /
`.env`) — новых секретов не вводится. Дефолты пригодны для прода без обязательной правки `.env`
(env опциональны — все имеют значения по умолчанию в `config.py`).
## I-3. Деплой / рестарт
- Изменение **не требует** специальной инфра-процедуры сверх штатного self-hosting-деплоя
(staging 8501 → прод 8500 через `Confirm Deploy`, ORCH-059/036).
- **Self-hosting инвариант соблюдён:** watchdog только читает заполнение и шлёт уведомление — не
рестартит/не роняет прод-контейнер, не выполняет действий над диском (NFR-6). Безопасен для
enduro-trails в общем инстансе.
- Демон стартует/останавливается автоматически в `main.lifespan` (ручной запуск не нужен, AC-1/AC-8).
### Реакция оператора на алерт (runbook-минимум)
При получении Telegram-алерта «Диск mva154 ≥ порога»:
1. Зайти на хост (`slin@82.22.50.71`), проверить `df -h /home/slin/repos`.
2. Освободить место (кандидаты — порядок ручной очистки): прунинг старых git-worktree
`/home/slin/repos/_wt/*` завершённых задач; `docker image prune` / `docker builder prune`;
ротация/удаление старых логов. **Авто-очистка — вне объёма ORCH-063** (отдельная задача).
3. Дождаться recovery-сообщения «диск ниже порога» (приходит однократно при возврате под порог).
> Развёрнутый раздел про disk-watchdog (что мониторится, порог, как отключить
> `ORCH_DISK_MONITOR_ENABLED`, реакция на алерт) добавляется в `docs/operations/INFRA.md` на стадии
> development (TRZ §9, AC-9).
## I-4. CI/CD
Без изменений `.gitea/workflows/`. Новый код покрывается существующим `pytest tests/` (юнит-тесты
pure-логики `decide_action`/`measure_paths`/`format_*` + изоляция never-raise — TRZ/AC-3/AC-6).
</content>

View File

@@ -0,0 +1,39 @@
---
work_item: ORCH-063
stage: architecture
author_agent: architect
status: proposed
created_at: 2026-06-09
model_used: claude-opus-4-8
---
# 10 — Технические риски: ORCH-063 — мониторинг диска mva154 + алерт при ≥85%
Work Item: **ORCH-063** · Repo: **orchestrator** · Стадия: architecture
> Информационный (гейтом не парсится). Риски реализации и их митигейшн.
## Реестр рисков
| ID | Риск | Вер. | Влия. | Митигейшн |
|----|------|------|-------|-----------|
| TR-1 | **Замер по неверной ФС** (overlay `/` контейнера вместо host-раздела) → ложно-низкое заполнение → watchdog молчит при реально полном хосте (повтор 07.06). | Сред. | Выс. | ADR D1: замер `shutil.disk_usage` по bind-mount-путям `/repos`/`/app/data` (host-разделы); `/` запрещён как источник (NFR-3/AC-8). Тест AC-8. |
| TR-2 | **Спам-алерты на каждом тике** при длительном превышении → шум, оператор глохнет. | Сред. | Сред. | ADR D3: pure `decide_action` — алерт на пересечении + cooldown `disk_monitor_realert_s` (~6 ч); юнит-тест AC-3. |
| TR-3 | **Залипший cooldown** — после спада ниже порога состояние не сброшено → новое превышение молчит. | Низ. | Сред. | ADR D3: переход «выше→ниже» сбрасывает `alerting` + однократный recovery; цикл повторяем. Тест AC-4. |
| TR-4 | **Исключение в тике/отправке роняет поток или конвейер.** | Низ. | Выс. | ADR D8: never-raise на 3 уровнях (per-path, per-tick, per-send), как `reconciler`/`reaper`. Тест AC-6 (битый путь / падение `send_telegram`). |
| TR-5 | **Порог 85% близок к 100% при быстром росте** (один большой build/worktree) → оператор не успевает. | Низ. | Сред. | Дефолт зафиксирован Владельцем; конфигурируем (BR-5). Второй «критический» порог (95%) — кандидат follow-up (OQ-4, вне объёма). |
| TR-6 | **Исчерпание inode** (не байтов) валит ФС, но не ловится замером по %-байтам. | Низ. | Сред. | Вне объёма ORCH-063 (BRD §8 R-4); кандидат на расширение замера (`os.statvfs` f_files/f_favail). Задокументировать как known-limitation. |
| TR-7 | **Потеря анти-спам-состояния при рестарте** (in-memory) → повторный алерт при всё ещё полном диске. | Сред. | Низ. | Осознанный компромисс (ADR D3, NFR-5): повторный ранний сигнал безопасен; durable-хранение отвергнуто (лишняя миграция). |
| TR-8 | **Best-effort Telegram** — алерт не доставлен при сбое сети. | Низ. | Сред. | Та же `send_telegram` (never-raise); cooldown-повтор повышает шанс доставки. Watchdog — ранний сигнал, не SLA (BRD §6). |
| TR-9 | **Дедуп по `st_dev` ошибочно схлопнет разные разделы** или `os.stat` упадёт. | Низ. | Низ. | ADR D2: ключ дедупа — фактический `st_dev`; ошибка `os.stat` → fail-open (путь как отдельный, замер не теряется). |
## Сводный вывод
Доминирующий класс — **риски ложного молчания/шума** (TR-1, TR-2, TR-3), полностью закрытые
конструктивно: корректный источник замера (host-ФС) + pure-функция анти-спама с юнит-покрытием.
Изоляция от конвейера обеспечена never-raise-каркасом проверенных `reconciler`/`reaper`. Эскалация
`arch:major-change` **не требуется**: изменение аддитивное, под kill-switch, без правки
`STAGE_TRANSITIONS`/`QG_CHECKS`/схемы БД, тривиально откатывается. Возврат в анализ **не требуется**
ТЗ реализуемо без нарушения принципов. Остаточный риск для прод-конвейера (self-hosting) — **низкий**:
watchdog только читает и уведомляет, не трогает прод. TR-6 (inode) — осознанная known-limitation вне
объёма.
</content>

View File

@@ -0,0 +1,99 @@
---
verdict: APPROVED
work_item: ORCH-063
stage: review
author_agent: reviewer
status: approved
created_at: 2026-06-09
model_used: claude-opus-4-8
type: review
work_item_id: ORCH-063
version: 1
---
# Review ORCH-063 — INFRA: disk-watchdog мониторинг диска mva154 + алерт при ≥85%
> Машинный вердикт читается ТОЛЬКО из `verdict:` во frontmatter. `APPROVED` → дальше по конвейеру.
## Summary
PR реализует disk-watchdog — фоновый daemon-поток `src/disk_watchdog.py` по канону
`reconciler`/`job_reaper`, точно по ТЗ `02-trz.md` и ADR-001/`adr-0024`. Все 9 критериев приёмки
(`03-acceptance-criteria.md` AC-1..AC-9) выполнены и покрыты содержательными тестами
(`tests/test_disk_watchdog.py`, TC-01..TC-12, 18 кейсов). Полный регресс зелёный: **1296 passed**.
Инварианты соблюдены: `STAGE_TRANSITIONS`/`QG_CHECKS`/`check_*`/схема БД — **не тронуты** (проверено
`git diff``src/stages.py`/`src/stage_engine.py`/`src/qg/` без изменений), миграций нет. Документация
обновлена как golden source в том же work-item. **Блокеров (P0/P1) нет → APPROVED.**
## Оси проверки
### 1. Соответствие ТЗ / Acceptance Criteria
- **AC-1 (heartbeat-демон):** `DiskWatchdog(threading.Thread(daemon=True) + threading.Event)`,
`_stop.wait(interval)` (чистый stop, без блокирующего `time.sleep`), контракт
`start()`/`stop(timeout)`/`status()`. Старт в `main.lifespan` **после** `reaper.start()`, стоп
**первым** в `finally` (reverse) — `src/main.py`. ✓
- **AC-2 (алерт ≥ порога):** `format_alert_message` несёт host/путь/`used_pct`/свободно (ГБ+%)/порог;
отправка `send_telegram(..., disable_notification=False)` — notifying. Подтверждено TC-08. ✓
- **AC-3 (анти-спам):** чистая `decide_action(used_pct, threshold, prev, now, realert_s)`, cooldown
`disk_monitor_realert_s`, время инъецируется `now_provider`. TC-02/TC-03 + e2e. ✓
- **AC-4 (recovery):** переход «выше→ниже» → ровно одно recovery-сообщение + сброс `alerting`; ниже
порога молчит. TC-04 + e2e (`test_tick_antispam_then_realert_then_recovery`). ✓
- **AC-5 (config + kill-switch):** 5 флагов `disk_monitor_*` (env `ORCH_DISK_MONITOR_*`, `env_prefix=ORCH_`)
+ defensive-валидаторы (порог 1..100, интервалы > 0 → дефолт + warning). `enabled=False``start()`
no-op (TC-09), `.env.example` обновлён. ✓
- **AC-6 (never-raise):** три уровня — per-path (`_measure_one`), per-tick (`_run` outer try/except),
per-send (`_send`). TC-07 (битый путь / падение `send_telegram`). ✓
- **AC-7 (наблюдаемость):** аддитивный блок `disk_monitor` в `GET /queue`; `status()` never-raise
(минимум `{"enabled": …}` при ошибке). TC-11 проверяет сохранность всех существующих ключей. ✓
- **AC-8 (источник = хост-ФС):** дефолт `/repos,/app/data` через `shutil.disk_usage`, не overlay `/`,
не субпроцесс `df`; дедуп по `st_dev`. TC-06. ✓
- **AC-9 (документация):** см. секцию «Документация». ✓
### 2. Соответствие ADR / инвариантам
- Реализация 1:1 с ADR-001 D1D8: stdlib-замер (D1), дедуп `st_dev` fail-open (D2), pure
`decide_action` + in-memory state (D3), прямой `send_telegram` без helper (D4), один порог 85% (D5),
lifecycle/врезки (D6), config (D7), инварианты (D8). Сквозной `adr-0024` зарегистрирован в ряду
`reconciler`/`job_reaper`.
- **Трассировка:** врезки в `main.lifespan` и `@app.get("/queue")` — строго **аддитивные** (новый
импорт + один вызов `disk_watchdog.start()/stop()` + ключ `"disk_monitor"`); зафиксированные
инварианты соседних маркеров не сломаны. `STAGE_TRANSITIONS`/`QG_CHECKS` не затронуты — подтверждено.
### 3. Качество кода
- Docstrings на всех публичных функциях/классе; чистая leaf-логика отделена от потока (тестируемо).
- Defensive-граничные случаи покрыты: `total == 0``0.0`, пустой CSV → дефолт, `os.stat` fail → fail-open.
- Тесты содержательные (не тривиальные): юнит-решения, измерение/дедуп, e2e цикл alert→silent→realert→
recovery, интеграция `/queue`. Полный suite зелёный (1296).
### 4. Документация (golden source)
- `docs/architecture/README.md` — компонент «Disk-watchdog» + описание блока `/queue`. ✓
- `docs/operations/INFRA.md` — что мониторится / порог / как отключить / реакция на алерт. ✓
- `.env.example` — 5 дескрипторов `ORCH_DISK_MONITOR_*`. ✓
- `CHANGELOG.md` — запись `feat:`. ✓
- `docs/work-items/ORCH-063/06-adr/ADR-001-disk-watchdog.md` + сквозной `adr-0024`. ✓
- `src/` изменён → документация обновлена в том же work-item. Ось пройдена.
## Findings
### P0 — Blocker
- (нет)
### P1 — Must fix
- (нет)
### P2 — Should fix
- (нет)
### P3 — Nice-to-have
- [ ] Косметика: хвостовые артефакты тул-обёртки `</content>` / `</invoke>`, протёкшие в текст
golden-source доков, авторизованных на стадии architecture (НЕ в developer-коммите):
`06-adr/ADR-001-disk-watchdog.md` (строки 195196), `docs/architecture/adr/adr-0024-disk-watchdog.md`
(стр. 59), `07-infra-requirements.md` (стр. 63), `10-tech-risks.md` (стр. 39). На парсинг
frontmatter/QG не влияют (находятся в конце файла), функциональность не затрагивают — поэтому P3.
Рекомендуется зачистить при следующем касании этих доков (правка чужой стадии — по согласованию,
CLAUDE.md §3). Не блокирует вердикт.
## Документация
Обновлена полностью в том же work-item: `architecture/README.md` (компонент + блок `/queue`),
`operations/INFRA.md` (мониторинг/порог/отключение/реакция), `.env.example` (новые `ORCH_DISK_*`),
`CHANGELOG.md` (`feat:`), задачный ADR-001 + сквозной `adr-0024`. Обзорная витрина (README «Известные
ограничения») этим PR не затрагивается. Ось документации пройдена — оснований для `REQUEST_CHANGES` нет.

View File

@@ -0,0 +1,94 @@
---
result: PASS # PASS | FAIL — машинный вердикт, UPPERCASE
work_item: ORCH-063
stage: testing
author_agent: tester
status: pass
created_at: 2026-06-09
model_used: claude-opus-4-8
type: test-report
work_item_id: ORCH-063
---
# Test Report — ORCH-063 — INFRA: disk-watchdog мониторинг диска mva154 + алерт при ≥85%
> Машинный вердикт читается ТОЛЬКО из `result:` во frontmatter. `PASS` → задача переходит на `deploy-staging`.
## Окружение
- Python: 3.12.13
- pytest: 8.3.3 (pytest-asyncio 0.23.8, anyio 4.13.0)
- Worktree: `/repos/_wt/orchestrator/feature_ORCH-063-infra-mva154-85/` (ветка `feature/ORCH-063-infra-mva154-85`)
- Дата: 2026-06-09
## Smoke API (read-only)
| Endpoint | Результат |
|----------|-----------|
| `GET /health` | PASS — `{"status":"ok","service":"orchestrator"}` |
| `GET /status` | PASS — отвечает; ORCH-063 (task 74) виден в `active_tasks` на `stage=testing` |
| `GET /queue` | PASS — блок `serial_gate` присутствует (ORCH-088) рядом с `auto_labels` (ORCH-089); существующие ключи `counts/reconcile/reaper/post_deploy/merge_verify/task_deps` на месте |
`serial_gate.per_repo.orchestrator.active_task = ORCH-063 (testing)`регресса смока нет.
## Результаты по тест-плану (`04-test-plan.yaml`)
Все TC прогнаны в `tests/test_disk_watchdog.py` (18 кейсов покрывают TC-01..TC-12). Сопоставление с
критериями приёмки `03-acceptance-criteria.md`:
| TC ID | Тип | Описание | Тест(ы) | AC | Результат |
|-------|-----|----------|---------|----|-----------|
| TC-01 | unit | Алерт при пересечении порога (ниже→на/выше) → should_alert=True | `test_tc01_alert_on_crossing_up` | AC-2/AC-3 | PASS |
| TC-02 | unit | Анти-спам: выше порога, прошло < realert_s → should_alert=False | `test_tc02_antispam_within_cooldown` | AC-3 | PASS |
| TC-03 | unit | Повтор по cooldown: прошло ≥ realert_s → should_alert=True | `test_tc03_realert_after_cooldown` | AC-3 | PASS |
| TC-04 | unit | Recovery: выше→ниже → сброс + ровно одно recovery; ниже устойчиво → не повторяется | `test_tc04_recovery_and_no_repeat`, `test_tick_antispam_then_realert_then_recovery` | AC-4 | PASS |
| TC-05 | unit | Граница порога: `== threshold` алертит; `== threshold-1` молчит | `test_tc05_threshold_boundary_inclusive` | AC-2 | PASS |
| TC-06 | unit | Замер по путям через (мок) `shutil.disk_usage`; дедуп по устройству | `test_tc06_measure_and_dedup_by_device` | AC-8 | PASS |
| TC-07 | unit | never-raise: битый путь и исключение в `send_telegram` не пробрасываются | `test_tc07_broken_path_does_not_kill_tick`, `test_tc07_send_failure_does_not_raise` | AC-6 | PASS |
| TC-08 | unit | Формат алерта: путь/used_pct/свободно/порог; notifying (не silent) | `test_tc08_alert_message_actionable_and_notifying`, `test_tc08_format_helpers` | AC-2 | PASS |
| TC-09 | unit | Kill-switch: `enabled=False` → демон не стартует / `/queue` enabled=false | `test_tc09_killswitch_does_not_start`, `test_tc09_killswitch_status_block` | AC-5 | PASS |
| TC-10 | unit | `status()`: dict с enabled/threshold_pct/interval_s/paths/alerting/last_alert_at; never-raise | `test_tc10_status_shape`, `test_tc10_status_reflects_last_measurement` | AC-7 | PASS |
| TC-11 | integration | `GET /queue` содержит блок `disk_monitor`; существующие ключи не изменены | `test_tc11_queue_has_disk_monitor_block` | AC-7 | PASS |
| TC-12 | integration | Тик при ≥85% → `send_telegram` один раз; при выключенном флаге `disk_monitor.enabled=false`, алертов нет | `test_tc12_queue_disabled_block`, `test_tick_antispam_then_realert_then_recovery` | AC-5/AC-2 | PASS |
Доп. кейсы (вне номерных TC, усиливают покрытие): `test_parse_paths_default_and_csv` (парс CSV/дефолт путей) — PASS.
Покрытие: все 12 TC из тест-плана выполнены, каждый сопоставлен с AC; AC-1 (heartbeat-демон,
lifecycle) и AC-9 (документация) — структурно подтверждены review (`12-review.md`, вердикт `APPROVED`)
и не требуют отдельного рантайм-теста.
## Вывод pytest
Целевой файл:
```
tests/test_disk_watchdog.py ... 18 items
test_tc01_alert_on_crossing_up PASSED
test_tc02_antispam_within_cooldown PASSED
test_tc03_realert_after_cooldown PASSED
test_tc04_recovery_and_no_repeat PASSED
test_tc05_threshold_boundary_inclusive PASSED
test_tc06_measure_and_dedup_by_device PASSED
test_tc07_broken_path_does_not_kill_tick PASSED
test_tc07_send_failure_does_not_raise PASSED
test_tc08_alert_message_actionable_and_notifying PASSED
test_tc08_format_helpers PASSED
test_tc09_killswitch_does_not_start PASSED
test_tc09_killswitch_status_block PASSED
test_tc10_status_shape PASSED
test_tc10_status_reflects_last_measurement PASSED
test_tick_antispam_then_realert_then_recovery PASSED
test_parse_paths_default_and_csv PASSED
test_tc11_queue_has_disk_monitor_block PASSED
test_tc12_queue_disabled_block PASSED
======================== 18 passed, 1 warning in 0.40s =========================
```
Полный регресс:
```
======================= 1296 passed, 1 warning in 31.97s =======================
```
(Единственный warning — `PydanticDeprecatedSince20` в `src/config.py:7`, предсуществующий, не связан
с ORCH-063, не влияет на функциональность.)
## Итог
**PASS** — все 12 TC выполнены и зелёные, полный регресс `1296 passed`, smoke API (read-only)
исправен, блоки `serial_gate`/`auto_labels` в `/queue` на месте. Регрессов и обоснованных
FAIL не выявлено. Задача готова к переходу на `deploy-staging`.

View File

@@ -0,0 +1,12 @@
---
deploy_status: SUCCESS
work_item: ORCH-063
hook_exit_code: 0
deployed_by: deploy-finalizer
---
# Deploy log — ORCH-036 executable self-deploy
Прод-деплой завершён хост-хуком с exit-code `0` -> `deploy_status: SUCCESS`.
Вердикт зафиксирован детерминированным finalizer'ом (Фаза C), не LLM.

View File

@@ -0,0 +1,33 @@
---
staging_status: SUCCESS
work_item: ORCH-063
stage: deploy-staging
author_agent: deployer
status: success
created_at: 2026-06-09
model_used: claude-opus-4-8
timestamp: 2026-06-09T16:03:48Z
base_url: http://localhost:8501
---
# Staging Gate Log
> Машинный вердикт читается ТОЛЬКО из `staging_status:` во frontmatter. `SUCCESS` → дальше; `FAILED` → откат.
Staging test suite completed. All REAL pipeline checks passed. Suite run canonically **inside the
`orchestrator-staging` container** (8501) via the Docker exec API (`docker exec` equivalent), so
check **B6** built the project registry from the instance's own `.env.staging` process-env
(`ORCH_PROJECTS_JSON` set) — avoiding the ORCH-048 host false-FAIL.
Exit code **0**`staging_status: SUCCESS` (ORCH-061 waiver tolerance: exit 0 includes the two
waived sandbox-infra checks C9a/C9b; every REAL check is green).
INFRA-WAIVED: C9a Branch appears in orchestrator-sandbox, C9b Analyst job enqueued in staging queue (known sandbox-infra; real checks green)
VERDICT: SUCCESS (exit 0) — SUCCESS (infra-waived): ['C9a Branch appears in orchestrator-sandbox', 'C9b Analyst job enqueued in staging queue'] are known sandbox-infra checks; all real checks green
## Results
- **Block A (SMOKE)**: PASS — A1 `/health` 200 ok · A2 `/queue` 200 (counts/max_concurrency/resilience) · A3 `ORCH_STAGING=true`.
- **Block B (ACCESS)**: PASS — B4 Plane sandbox project accessible · B5 Gitea orchestrator-sandbox accessible push=true · B6 registry sandbox present, prod ET/ORCH absent.
- **Block C (E2E, mode=stub)**: C7 create Plane issue PASS · C8 trigger `/webhook/plane` PASS · C9a branch / C9b analyst-job **INFRA-WAIVED** (sandbox bot-accounts not project members — depends on sandbox infra, not the pipeline). CLEANUP: Plane issue deleted (HTTP 204).
RESULT: 8/10 checks PASS — REAL failed: **none**; SANDBOX_INFRA failed (waived): C9a, C9b.

351
src/build_cache_pruner.py Normal file
View File

@@ -0,0 +1,351 @@
"""ORCH-062: build-cache-pruner — periodic ``docker builder prune`` on the host.
On 07.06.2026 the mva154 host disk silently grew to 100% and took down the WHOLE
self-hosting pipeline of every project. The dominant consumer was the **docker
build cache** (~11 GB accumulated by frequent rebuilds: ``docker compose up
--build`` on prod deploy, the ``--profile staging`` rebuild, the build-once retag
behind ``check_staging_image_fresh``). ORCH-063 added the disk-watchdog, which
only **signals** (Telegram alert at >=85%) and explicitly deferred the cleanup to
this task. **This module is that cleanup: the watchdog signals — the pruner
cleans.**
It is a background daemon thread modelled **1:1 on** ``src/disk_watchdog.py``
(``threading.Thread(daemon=True)`` + ``threading.Event`` for a clean stop, the
``start()`` / ``stop(timeout)`` / ``status()`` contract, a ``/queue`` snapshot,
per-tick never-raise and a kill-switch ``ORCH_BUILD_CACHE_PRUNE_ENABLED``). Each
tick runs **strictly** ``docker builder prune -f --filter until=<until>`` (BuildKit
GC) on the **host over ssh** — the prod container ships no docker CLI, only
``openssh-client`` (``Dockerfile:11``), so docker operations run over ssh on the
host, the same channel ``image_freshness``/``self_deploy`` already use.
Invariants (TRZ §5/§6 / ADR-001 D2/D6):
* The command touches **only** the BuildKit build cache. There is NO
``docker image prune``, NO ``docker system prune``, no image/container removal
of running services and no container stop/restart. The prod ``orchestrator``
container is NEVER restarted (self-hosting blast radius). ``-a/--all`` is only
ever added **paired with** the ``until`` age filter — never a bare
"nuke everything".
* ``STAGE_TRANSITIONS`` / ``QG_CHECKS`` / ``check_*`` / ``_parse_*`` /
``src/stage_engine.py`` / the DB schema are UNCHANGED — the pruner is an
operational daemon, not a Quality Gate (like ``reconciler`` / ``job_reaper`` /
``disk_watchdog``). No new migration (last-run / last-result is in-memory,
best-effort, may reset on restart — safe: at worst one extra safe prune).
* never-raise on two levels: per-command (non-zero rc / timeout / ``OSError`` /
no ssh target / output-parse error -> logged and swallowed, the tick lives)
and per-tick (outer ``try/except`` in ``_run``, like ``disk_watchdog._run``).
The background loop and the pipeline never fall over.
* No ssh target configured (``deploy_ssh_host`` empty) -> the tick is a no-op
(logged, reflected in ``status().last_error``). This scopes the feature to the
self-hosting prod (where ssh is configured) and makes the default safe in any
environment without host access — parallel to how ``self_deploy`` /
``image_freshness`` degrade without a target.
* Kill-switch ``build_cache_prune_enabled=False`` -> the daemon does not start
(``main.lifespan`` guard + ``start()`` guard) and ``/queue`` returns
``{"enabled": false, ...}`` — behaviour 1:1 as before the task.
See docs/work-items/ORCH-062/06-adr/ADR-001-build-cache-pruner.md and the
cross-cutting docs/architecture/adr/adr-0025-build-cache-pruner.md.
"""
import logging
import re
import shlex
import subprocess
import threading
import time
from .config import settings
from .notifications import send_telegram
logger = logging.getLogger("orchestrator.build_cache_pruner")
_BYTES_PER_GB = 1024 ** 3
# Multipliers for the "Total reclaimed space: <n><unit>" line emitted by
# `docker builder prune`. Decimal units are base-1000 (docker's HumanSize),
# the *i* binary units base-1024. Best-effort — only used for observability /
# the optional notify threshold, never for a decision.
_SIZE_UNITS = {
"B": 1,
"KB": 1000, "MB": 1000 ** 2, "GB": 1000 ** 3, "TB": 1000 ** 4,
"KIB": 1024, "MIB": 1024 ** 2, "GIB": 1024 ** 3, "TIB": 1024 ** 4,
}
_RECLAIMED_RE = re.compile(
r"Total reclaimed space:\s*([\d.]+)\s*([KMGT]?i?B)", re.IGNORECASE
)
def decide_prune(prev_run_ts: float | None, now: float, interval_s: float) -> bool:
"""Pure decision (anti-frequency, NFR-4): should this tick prune?
Returns ``True`` when no prune has run yet (``prev_run_ts is None``) or at
least ``interval_s`` seconds have elapsed since the last attempt; ``False``
otherwise. Testable without a thread or a real timer (TC-01/TC-02). A
non-positive / unusable ``interval_s`` falls open to ``True`` (prune) — the
config validator already guards the value, this is belt-and-braces.
"""
if prev_run_ts is None:
return True
try:
return (now - prev_run_ts) >= interval_s
except TypeError: # pragma: no cover - defensive, inputs are numbers
return True
def _ssh_target() -> str | None:
"""ssh ``user@host`` for the host prune, or ``None`` when no host is
configured (tests / non-self contexts). Mirrors ``image_freshness._ssh_target``.
"""
host = (settings.deploy_ssh_host or "").strip()
if not host:
return None
user = (settings.deploy_ssh_user or "").strip()
return f"{user}@{host}" if user else host
def build_prune_command(
ssh_target: str, until: str, prune_all: bool = False
) -> list[str]:
"""Build the ssh command that runs ``docker builder prune`` on the host.
The remote is **strictly** ``docker builder prune -f`` (BuildKit GC), with the
age filter ``--filter until=<until>`` appended whenever ``until`` is set so the
warm recent cache is kept (BR-2/AC-2), and ``-a`` added **only** when
``prune_all`` is set — always paired with the age filter (D2). It NEVER emits
``docker image prune`` / ``docker system prune`` / any image/container removal
(BR-3/AC-3). The ``until`` value is ``shlex.quote``-d for the remote shell.
"""
remote = "docker builder prune -f"
if prune_all:
remote += " -a"
if until:
remote += " --filter until=" + shlex.quote(until)
return ["ssh", "-o", "StrictHostKeyChecking=no", ssh_target, remote]
def parse_reclaimed(output: str) -> int | None:
"""Best-effort parse of ``Total reclaimed space: <n><unit>`` -> bytes.
Returns the reclaimed size in bytes, or ``None`` when the line is absent /
unparseable (FR-4: observability is best-effort, never a decision). Never
raises.
"""
try:
m = _RECLAIMED_RE.search(output or "")
if not m:
return None
value = float(m.group(1))
unit = m.group(2).upper()
mult = _SIZE_UNITS.get(unit)
if mult is None:
return None
return int(value * mult)
except Exception as e: # noqa: BLE001 - parsing is best-effort
logger.warning("build-cache-pruner: cannot parse reclaimed space: %s", e)
return None
class BuildCachePruner:
"""Background daemon running ``docker builder prune`` on the host on a period.
Modelled on ``DiskWatchdog``: a ``threading.Thread(daemon=True)`` + a
``threading.Event`` for a clean stop. The only in-memory state is the
best-effort ``last_run_ts`` / ``_last_reclaimed`` / ``_last_error`` — all reset
on restart, which is safe (at worst one extra safe prune; D6).
``now_provider`` is injectable so the anti-frequency decision is testable
deterministically without a real timer.
"""
def __init__(self, interval_s: float | None = None, now_provider=None):
self.interval_s = (
interval_s
if interval_s is not None
else settings.build_cache_prune_interval_s
)
self._now = now_provider or time.time
self._stop = threading.Event()
self._thread: threading.Thread | None = None
# Best-effort in-memory state (no DB row, no migration).
self.last_run_ts: float | None = None
self._last_reclaimed: int | None = None
self._last_reclaimed_human: str | None = None
self._last_error: str | None = None
# -- config helpers ----------------------------------------------------
@property
def _until(self) -> str:
return settings.build_cache_prune_until
@property
def _all(self) -> bool:
return settings.build_cache_prune_all
@property
def _timeout_s(self) -> int:
return settings.build_cache_prune_timeout_s
@property
def _notify_min_gb(self) -> float:
return settings.build_cache_prune_notify_min_gb
# -- tick --------------------------------------------------------------
def tick(self) -> None:
"""One pass: prune if the anti-frequency window has elapsed (never-raise).
Runs the pure ``decide_prune`` against the injected clock; on a PRUNE
decision it performs the host prune (``_prune``), which is itself
never-raise. A SKIP decision leaves all state untouched.
"""
now = self._now()
if not decide_prune(self.last_run_ts, now, self.interval_s):
return
self._prune(now)
def _prune(self, now: float) -> None:
"""Run ``docker builder prune`` on the host over ssh. Never raises (AC-4).
Records the attempt time (``last_run_ts``) up front so the anti-frequency
window advances even when the command fails or there is no ssh target.
Every failure mode — no target, timeout, non-zero rc, ``OSError`` — is
logged, stored in ``_last_error`` and swallowed; the loop stays alive.
"""
self.last_run_ts = now
target = _ssh_target()
if not target:
self._last_error = "no ssh host configured (deploy_ssh_host empty)"
logger.info("build-cache-pruner: %s — tick is a no-op", self._last_error)
return
cmd = build_prune_command(target, self._until, self._all)
try:
r = subprocess.run(
cmd, capture_output=True, text=True, timeout=self._timeout_s
)
except subprocess.TimeoutExpired:
self._last_error = f"timeout after {self._timeout_s}s"
logger.warning("build-cache-pruner: prune %s", self._last_error)
return
except (subprocess.SubprocessError, OSError) as e:
self._last_error = f"ssh/subprocess error: {e}"
logger.warning("build-cache-pruner: %s", self._last_error)
return
if r.returncode != 0:
self._last_error = (
f"rc={r.returncode}: {(r.stderr or '').strip()[:200]}"
)
logger.warning("build-cache-pruner: prune %s", self._last_error)
return
# Success: parse the best-effort reclaimed size and clear the error.
self._last_error = None
reclaimed = parse_reclaimed(r.stdout or "")
self._last_reclaimed = reclaimed
self._last_reclaimed_human = self._format_reclaimed(reclaimed)
logger.info(
"build-cache-pruner: pruned host build cache (until=%s, all=%s), "
"reclaimed=%s",
self._until, self._all, self._last_reclaimed_human or "unknown",
)
self._maybe_notify(reclaimed)
@staticmethod
def _format_reclaimed(reclaimed: int | None) -> str | None:
"""Human GB label for a reclaimed byte count (best-effort, never raises)."""
if reclaimed is None:
return None
try:
return f"{reclaimed / _BYTES_PER_GB:.2f} GB"
except Exception: # noqa: BLE001 - observability only
return None
def _maybe_notify(self, reclaimed: int | None) -> None:
"""Telegram when reclaimed >= ``notify_min_gb`` (>0 to enable). Never raises."""
try:
min_gb = self._notify_min_gb
if not min_gb or min_gb <= 0 or reclaimed is None:
return
gb = reclaimed / _BYTES_PER_GB
if gb < min_gb:
return
self._send(
f"\U0001f9f9 build-cache-pruner: освобождено {gb:.2f} ГБ "
f"docker build cache на хосте (until={self._until})."
)
except Exception as e: # noqa: BLE001 - notify is best-effort
logger.warning("build-cache-pruner: notify decision failed: %s", e)
def _send(self, text: str) -> None:
"""Send a Telegram message (notifying). Never raises (best-effort)."""
try:
send_telegram(text)
except Exception as e: # noqa: BLE001 - delivery is best-effort
logger.warning("build-cache-pruner: telegram send failed: %s", e)
# -- loop / lifecycle --------------------------------------------------
def _tick(self) -> None:
try:
self.tick()
except Exception as e: # noqa: BLE001 - inner never-raise
logger.error("build-cache-pruner: tick error: %s", e)
def _run(self) -> None:
logger.info(
"BuildCachePruner started (interval=%ss, until=%s, all=%s, "
"timeout=%ss, enabled=%s)",
self.interval_s, self._until, self._all, self._timeout_s,
settings.build_cache_prune_enabled,
)
while not self._stop.is_set():
try:
self._tick()
except Exception as e: # noqa: BLE001 - outer never-raise
logger.error("BuildCachePruner loop error: %s", e)
self._stop.wait(self.interval_s)
logger.info("BuildCachePruner stopped")
def start(self) -> None:
"""Start the daemon thread (idempotent: a live thread is a no-op).
Honours the kill-switch: ``build_cache_prune_enabled=False`` -> no-op (the
daemon never starts; ``main.lifespan`` also guards, AC-5/TC-07).
"""
if not settings.build_cache_prune_enabled:
return
if self._thread and self._thread.is_alive():
return
self._stop.clear()
self._thread = threading.Thread(
target=self._run, name="build-cache-pruner", daemon=True
)
self._thread.start()
def stop(self, timeout: float = 5.0) -> None:
self._stop.set()
if self._thread:
self._thread.join(timeout=timeout)
def status(self) -> dict:
"""Build-cache-pruner snapshot for /queue observability (FR-4/AC-7).
Never raises — returns a minimal ``{"enabled": ...}`` on any error.
"""
try:
return {
"enabled": settings.build_cache_prune_enabled,
"interval_s": self.interval_s,
"until": self._until,
"all": self._all,
"last_run_ts": self.last_run_ts,
"last_reclaimed_bytes": self._last_reclaimed,
"last_reclaimed": self._last_reclaimed_human,
"last_error": self._last_error,
}
except Exception as e: # noqa: BLE001 - observability must never raise
logger.warning("build-cache-pruner: status() failed: %s", e)
return {"enabled": settings.build_cache_prune_enabled}
# Module-level singleton used by the FastAPI lifespan.
build_cache_pruner = BuildCachePruner()

View File

@@ -1,3 +1,6 @@
import logging
import re
from pydantic import field_validator
from pydantic_settings import BaseSettings
@@ -381,6 +384,150 @@ class Settings(BaseSettings):
reaper_finalize_grace_s: int = 300
lease_reclaim_enabled: bool = True
# ORCH-063: disk-watchdog — background heartbeat that measures host-FS fill via
# the mounted bind-paths and Telegram-alerts the operator at >= threshold. On
# 07.06.2026 the mva154 host disk silently hit 100% and stalled the WHOLE
# self-hosting pipeline; the watchdog is the missing proactive signal. Modelled
# on reconciler/job_reaper (daemon thread, start/stop in main.lifespan, /queue
# snapshot, never-raise). Anti-spam state is in-memory (no DB migration).
# disk_monitor_enabled -> kill-switch; False -> the daemon does not start
# (zero regression), env ORCH_DISK_MONITOR_ENABLED.
# disk_monitor_interval_s -> heartbeat measurement period, seconds (order of
# minutes; cheap shutil.disk_usage, no df subprocess).
# disk_monitor_threshold_pct -> fill % that triggers the alert (Owner-fixed 85).
# disk_monitor_realert_s -> min interval between repeat alerts while still
# above threshold (anti-spam cooldown, ~6h).
# disk_monitor_paths -> CSV of monitored HOST bind-paths (NOT overlay /);
# empty -> the default set (/repos, /app/data).
# Defensive validation (ADR-001 D7): threshold out of 1..100 or a non-positive
# interval -> default + warning (the process never crashes on a bad env value).
disk_monitor_enabled: bool = True
disk_monitor_interval_s: int = 300
disk_monitor_threshold_pct: int = 85
disk_monitor_realert_s: int = 21600
disk_monitor_paths: str = "/repos,/app/data"
@field_validator(
"disk_monitor_interval_s", "disk_monitor_realert_s", mode="before"
)
@classmethod
def _disk_positive_int(cls, v, info):
# Non-positive / non-numeric interval -> the field default (never crash).
_defaults = {"disk_monitor_interval_s": 300, "disk_monitor_realert_s": 21600}
fallback = _defaults.get(info.field_name, 1)
try:
if v is None or (isinstance(v, str) and v.strip() == ""):
return fallback
iv = int(v)
if iv <= 0:
logging.getLogger("orchestrator.config").warning(
"%s must be > 0, got %s; falling back to %s",
info.field_name, v, fallback,
)
return fallback
return iv
except (TypeError, ValueError):
return fallback
@field_validator("disk_monitor_threshold_pct", mode="before")
@classmethod
def _disk_threshold_pct(cls, v):
# Threshold must be a percentage in 1..100; otherwise -> default 85.
try:
if v is None or (isinstance(v, str) and v.strip() == ""):
return 85
iv = int(v)
if 1 <= iv <= 100:
return iv
logging.getLogger("orchestrator.config").warning(
"disk_monitor_threshold_pct must be 1..100, got %s; using 85", v
)
return 85
except (TypeError, ValueError):
return 85
# ORCH-062: build-cache-pruner — the "second half" of the disk-watchdog
# (ORCH-063): watchdog SIGNALS, pruner CLEANS. A background daemon thread
# modelled 1:1 on disk_watchdog (start/stop in main.lifespan, /queue snapshot,
# never-raise, kill-switch) that periodically runs `docker builder prune` on
# the HOST over ssh (the container ships no docker CLI — same channel as
# image_freshness/self_deploy). Touches ONLY the BuildKit build cache: never
# images/containers of running services, never restarts the docker daemon or
# the prod container (self-hosting safety). State (last run / result) is
# in-memory, best-effort — no DB migration. ADR-001 D1..D7.
# build_cache_prune_enabled -> kill-switch; False -> daemon does not
# start (1:1 as before), env *_ENABLED.
# build_cache_prune_interval_s -> tick period, seconds (order of hours).
# build_cache_prune_until -> retention age for warm cache
# (`docker builder prune --filter until=`).
# build_cache_prune_all -> add `-a` (ALWAYS paired with until).
# build_cache_prune_timeout_s -> bound on the ssh command, seconds.
# build_cache_prune_notify_min_gb -> Telegram when reclaimed >= N GB; 0 -> silent.
# Defensive validation (ADR-001 D4): a non-positive / non-numeric interval or
# timeout -> default + warning; an `until` not matching ^\d+[smhdw]?$ -> "24h";
# a negative notify threshold -> 0. A bad env value NEVER crashes the start.
build_cache_prune_enabled: bool = True
build_cache_prune_interval_s: int = 21600
build_cache_prune_until: str = "24h"
build_cache_prune_all: bool = False
build_cache_prune_timeout_s: int = 120
build_cache_prune_notify_min_gb: float = 0.0
@field_validator(
"build_cache_prune_interval_s", "build_cache_prune_timeout_s", mode="before"
)
@classmethod
def _bcp_positive_int(cls, v, info):
# Non-positive / non-numeric -> the field default (never crash the start).
_defaults = {
"build_cache_prune_interval_s": 21600,
"build_cache_prune_timeout_s": 120,
}
fallback = _defaults.get(info.field_name, 1)
try:
if v is None or (isinstance(v, str) and v.strip() == ""):
return fallback
iv = int(v)
if iv <= 0:
logging.getLogger("orchestrator.config").warning(
"%s must be > 0, got %s; falling back to %s",
info.field_name, v, fallback,
)
return fallback
return iv
except (TypeError, ValueError):
return fallback
@field_validator("build_cache_prune_until", mode="before")
@classmethod
def _bcp_until(cls, v):
# A docker `until` filter: digits + optional unit (s/m/h/d/w). Anything
# else -> the safe default "24h" (keeps warm cache, BR-2).
try:
if v is None:
return "24h"
s = str(v).strip()
if s and re.match(r"^\d+[smhdw]?$", s):
return s
logging.getLogger("orchestrator.config").warning(
"build_cache_prune_until must match ^\\d+[smhdw]?$, got %r; using 24h", v
)
return "24h"
except (TypeError, ValueError):
return "24h"
@field_validator("build_cache_prune_notify_min_gb", mode="before")
@classmethod
def _bcp_notify_min_gb(cls, v):
# A non-negative GB threshold; negative / non-numeric -> 0 (silent).
try:
if v is None or (isinstance(v, str) and v.strip() == ""):
return 0.0
fv = float(v)
return fv if fv >= 0 else 0.0
except (TypeError, ValueError):
return 0.0
# ORCH-071: merge-verify under-gate on the `deploy -> done` edge. For the
# self-hosting repo the `deploy` stage runs the DETERMINISTIC self-deploy path
# (Phase A/B/C), where the LLM `deployer` agent — historically the ONLY actor

358
src/disk_watchdog.py Normal file
View File

@@ -0,0 +1,358 @@
"""ORCH-063: disk-watchdog — host-FS fill heartbeat + Telegram alert at >=85%.
On 07.06.2026 the mva154 host disk silently grew to 100% and took down the WHOLE
self-hosting pipeline of every project (one prod ``orchestrator`` instance serves
all prod projects from a shared DB/queue). The system had no proactive signal —
the operator only learned of the problem once the instance was already stuck.
This module is a background daemon thread modelled 1:1 on ``reconciler``
(ORCH-053) and ``job_reaper`` (ORCH-065): a ``threading.Thread(daemon=True)`` +
``threading.Event`` for a clean stop, the ``start()`` / ``stop(timeout)`` /
``status()`` contract, a ``/queue`` snapshot, per-tick never-raise and a
kill-switch (``ORCH_DISK_MONITOR_ENABLED``). Each tick measures the fill of the
mounted **host** bind-paths (``/repos``, ``/app/data``) via stdlib
``shutil.disk_usage`` — NOT the container overlay ``/``, NOT a ``df`` subprocess —
deduplicates paths by physical device (``st_dev``), and through a pure decision
function from ``(used_pct, threshold, prev_state, now, realert_s)`` decides to
alert (threshold crossed up), re-alert (cooldown elapsed), send recovery (back
below threshold) or stay silent.
Invariants (TRZ §10 / ADR-001):
* ``STAGE_TRANSITIONS`` / ``QG_CHECKS`` / ``check_*`` / the DB schema are
UNCHANGED — the watchdog is an operational daemon, not a Quality Gate (like
``reconciler`` / ``job_reaper``). No new migration (anti-spam state is
in-memory, best-effort, may reset on restart — safe: an early signal, not an
SLA).
* never-raise on three levels: per-path (a broken path is skipped, the rest are
measured), per-tick (outer ``try/except`` in ``_run``), per-send
(``send_telegram`` wrapped).
* Self-hosting safety: the watchdog only READS fill and SENDS Telegram — it
never touches the disk/container, never restarts prod. Safe for enduro-trails
in the shared instance.
* Kill-switch ``disk_monitor_enabled=False`` -> the daemon does not start
(``main.lifespan`` guard) and ``/queue`` returns ``{"enabled": false}`` —
behaviour 1:1 as before.
See docs/work-items/ORCH-063/06-adr/ADR-001-disk-watchdog.md and the cross-cutting
docs/architecture/adr/adr-0024-disk-watchdog.md.
"""
import logging
import os
import shutil
import socket
import threading
import time
from dataclasses import dataclass
from datetime import datetime, timezone
from .config import settings
from .notifications import send_telegram
logger = logging.getLogger("orchestrator.disk_watchdog")
_BYTES_PER_GB = 1024 ** 3
# Decision actions returned by ``decide_action`` (D3).
ACTION_NONE = "none"
ACTION_ALERT = "alert"
ACTION_REALERT = "realert"
ACTION_RECOVERY = "recovery"
@dataclass
class PathAlertState:
"""In-memory anti-spam state for one logical device/path (D3).
Best-effort: lives only in the daemon (no DB row, no migration). After a
process restart ``alerting`` resets to ``False`` -> a still-full disk re-alerts
once, which is safe (an early signal, not an SLA; TRZ §5/NFR-5).
"""
alerting: bool = False
last_alert_at: float | None = None
def _resolve_host() -> str:
"""Best-effort host label for alert text (never raises).
The prod container runs ``network_mode: host`` so ``gethostname()`` resolves
to the real host (``mva154``). Any failure -> the neutral ``"host"``.
"""
try:
name = socket.gethostname()
return name or "host"
except Exception: # noqa: BLE001 - never break the tick
return "host"
def parse_paths(raw: str) -> list[str]:
"""Parse the ``disk_monitor_paths`` CSV into a clean path list.
Empty / blank -> the default host bind-paths (``/repos``, ``/app/data``,
TRZ §8). Never raises.
"""
default = ["/repos", "/app/data"]
try:
if not raw or not raw.strip():
return default
paths = [p.strip() for p in raw.split(",") if p.strip()]
return paths or default
except Exception: # noqa: BLE001 - never break the tick
return default
def decide_action(
used_pct: float,
threshold: float,
prev: PathAlertState,
now: float,
realert_s: float,
) -> str:
"""Pure alert decision (D3) — testable without a thread or a real timer.
Returns one of ``ACTION_{NONE,ALERT,REALERT,RECOVERY}`` as a function of the
current fill, the threshold, the previous per-path state and the injected
clock:
* not alerting & ``used_pct >= threshold`` -> ALERT (crossed up)
* alerting & still ``>= threshold`` & cooldown -> REALERT (re-alert)
* alerting & still ``>= threshold`` & in cooldown-> NONE (anti-spam)
* alerting & ``used_pct < threshold`` -> RECOVERY (crossed down)
* not alerting & ``used_pct < threshold`` -> NONE (normal)
Threshold is inclusive: ``used_pct == threshold`` counts as exceeding
(``>=``, TC-05).
"""
above = used_pct >= threshold
if not prev.alerting:
return ACTION_ALERT if above else ACTION_NONE
# prev.alerting is True
if not above:
return ACTION_RECOVERY
last = prev.last_alert_at
if last is None or (now - last) >= realert_s:
return ACTION_REALERT
return ACTION_NONE
def _measure_one(path: str) -> dict | None:
"""Measure one path via ``shutil.disk_usage`` (D1). Never raises.
Returns a measurement dict, or ``None`` if the path is missing / unreadable
(``FileNotFoundError`` / ``PermissionError`` / ``OSError``) -> the caller skips
THIS path and keeps measuring the others (FR-2, AC-6: one broken path never
fails the whole tick).
"""
try:
usage = shutil.disk_usage(path)
total = int(usage.total)
used = int(usage.used)
free = int(usage.free)
used_pct = round(used / total * 100, 1) if total > 0 else 0.0
free_pct = round(free / total * 100, 1) if total > 0 else 0.0
return {
"path": path,
"total_bytes": total,
"used_bytes": used,
"free_bytes": free,
"used_pct": used_pct,
"free_pct": free_pct,
"free_gb": round(free / _BYTES_PER_GB, 1),
}
except Exception as e: # noqa: BLE001 - skip this path, keep the tick alive
logger.warning("disk-watchdog: cannot measure path %s, skipping: %s", path, e)
return None
def _dedup_key(path: str) -> object:
"""Physical-device dedup key (D2): ``st_dev`` if resolvable, else the path.
Paths sharing a device (``/repos`` and ``/app/data`` on the same host
partition) collapse to one logical partition -> one alert, not two. Failure to
``os.stat`` -> fail-open (the path is its own key, measured independently).
"""
try:
return os.stat(path).st_dev
except Exception: # noqa: BLE001 - fail-open, treat as a distinct device
return path
def measure_paths(paths: list[str]) -> list[dict]:
"""Measure every path, deduplicated by physical device (D1/D2). Never raises.
For each distinct ``st_dev`` the FIRST successfully-measured path is kept and
carries a stable ``dedup_key`` (so anti-spam state is per-device). A path that
fails to measure is skipped (AC-6).
"""
out: list[dict] = []
seen: set[object] = set()
for path in paths:
key = _dedup_key(path)
if key in seen:
continue
m = _measure_one(path)
if m is None:
continue
seen.add(key)
m["dedup_key"] = key
out.append(m)
return out
def format_alert_message(m: dict, threshold: float, host: str) -> str:
"""Actionable Telegram alert text (FR-3/AC-2): host, path, used %, free, threshold."""
return (
f"\U0001f534 Диск {host}: {m['path']} заполнен на {m['used_pct']}% "
f"(порог {threshold}%). Свободно {m['free_gb']} ГБ ({m['free_pct']}%). "
f"Освободите место — риск остановки конвейера всех проектов."
)
def format_recovery_message(m: dict, host: str) -> str:
"""Single recovery message when fill returns below threshold (FR-4/AC-4)."""
return (
f"\U0001f7e2 Диск {host}: {m['path']} вернулся ниже порога — "
f"{m['used_pct']}% (свободно {m['free_gb']} ГБ)."
)
class DiskWatchdog:
"""Background daemon measuring host-FS fill and alerting on >= threshold.
Modelled on ``Reconciler`` / ``JobReaper``: a ``threading.Thread(daemon=True)``
+ a ``threading.Event`` for a clean stop. The only in-memory state is the
best-effort anti-spam map (``_states``), the last-measurement snapshot
(``_last``) and ``last_run_ts`` — all reset on restart, which is safe (D3).
``now_provider`` is injectable so the cooldown / recovery logic is testable
deterministically without a real timer (AC-3).
"""
def __init__(self, interval_s: float | None = None, now_provider=None):
self.interval_s = (
interval_s if interval_s is not None else settings.disk_monitor_interval_s
)
self._now = now_provider or time.time
self._stop = threading.Event()
self._thread: threading.Thread | None = None
self._host = _resolve_host()
# Best-effort in-memory state, per dedup_key (device/path).
self._states: dict[object, PathAlertState] = {}
self._last: dict[object, dict] = {}
self.last_run_ts: float | None = None
# -- config helpers ----------------------------------------------------
@property
def _threshold(self) -> int:
return settings.disk_monitor_threshold_pct
@property
def _realert_s(self) -> int:
return settings.disk_monitor_realert_s
def _paths(self) -> list[str]:
return parse_paths(settings.disk_monitor_paths)
# -- tick --------------------------------------------------------------
def tick(self) -> None:
"""One measurement pass over all monitored paths (never-raise per send).
Measures every (deduplicated) path, runs the pure ``decide_action`` per
device and dispatches the resulting alert / re-alert / recovery via
``send_telegram`` (notifying). Telegram failures are logged and swallowed
(best-effort delivery, AC-6).
"""
threshold = self._threshold
realert_s = self._realert_s
now = self._now()
for m in measure_paths(self._paths()):
key = m["dedup_key"]
prev = self._states.get(key) or PathAlertState()
action = decide_action(m["used_pct"], threshold, prev, now, realert_s)
if action in (ACTION_ALERT, ACTION_REALERT):
self._send(format_alert_message(m, threshold, self._host), notifying=True)
self._states[key] = PathAlertState(alerting=True, last_alert_at=now)
elif action == ACTION_RECOVERY:
self._send(format_recovery_message(m, self._host), notifying=True)
self._states[key] = PathAlertState(alerting=False, last_alert_at=None)
# ACTION_NONE: leave prev state untouched (anti-spam / normal).
# Record the snapshot for /queue observability.
cur = self._states.get(key) or prev
self._last[key] = {
"path": m["path"],
"used_pct": m["used_pct"],
"free_gb": m["free_gb"],
"free_pct": m["free_pct"],
"alerting": cur.alerting,
"last_alert_at": cur.last_alert_at,
}
def _send(self, text: str, notifying: bool) -> None:
"""Send a Telegram alert (notifying, not silent). Never raises (AC-6)."""
try:
send_telegram(text, disable_notification=not notifying)
except Exception as e: # noqa: BLE001 - delivery is best-effort
logger.warning("disk-watchdog: telegram send failed: %s", e)
# -- loop / lifecycle --------------------------------------------------
def _tick(self) -> None:
try:
self.tick()
finally:
self.last_run_ts = datetime.now(timezone.utc).timestamp()
def _run(self) -> None:
logger.info(
"DiskWatchdog started (interval=%ss, threshold=%s%%, realert=%ss, "
"paths=%s, enabled=%s)",
self.interval_s, self._threshold, self._realert_s,
self._paths(), settings.disk_monitor_enabled,
)
while not self._stop.is_set():
try:
self._tick()
except Exception as e: # noqa: BLE001 - outer never-raise
logger.error("DiskWatchdog loop error: %s", e)
self._stop.wait(self.interval_s)
logger.info("DiskWatchdog stopped")
def start(self) -> None:
"""Start the daemon thread (idempotent: a live thread is a no-op).
Honours the kill-switch: ``disk_monitor_enabled=False`` -> no-op (the
daemon never starts; ``main.lifespan`` also guards, AC-5/TC-09).
"""
if not settings.disk_monitor_enabled:
return
if self._thread and self._thread.is_alive():
return
self._stop.clear()
self._thread = threading.Thread(
target=self._run, name="disk-watchdog", daemon=True
)
self._thread.start()
def stop(self, timeout: float = 5.0) -> None:
self._stop.set()
if self._thread:
self._thread.join(timeout=timeout)
def status(self) -> dict:
"""Disk-monitor snapshot for /queue observability (FR-6/AC-7). Never raises."""
try:
return {
"enabled": settings.disk_monitor_enabled,
"threshold_pct": self._threshold,
"interval_s": self.interval_s,
"realert_s": self._realert_s,
"last_run_ts": self.last_run_ts,
"paths": list(self._last.values()),
}
except Exception as e: # noqa: BLE001 - observability must never raise
logger.warning("disk-watchdog: status() failed: %s", e)
return {"enabled": settings.disk_monitor_enabled}
# Module-level singleton used by the FastAPI lifespan.
disk_watchdog = DiskWatchdog()

View File

@@ -105,9 +105,29 @@ async def lifespan(app: FastAPI):
from .job_reaper import reaper
reaper.start()
# ORCH-063: start the disk-watchdog LAST (after the reaper). It is independent
# of the queue/DB — it only reads host-FS fill and Telegram-alerts at >=
# threshold — so the order is not critical, but we follow the daemon
# convention. Honours the kill-switch ORCH_DISK_MONITOR_ENABLED (start() is a
# no-op when disabled, so behaviour is 1:1 as before).
from .disk_watchdog import disk_watchdog
disk_watchdog.start()
# ORCH-062: start the build-cache-pruner LAST, right after the disk-watchdog
# (D7). It is the "second half" of the watchdog (watchdog signals, pruner
# cleans): a daemon thread that periodically runs `docker builder prune` on
# the host over ssh. Honours the kill-switch ORCH_BUILD_CACHE_PRUNE_ENABLED
# (start() is a no-op when disabled, so behaviour is 1:1 as before).
from .build_cache_pruner import build_cache_pruner
build_cache_pruner.start()
try:
yield
finally:
# ORCH-062: stop the build-cache-pruner first (reverse of startup, D7).
build_cache_pruner.stop()
# ORCH-063: stop the disk-watchdog next (reverse of startup).
disk_watchdog.stop()
# Graceful shutdown order mirrors startup in reverse: stop the reaper
# first, then the reconciler (it must not enqueue new work while the
# worker is winding down), then the worker. Running agents keep going;
@@ -151,6 +171,8 @@ async def queue():
from . import task_deps
from . import serial_gate
from . import labels
from .disk_watchdog import disk_watchdog
from .build_cache_pruner import build_cache_pruner
return {
"counts": job_status_counts(),
"max_concurrency": worker.max_concurrency,
@@ -169,6 +191,15 @@ async def queue():
# ORCH-089 (D7): auto-mode-by-label observability (read-only) — kill-switch,
# label names, scope. Additive block.
"auto_labels": labels.snapshot(),
# ORCH-063 (FR-6 / AC-7): disk-watchdog observability (read-only) —
# enabled, threshold, interval, last measurement per host-path. Additive
# block; never-raise (status() returns {"enabled": ...} minimum on error).
"disk_monitor": disk_watchdog.status(),
# ORCH-062 (FR-4 / AC-7): build-cache-pruner observability (read-only) —
# enabled, interval, retention (until), last run + best-effort reclaimed /
# last error. Additive block; never-raise (status() returns {"enabled":
# ...} minimum on error).
"build_cache_prune": build_cache_pruner.status(),
"recent": recent_jobs(10),
}

View File

@@ -0,0 +1,378 @@
"""ORCH-062: build-cache-pruner tests (TC-01..TC-12).
The pruner never runs a real ``docker builder prune``: ``subprocess.run`` is
monkeypatched, ``send_telegram`` is captured, and the anti-frequency clock is
injected through ``now_provider`` so time-dependent decisions are tested without a
real timer (same convention as ``test_disk_watchdog.py``). No test touches the
real docker daemon or frees real disk.
"""
import os
import tempfile
import pytest
# Override env before importing app modules (same convention as test_disk_watchdog.py).
os.environ.setdefault("ORCH_DB_PATH", os.path.join(tempfile.gettempdir(), "test_orch_bcp.db"))
os.environ.setdefault("ORCH_GITEA_TOKEN", "test-token")
os.environ.setdefault("ORCH_PLANE_API_TOKEN", "test-token")
import src.build_cache_pruner as bcp # noqa: E402
from src.build_cache_pruner import ( # noqa: E402
BuildCachePruner,
build_prune_command,
decide_prune,
parse_reclaimed,
)
# --------------------------------------------------------------------------- #
# Helpers
# --------------------------------------------------------------------------- #
class _Completed:
"""Minimal stand-in for ``subprocess.CompletedProcess``."""
def __init__(self, returncode=0, stdout="", stderr=""):
self.returncode = returncode
self.stdout = stdout
self.stderr = stderr
@pytest.fixture
def ssh_configured(monkeypatch):
"""Configure an ssh target so ``_ssh_target()`` is not None."""
monkeypatch.setattr(bcp.settings, "deploy_ssh_host", "mva154", raising=False)
monkeypatch.setattr(bcp.settings, "deploy_ssh_user", "slin", raising=False)
@pytest.fixture
def prune_defaults(monkeypatch):
"""Default prune policy (until=24h, all=False, timeout=120, silent)."""
monkeypatch.setattr(bcp.settings, "build_cache_prune_enabled", True, raising=False)
monkeypatch.setattr(bcp.settings, "build_cache_prune_until", "24h", raising=False)
monkeypatch.setattr(bcp.settings, "build_cache_prune_all", False, raising=False)
monkeypatch.setattr(bcp.settings, "build_cache_prune_timeout_s", 120, raising=False)
monkeypatch.setattr(bcp.settings, "build_cache_prune_notify_min_gb", 0.0, raising=False)
# --------------------------------------------------------------------------- #
# TC-01 / TC-02: pure anti-frequency decision
# --------------------------------------------------------------------------- #
def test_tc01_decide_prune_when_interval_elapsed():
"""TC-01: never pruned yet -> PRUNE; interval elapsed since last -> PRUNE."""
assert decide_prune(None, now=1000.0, interval_s=21600) is True
assert decide_prune(1000.0, now=1000.0 + 21600, interval_s=21600) is True
assert decide_prune(1000.0, now=1000.0 + 30000, interval_s=21600) is True
def test_tc02_decide_skip_within_interval():
"""TC-02: interval not yet elapsed -> SKIP (anti-frequency, NFR-4)."""
assert decide_prune(1000.0, now=1000.0 + 10, interval_s=21600) is False
assert decide_prune(1000.0, now=1000.0 + 21599, interval_s=21600) is False
# --------------------------------------------------------------------------- #
# TC-03: safe command construction (retention filter, no image/system prune)
# --------------------------------------------------------------------------- #
def test_tc03_command_carries_until_and_is_builder_only():
"""TC-03: command is `docker builder prune` with until=<retention>, never
image/system prune (FR-2/FR-3/AC-2/AC-3)."""
cmd = build_prune_command("slin@mva154", "24h", prune_all=False)
assert cmd[0] == "ssh"
assert "slin@mva154" in cmd
remote = cmd[-1]
assert "docker builder prune" in remote
assert "--filter until=24h" in remote
# Strictly build cache — never images/system/containers.
assert "image prune" not in remote
assert "system prune" not in remote
assert "-a" not in remote.split() # all-flag not set by default
def test_tc03_all_flag_only_paired_with_until():
"""TC-03: -a is added ONLY together with the age filter (D2/AC-2)."""
cmd = build_prune_command("slin@mva154", "24h", prune_all=True)
remote = cmd[-1]
assert "docker builder prune" in remote
assert "-a" in remote.split()
assert "--filter until=24h" in remote # never a bare nuke
# --------------------------------------------------------------------------- #
# TC-04: never-raise on subprocess exception / non-zero rc
# --------------------------------------------------------------------------- #
def test_tc04_subprocess_exception_does_not_raise(monkeypatch, ssh_configured, prune_defaults):
"""TC-04: a raising subprocess is swallowed; the tick survives, error logged."""
def _boom(*a, **k):
raise OSError("ssh exploded")
monkeypatch.setattr(bcp.subprocess, "run", _boom)
pruner = BuildCachePruner(now_provider=lambda: 1000.0)
pruner.tick() # must not raise
assert pruner._last_error is not None
assert pruner.status()["last_error"] is not None
def test_tc04_nonzero_rc_recorded(monkeypatch, ssh_configured, prune_defaults):
"""TC-04: a non-zero rc is recorded as an error, never raised."""
monkeypatch.setattr(
bcp.subprocess, "run",
lambda *a, **k: _Completed(returncode=1, stderr="permission denied"),
)
pruner = BuildCachePruner(now_provider=lambda: 1000.0)
pruner.tick()
assert "rc=1" in pruner._last_error
# --------------------------------------------------------------------------- #
# TC-05: never-raise on docker.sock / ssh unavailability
# --------------------------------------------------------------------------- #
def test_tc05_socket_unavailable_skips_tick(monkeypatch, ssh_configured, prune_defaults):
"""TC-05: FileNotFoundError / PermissionError -> tick skipped, loop alive."""
def _enoent(*a, **k):
raise FileNotFoundError("docker.sock missing")
monkeypatch.setattr(bcp.subprocess, "run", _enoent)
pruner = BuildCachePruner(now_provider=lambda: 1000.0)
pruner.tick() # must not raise
assert pruner._last_error is not None
def test_tc05_no_ssh_target_is_noop(monkeypatch, prune_defaults):
"""TC-05: no ssh host configured -> tick is a no-op (no subprocess call)."""
monkeypatch.setattr(bcp.settings, "deploy_ssh_host", "", raising=False)
called = {"n": 0}
monkeypatch.setattr(bcp.subprocess, "run", lambda *a, **k: called.__setitem__("n", called["n"] + 1))
pruner = BuildCachePruner(now_provider=lambda: 1000.0)
pruner.tick()
assert called["n"] == 0
assert "no ssh host" in pruner._last_error
# --------------------------------------------------------------------------- #
# TC-06: never-raise on timeout
# --------------------------------------------------------------------------- #
def test_tc06_timeout_swallowed(monkeypatch, ssh_configured, prune_defaults):
"""TC-06: TimeoutExpired is swallowed; the background loop continues (FR-6/AC-4)."""
def _timeout(*a, **k):
raise bcp.subprocess.TimeoutExpired(cmd="ssh ... docker builder prune", timeout=120)
monkeypatch.setattr(bcp.subprocess, "run", _timeout)
pruner = BuildCachePruner(now_provider=lambda: 1000.0)
pruner.tick() # must not raise
assert "timeout" in pruner._last_error
# --------------------------------------------------------------------------- #
# TC-07: kill-switch
# --------------------------------------------------------------------------- #
def test_tc07_killswitch_does_not_start(monkeypatch):
"""TC-07: build_cache_prune_enabled=False -> start() is a no-op (no thread)."""
monkeypatch.setattr(bcp.settings, "build_cache_prune_enabled", False, raising=False)
pruner = BuildCachePruner()
pruner.start()
assert pruner._thread is None
def test_tc07_killswitch_status_block(monkeypatch):
"""TC-07: status() reports enabled=False under the kill-switch."""
monkeypatch.setattr(bcp.settings, "build_cache_prune_enabled", False, raising=False)
pruner = BuildCachePruner()
assert pruner.status()["enabled"] is False
# --------------------------------------------------------------------------- #
# TC-08: config validation -> safe defaults
# --------------------------------------------------------------------------- #
def test_tc08_invalid_interval_falls_back_to_default():
"""TC-08: a non-positive / non-numeric interval -> the safe default (no crash)."""
from src.config import Settings
s = Settings(build_cache_prune_interval_s=0, build_cache_prune_timeout_s=-5)
assert s.build_cache_prune_interval_s == 21600
assert s.build_cache_prune_timeout_s == 120
s2 = Settings(build_cache_prune_interval_s="not-a-number")
assert s2.build_cache_prune_interval_s == 21600
def test_tc08_invalid_until_falls_back_to_24h():
"""TC-08: an `until` not matching ^\\d+[smhdw]?$ -> the safe default 24h."""
from src.config import Settings
assert Settings(build_cache_prune_until="garbage").build_cache_prune_until == "24h"
assert Settings(build_cache_prune_until="").build_cache_prune_until == "24h"
# Valid values are preserved.
assert Settings(build_cache_prune_until="48h").build_cache_prune_until == "48h"
assert Settings(build_cache_prune_until="30m").build_cache_prune_until == "30m"
assert Settings(build_cache_prune_until="7d").build_cache_prune_until == "7d"
def test_tc08_negative_notify_min_gb_falls_back_to_zero():
"""TC-08: a negative notify threshold -> 0 (silent), never a crash."""
from src.config import Settings
assert Settings(build_cache_prune_notify_min_gb=-3).build_cache_prune_notify_min_gb == 0.0
assert Settings(build_cache_prune_notify_min_gb=2.5).build_cache_prune_notify_min_gb == 2.5
# --------------------------------------------------------------------------- #
# TC-09: status() never-raise + best-effort last result
# --------------------------------------------------------------------------- #
def test_tc09_status_shape(monkeypatch, prune_defaults):
"""TC-09: status() carries enabled/interval_s/until/last_run_ts + reclaimed."""
monkeypatch.setattr(bcp.settings, "build_cache_prune_enabled", True, raising=False)
pruner = BuildCachePruner()
st = pruner.status()
for key in (
"enabled", "interval_s", "until", "all", "last_run_ts",
"last_reclaimed", "last_reclaimed_bytes", "last_error",
):
assert key in st
assert st["last_run_ts"] is None # no tick yet
def test_tc09_status_reflects_last_prune(monkeypatch, ssh_configured, prune_defaults):
"""TC-09: after a successful tick status() carries last_run_ts + reclaimed."""
monkeypatch.setattr(
bcp.subprocess, "run",
lambda *a, **k: _Completed(returncode=0, stdout="Total reclaimed space: 11.05GB"),
)
pruner = BuildCachePruner(now_provider=lambda: 1234.0)
pruner.tick()
st = pruner.status()
assert st["last_run_ts"] == 1234.0
assert st["last_error"] is None
assert st["last_reclaimed_bytes"] == int(11.05 * (1000 ** 3))
assert "GB" in st["last_reclaimed"]
def test_parse_reclaimed_variants():
"""parse_reclaimed: decimal/binary units + absent line (best-effort, never raises)."""
assert parse_reclaimed("Total reclaimed space: 0B") == 0
assert parse_reclaimed("Total reclaimed space: 500MB") == 500 * 1000 ** 2
assert parse_reclaimed("Total reclaimed space: 1.5GiB") == int(1.5 * 1024 ** 3)
assert parse_reclaimed("no such line here") is None
assert parse_reclaimed("") is None
def test_notify_on_significant_reclaim(monkeypatch, ssh_configured, prune_defaults):
"""Optional Telegram when reclaimed >= notify_min_gb; below threshold stays silent."""
sends = []
monkeypatch.setattr(bcp, "send_telegram", lambda text, **k: sends.append(text))
monkeypatch.setattr(bcp.settings, "build_cache_prune_notify_min_gb", 1.0, raising=False)
monkeypatch.setattr(
bcp.subprocess, "run",
lambda *a, **k: _Completed(returncode=0, stdout="Total reclaimed space: 5.0GB"),
)
pruner = BuildCachePruner(now_provider=lambda: 1.0)
pruner.tick()
assert len(sends) == 1 and "build-cache-pruner" in sends[0]
# A small reclaim below the threshold stays silent.
sends.clear()
monkeypatch.setattr(
bcp.subprocess, "run",
lambda *a, **k: _Completed(returncode=0, stdout="Total reclaimed space: 100MB"),
)
pruner2 = BuildCachePruner(now_provider=lambda: 1.0)
pruner2.tick()
assert sends == []
# --------------------------------------------------------------------------- #
# TC-10: leaf isolation from the Quality Gate / stage machine
# --------------------------------------------------------------------------- #
def test_tc10_module_is_leaf_no_pipeline_imports():
"""TC-10: the pruner is a leaf — it does not import stage_engine/stages/qg.
Inspects the actual import statements (via AST), not the docstring text — the
module legitimately *mentions* those names in prose explaining what it does NOT
touch.
"""
import ast
import inspect
tree = ast.parse(inspect.getsource(bcp))
imported = set()
for node in ast.walk(tree):
if isinstance(node, ast.Import):
imported.update(a.name for a in node.names)
elif isinstance(node, ast.ImportFrom):
base = ("." * (node.level or 0)) + (node.module or "")
imported.add(base)
imported.update(f"{base}.{a.name}" for a in node.names)
forbidden = ("stage_engine", "stages", "qg")
for imp in imported:
tail = imp.lstrip(".")
assert not any(
tail == f or tail.endswith("." + f) or tail.startswith(f + ".")
for f in forbidden
), f"pruner must not import a pipeline module, found: {imp}"
def test_tc10_stage_transitions_and_qg_unchanged():
"""TC-10: STAGE_TRANSITIONS / QG_CHECKS carry no build-cache-prune element (AC-8)."""
from src.stages import STAGE_TRANSITIONS
from src.qg.checks import QG_CHECKS
blob = repr(STAGE_TRANSITIONS) + repr(list(QG_CHECKS.keys()))
assert "build_cache" not in blob
assert "builder prune" not in blob
# --------------------------------------------------------------------------- #
# TC-11: lifespan integration
# --------------------------------------------------------------------------- #
def test_tc11_lifespan_starts_and_stops(monkeypatch):
"""TC-11: with the flag on the daemon starts in lifespan and stops cleanly,
docker mocked (FR-1/AC-1)."""
monkeypatch.setattr(bcp.settings, "build_cache_prune_enabled", True, raising=False)
# A very long interval so the loop sleeps immediately after the first tick;
# subprocess is mocked so no real docker call happens.
monkeypatch.setattr(bcp.settings, "build_cache_prune_interval_s", 3600, raising=False)
monkeypatch.setattr(bcp.settings, "deploy_ssh_host", "", raising=False) # no-op tick
pruner = BuildCachePruner(interval_s=3600)
pruner.start()
assert pruner._thread is not None and pruner._thread.is_alive()
pruner.stop(timeout=5.0)
assert not pruner._thread.is_alive()
# --------------------------------------------------------------------------- #
# TC-12: GET /queue integration
# --------------------------------------------------------------------------- #
def test_tc12_queue_has_build_cache_block(monkeypatch):
"""TC-12: GET /queue carries an additive build_cache_prune block; existing keys kept."""
import asyncio
import src.db as db
from src.db import init_db
from src import main
dbfile = os.path.join(tempfile.gettempdir(), "test_bcp_queue.db")
monkeypatch.setattr(db.settings, "db_path", dbfile, raising=False)
init_db()
payload = asyncio.run(main.queue())
for key in (
"counts", "max_concurrency", "poll_interval", "resilience", "reconcile",
"reaper", "post_deploy", "merge_verify", "task_deps", "serial_gate",
"auto_labels", "disk_monitor", "recent",
):
assert key in payload, f"existing /queue key '{key}' must be preserved"
assert "build_cache_prune" in payload
block = payload["build_cache_prune"]
assert "enabled" in block and "interval_s" in block and "until" in block
assert "last_run_ts" in block
def test_tc12_queue_disabled_block(monkeypatch):
"""TC-12: with the kill-switch off, /queue reports build_cache_prune.enabled=false."""
import asyncio
import src.db as db
from src.db import init_db
from src import main
from src import build_cache_pruner as bcpmod
dbfile = os.path.join(tempfile.gettempdir(), "test_bcp_queue2.db")
monkeypatch.setattr(db.settings, "db_path", dbfile, raising=False)
monkeypatch.setattr(bcpmod.settings, "build_cache_prune_enabled", False, raising=False)
init_db()
payload = asyncio.run(main.queue())
assert payload["build_cache_prune"]["enabled"] is False

329
tests/test_disk_watchdog.py Normal file
View File

@@ -0,0 +1,329 @@
"""ORCH-063: disk-watchdog tests (TC-01..TC-12).
The watchdog never touches a real disk or Telegram: ``shutil.disk_usage`` is
monkeypatched to set ``used_pct`` deterministically, ``send_telegram`` is captured
via monkeypatch, and the cooldown/recovery clock is injected through
``now_provider`` so time-dependent decisions are tested without a real timer.
"""
import os
import tempfile
import pytest
# Override env before importing app modules (same convention as test_reaper.py).
os.environ.setdefault("ORCH_DB_PATH", os.path.join(tempfile.gettempdir(), "test_orch_disk.db"))
os.environ.setdefault("ORCH_GITEA_TOKEN", "test-token")
os.environ.setdefault("ORCH_PLANE_API_TOKEN", "test-token")
import src.disk_watchdog as dw # noqa: E402
from src.disk_watchdog import ( # noqa: E402
ACTION_ALERT,
ACTION_NONE,
ACTION_REALERT,
ACTION_RECOVERY,
DiskWatchdog,
PathAlertState,
decide_action,
format_alert_message,
format_recovery_message,
measure_paths,
parse_paths,
)
# --------------------------------------------------------------------------- #
# Helpers
# --------------------------------------------------------------------------- #
def _usage(used_pct: float, total_gb: float = 100.0):
"""Build a fake ``shutil.disk_usage`` result with the given fill %."""
total = int(total_gb * (1024 ** 3))
used = int(total * used_pct / 100)
free = total - used
class _U:
pass
u = _U()
u.total, u.used, u.free = total, used, free
return u
@pytest.fixture
def captured_sends(monkeypatch):
"""Capture every ``send_telegram`` call made by the watchdog."""
calls = []
def _fake_send(text, disable_notification=False):
calls.append({"text": text, "disable_notification": disable_notification})
return 1
monkeypatch.setattr(dw, "send_telegram", _fake_send)
return calls
# --------------------------------------------------------------------------- #
# TC-01..TC-05: pure decision function
# --------------------------------------------------------------------------- #
def test_tc01_alert_on_crossing_up():
"""TC-01: was below, now >= threshold -> ALERT (threshold crossed)."""
prev = PathAlertState(alerting=False, last_alert_at=None)
assert decide_action(90.0, 85, prev, now=1000.0, realert_s=21600) == ACTION_ALERT
def test_tc02_antispam_within_cooldown():
"""TC-02: already alerting, above, < realert_s since last -> NONE (anti-spam)."""
prev = PathAlertState(alerting=True, last_alert_at=1000.0)
# 1000 s later, cooldown is 21600 -> still suppressed.
assert decide_action(90.0, 85, prev, now=2000.0, realert_s=21600) == ACTION_NONE
def test_tc03_realert_after_cooldown():
"""TC-03: already alerting, above, >= realert_s elapsed -> REALERT."""
prev = PathAlertState(alerting=True, last_alert_at=1000.0)
assert decide_action(90.0, 85, prev, now=1000.0 + 21600, realert_s=21600) == ACTION_REALERT
def test_tc04_recovery_and_no_repeat():
"""TC-04: above->below resets state with one RECOVERY; staying below is silent."""
prev_above = PathAlertState(alerting=True, last_alert_at=1000.0)
assert decide_action(70.0, 85, prev_above, now=5000.0, realert_s=21600) == ACTION_RECOVERY
# After recovery the state is non-alerting; staying below -> NONE (no repeat).
prev_below = PathAlertState(alerting=False, last_alert_at=None)
assert decide_action(70.0, 85, prev_below, now=6000.0, realert_s=21600) == ACTION_NONE
def test_tc05_threshold_boundary_inclusive():
"""TC-05: used_pct == threshold counts as exceeding; threshold-1 is silent."""
below = PathAlertState(alerting=False, last_alert_at=None)
assert decide_action(85.0, 85, below, now=1.0, realert_s=10) == ACTION_ALERT
assert decide_action(84.0, 85, below, now=1.0, realert_s=10) == ACTION_NONE
# --------------------------------------------------------------------------- #
# TC-06: measurement + device dedup
# --------------------------------------------------------------------------- #
def test_tc06_measure_and_dedup_by_device(monkeypatch):
"""TC-06: per-path used_pct/free computed; same-device paths dedup to one."""
monkeypatch.setattr(dw.shutil, "disk_usage", lambda p: _usage(50.0))
# Both paths share st_dev=42 -> single logical partition.
monkeypatch.setattr(dw.os, "stat", lambda p: type("S", (), {"st_dev": 42})())
out = measure_paths(["/repos", "/app/data"])
assert len(out) == 1
m = out[0]
assert m["used_pct"] == 50.0
assert m["free_bytes"] > 0 and m["free_gb"] > 0
assert m["dedup_key"] == 42
# Distinct devices -> two measurements.
devs = iter([1, 2])
monkeypatch.setattr(dw.os, "stat", lambda p: type("S", (), {"st_dev": next(devs)})())
out2 = measure_paths(["/repos", "/app/data"])
assert len(out2) == 2
# --------------------------------------------------------------------------- #
# TC-07: never-raise (broken path + send failure)
# --------------------------------------------------------------------------- #
def test_tc07_broken_path_does_not_kill_tick(monkeypatch):
"""TC-07: a missing path is skipped; other paths are still measured."""
def _maybe_raise(path):
if path == "/nope":
raise FileNotFoundError(path)
return _usage(50.0)
monkeypatch.setattr(dw.shutil, "disk_usage", _maybe_raise)
devs = {"/nope": 1, "/repos": 2}
monkeypatch.setattr(dw.os, "stat", lambda p: type("S", (), {"st_dev": devs[p]})())
out = measure_paths(["/nope", "/repos"])
assert len(out) == 1
assert out[0]["path"] == "/repos"
def test_tc07_send_failure_does_not_raise(monkeypatch):
"""TC-07: an exception in send_telegram is swallowed; the tick completes."""
monkeypatch.setattr(dw.shutil, "disk_usage", lambda p: _usage(95.0))
monkeypatch.setattr(dw.os, "stat", lambda p: type("S", (), {"st_dev": 7})())
def _boom(text, disable_notification=False):
raise RuntimeError("telegram down")
monkeypatch.setattr(dw, "send_telegram", _boom)
wd = DiskWatchdog(now_provider=lambda: 1000.0)
wd.tick() # must not raise
# --------------------------------------------------------------------------- #
# TC-08: alert message format + notifying
# --------------------------------------------------------------------------- #
def test_tc08_alert_message_actionable_and_notifying(monkeypatch, captured_sends):
"""TC-08: alert carries path/used_pct/free/threshold; sent notifying."""
monkeypatch.setattr(dw.shutil, "disk_usage", lambda p: _usage(87.3))
monkeypatch.setattr(dw.os, "stat", lambda p: type("S", (), {"st_dev": 9})())
monkeypatch.setattr(dw.settings, "disk_monitor_paths", "/repos", raising=False)
monkeypatch.setattr(dw.settings, "disk_monitor_threshold_pct", 85, raising=False)
wd = DiskWatchdog(now_provider=lambda: 1000.0)
wd.tick()
assert len(captured_sends) == 1
call = captured_sends[0]
text = call["text"]
assert "/repos" in text
assert "87.3" in text
assert "85" in text # threshold
assert "ГБ" in text # free space
assert call["disable_notification"] is False # notifying, not silent
def test_tc08_format_helpers():
"""TC-08 (unit): format helpers contain the actionable fields."""
m = {"path": "/repos", "used_pct": 88.0, "free_gb": 6.2, "free_pct": 12.0}
alert = format_alert_message(m, 85, "mva154")
assert "/repos" in alert and "88.0" in alert and "85" in alert and "6.2" in alert
rec = format_recovery_message(m, "mva154")
assert "/repos" in rec and "88.0" in rec
# --------------------------------------------------------------------------- #
# TC-09: kill-switch
# --------------------------------------------------------------------------- #
def test_tc09_killswitch_does_not_start(monkeypatch):
"""TC-09: disk_monitor_enabled=False -> start() is a no-op (no thread)."""
monkeypatch.setattr(dw.settings, "disk_monitor_enabled", False, raising=False)
wd = DiskWatchdog()
wd.start()
assert wd._thread is None
def test_tc09_killswitch_status_block(monkeypatch):
"""TC-09: status() reports enabled=False under the kill-switch."""
monkeypatch.setattr(dw.settings, "disk_monitor_enabled", False, raising=False)
wd = DiskWatchdog()
assert wd.status()["enabled"] is False
# --------------------------------------------------------------------------- #
# TC-10: status()
# --------------------------------------------------------------------------- #
def test_tc10_status_shape(monkeypatch):
"""TC-10: status() returns the expected keys, never-raise with no measurements."""
monkeypatch.setattr(dw.settings, "disk_monitor_enabled", True, raising=False)
wd = DiskWatchdog()
st = wd.status()
for key in ("enabled", "threshold_pct", "interval_s", "realert_s", "last_run_ts", "paths"):
assert key in st
assert st["paths"] == [] # no tick yet
def test_tc10_status_reflects_last_measurement(monkeypatch):
"""TC-10: after a tick status().paths carries used_pct/free/alerting/last_alert_at."""
monkeypatch.setattr(dw.shutil, "disk_usage", lambda p: _usage(90.0))
monkeypatch.setattr(dw.os, "stat", lambda p: type("S", (), {"st_dev": 3})())
monkeypatch.setattr(dw.settings, "disk_monitor_paths", "/repos", raising=False)
monkeypatch.setattr(dw, "send_telegram", lambda *a, **k: 1)
wd = DiskWatchdog(now_provider=lambda: 1000.0)
wd.tick()
paths = wd.status()["paths"]
assert len(paths) == 1
p = paths[0]
assert p["path"] == "/repos"
assert p["used_pct"] == 90.0
assert p["alerting"] is True
assert p["last_alert_at"] == 1000.0
for key in ("free_gb", "free_pct"):
assert key in p
# --------------------------------------------------------------------------- #
# Anti-spam / recovery end-to-end through tick()
# --------------------------------------------------------------------------- #
def test_tick_antispam_then_realert_then_recovery(monkeypatch, captured_sends):
"""End-to-end: one alert on crossing, silence within cooldown, realert after
cooldown, then a single recovery — driving the daemon's in-memory state."""
fill = {"pct": 90.0}
clock = {"t": 1000.0}
monkeypatch.setattr(dw.shutil, "disk_usage", lambda p: _usage(fill["pct"]))
monkeypatch.setattr(dw.os, "stat", lambda p: type("S", (), {"st_dev": 5})())
monkeypatch.setattr(dw.settings, "disk_monitor_paths", "/repos", raising=False)
monkeypatch.setattr(dw.settings, "disk_monitor_threshold_pct", 85, raising=False)
monkeypatch.setattr(dw.settings, "disk_monitor_realert_s", 100, raising=False)
wd = DiskWatchdog(now_provider=lambda: clock["t"])
wd.tick() # crossing up -> ALERT
assert len(captured_sends) == 1
clock["t"] += 10 # within cooldown -> silent
wd.tick()
assert len(captured_sends) == 1
clock["t"] += 200 # cooldown elapsed -> REALERT
wd.tick()
assert len(captured_sends) == 2
fill["pct"] = 70.0 # drop below -> RECOVERY (one message)
clock["t"] += 10
wd.tick()
assert len(captured_sends) == 3
assert "ниже порога" in captured_sends[2]["text"]
wd.tick() # stays below -> silent (no repeat recovery)
assert len(captured_sends) == 3
# --------------------------------------------------------------------------- #
# parse_paths
# --------------------------------------------------------------------------- #
def test_parse_paths_default_and_csv():
assert parse_paths("") == ["/repos", "/app/data"]
assert parse_paths(" ") == ["/repos", "/app/data"]
assert parse_paths("/a, /b ,/c") == ["/a", "/b", "/c"]
# --------------------------------------------------------------------------- #
# TC-11 / TC-12: GET /queue integration
# --------------------------------------------------------------------------- #
def test_tc11_queue_has_disk_monitor_block(monkeypatch):
"""TC-11: GET /queue carries an additive disk_monitor block; existing keys kept."""
import asyncio
import src.db as db
from src.db import init_db
from src import main
dbfile = os.path.join(tempfile.gettempdir(), "test_disk_queue.db")
monkeypatch.setattr(db.settings, "db_path", dbfile, raising=False)
init_db()
payload = asyncio.run(main.queue())
for key in (
"counts", "max_concurrency", "poll_interval", "resilience", "reconcile",
"reaper", "post_deploy", "merge_verify", "task_deps", "serial_gate",
"auto_labels", "recent",
):
assert key in payload, f"existing /queue key '{key}' must be preserved"
assert "disk_monitor" in payload
dm = payload["disk_monitor"]
assert "enabled" in dm and "threshold_pct" in dm and "interval_s" in dm
assert "paths" in dm
def test_tc12_queue_disabled_block(monkeypatch):
"""TC-12: with the kill-switch off, /queue reports disk_monitor.enabled=false."""
import asyncio
import src.db as db
from src.db import init_db
from src import main
from src import disk_watchdog as dwmod
dbfile = os.path.join(tempfile.gettempdir(), "test_disk_queue2.db")
monkeypatch.setattr(db.settings, "db_path", dbfile, raising=False)
monkeypatch.setattr(dwmod.settings, "disk_monitor_enabled", False, raising=False)
init_db()
payload = asyncio.run(main.queue())
assert payload["disk_monitor"]["enabled"] is False