tester(ET): auto-commit from tester run_id=568

This commit is contained in:
2026-06-10 09:16:51 +03:00
committed by orchestrator-deployer
parent 93cf2732a2
commit d61b583dad

View File

@@ -0,0 +1,123 @@
---
result: FAIL # PASS | FAIL — машинный вердикт, UPPERCASE
work_item: ORCH-100
stage: testing
author_agent: tester
status: fail
created_at: 2026-06-10
model_used: claude-opus-4-8
type: test-report
work_item_id: ORCH-100
---
# Test Report — ORCH-100 — FND/F1b: sidecar-watchdog
> Машинный вердикт читается ТОЛЬКО из frontmatter (`result:`, UPPERCASE). Негативный токен
> (`FAIL`) — авторитетен.
## Окружение
- Python: 3.12.13
- pytest: 8.3.3 (plugins: cov-5.0.0, anyio-4.13.0, asyncio-0.23.8)
- Дата: 2026-06-10
- Worktree: `/repos/_wt/orchestrator/feature_ORCH-100-fnd-f1b-sidecar-watchdog`
(ветка `feature/ORCH-100-fnd-f1b-sidecar-watchdog`) — тесты прогнаны из рабочего дерева
именно этой задачи, НЕ из общего `/repos/orchestrator`.
## Smoke API (read-only)
| Эндпоинт | Результат |
|----------|-----------|
| `GET /health` | OK — `{"status":"ok","service":"orchestrator"}` |
| `GET /status` | OK — задача `ORCH-100` (id 85) в стадии `testing`, активный набор задач отдан |
| `GET /queue` | OK — блоки `serial_gate` **И** `auto_labels` присутствуют в полезной нагрузке (анти-регресс смока ORCH-088 соблюдён) |
| `GET /metrics` (ORCH-099, потребляется F1b) | OK — конверт `{schema_version=1, generated_at, clk_tck, stages, queue, agents, cost}` цел |
Smoke зелёный, прод-контейнер не трогался (только чтение).
## Результаты
### Профильная сюита F1b — `tests/watchdog/`
**66 passed** (0 failed). Полностью зелёная — это собственно поставка F1b (отдельный
sidecar-демон: решающая функция, парсинг `/metrics`, детект orchestrator-down, never-raise,
read-only docker, изолированный транспорт, kill-switch, compose-инвариант, анти-дубль диск-алерта).
### Полный регресс орка — `pytest tests/`
**1 failed, 1616 passed** (`tests/test_queue.py::TestRetry::test_finalize_job_requeue_then_fail`).
```
tests/test_queue.py:189: in test_finalize_job_requeue_then_fail
assert get_job(jid)["status"] == "failed" # 2 >= 2 -> failed
E AssertionError: assert 'queued' == 'failed'
E - failed
E + queued
```
#### Классификация падения (верифицировано независимо)
- `git diff origin/main...HEAD --stat -- 'src/**'`**пусто** ⇒ ORCH-100 не меняет `src/**`
ни одной строкой.
- `git diff origin/main...HEAD -- tests/test_queue.py`**пусто** ⇒ файл теста байт-в-байт
идентичен `origin/main`.
- Падение **детерминированно** и воспроизводится в изоляции (2/2 прогона), не артефакт
порядка тестов.
- **Вывод:** падение — **pre-existing на `main`**, НЕ вызвано F1b и **структурно неустранимо
в рамках ORCH-100** (ТЗ §2 прямо запрещает правки `src/**`). Это реальное, обоснованное
красное (тест ловит расхождение логики requeue→finalize с transient-backoff в
`launcher`), а не флап окружения.
## Сопоставление с тест-планом (`04-test-plan.yaml`)
| TC ID | Описание | Тест-функция / модуль | Результат |
|-------|----------|------------------------|-----------|
| TC-01 | not-alerting & ≥threshold → ALERT | `test_decision.py::test_tc01_not_alerting_active_alerts` (+ inactive→none) | PASS |
| TC-02 | alerting & cooldown НЕ истёк → NONE (throttle) | `test_decision.py::test_tc02_alerting_active_in_cooldown_is_none` | PASS |
| TC-03 | alerting & cooldown истёк → REALERT | `test_decision.py::test_tc03_alerting_active_cooldown_elapsed_realerts` | PASS |
| TC-04 | alerting & вернулось ниже порога → RECOVERY | `test_decision.py::test_tc04_alerting_recovers_when_inactive` | PASS |
| TC-05 | детект orchestrator-down (timeout/refused/5xx/нечит. тело) → ALERT + debounce | `test_orch_down.py` (7 тестов) | PASS |
| TC-06 | never-raise per-source/per-tick/per-send | `test_never_raise.py` (3 теста) | PASS |
| TC-07 | kill-switch инертен; пороги/интервалы/таймауты из env | `test_config_killswitch.py` (4 теста) | PASS |
| TC-08 | интеграция: полный тик при down орке (1 алерт + throttle + recovery; всё ломается — тик не падает) | `test_tick_orch_down_integration.py` (2 теста) | PASS |
| TC-09 | self-hosting safety: docker GET-only, без start/stop/restart/exec | `test_docker_readonly.py` (5 тестов) | PASS |
| TC-10 | независимый транспорт: свои токен/chat, без импорта `src/notifications.py`/`src` | `test_notify_isolation.py` (6 тестов) | PASS |
| TC-11 | толерантность `/metrics`: неизвестное поле игнор, опц. отсутствие ок, рост schema_version → warning | `test_metrics_parse.py` (10 тестов) | PASS |
| TC-12 | compose-инвариант: отдельный сервис `orchestrator-watchdog`, build `watchdog/`, restart, mem_limit, docker.sock `:ro` | `test_compose_service.py` (7 тестов) | PASS |
| TC-13 | анти-дубль диск-алерта (согласовано с ORCH-063) | `test_disk_alert_dedup.py` (3 теста) | PASS |
| **TC-14** | **регресс орка: полный `pytest tests/` зелёный; `src/**` не изменён; `/metrics`-контракт цел** | `tests/` | **FAIL** |
**TC-14 детально (смешанный исход → FAIL по букве):**
- ✅ `src/**` не изменён (диск-проверка пуста).
- ✅ `/metrics`-контракт (ORCH-099) не сломан (конверт цел, смок зелёный).
- ❌ полный `pytest tests/` **НЕ зелёный** — 1 pre-existing красное (см. выше).
- Поскольку TC-14 ожидает **PASS** по условию «полный `pytest tests/` зелёный», а суммарный
прогон репозитория красный — **TC-14 = FAIL**. Это единственный FAIL; все 13 профильных
TC (TC-01…TC-13) зелёные.
## Сопоставление с критериями приёмки (`03-acceptance-criteria.md`)
| AC | Покрытие | Результат |
|----|----------|-----------|
| AC-1 — sidecar отдельным контейнером собирает 4 источника | TC-12 + коллекторы host/deps/docker/metrics | PASS |
| AC-2 — пороговый алерт: один на пересечение + throttle + recovery + орк-down | TC-01…TC-05 | PASS |
| AC-3 — изоляция: падение орка не роняет sidecar | TC-05/06/08 | PASS |
| AC-4 — тонкость, kill-switch, конфиг-пороги | TC-07/12 | PASS |
| AC-5 — анти-дубль диск-алерта (ORCH-063) | TC-13 | PASS |
| AC-6 — self-hosting safety (только чтение/алерт) | TC-09/10 | PASS |
| AC-7 — инфра-доки + `pytest` зелёный + docs/CHANGELOG | `07-infra-requirements.md` ✅, CHANGELOG ✅, доки ✅; **но полный `pytest tests/` НЕ зелёный** | **FAIL** (под-условие «полный `tests/` зелёный» нарушено) |
## Эскалация
Падение `tests/test_queue.py::TestRetry::test_finalize_job_requeue_then_fail` — **обоснованный
pre-existing FAIL на `main`**, не относящийся к F1b и **неустранимый в области ORCH-100** (правки
`src/**` запрещены ТЗ §2). Откат на `development` в рамках ORCH-100 его **не починит** (разработчик
F1b не вправе трогать `src/**`). **Рекомендация (зеркало эскалации reviewer'а в `12-review.md`):**
Owner/планировщику завести **отдельную баг-задачу** (метка `Bug`, маршрут ORCH-019) на починку
`test_finalize_job_requeue_then_fail` в `src/launcher`-логике requeue→finalize. Без неё прод-выкат
ORCH-100 всё равно упрётся в downstream merge-gate re-test (ORCH-043 гоняет `pytest tests/` на
догнанной ветке) по причине, не относящейся к F1b.
## Итог
**FAIL.**
- Поставка F1b сама по себе полностью зелёная: `tests/watchdog/` 66/66 PASS, smoke (`/health`,
`/status`, `/queue`, `/metrics`) зелёный, все профильные TC-01…TC-13 + AC-1…AC-6 — PASS.
- Однако **полный регресс репозитория `pytest tests/` красный** (1 pre-existing fail, 1616 pass)
→ TC-14 и под-условие AC-7 «полный `tests/` зелёный» нарушены → машинный вердикт `result: FAIL`.
- Тестер не помечает красный регресс зелёным (`❌ не подгонять тесты под код`). Падение —
exogenous к F1b и требует отдельной баг-задачи (эскалация выше), а не доработки ORCH-100.