본문으로 바로가기
리옵트 핸드북
리옵트 핸드북
에이전틱 테스트 환경 엔지니어링

근본 원리

테스트 포트폴리오 운영 모델환경·상태 통제 전략실행 토폴로지와 러너 아키텍처테스트 하네스 엔지니어링

계약 & 구성

인터페이스 계약과 관측 포인트상태 구성과 시나리오 픽스처

실행 & 게이트

실행 패브릭과 오케스트레이션리스크 기반 릴리즈 게이트

신뢰도 & 운영

비결정성과 Flake 관리관측성·신뢰도 지표테스트 인시던트 대응거버넌스와 소유권

부록

런북 템플릿검증 리포트업데이트 내역
핸드북›에이전틱 테스트 환경 엔지니어링›런북 템플릿

런북 템플릿

incident, nondeterminism, release evidence, 신규 서비스 onboarding에 바로 쓸 수 있는 운영 템플릿

핵심 요약

  • 위키나 Notion에 바로 붙여 쓰는 TestOps 운영 템플릿 4종을 모았습니다.
  • Incident Runbook은 사실 확인→원인 분류→조치→다음 업데이트 시각 흐름을 체크박스로 담습니다.
  • Nondeterminism Ticket은 분류·최근 10회 실패·environment fingerprint·quarantine 여부를 기록합니다.
  • Release Evidence Checklist는 smoke/critical/prod-safe 결과와 QA·Release Manager·제품 오너 승인을 묶습니다.
  • Onboarding Checklist는 핵심 여정 3~5개·probe 분리·tier·owner·seed/reset·gate 포함 승인을 점검합니다.

이 부록은 팀 위키나 Notion에 바로 붙여넣어 쓸 수 있도록 만든 실무 템플릿 모음입니다.

1) TestOps Incident Runbook

# TestOps Incident Runbook

- 발생 시각:
- gate / tier:
- probe type (browser/api/workflow/canary):
- 환경:
- environment fingerprint:
- 영향 범위:
- 현재 등급(Sev1/2/3):
- 최초 감지자:
- 현재 owner:

## 1. 사실 확인

- 최근 코드 변경:
- 최근 환경 변경:
- 실패 재현 여부(local/preview/prod-like):
- evidence 링크(trace/log/event/screenshot):

## 2. 원인 분류

- [ ] Product Regression
- [ ] Test Issue
- [ ] Data Issue
- [ ] Infra Issue
- [ ] External Dependency
- [ ] Model Variance

## 3. 조치

- [ ] release hold
- [ ] quarantine
- [ ] hotfix
- [ ] rollback 검토
- [ ] follow-up ticket 발행

## 4. 다음 업데이트 시각

- ETA:

2) Nondeterminism Ticket Template

# Nondeterminism Ticket

- scenario id:
- probe type:
- gate 영향 여부:
- 최근 10회 실패 횟수:
- 분류(timing/contract/data/environment/external/model):
- 최초 발견:
- owner:
- 목표 해결일:

## 관측 정보

- 대표 evidence:
- 최근 관련 변경:
- retry 후 pass 여부:
- environment fingerprint:

## 예상 원인

## 해결 계획

## quarantine 여부

- [ ] yes
- [ ] no
      이유:

3) Release Evidence Checklist

# Release Evidence Checklist

- release candidate build:
- 실행 환경:
- smoke 결과:
- critical 결과:
- production-safe probe 결과:
- known flaky / quarantine 예외 문서:
- blocker 존재 여부:
- evidence bundle 링크:

## 승인

- QA Platform:
- Release Manager:
- 제품 오너:
- 비고:

4) 신규 서비스 Onboarding Checklist

# Test Environment Onboarding Checklist

- [ ] 핵심 사용자 여정 3~5개 정의
- [ ] browser/api/workflow probe 분리
- [ ] smoke/critical/full tier 분류
- [ ] suite owner 지정
- [ ] seed/reset/clock/queue 전략 문서화
- [ ] evidence 보관 정책 연결
- [ ] alert 채널 연결
- [ ] CODEOWNERS 추가
- [ ] release gate 포함 여부 승인

관련 문서

부록 A. 런북 템플릿

Prisma Production Guardrails · 마이그레이션 배포·장애 대응·복구 리허설(DR Drill)·포스트모템 네 가지 런북 템플릿을 복사해 바로 쓸 수 있는 체크리스트 형태로 제공합니다.

템플릿 모음

에이전틱 시대의 문서화 혁신 · AGENTS.md, CLAUDE.md, Skill, MCP, llms.txt, 런북, KB 템플릿

실행 패브릭과 오케스트레이션

PR, main, nightly, release, canary, agent-repair 루프를 어떤 시간 예산과 증거 정책으로 운영할지 설명합니다.

관측성·신뢰도 지표

pass rate를 넘어 evidence completeness, environment drift, MTTR까지 묶어 테스트 운영 지표로 설계하는 방법

거버넌스와 소유권

DevEx, SRE, 제품팀, QA 플랫폼, AI 플랫폼 사이의 owner와 승인 경계를 정하는 기준

검증 리포트

에이전틱 테스트 환경 엔지니어링 핸드북의 구조·범위·검증 결과

On this page

1) TestOps Incident Runbook2) Nondeterminism Ticket Template3) Release Evidence Checklist4) 신규 서비스 Onboarding Checklist