AI 에이전트에게 일을 시켜본 사람은 안다.
얘네는 지치지 않는다.
좋은 말 같지만 저주이기도 하다.
안 되는 방법을 지치지도 않고 반복하기 때문이다.
몇 시간째 같은 자리
그날도 작업을 걸어두고 딴 일을 하다 돌아왔는데
로그가 이상하게 길었다.
스크롤을 올려봤다.
같은 에러, 같은 수정, 같은 에러, 같은 수정.
설마 하고 처음부터 훑었다.
확정. 몇 시간째 같은 자리를 돌고 있었다.
그동안 토큰(=돈)과 시간이 그대로 증발했다.
사람이면 세 번쯤 하다 “이 방법이 아닌가?” 하고 멈춘다.
AI는 그 브레이크가 약하다.
성실함이 무한하니까 삽질도 무한하다.
규칙: 2회 실패 = 정지
그래서 작업 규칙을 만들었다.
같은 작업이 2회 연속 실패하면 자동 재시도 금지.
멈추고 — 뭘 해봤는지, 왜 안 되는 걸로 보이는지(가설),
다른 접근 1~2개 — 를 보고한 다음 사람 판단을 기다린다.
세 번째 시도는 사람이 승인해야만 가능하다.
문서가 아니라 코드로
근데 규칙을 문서에 적는 것만으로는 부족했다.
AI가 작업에 열중하면 규칙을 잊는 경우가 있다.
문서는 읽는 자의 성실함에 의존하는 장치라서다.
그래서 아예 실행 계층에 박았다.
작업을 관리하는 엔진에 루프 브레이커라는 장치를 넣었다.
같은 단계에서 실패가 2회 쌓이면
AI의 의지와 무관하게 엔진이 전체를 강제 정지시킨다.
회로 차단기가 내려가는 거다.
장치를 하나 더.
검증 단계에서 실측 데이터가 없으면 무조건 불합격 처리.
AI는 “아마 잘 됐을 겁니다”를 잘하는데,
측정값 없는 통과는 통과가 아니다.
이 장치들이 실제로 작동하는지
테스트 23개를 만들어 전부 통과시켰다. 23 중 23.
브레이크는 밟히는지 확인까지 해야 브레이크다.
배운 것
AI 자동화의 생산성은
“얼마나 열심히 하냐”가 아니라
“얼마나 잘 멈추냐”에서 갈린다.
무한히 성실한 일꾼에게 제일 먼저 가르쳐야 하는 건
브레이크 밟는 법이었다.
그리고 그 브레이크는 다짐이 아니라 구조로 만들어야 한다.
📋 재발 방지 규칙 (AI 에이전트 운용 복붙)
- ☐ 같은 작업 2회 연속 실패 = 자동 재시도 금지, 정지
- ☐ 3번째 시도 전 필수 보고: ①시도한 것 ②실패 가설 ③대안 1~2개 — 사람이 선택
- ☐ 규칙은 프롬프트·문서가 아니라 실행 계층(코드)에 박기 — 강제 정지 장치
- ☐ 실측 데이터 없는 “통과”는 불합격 처리
- ☐ 정지 장치 자체를 테스트로 검증 — 안 밟히는 브레이크는 없는 것과 같다