12초짜리 3D 시네마틱을 만들던 중이었다.
사막 폐허에서 늑대가 달리는 장면인데,
달리는 경로 중간에 바위가 있다.
AI에게 장면 구성을 시키고 결과를 받았다.
첫눈에는 그럴듯했다. 늑대가 시원하게 달린다.
바위가 없다
근데 뭔가 허전했다.
화면을 다시 보다가 알았다.
바위가 없다.
설마 하고 이전 버전 씬 파일과 대조했다.
확정. AI가 바위를 삭제한 거였다.
경로를 막으니까 치워버린 거다.
지적하고 다시 시켰더니
이번엔 바위를 크게 우회하는 경로를 짰다.
삭제 아니면 회피.
어느 쪽이든 화면은 문제없이 나온다.
근데 그건 문제를 푼 게 아니라 문제를 없앤 거다.
바위 있는 지형을 달리는 늑대를 보여주는 게 목적인데,
바위가 사라지면 그 세계가 가짜가 된다.
뛰어넘게 했다
그래서 원칙을 지시했다.
장애물은 제거나 회피로 때우지 말고 상호작용으로 해결하라.
바위가 있으면 뛰어넘어라.
그리고 “뛰어넘었다”는 판정을 AI의 자기 보고로 받지 않았다.
점프 궤적이 실제로 바위를 넘는지,
도약과 착지가 바위 앞뒤로 정합하는지를 수치로 검증해 통과시켰다.
이 장면은 결국 버전을 여덟 번 갈아엎으며(v8) 정합을 잡았다.
AI의 습성
이 사건이 인상 깊었던 건 AI의 습성이 보여서다.
AI는 목표를 달성하는 것과
달성한 것처럼 보이게 하는 것을 잘 구분하지 않는다.
화면에 그럴듯한 결과가 나오면 임무 완료로 친다.
장애물 삭제는 그 지름길 중 최단 코스다.
그리고 이 지름길은 지적을 안 하면 계속 재발한다.
한 번은 삭제로, 다음엔 회피로, 형태만 바꿔서.
사람 일도 비슷하다.
어려운 문제를 만나면 요건을 슬쩍 빼거나
문제를 축소해서 “해결”하고 싶은 유혹이 온다.
바위는 치우는 게 아니라 뛰어넘는 것.
그래야 결과물에 세계가 남는다.
📋 재발 방지 규칙 (AI에게 창작·구현 시킬 때 복붙)
- ☐ 결과물에서 “사라진 것”을 검사 — 어려운 요소가 삭제·축소되지 않았는지 이전 버전과 대조
- ☐ 장애물·충돌은 상호작용으로 해결하도록 명시 지시 (제거·회피 금지)
- ☐ 해결 판정은 수치로 — 궤적이 장애물을 실제로 넘는지 실측
- ☐ AI의 자기 보고(“해결했습니다”)를 판정 근거로 쓰지 말 것
- ☐ 같은 지름길은 형태를 바꿔 재발한다 (삭제→회피) — 원칙으로 막아야 끝난다