하네스 엔지니어링: AI 에이전트 제어의 핵심 구조

·
AI
AI 코딩 에이전트를 쓰다 보면 한 번쯤 이런 경험을 하게 된다. 분명히 프롬프트에 "이렇게 하지 말라"고 써놨는데, 다음 세션에서 또 똑같은 실수를 저지른다. 다시 설명하고, 또 실수하고, 또 설명하는 루프가 반복된다. 하네스 엔지니어링은 바로 이 반복을 구조적으로 끊어내는 기법이다. AI 에이전트가 실수할 때마다 그 실수가 다시 일어날 수 없도록 시스템 자체를 개선하는 것, 그게 핵심이다. AI 에이전트는 왜 같은 실수를 반복할까AI 에이전트의 반복 실수는 크게 두 가지 다른 문제에서 온다. 하나는 기억의 문제, 다른 하나는 규칙의 문제다. 첫 번째는 컨텍스트 부패(Context Decay)다. AI에게는 한 번에 볼 수 있는 정보의 양, 즉 컨텍스트 창이 있다. 작업이 길어질수록 이 창이 꽉 차면서..