AI 잘 쓰는 사람은 이것을 합니다 (프롬프트→컨텍스트 설계)

AI를 매일 쓰는데 결과가 기대에 못 미친다면, 문제는 '질문 실력'이 아닐 수 있습니다. AI를 잘 쓰는 사람들은 이미 다른 걸 하고 있거든요. 질문 한 줄을 다듬는 시대는 끝났고, 이제는 AI에게 무엇을 보여줄지를 설계하는 시대가 됐습니다. 이 글에서는 AI 활용법의 진짜 핵심인 컨텍스트 설계와 하네스 엔지니어링을 정리해 드립니다.

AI가 기억하는 것, 질문은 딱 7분의 1에 불과합니다

챗GPT에 공들여 질문을 썼는데도 결과가 대부분 실망스럽습니다. 그 이유를 알고 나면 꽤 허무합니다. AI가 판단하는 데 쓰는 정보, 즉 컨텍스트는 총 7가지인데, 우리가 그동안 공들인 '질문'은 그 중 단 하나에 불과하거든요.

 

AI 전문가들이 정리한 컨텍스트의 7가지 구성요소는 다음과 같습니다.

• ① 기본 지침: "이런 방식으로 답해줘"라는 기본 규칙
• ② 사용자의 질문: 지금 보낸 메시지
• ③ 대화 기록: 이전에 나눈 대화 내용
• ④ 장기 기억: 지난 대화에서 알게 된 정보
• ⑤ 외부 자료: 필요할 때 참고하는 추가 정보
• ⑥ 쓸 수 있는 도구: 검색, 계산 같은 기능
• ⑦ 답변 형식: 표로 줄지, 목록으로 줄지

나머지 6가지를 어떻게 세팅하느냐가 결과를 결정합니다. 질문 한 줄이 아니라, 전체 맥락을 설계하는 시대가 된 거예요.

컨텍스트가 망가지면 AI도 망가집니다

그럼 나머지 6가지를 놓치면 어떻게 될까요? 컨텍스트에는 크게 4가지 오류 유형이 있습니다. 알아두면 "왜 이렇게 이상한 결과가 나왔지?" 싶을 때 바로 원인을 찾을 수 있어요.

 

① 오염: 처음에 잘못된 정보 하나가 들어가면 전체 대화를 망칩니다. 우물에 독을 한 방울 푸는 것과 같죠. 한 방이면 우물 전체를 못 쓰게 됩니다.

 

② 반복 고착: AI가 같은 실수를 계속 반복하면서 앞으로 나아가지 못하는 상태입니다. 제자리 체조를 하는 셈이에요.

 

③ 혼동: 갑자기 엉뚱한 정보를 참고하는 경우입니다. 수학 시험 보는데 영어 교과서를 펼치는 격이죠.

 

④ 충돌: 서로 모순된 지시가 동시에 존재하는 상황입니다. "왼쪽으로 가"와 "오른쪽으로 가"를 동시에 받으면 AI도 어쩔 수가 없습니다. 이 4가지 함정만 피해도 결과물이 확연히 달라집니다.

mfmf

AI를 10배 잘 쓰는 컨텍스트 설계 4가지 전략

그렇다면 컨텍스트를 어떻게 설계해야 할까요? Manus AI가 수백만 명에게 서비스하며 직접 검증한 4가지 전략이 있습니다.

 

① 저장하기 (Write): 중요한 정보를 대화창 안에만 두지 말고 파일로 따로 저장해두세요. 프로젝트 배경, 글쓰기 스타일, 자주 쓰는 템플릿 같은 것들을 별도 파일로 관리하면 필요할 때 언제든 불러올 수 있습니다.

 

② 골라주기 (Select): 지금 이 작업에 꼭 필요한 정보만 선별해서 넣으세요. Spotify는 AI에게 기능을 많이 줬다가 오히려 결과가 나빠졌고, 딱 3가지로 줄이자 정확도가 올라갔습니다. 연구 결과에 따르면 AI에게 주는 기능을 30개 이하로 줄이면 정확도가 3배 향상된다고 합니다. "더 많이 알려줄수록 좋다"는 건 착각입니다.

 

③ 정리하기 (Compress): 대화가 길어지면 중간에 "지금까지 정해진 사항을 요약해줘"라고 한 번 요청하세요. 회의 중간에 안건을 정리하듯, AI에게도 맥락을 리셋해주는 시간이 필요합니다.

 

④ 나눠주기 (Isolate): 큰 작업은 조각내어 각각 별도 대화에서 처리하세요. 조사 따로, 정리 따로, 글쓰기 따로 진행하고 결과만 합치면 됩니다. 한 번에 다 시키면 AI도 헷갈립니다.

한 단계 더, 주방 전체를 설계하는 하네스 엔지니어링

컨텍스트 설계만 잘해도 충분할까요? AI 전문가들은 한 걸음 더 나아갔습니다. 그게 바로 하네스 엔지니어링(Harness Engineering)입니다. 컨텍스트를 포함해 AI 에이전트를 둘러싼 전체 환경을 설계하는 기술이에요.

 

요리사 비유로 설명하면 이렇습니다. 컨텍스트 엔지니어링은 요리사에게 좋은 재료를 골라주는 것, MCP 설정은 수산시장과 농장에 직통 연결하는 것, 스킬 파일은 레시피를 정리해두는 것, 에이전트 설정은 전문 셰프를 만드는 것입니다. 하네스 엔지니어링은 이 모든 것을 포함한 주방 전체를 설계하는 것입니다.

 

핵심 인사이트는 이겁니다. "모델이 병목이 아니라 하네스가 병목이다." 같은 AI 모델이라도 환경 설계에 따라 결과가 10배 이상 차이 날 수 있습니다.

 

오픈AI 공식 블로그에 따르면, OpenAI는 2025년 8월부터 자체 개발한 코덱스(Codex) AI 에이전트만으로 내부 제품을 만들기 시작했습니다. 결과는 놀라웠어요. 5개월 만에 AI가 생성한 코드 100만 줄, 풀 리퀘스트 1,500개 머지, 엔지니어 1인당 하루 평균 3.5개 작업 처리. 처음에는 속도가 느렸는데, 그 이유는 코덱스가 무능해서가 아니라 하네스 세팅이 미흡했기 때문이었습니다. 환경 설정을 하나하나 다듬어가자 성과가 폭발적으로 늘었습니다.

지금 당장 시작할 수 있는 3가지 실천법

복잡하게 느껴지셨나요? 지금 바로 적용 가능한 가장 쉬운 방법 3가지를 알려드리겠습니다.

 

① AI에게 질문할 때 배경 정보를 먼저 제공하기

단순히 "메일 초안 써줘"라고 하는 것과, "나는 마케팅 팀장이고, 지난달에 미팅 제안했던 거래처에 일정 확인 메일 보내려 해. 톤은 정중하고 간결하게"라고 하는 것은 결과물 품질이 확연히 다릅니다. 배경 정보 30초면 충분합니다.

 

Before  "메일 초안 써줘"

After  "나는 마케팅 팀장이고, 지난달에 미팅 제안했던 거래처에 일정 확인 메일 보내려 해. 지난번에 담당자가 3월 초가 괜찮다고 했어. 톤은 정중하고 간결하게."

 

② 불필요한 정보는 한꺼번에 넣지 않기

지금 이 작업에 필요한 것만, 그때그때 입력하세요. 공부할 때 교과서 열 권을 한꺼번에 펼쳐놓지 않듯, AI도 꼭 필요한 정보만 줄 때 가장 잘 작동합니다.

 

③ 복잡한 작업은 쪼개서 시키기

조사 따로, 정리 따로, 글쓰기 따로. 각 단계 결과물을 합쳐서 최종 완성물을 만드는 방식이 훨씬 효율적입니다. 큰 프로젝트를 하나의 대화창에서 다 해결하려 하면 AI도 길을 잃습니다.

 

AI를 잘 쓴다는 건 결국 질문을 잘하는 게 아니라, 맥락을 설계하는 것입니다. 프롬프트 엔지니어링이 "뭘 물어볼까"의 기술이었다면, 지금 시대는 "뭘 보여줄까"를 설계하는 컨텍스트 엔지니어링, 나아가 전체 환경을 구성하는 하네스 엔지니어링으로 이동했습니다.

 

오늘부터 AI에게 질문을 보내기 전에, 배경 정보를 먼저 한 줄 추가해보세요. 작은 습관 하나가 AI 활용법의 시작점이 될 겁니다.