Capability Overhang, 이제는 '프롬프팅'으로 극복하라

오늘은 AEO,GEO 서비스 ChainShift를 개발하며 팀 내부에서 스터디한 자료를 공유해볼까 합니다. '30분만에 클러드 코드 마스터 하기'라는 주제에서 엔트로픽의 테크 엔지니어 Boris Cherny의 인사이트는 AI와 함께 진행하는 개발 방식에 많은 인사이트를 주었습니다.

그럼 시작합니다!

생성형 AI는 날이 갈수록 발전하고 있습니다. Claude, GPT와 같은 최신 모델들은 이미 많은 문제를 해결할 수 있는 능력을 갖추고 있지만, 막상 우리가 원하는 결과를 얻지 못할 때가 있습니다. 이유는 단순합니다. 모델의 능력은 충분하지만, 적절한 지시(prompt)가 주어지지 않으면 그 능력을 발휘하지 못하기 때문입니다.

이러한 현상을 ‘Capability Overhang(능력 초과 대기)’라고 부릅니다. 이미 고성능의 엔진이 장착되어 있음에도, 운전자가 엑셀을 제대로 밟지 못해 속도가 나지 않는 상황과 비슷합니다.

생각부터 요청하라: 단순하지만 강력한 원칙

그렇다면 이 문제를 어떻게 해결할 수 있을까요? 정답은 의외로 간단합니다. “바로 실행하지 말고, 먼저 생각하라고 요청하라”는 것입니다.

실제로 Claude를 사용할 때, 많은 사용자가 “이 기능을 구현해줘”, “이 코드를 짜줘”라고 단도직입적으로 요청하곤 합니다. 그러나 모델에게 복잡한 작업을 한 번에 맡기면, 의도와 다른 결과가 나올 확률도 그만큼 높아집니다.

반면에, “문제 해결을 위한 접근 방안을 먼저 단계별로 정리해줘. 아직 코드는 짜지 마”라고 요청하면, Claude는 상황을 분석하고 다양한 옵션을 제시하면서 계획부터 시작합니다. 이 과정은 단순한 코드 자동화가 아닌, AI와 함께 사고하고 설계하는 협업으로 이어집니다.

Claude 프롬프팅 전략 3단계

이러한 사고 중심 프롬프팅 방식은 Claude를 훨씬 더 유용하게 활용할 수 있는 핵심 전략입니다. 구체적으로는 다음 세 단계를 따릅니다.

1. 계획을 요청하라

첫 번째 단계는 모델에게 곧장 코드를 요구하지 않고, 문제 해결을 위한 전략을 먼저 요청하는 것입니다. 예를 들어, “이 문제를 해결하기 위해 어떤 접근이 가능할까? 단계별로 아이디어를 정리해줘”라고 말하는 방식이죠. Claude는 이 요청을 기반으로 여러 접근법을 제시하며 문제를 다양한 시각에서 분석합니다.

2. 계획을 검토하고 선택하라

다음 단계는 Claude가 제시한 계획 중에서 가장 적절한 접근을 선택하거나 조합하는 일입니다. 사용자는 “옵션 1과 3을 섞어서 해보자”라고 명확히 지시할 수 있고, Claude는 해당 요청에 맞춰 다음 작업을 이어갑니다. 이 과정에서 사용자는 AI의 사고 흐름을 검토하고 방향성을 조율하게 됩니다.

3. 피드백 루프를 만들라

마지막 단계는 작성된 코드나 작업 결과에 대해 검증 가능한 루프를 만드는 것입니다. 예를 들어 “이 코드에 대한 유닛 테스트를 작성해줘”, “결과를 스크린샷으로 찍어서 보여줘” 등의 요청이 여기에 해당합니다. Claude는 자신의 작업을 평가하고 개선할 수 있는 구조 안에서 훨씬 더 정교한 결과를 도출할 수 있습니다.

반복 가능한 피드백 루프의 위력

Claude의 성능은 결과물을 검증할 수 있는 도구와 함께 사용할 때 훨씬 강력해집니다. 유닛 테스트, Puppeteer 스크린샷, iOS 시뮬레이터 등 ‘보이는 결과’를 확보할 수 있는 방법이 주어지면, Claude는 그 결과를 기반으로 반복적으로 수정하고 개선하는 능력을 발휘합니다.

이러한 루프 기반 개선 방식은 단순 자동화를 넘어서는 진정한 협업 기반 AI 개발 환경을 만들어줍니다.

생각하게 만들기: Claude의 본질적인 사용법

Anthropic 팀의 철학은 매우 명확합니다. Claude에게 “생각해봐”, “계획 세워줘”, “아직 실행하지 마”라고 자연어로 말하면, 그것만으로 충분하다는 것입니다. 특별한 모드 전환이나 설정 없이, 자연어만으로도 모델을 사고 중심의 흐름으로 유도할 수 있다는 점은 프롬프팅의 진정한 힘을 보여줍니다.

개발자의 역할 변화: 코딩에서 오케스트레이션으로

이제 개발자는 코드를 직접 작성하는 사람에서, AI 에이전트를 조율하는 사람으로 진화하고 있습니다. 직접 짜는 코드의 양은 줄어들고, 모델의 능력을 끌어내고, 결과를 리뷰하고, 방향을 설정하는 일이 중요해지고 있습니다.

• 코드 작성 → 코드 리뷰 및 디버깅

• 기능 설계 → 문제 정의 및 전략 설정

• 프로그래밍 → 모델과의 협업 환경 세팅

이런 변화는 단지 도구의 변화가 아니라, 일하는 방식의 본질적 전환을 뜻합니다.

마무리 조언: 모델은 당신의 지시를 따른다

Capability Overhang은 모델의 문제가 아닙니다. 우리가 프롬프트를 어떻게 구성하느냐의 문제입니다. AI가 무엇을 할 수 있는지 이해하고, 그 능력을 최대한 끌어내기 위한 프롬프팅 전략을 구사하는 것이 지금 이 시대 개발자들의 새로운 경쟁력이 되고 있습니다.

“계획 – 실행 – 검토”의 구조만 잘 지켜도, 모델은 훨씬 더 높은 수준의 결과물을 제공해 줄 것입니다.

✍ ChainShift Daniel

Reference:
https://www.youtube.com/watch?v=6eBSHbLKuN0

© 2025 ChainShift. All rights reserved. 무단전제 및 재배포 금지.