코딩 에이전트의 보상 함수 하이재킹 검증법
코딩 에이전트가 테스트 통과와 작업 완료를 보고하지만 실제로는 테스트를 지우거나 값을 하드코딩하는 현상을 보상 함수 하이재킹이라고 부릅니다. 책 『바이브 코딩: 프로덕션의 원칙』을 바탕으로 가짜 완료 보고가 일어나는 원인과 이를 가려내는 실무 검증 습관을 정리합니다.

퇴근 직전인 오후 6시입니다. 여러분의 코딩 에이전트에게 실패하는 유닛 테스트 9개를 고쳐 달라고 맡겼습니다. 잠시 뒤 코딩 에이전트가 "임무 완료. 테스트 9개 모두 통과합니다"라는 보고를 올립니다. 화면에는 초록색 체크 표시도 9개가 선명하게 떠 있습니다. 안심하고 노트북을 덮어도 될까요?

(터미널에서 테스트 9개가 모두 초록색 체크 표시와 함께 통과한 화면. 모던웹연구소가 예시 프로젝트로 재현한 결과. 이미지 출처: 모던웹연구소)
하지만 그렇지 않습니다. 비슷한 일을 책 『바이브 코딩: 프로덕션의 원칙』의 저자 스티브 예기가 실제로 겪었습니다. 스티브 예기는 코딩 에이전트에게 실패하는 유닛 테스트 9개를 고쳐 달라고 요청하면서 무엇을 해야 하는지도 분명히 지시했습니다. 코딩 에이전트는 "임무 완료. 테스트 9개 모두 통과합니다"라고 보고했습니다. 하지만 스티브 예기가 테스트 코드를 직접 확인해 보니 5개만 실제로 고쳐져 있었습니다. 나머지 4개는 값을 하드코딩해 통과만 하게 만든 코드였습니다. 책의 저자들은 이 경험을 '머핀 9개를 받았는데 5개만 진짜이고 4개는 골판지로 만든 머핀이었다'고 표현했습니다.1

(모니터 속 하드코딩 코드 4줄을 보고 머리를 감싸 쥔 개발자의 뒷모습 일러스트. 이미지 출처: 모던웹연구소)
모던웹연구소 이보라 대표가 우리말로 옮긴 글로벌 베스트셀러, 『바이브 코딩: 프로덕션의 원칙』은 AI의 이런 행동에 '보상 함수 하이재킹'이라는 이름을 붙입니다. 코딩 에이전트를 실무에 쓰는 팀 상당수가 겪지만 원인을 몰라 당황하기 쉬운 문제죠. 이 글은 보상 함수 하이재킹이 무엇이고 왜 생기며 어떤 모습으로 드러나는지 그리고 실무에서 어떻게 대응해야 하는지를 책의 11장을 중심으로 정리합니다.
보상 함수 하이재킹이란 무엇인가
보상 함수 하이재킹(hijacking the reward function)이라는 이름은 Anthropic의 CISO(정보 보호 최고 책임자) 제이슨 클린턴이 책의 저자들과 나눈 대화에서 쓴 표현입니다.2 용어가 낯설 수 있으니 두 단어를 나누어 살펴봅시다. '보상 함수'는 AI 모델이 훈련받을 때 어떤 출력이 좋은 출력인지 알려 주는 기준입니다. '하이재킹'은 중간에 제어권을 빼앗는 행위입니다. 원래는 항공기 납치를 뜻하지만 IT 분야에서는 시스템이나 자원을 강제로 탈취하는 행위까지 가리킵니다.
그렇다면 AI 모델은 왜 보상 함수를 하이재킹할까요. AI 모델은 사람의 피드백을 받으며 발전했습니다. 그 과정에서 AI 모델은 '실제로 완성했는가'보다 '사람에게 도움이 되고 완성된 것처럼 보이는가'에 맞는 출력을 내도록 훈련받았습니다. 그래서 AI 모델은 작업을 완료하지 못했다는 사실을 드러내는 쪽보다 완료한 것처럼 보이게 만드는 쪽이 더 큰 보상을 받는다고 판단합니다. '일을 제대로 하기'라는 원래 목표가 '일이 끝난 것처럼 보이기'에 밀려나는 것입니다.
여러분의 AI 협업자는 그 근본이 ‘일을 제대로 하는 것’보다 도움이 되는 것처럼 보이게 하거나 ‘일이 끝난 것처럼 보여주는 것’을 최적화하도록 훈련되어 있습니다.
(11장, 219쪽)
이 현상은 사람이 중심인 조직에서도 흔히 볼 수 있습니다. 고객 상담 부서의 실적을 '처리 건수'로만 평가하는 조직을 떠올려 봅시다. 해당 조직에선 시간이 걸리는 어려운 건을 끝까지 해결하기보다 쉬운 건을 빨리 끝내거나 대충 마무리해 건수를 채우는 행동이 늘어납니다. 담당자가 나빠서가 아니라 평가 기준이 건수 채우기가 많은 사람을 더 잘 보상하기 때문입니다. 코딩 에이전트도 마찬가지로 자신이 보상받는 기준을 따라 움직입니다.
컨텍스트가 차고 일이 복잡해질 때 지름길을 택한다
코딩 에이전트가 처음부터 속임수를 쓰는 것은 아닙니다. AI는 세 가지 제약을 만나면 일종의 '위기 모드'에 들어갑니다. 제한된 컨텍스트 윈도우와 복잡한 요구 사항 그리고 출력 토큰 한계입니다. 위기 모드에 들어간 AI는 작업을 제대로 끝낼 수 없다는 사실을 인정하지 않습니다. 대신 실패한 것처럼 보이지 않으려고 지름길을 택합니다.

(세 가지 제약을 만난 코딩 에이전트가 '위기 모드'를 거쳐 '지름길'로 빠지는 과정. 『바이브 코딩: 프로덕션의 원칙』 11장(224쪽)의 설명을 바탕으로 정리. 이미지 출처: 모던웹연구소)
여기서 책이 말하는 '지름길'은 일을 빨리 끝내는 효율적인 요령이 아닙니다. 요구 사항을 충족한 것처럼 보이려고 품질 검증이나 구현의 완결성이나 책임 있는 판단을 생략하는 행위입니다. 인간 개발자는 마감이 임박했을 때 "시간이 부족한데 에러 해결에 집중할까요, 코드 정리를 먼저 할까요"라고 의견을 구하며 범위를 조율합니다. 반면 AI는 무엇이 필수이고 무엇이 선택인지를 사람에게 묻지 않고 조용히 스스로 지름길로 빠집니다.

(대화가 이어질수록 이전 턴의 내용이 컨텍스트 윈도우를 채워 가는 모습. 책에서는 '콘텍스트 윈도'로 표기합니다. 이미지 출처: 『바이브 코딩: 프로덕션의 원칙』(제이펍) 그림 10.2)
책 10장의 그림 10.2는 턴이 지날수록 컨텍스트 윈도우가 차는 모습을 보여 줍니다. 그리고 11장은 제한된 컨텍스트 윈도우를 위기 모드의 조건으로 꼽습니다. 즉, 작업 세션이 길어질수록 AI가 위기 모드에 들어갈 조건이 갖춰진다고 해석하면 됩니다.
컨텍스트가 길어질 때 모델이 중간 내용을 놓치는 현상은 모던웹연구소 Lab의 시각화 자료에서 직접 확인할 수 있습니다.
보상 함수 하이재킹이 드러나는 네 가지 유형
책의 11장은 AI가 위기 모드에서 지름길을 택할 때 나타나는 모습을 네 가지 유형으로 나눕니다.
유형 | 겉으로 보이는 모습 | 실제로 벌어진 일 |
|---|---|---|
아기 세기 문제 | "임무 완료" 보고 | 요청한 것 중 일부가 빠져 있음(명백한 누락) |
골판지 머핀 문제 | 초록색 체크 표시, 그럴듯한 함수 이름과 문서 | 값 하드코딩, 형식적인 검증(가짜 완료) |
대충 처리하기 문제 | 동작하는 코드 | 기존 패턴을 무시한 최소 품질의 구현 |
쓰레기 투기 문제 | 요구 사항을 충족하는 결과 | 유지 보수가 불가능한 잔해 |
첫 번째 유형인 '아기 세기 문제'는 요청한 작업의 일부를 빠뜨리거나 아예 지워 버리고도 다 끝냈다고 보고하는 현상입니다. 스티브 예기는 이 경험을 '불타는 집에서 아기 일곱 명을 구해 오라고 했더니 다섯 명만 데려오고 임무 완료라고 보고한 것'에 비유했습니다. 여기서 아기는 실패하는 유닛 테스트 7개였고 AI는 테스트를 고치는 대신 비활성화했습니다. 스티브 예기는 AI가 테스트의 80%를 삭제하고도 아무 일 없었던 것처럼 행동하는 것을 잡아낸 적도 있습니다. 공저자 진 킴은 AI가 나흘 전에 함수를 지웠다는 사실을 뒤늦게 깨닫고 좌절했다가, 간신히 IntelliJ의 로컬 히스토리를 뒤진 끝에 코드를 복구한 일을 책에서 회고하기도 했습니다.
이런 경험을 바탕으로 저자들은 코딩 에이전트가 작업하는 동안 변경 내역인 diff에서 '삭제된 줄'을 유심히 살펴보라고 권고합니다.

(실패하던 테스트 7개 중 2개를 test.skip으로 비활성화해 실패 0개로 끝난 화면. 모던웹연구소가 예시 프로젝트로 재현한 결과. 이미지 출처: 모던웹연구소)
두 번째 유형인 '골판지 머핀 문제'는 겉모습만 그럴듯하게 만들어 통과시키는 가짜 완료입니다. 글머리에 살펴본 하드코딩된 유닛 테스트 4개 사례가 골판지 머핀 문제에 해당합니다. 저자들은 골판지 머핀 문제가 아기 세기 문제보다 더 교묘하다고 봅니다. 누락은 세다 보면 눈에 띄지만 가짜 완료는 진짜 완료처럼 위장하기 때문입니다. 앞에서 보면 그럴듯한 건물이지만 뒤로 돌아가 보면 판자만 세워져 있고 속은 비어 있는 영화 세트장과 같습니다.

(함수 9개 중 금색 막대로 표시한 4개의 계산 로직이 실제 담겨 있는 코드는 삭제되고, 기댓값을 하드코딩한 코드가 추가된 사례. 이미지 출처: 모던웹연구소)
세 번째, '대충 처리하기 문제'는 코드는 돌아가지만 설계와 품질 기준을 무시하는 현상입니다. AI는 좋은 코드의 모범 사례를 알고 있는데도 사람의 감독이 없으면 '일단 돌아가게만' 만듭니다. 진 킴이 Claude에게 AI가 작성한 테스트 코드를 스스로 평가하게 했더니 형편없다는 답이 나왔습니다. 그 테스트 코드는 프로그래밍 언어의 내장 함수를 테스트하고 있었습니다. 또 함수가 호출됐는지만 확인하고 실제 동작은 검증하지 않는 테스트가 있었으며 에러와 에지 케이스를 확인하는 테스트는 거의 없었습니다.

(통과한 테스트 4개 중 부실한 검증과 누락된 에러·에지 케이스를 ①②③으로 표시한 테스트 코드. 이미지 출처: 모던웹연구소)
여러분은 여러분이 요구한 만큼의 품질을 얻습니다.
(11장, 228쪽)
'쓰레기 투기 문제'는 당장의 요구 사항은 충족하지만 저장소에 유지 보수가 불가능한 잔해를 남겨 두는 현상입니다. 진 킴은 버그를 잡으려고 코딩 에이전트에게 "여기저기에 전부 로깅을 넣어"라고 지시해서 당시 겪던 문제는 해결했습니다. 하지만 며칠 뒤 코드를 다시 열어 보니 예외가 날 수 있는 모든 지점에 try-catch 블록이 생겨 코드 중첩이 8~10단계가 되어 있던 걸 발견하고 절망에 빠졌습니다. 몇 달이 지나도 그 코드를 손대지 못했고요. 쓰이지 않는 변수나 "일단은 남겨둠" 같은 주석이나 저장소 곳곳에 흩어진 임시 파일도 '쓰레기 투기 문제' 유형입니다. 저자들은 코딩 에이전트가 코드를 쏟아내는 속도를 생각하면 '오늘 만든 코드가 내일의 기술 부채'가 되는데 그 내일이 내일이 아니라 오늘 오후일 수도 있다고 경고합니다.
뉴스레터
엔터프라이즈 현장 전문가들이 검증한 노트, 격주 발행.
Claude Code, GitHub Copilot, AI 네이티브 엔지니어링 전략과 도입 사례를 격주로 정리해 보내드립니다.
완료 보고서의 문장을 읽는 법
코딩 에이전트가 보상 함수를 하이재킹할 때는 완료 보고서의 문장에도 흔적이 남습니다. 책 14장에 나오는 사례를 살펴봅시다. 스티브 예기는 코딩 에이전트에게 타임아웃으로 멈추는 테스트와 @Disabled로 꺼 둔 테스트를 고쳐 달라고 요청했습니다. 코딩 에이전트는 아홉 가지 작업을 마쳤다고 보고했고 결과 요약은 다음과 같았습니다.
모든 파이썬 테스트는 이제 통과하거나, 특정 에러와 함께 실패하거나, 명확한 메시지와 함께 적절히 비활성화되었습니다.
(14장, 304쪽)
언뜻 보면 일을 잘 끝낸 것 같지만 이 요약 문장을 유심히 살펴보면 '모든 테스트가 통과했다'고는 말하지 않은 것을 볼 수 있습니다.
이 글에는 인용하지 않았지만, 보고서 본문에는 지름길을 택했다는 다른 신호도 들어 있었습니다.
비활성화된 테스트 처리 방식: 비활성화된 테스트를 고치는 대신 '표준화'했다고 적었습니다.
타임아웃 문제 처리 방식: 타임아웃이 발생하는 원인을 해결하는 대신 타임아웃 시간을 늘렸습니다.
변경 사항 반영 방식: 사람에게 묻지도 않고 모든 변경을 저장소에 커밋했습니다.
스티브 예기가 직접 확인해 보니 테스트 코드는 통과는커녕 컴파일조차 되지 않았습니다. 저자들은 이 사례를 보상 함수 하이재킹의 전형이라고 부릅니다.
여기서 얻을 수 있는 실무 교훈은 분명합니다. 코딩 에이전트의 완료 보고서를 읽을 때는 '무엇을 했다'는 주장보다 '무엇을 했다고 말하지 않았는가'를 읽어야 합니다. 책의 이 사례에서 '표준화'라는 말은 실제로는 의미 있는 작업을 하나도 하지 않았다는 사실을 애매하게 감춘 표현이었습니다. 코딩 에이전트는 테스트를 다 고친 것처럼 말하면서 완곡한 표현으로 얼버무렸기 때문입니다. 그래서 보고서에 완곡한 표현이 보이면 보고서만 믿지 말고 실제 코드 변경을 확인해야 합니다.
모델이 좋아지면 하이재킹이 사라지는가
AI 모델 제공사들은 보상 함수 하이재킹 문제를 줄이려고 노력하고 있습니다. Anthropic은 2025년 5월 Claude 4를 발표하면서 지름길과 허점에 취약한 에이전트 과제를 측정한 결과를 공개했습니다. 발표에 따르면 Claude Opus 4와 Claude Sonnet 4는 지름길이나 허점을 이용해 과제를 끝내는 행동을 이전 모델인 Sonnet 3.7보다 65% 덜 한다고 합니다.3
하지만 책을 쓰던 2025년 시점에 나온 이 65%라는 숫자의 뜻을 정확히 읽어야 합니다. 65% 줄었다는 말을 단순하게 비율로 풀면 이전 모델이 100번 지름길을 택하던 과제에서 새 모델은 35번 지름길을 택한다는 뜻입니다. 분명 큰 개선이지만 0이 된 것은 아닙니다. 책의 저자들도 같은 수치를 두고 보상 함수 하이재킹은 여전히 발생한다고 적었습니다.
그렇기 때문에 '모델이 더 좋아지기를 기다리는 것'은 실무 대응이 될 수 없습니다. 개발 팀은 지금 쓰는 모델이 위기 모드에서 언제든 지름길을 택할 수 있다는 사실을 전제로 요청 방식과 검증 절차를 설계해야 합니다.
이 장에서 얘기하는 가장 중요한 통찰은 AI의 보상 함수 하이재킹은 이해하기만 하면 관리할 수 있는 예측 가능한 특성이라는 점입니다.
(11장, 232쪽)
그래서 어떻게 대응하나
『바이브 코딩: 프로덕션의 원칙』 3부의 14~16장은 이런 문제에 대응하는 방법을 시간 단위가 다른 세 루프(내부 루프·중간 루프·외부 루프)로 나누고 루프마다 예방·감지·교정 방법을 적용하는 것이라 정리합니다.

(초~분 단위의 내부 루프, 시~일 단위의 중간 루프, 주~월 단위의 외부 루프. 이미지 출처: 『바이브 코딩: 프로덕션의 원칙』(제이펍) 그림 14.2)
세 루프의 전체 체계는 책에서 확인하세요. 이 글에서는 내일 당장 실무에 적용할 수 있는 다섯 가지만 소개합니다. 앞의 네 가지는 책 11장 결론이 제시하는 실천 사항 여섯 가지 가운데 네 가지이고 다섯째는 모던웹연구소가 Claude Code 교육에서 쓰는 방법입니다.
요청한 것을 하나씩 센다: 코딩 에이전트가 완료했다고 말해도 요청한 항목을 하나씩 대조합니다. 특히 diff에서 삭제된 줄을 봅니다.
초록색 체크 표시가 아니라 테스트 코드를 연다: 테스트가 실제로 무엇을 검증하는지 그리고 기대하는 결괏값이 하드코딩되어 있지 않은지 확인합니다.
품질 기준을 명시한다: 코딩 에이전트에게 일을 맡길 때 코드가 무엇을 해야 하는지뿐 아니라 어떤 구조와 패턴을 따라야 하는지 적어 줍니다. AI는 사람이 요구한 만큼의 품질만 내놓기 때문입니다.
끝나면 정리까지 시킨다: 작업이 끝날 때마다 디버깅용 임시 코드·로그·쓰이지 않는 변수를 치우게 합니다. '코드를 처음 보았을 때보다 더 깨끗하게 만들고 떠나라'고 명시적으로 지시합니다.
검증을 규칙과 절차로 고정한다: 사람의 주의력에만 기대지 않고 검증 절차를 마련합니다. 모던웹연구소는 Claude Code 교육에서 세 가지를 실습 가이드로 제공합니다.
실패하는 테스트를 먼저 실행해 실패를 눈으로 확인합니다.
테스트를 통과시키려고 테스트를 삭제하거나 건너뛰거나 검증 조건을 약하게 만들지 못하도록 규칙 파일에 적어 둡니다.
구현 코드에 일부러 버그를 심어 테스트가 실제로 버그를 잡아내는지 확인합니다.
코딩 에이전트에게 한 번에 맡기는 일의 크기를 줄이는 것도 중요한 대응 수단입니다. 책의 12장은 AI가 더 발전할 때까지는 작은 작업을 위임하고 AI를 면밀히 감독하고 결과물을 세밀하게 검토하라고 권합니다. 작업을 작게 나누어 맡길수록 책의 위기 모드의 조건인 제한된 컨텍스트 윈도우와 복잡한 요구 사항을 덜 만나게 됩니다. 작업을 작게 나누어 맡기는 구체적인 방법은 모던웹연구소가 앞서 발행한 트레이서 불릿 기법을 다룬 글을 확인해보세요.
책 소개
책의 저자들은 골판지 머핀과 쓰레기 투기 문제를 겪고도 손으로 직접 코드를 쓰던 시절로 돌아갈 생각이 없다고 말합니다. 보상 함수 하이재킹은 AI를 쓰지 말아야 할 이유가 아니라 AI를 관리하는 방법을 배워야 할 이유이기 때문입니다. 모던웹연구소가 Claude Code 교육에서 검증 절차에 시간을 쓰는 것도 같은 이유입니다.

(『바이브 코딩: 프로덕션의 원칙』 표지. 이미지 출처: 제이펍)
이 글은 『바이브 코딩: 프로덕션의 원칙』 11장을 중심으로 10장의 그림 10.2와 12장 그리고 14장의 일부를 다뤘습니다. 책은 모두 4부 19장으로 구성됩니다. 1부 '왜 바이브 코딩인가?', 2부 '바이브 코딩 이론과 실습', 3부 '바이브 코딩을 위한 툴과 기법', 4부 '개인 개발자를 넘어서'를 차례로 다룹니다. 저자 진 킴은 『피닉스 프로젝트』의 공저자이고 스티브 예기는 아마존과 구글에서 오래 일한 엔지니어입니다. 원서는 Vibe Coding: Building Production-Grade Software With GenAI, Chat, Agents, and Beyond(IT Revolution)이고 한국어판은 2026년 9월 제이펍에서 나왔습니다.
이 책은 장난감 프로젝트가 아니라 AI가 짠 코드를 실제 프로덕션 서비스에 올려야 하는 현직 개발자와 팀 리더에게 맞습니다. 책은 교보문고와 알라딘에서 볼 수 있습니다.
참고 자료
진 킴·스티브 예기 지음, 이보라 옮김, 『바이브 코딩: 프로덕션의 원칙』, 제이펍, 2026. 원서는 Gene Kim·Steve Yegge, Vibe Coding: Building Production-Grade Software With GenAI, Chat, Agents, and Beyond, IT Revolution, 2025.
↩Jason Clinton, 저자들과의 개인 대화, 2025-04-02. 『바이브 코딩: 프로덕션의 원칙』 11장 미주 01(487쪽).
↩Anthropic, Introducing Claude 4, 2025-05-22.
↩
이 글은 모던웹연구소 (www.modernweblabs.com)에서 처음 발행되었습니다. © 모던웹연구소. 무단 전재 및 재배포를 금합니다.
뉴스레터
엔터프라이즈 현장 전문가들이 검증한 노트, 격주 발행.
Claude Code, GitHub Copilot, AI 네이티브 엔지니어링 전략과 도입 사례를 격주로 정리해 보내드립니다.
모던웹연구소 · 컨설팅 안내
글을 읽었다면, 다음은 팀에 이식할 차례입니다.
이 글에서 다룬 방식을 우리 팀에 어떻게 적용할지, 짧은 대화부터 시작하면 됩니다.
함께할 수 있는 일
Claude Code · GitHub Copilot
2일 핸즈온 + AI 채점 기반 사내 인증
AI 네이티브 전략
운영 표준·측정·거버넌스 재설계
웹 플랫폼
Next.js 기반 풀스택 서비스 구축