단가는 내려가는데, 청구서는 늘어납니다 — AI 비용이 드러나기 시작했습니다

들어가며 — 모순처럼 보이는 두 소식

이달 초, 언뜻 정반대로 보이는 두 소식이 같은 주에 놓였습니다.

하나는 “AI가 더 싸졌다” 입니다. 한 모델 제공사가 추론 단가를 75% 영구 인하했습니다. 다른 하나는 “AI가 더 비싸졌다” 입니다. 가장 널리 쓰이는 코딩 보조 도구가 과금 방식을 바꾸자, 청구서가 몇 배로 뛰었다는 개발자들의 비명이 쏟아졌습니다.

둘 다 사실입니다. 그리고 모순이 아닙니다 — 사실 둘은 같은 이야기의 앞면과 뒷면입니다. 이 글은 그 한 장의 이야기를 읽어보려고 씁니다.

1. 무슨 일이 있었나

(1) GitHub Copilot이 토큰 사용량 과금으로 바뀌었습니다. 6월 1일, GitHub는 Copilot의 과금을 요청 횟수 기준에서 토큰 사용량 기준으로 전환했습니다. 코드 자동완성은 여전히 무료지만, 채팅·에이전트 모드·코드 리뷰처럼 모델을 깊게 굴리는 기능은 소비한 토큰만큼 비용이 매겨집니다. GitHub이 공식 블로그에서 밝힌 이유는 분명합니다 — “기존 요청 단위 모델은 더 이상 지속 가능하지 않다.” 에이전트가 한 번에 태우는 토큰이 너무 커졌기 때문입니다.

(2) 일부 개발자가 청구서 급증을 호소했습니다. 전환 직후 소셜미디어에는 “월 29달러가 750달러가 됐다”, “50달러가 3,000달러가 됐다”는 글이 돌았습니다. 다만 이 수치들은 소셜미디어에 올라온 개인 사례이고, GitHub은 공식 답변을 내놓지 않았습니다 — 검증된 평균치가 아니라는 점은 분명히 해둡니다. 흥미로운 건 반론도 같이 나왔다는 점입니다. “그렇게까지 나오는 건 정의 없이 마구잡이로 돌리는(‘바이브 코딩’) 탓”이라는 지적이었습니다. 이 반론이 사실은 이 글의 핵심입니다. 뒤에서 다시 보겠습니다.

(3) 같은 시기, 추론 단가는 폭락했습니다. 한 제공사는 자사 모델의 가격을 75% 내리며, 이를 한시적 할인이 아니라 영구 인하로 못박았습니다. 출력 100만 토큰당 1달러 아래까지 떨어졌습니다. 회사 측 설명은 “할인이 아니라, 효율 개선으로 아낀 몫을 그대로 넘긴 것”이었습니다. 단가 인하는 한 회사의 이벤트가 아니라 업계 전반의 흐름입니다.

여기까지가 사실입니다. 이제부터가 본론입니다.

2. 역설 — 단가는 내려가는데 왜 청구서는 커지나

답은 곱셈에 있습니다.

비용 = 단가 × 사용량

토큰 한 개의 값은 분명히 내려갔습니다. 하지만 에이전트와 루프는 한 작업에 토큰을 예전과 비교할 수 없을 만큼 많이 태웁니다. 사람이 프롬프트 한 번 넣고 답 한 번 받던 시절과 달리, 에이전트는 스스로 읽고·고치고·다시 시도하기를 수십 번 반복합니다. 단가가 4분의 1로 떨어져도, 사용량이 100배가 되면 청구서는 오히려 늘어납니다.

단가가 내려가도, 정의가 없으면 청구서는 늘어납니다. 줄일 수 있는 곳은 사용량 하나뿐입니다.

그래서 두 소식은 모순이 아닙니다. 단가 하락과 청구서 폭증은 같은 사건의 양면입니다 — 토큰이 싸졌기 때문에 우리는 토큰을 펑펑 쓰는 방식(에이전트·루프)으로 일하게 됐고, 그 결과 총 사용량이 폭증한 겁니다.

더 중요한 변화는 따로 있습니다. 그동안 정액제 뒤에 숨어 있던 진짜 비용 구조가, 이제 청구서에 그대로 드러났다는 것입니다. 월 정액 무제한처럼 느껴지던 요금제는 제공사가 손실을 흡수하며 버티던 구조였습니다. 그 시대가 끝나가는 중입니다. 토큰 과금으로의 전환은 사고가 아니라, 적자를 더는 떠안지 못하게 된 산업의 정상화입니다.

3. 기업 현장에선 무엇이 달라지나

정액제 시대에 “일단 AI한테 던져보자”는 사실상 공짜였습니다. 결과가 시원찮아도 다시 던지면 그만이었습니다. 이제는 던질 때마다 미터가 돕니다. 모호하게 던져서 에이전트가 열 번 헤매면, 그 열 번이 전부 청구됩니다.

여기서 1장의 그 반론 — “비용 폭증은 마구잡이로 돌린 탓”이라는 말 — 이 정확히 급소를 찌릅니다. 비효율의 비용이 이제 회계 장부에 숫자로 찍힌다는 뜻이기 때문입니다. 막연한 지시, 정의되지 않은 목표, 통과 기준 없는 반복 — 그동안 “비효율적이긴 한데 공짜니까” 넘어가던 것들이, 이제 월말 청구서에 또렷한 금액으로 나타납니다.

저는 이 변화를 이렇게 정리합니다. 비용의 가시화는 ‘정의의 가치’를 회계로 증명하는 사건입니다. 그동안 “AI에게 일을 시키려면 먼저 일을 정의해야 한다”는 건 옳지만 다소 원칙적인 이야기였습니다. 안 지켜도 당장 손해가 눈에 보이진 않았으니까요. 이제는 다릅니다. 정의하지 않은 비용이 숫자로 나옵니다.

도식으로 돌아가 보겠습니다. 비용을 결정하는 세 항 가운데, 내가 통제할 수 있는 건 하나뿐입니다. 단가는 시장이 정하고, 청구서는 그 결과일 뿐입니다. 내 손에 있는 손잡이는 가운데 항 — 사용량 하나입니다. 그리고 사용량을 줄이는 길은 더 싼 모델을 찾는 게 아니라, 무엇에 얼마나 시킬지를 정의하는 것입니다. 헤매는 루프를 줄이는 일, 그게 곧 비용을 줄이는 일입니다.

4. 그래서 일하는 방식을 어떻게 바꿔야 하나

질문이 바뀝니다. “AI를 쓸까 말까”가 아니라 “무엇에, 얼마나 쓸까” 입니다. 전자는 도구의 질문이고, 후자는 정의의 질문입니다.

지난 글에서 루프를 다루며, 헤매는 루프를 줄이는 두 가지 실전 포인트를 짚었습니다 — 채점자를 작업자와 분리하고, 메모리를 쌓지 말고 증류하라는 것이었습니다. 그때는 품질의 관점에서 한 이야기였는데, 이번 변화는 거기에 비용이라는 두 번째 이유를 붙여줍니다. 잘 설계된 루프는 더 정확할 뿐 아니라 더 쌉니다. 헤매는 루프는 틀리기만 하는 게 아니라, 틀리는 동안 돈을 태웁니다.

그래서 비용 가시화는 위협이 아니라 신호입니다. 무엇을 시킬지 명확히 정의하는 사람과, 일단 던지고 보는 사람의 격차가 — 이제 결과물의 질뿐 아니라 청구서로도 벌어진다는 신호입니다. 도구를 더 잘 다루는 법으로는 이 격차를 좁힐 수 없습니다. 정의를 더 잘하는 법으로만 좁혀집니다.

저는 도구를 가르치지 않습니다. 일하는 방식을 바꾸자고 말합니다. 토큰 단가가 어떻게 움직이든, 줄어들지 않는 진실이 하나 있습니다 — 무엇을 시킬지 모르는 채 던지는 일은, 언제나 가장 비쌉니다.

출처

이 글의 사실관계는 위 출처를 따르며, 청구서 급증 수치는 검증되지 않은 개인 사례임을 본문에 밝혔습니다. 해석과 현장 관점은 박상훈의 견해입니다.