계산 방식부터 밝히겠습니다. 업무 세 가지를 정해두고, 각각에 대해 지금 OpenRouter에 올라온 단가를 그대로 곱했습니다. 하루 몇 번, 한 번에 몇 토큰이 오가는지는 아래에 적어뒀습니다. 1달러는 1,450원, 한 달은 30일로 잡았습니다. 캐싱·배치 할인은 넣지 않았으니 실제로는 이보다 내려갈 수 있습니다.

같은 일입니다. 모델 이름만 바꾼 것입니다.

기준을 "가장 비싼 것"이 아니라 "가장 똑똑한 것"으로 잡았습니다. 최고가 모델은 극단값이라 그걸 기준으로 삼으면 차액이 부풀려집니다. 실제로 사람들이 손이 가는 자리는 점수가 가장 높은 쪽이고, 그것과 견주는 게 정직합니다. 참고로 가장 비싼 모델로 이 일을 돌리면 한 달 9,396,000원입니다.

짧은 답 (분류·태그·판정)

문장 하나를 넣고 갈래만 받는 일입니다. 하루 500번, 한 번에 입력 800토큰·출력 60토큰으로 잡았습니다. 한 달이면 입력 1,200만 토큰, 출력 90만 토큰이 오갑니다.

이 일에서는 공짜로도 됩니다. 가장 비싼 쪽은 한 달 3,393,000원입니다. 공짜가 이 일을 제대로 해내는지는 같은 질문 몇 개로 직접 견줘보셔야 하지만, 적어도 시도해볼 값어치는 있습니다.

문서 요약 (A4 몇 장)

자료를 넣고 요약을 받는 일입니다. 하루 200번, 한 번에 입력 4,000토큰·출력 800토큰으로 잡았습니다. 한 달이면 입력 2,400만 토큰, 출력 480만 토큰이 오갑니다.

이 일에서는 공짜로도 됩니다. 가장 비싼 쪽은 한 달 9,396,000원입니다. 공짜가 이 일을 제대로 해내는지는 같은 질문 몇 개로 직접 견줘보셔야 하지만, 적어도 시도해볼 값어치는 있습니다.

긴 글쓰기 (초안 뽑기)

지시를 주고 긴 글을 받는 일입니다. 하루 60번, 한 번에 입력 2,500토큰·출력 3,000토큰으로 잡았습니다. 한 달이면 입력 450만 토큰, 출력 540만 토큰이 오갑니다.

이 일에서는 공짜로도 됩니다. 가장 비싼 쪽은 한 달 5,676,750원입니다. 공짜가 이 일을 제대로 해내는지는 같은 질문 몇 개로 직접 견줘보셔야 하지만, 적어도 시도해볼 값어치는 있습니다.

모델을 안 바꾸고도 줄어드는 것

값을 줄이는 방법이 모델 교체만 있는 건 아닙니다. 같은 모델을 그대로 두고 출력 길이만 절반으로 잡아도 값이 내려갑니다. 위에서 쓴 문서 요약 업무로 다시 계산해봤습니다.

출력 길이는 지시문에 한 줄 넣는 것으로 정해집니다. '세 문장 이내로', '표 다섯 줄로' 같은 식입니다. 코드를 고칠 필요도, 모델을 바꿀 필요도 없습니다. 값 줄이는 일 중 가장 손이 덜 가는 쪽입니다.

한 해로 보면

세 가지를 다 하신다면 상위권 중 싼 모델 기준으로 한 달 8,428원입니다. 같은 일을 가장 똑똑한 모델로만 돌리면 696,000원입니다.

왜 출력이 값을 좌우하나

위의 세 업무를 나란히 놓고 보면 규칙이 보입니다. 요청 수가 가장 적은 긴 글쓰기가 요청 수가 가장 많은 짧은 답보다 비쌉니다. 하루 60번과 500번인데도 그렇습니다. 출력 단가가 입력보다 몇 배 높기 때문입니다.

그래서 값을 줄이실 때 순서가 있습니다. 요청 수를 줄이는 것보다 답 길이를 줄이는 게 먼저입니다. 요청 수는 업무량이라 마음대로 못 줄이지만, 답 길이는 지시문 한 줄로 정해집니다.

두 개로 나누는 방법

실무에서 가장 많이 쓰는 구성은 두 단입니다. 평소에 쓸 것 하나와 어려울 때만 올려 보낼 것 하나를 정해두고, 요청을 받는 쪽에서 갈라 보냅니다. 글자 수나 일의 종류로 나누면 됩니다.

이렇게 하면 값은 평소용에 가깝게 나옵니다. 위의 문서 요약 업무로 치면 열에 아홉을 상위권 중 싼 것으로, 하나를 가장 똑똑한 것으로 보낼 때 한 달 38,715원 정도입니다. 전부 똑똑한 것으로 돌릴 때(348,000원)와 견주면 차이가 큽니다.

여기까지가 이 계산으로 드릴 수 있는 이야기입니다. 남은 것은 직접 해보시는 일뿐입니다. 표를 아무리 봐도 내 업무에서 어느 모델이 잘하는지는 안 나옵니다. 값은 여기서 확인하시고, 품질은 직접 견줘보세요.

값을 못 줄이는 경우

모든 일이 싼 모델로 되는 건 아닙니다. 여러 단계를 스스로 밟아야 하는 추론, 긴 코드를 고치면서 이유까지 설명하는 일, 틀리면 곤란한 계산. 이런 일에서는 싼 모델로 내렸다가 다시 올리게 됩니다.

그럴 때는 억지로 줄이지 마세요. 대신 그 일이 전체의 몇 퍼센트인지 세어보세요. 대개 생각보다 적습니다. 그 몇 퍼센트만 비싼 쪽으로 보내고 나머지를 내리는 게 두 단 구성의 요점입니다.

이 계산에 안 들어간 것

• 캐싱 — 같은 지시문이 반복되면 그 부분 값이 크게 깎입니다. 넣으면 위 숫자보다 더 내려갑니다.
• 배치 — 급하지 않은 일을 묶어 보내면 절반 값에 처리해주는 방식이 있습니다.
• 실패와 재시도 — 답이 마음에 안 들어 다시 돌리는 값은 넣지 않았습니다. 실제로는 이게 꽤 됩니다.
• 구독료 — 앱으로 쓰시는 경우의 월 정액은 여기 없습니다. 이 계산은 API로 쓸 때 기준입니다.

그리고 이 세 가지를 다 하시는 경우는 드뭅니다. 대부분 한 가지가 대부분을 차지하고 나머지는 곁다리입니다. 그 한 가지가 무엇인지부터 정하시면 나머지 계산은 훨씬 간단해집니다.

이 표를 처음 보시는 분께

100만 토큰이라는 단위가 낯설 수 있습니다. 한글 한 글자가 대략 1.5토큰이니, 100만 토큰이면 한글 약 67만 자입니다. 책 한두 권 분량입니다. 단가표의 값은 그만큼을 넣거나 받았을 때의 값입니다.

그래서 한 번 질문할 때마다 나가는 값은 아주 작습니다. 문제는 그게 하루에 수백 번 반복될 때입니다. 위의 표가 한 달 단위인 이유가 그것입니다. 한 번의 값은 신경 쓸 필요가 없고, 한 달 값만 보시면 됩니다.

왜 이 세 가지를 골랐나

업무를 셋으로 잡은 데는 이유가 있습니다. 입력이 많고 출력이 적은 일, 둘 다 중간인 일, 출력이 많은 일. 이 셋이 값이 움직이는 방향을 다 보여줍니다. 하시는 일이 어디에 가까운지만 아시면 대략의 감이 잡힙니다.

분류·태그처럼 답이 짧은 일은 요청이 아무리 많아도 값이 잘 안 오릅니다. 반대로 긴 글을 뽑는 일은 하루 몇십 번만 해도 값이 붙습니다. 그래서 자동화를 붙이실 때 어떤 일을 맡길지 정하는 것만으로도 값이 정해지는 셈입니다.

숫자가 커 보여도 겁먹지 마세요

위의 값들은 매일 그만큼 요청이 오간다고 가정한 것입니다. 개인이 손으로 쓰시는 양은 이보다 훨씬 적습니다. 하루 200번 문서 요약을 돌리는 건 자동화를 붙였을 때의 이야기입니다.

그래서 이 표는 두 가지로 읽으시면 됩니다. 자동화를 붙이실 계획이면 한 달 값이 얼마가 될지 미리 보는 용도로, 손으로 쓰시는 중이면 값이 어느 쪽으로 기우는지 방향만 보는 용도로요. 방향은 사용량이 적어도 똑같습니다.

가장 흔한 낭비 셋

이 계산을 여러 번 돌려보면 같은 자리에서 반복해서 돈이 샙니다. 셋으로 정리됩니다.

다섯 가지 다 코드를 새로 짜지 않고 오늘 안에 손댈 수 있는 것들입니다. 순서를 정하신다면 답 길이부터 하세요. 가장 빠르고, 결과가 나빠지면 다시 풀기도 쉽습니다.

값을 재보는 습관

위 계산은 지금 단가로 낸 것이라, 단가가 바뀌면 결론도 바뀝니다. 그래서 한 번 정하고 끝낼 일이 아닙니다. 한 달에 한 번쯤 청구서를 열어 어디에 얼마가 나갔는지 보시는 것으로 충분합니다.

볼 때는 총액보다 항목을 보세요. 대개 한두 항목이 전체의 대부분을 차지합니다. 그 항목 하나만 손봐도 총액이 눈에 띄게 내려갑니다. 나머지 잔가지는 건드려도 티가 안 납니다.

여기서 읽어야 할 것

1. 1가장 비싼 것과 상위권 중 싼 것의 점수 차이는 크지 않습니다. 값 차이가 훨씬 큽니다.
2. 2출력이 많은 일일수록 값이 빨리 오릅니다. 위의 세 업무 중 긴 글쓰기가 그렇습니다.
3. 3쉬운 일에까지 비싼 모델을 쓰고 계시면, 거기가 가장 크게 새는 자리입니다.
4. 4공짜 모델이 되는 일도 있습니다. 다만 되는지 안 되는지는 직접 확인하셔야 합니다.

구독이 나은가 쓴 만큼 내는 게 나은가

위 계산은 전부 API로 쓸 때, 즉 쓴 만큼 내는 방식입니다. 앱을 구독해서 쓰시는 경우와는 셈법이 다릅니다. 갈림길은 한 가지로 정해집니다 — 한 달에 며칠 쓰시는가.

매일 오래 쓰신다면 구독이 쌉니다. 정액이라 아무리 써도 더 안 나갑니다. 반대로 일주일에 몇 번이라면 쓴 만큼 내는 쪽이 훨씬 쌉니다. 안 쓴 날에는 0원이니까요. 저는 열흘을 기준으로 봅니다. 한 달에 열흘 넘게 쓰시면 구독, 아니면 종량제입니다.

구독을 여러 개 들고 계시다면 한 번 세어보세요. 각각 한 달에 며칠 쓰셨는지. 대개 한두 개는 나흘도 안 씁니다. 그건 끊고 필요할 때 쓴 만큼 내시는 게 낫습니다.

업무를 다르게 잡으면 어떻게 되나

위의 세 가지는 저희가 잡은 가정입니다. 실제 사용량은 사람마다 다릅니다. 다만 규칙은 같습니다. 값은 <요청 수 × 한 번에 오가는 토큰 × 단가>로 정해집니다. 셋 중 하나만 바뀌어도 결과가 그대로 따라 움직입니다.

• 요청 수가 두 배면 값도 두 배입니다. 이건 업무량이라 줄이기 어렵습니다.
• 넣는 글이 두 배면 입력 값이 두 배입니다. 필요한 대목만 잘라 넣으면 여기가 줄어듭니다.
• 받는 답이 두 배면 출력 값이 두 배입니다. 출력 단가가 더 높으니 여기가 가장 크게 움직입니다.
• 단가가 10분의 1이면 전부 10분의 1이 됩니다. 그래서 모델 교체의 효과가 가장 큽니다.