“AI는 비싸진다… 동시에 싸진다?”

"개발자들이 이제 거의 무료로 강력한 AI를 사용할 수 있게 되었다는 점입니다. 과거 달러 단위였던 것이 이제 페니 단위가 되었고, 곧 페니의 일부가 될 거예요."

AI는 비싸질까요, 아니면 싸질까요?

놀랍게도, 두 답변이 모두 맞습니다.

메리 미커(Mary Meeker)의 2025년 AI 트렌드 보고서에 따르면, 인공지능의 ‘학습 비용’은 천정부지로 치솟고 있는 반면, ‘추론 비용’은 역사상 유례없는 속도로 떨어지고 있습니다. 이 아이러니한 비용 구조의 양극화는, AI를 활용하는 방식의 근본적인 판을 뒤흔들고 있습니다.

💸 학습은 억 달러 시대, ‘대기업 전유물’이 된다.

AI 모델 하나를 훈련(Training)시키는 데 들어가는 비용은 이미 1억 ~ 10억 달러에 달하고 있습니다. Anthropic의 CEO 다리오 아모데이는 “곧 100억 달러짜리 학습도 가능할 것”이라고 말합니다. 지난 8년간 컴퓨팅 비용은 무려 2,400배 폭증했죠.

이런 학습 비용의 상승은 곧 AI 모델 개발이 소수 대기업만의 게임이 된다는 뜻입니다. 실제로 2024년 기준, Apple·NVIDIA·Microsoft·Alphabet·AWS·Meta 등 ‘Big 6’의 AI 관련 CapEx(자본지출)는 2,120억 달러로 전년 대비 63%나 증가했습니다. AWS의 경우 전체 매출의 절반을 AI 인프라 구축에 쏟아붓고 있습니다.

✅ 시사점: 새로운 GPT나 자체 LLM을 만드는 건 이제 스타트업이 감당할 영역이 아닙니다.

⚡ 추론은 밀리 단위, “무제한 AI 사용 시대” 개막

반대로 **추론(Inference)**은?
이야기가 달라집니다.

하드웨어 기술 진보에 따라, GPU 한 대당 생성 가능한 토큰 수는 지난 10년 동안 105,000배 증가했고, 실제로 사용자가 AI에게 100만 토큰을 요청하는 비용은 99.7% 감소했습니다. 이제 AI와의 대화, 검색, 요약, 콘텐츠 생성은 “거의 공짜”가 된 셈입니다.

✅ 시사점: 생성형 검색(AEO)과 콘텐츠 자동 생성(GEO)은 이제 돈 걱정 없이 실험할 수 있는 영역이 되었습니다.

🎯 chainshift가 주목하는 5가지 인사이트

이 비대칭적인 비용 구조 속에서, 우리 팀은 다음의 기회를 포착하고 있습니다.

소수만의 학습, 모두의 추론

→ 대규모 학습이 어려운 지금, 오픈소스·경량 LLM을 활용한 ‘커스터마이징 파이프라인’이 더 중요해집니다.

API 단가 하락 = 무제한 실험 기회

→ 토큰 단가가 센트 → 밀리 수준으로 떨어지면서, 다양한 AEO 실험이 과금 부담 없이 가능해졌습니다.

AI 인프라 다양화

→ CoreWeave, VAST Data 등 새로운 인프라 공급자들이 등장해 ‘가성비’ 경쟁이 본격화되고 있습니다.

속도와 효율이 곧 SEO 성능

→ 응답속도와 비용구조가 검색 노출 알고리즘에 영향을 미치기 시작하며, API 선택이 곧 콘텐츠 성과로 직결됩니다.

비용 구조 = 콘텐츠 전략

→ 추론 비용이 낮아질수록, 브랜드별 맞춤 스니펫이나 실시간 자동 응답 콘텐츠 전략이 더욱 정밀해집니다.

🚀 지금이 바로, AEO/GEO 전략의 골든 타임

AI는 점점 더 ‘비싸고’ ‘싸지는’ 모순된 흐름 속에 있습니다. 핵심은 어디서 비용을 줄이고, 어디에 집중할지를 선택하는 일입니다.

chainshift는 이 변화 속에서 ‘저비용·고속 추론 스택 + 경량 LLM 최적화’ 전략을 바탕으로, 브랜드의 AI 검색 노출과 콘텐츠 생산 성과를 극대화해나가고 있습니다.

언제나 기술의 방향보다 더 중요한 건,
그 기술을 어디에, 어떻게 쓰느냐입니다.

✍ ChainShift Amy

Reference:
https://www.bondcap.com/report/pdf/Trends_Artificial_Intelligence.pdf

© 2025 ChainShift. All rights reserved. 무단전제 및 재배포 금지.