"AI 토큰 리더보드 상위권자 찾습니다"…화려했던 자랑대회는 왜 끝났을까

 

얼마 전까지만 해도 링크드인이나 직장인 커뮤니티에는 이런 글이 유행처럼 올라왔습니다.

"우리 회사 AI 토큰 리더보드 1등 찾습니다!"
"이번 달에 AI 사용량 가장 높은 부서에 포상합니다!"

부서별로 사용량의 등수를 매겨 공개하는 걸 자랑하는 기업도 있었습니다. 그만큼 사내에서 AI를 무조건 많이 쓰는 직원이 곧 혁신 인재로 대접받았습니다.

하지만 최근 피드에서는 이런 글이 정말 거짓말처럼 줄어들었습니다. AI 사용량을 앞다투어 공개하던 분위기가 왜 이토록 갑자기 잠잠해진 걸까요?

 

글로벌 빅테크 기업들이 먼저 마주한 잔혹사

이 질문에 대한 답은 최근 미국 빅테크 기업들의 행보에서 찾을 수 있습니다. 리더보드를 만들어 자랑하던 축제를 가장 먼저 끝낸 곳이 바로 그들이기 때문입니다. 

아마존은 개발자들이 AI를 더 많이 쓰게 만들려고 사내에 사용량 순위표를 만들었습니다. 하지만 직원들이 인사평가를 잘 받기 위해 굳이 안 써도 될 업무에 무리하게 긴 문장을 집어넣거나 의미 없는 코드를 무한 반복해 AI를 돌리는 부작용이 속출했습니다. 결국 아마존은 순위표를 황급히 폐지했습니다.

메타 역시 사내에서 AI 사용량 순위를 매기는 실험을 했습니다. 그런데 단 한 명의 엔지니어가 일주일 동안 엄청난 양의 AI 자원을 소모하는 등 전사적으로 한 달 만에 상상을 초월하는 비용을 태우는 폭증 현상이 일어나자 시스템을 중단했습니다.

치솟는 AI 영수증, 감당하기 힘든 현실

빅테크 기업들이 이처럼 순위표를 쓰레기통에 버리고 지갑을 닫기 시작한 본질적인 이유는 감당하기 힘들 정도로 치솟는 'AI 영수증' 때문입니다.

많은 기업이 AI를 도입할 때 장밋빛 미래를 꿈꿉니다. 개발자가 복잡한 소프트웨어를 개발하고 수만 줄의 시스템 코드를 검토할 때 혹은 디자이너가 고화질 시안을 뽑아내고 대규모 그래픽 데이터를 처리할 때 AI를 쓰면 생산성이 몇 배는 껑충 뛸 것이라 기대했기 때문입니다.

하지만 현실은 달랐습니다. AI는 공짜가 아닙니다. 인공지능에게 방대한 코드 베이스를 읽히고, 스스로 오류를 수정하는 '에이전트' 기능을 켜둘 때마다 기업의 통장에서는 실시간으로 막대한 사용 비용이 빠져나갑니다.

특히 최근 들어 AI가 사람의 개입 없이 스스로 판단해 밤새도록 코딩 루프를 돌리는 기능들이 대거 도입되면서 이 비용은 걷잡을 수 없이 커졌습니다.

무엇보다 최근 AI 플랫폼들이 기본으로 제공하던 토큰 사용량을 줄이고 이용 가격을 올리면서 기업들의 비용 문제는 한층 더 심각해졌습니다. 매달 기업들이 받아보는 AI 청구서의 금액이 눈덩이처럼 불어나기 시작한 것입니다.

비용은 확실한데, 진짜 성과는 어디 있나?

더 큰 문제는 돈은 걷잡을 수 없이 나가는데, 정작 기업이 얻는 '진짜 성과'는 미미하다는 점입니다.

이를 'AI 생산성 역설'이라고 부릅니다. 기술은 눈부시게 발전하고 비용도 많이 들지만, 기업의 전체적인 매출이나 이익은 그만큼 늘지 않는 현상입니다.

개발자가 AI 덕분에 간단한 코드 조각을 조금 더 빨리 완성하고, 디자이너가 시안 작업을 몇 분 일찍 끝내게 된 것은 맞습니다. 실무 환경에서의 편리함은 확실히 커졌습니다.

하지만 냉정하게 기업 전체의 관점에서 따져보면, 이러한 부분적인 효율들이 회사의 매출을 직접적으로 올리거나 제품의 품질을 획기적으로 바꾸지는 못했습니다.

경영진 입장에서는 '매달 나가는 AI 청구서는 수천만 원인데 회사가 버는 돈은 제자리걸음'인 차가운 현실을 자각하게 된 것입니다.

'양'의 시대가 가고 '실속'의 시대가 왔다

'우리 부서가 AI 제일 많이 썼다'고 자랑하던 문화가 순식간에 사라진 것은 이제 그런 자랑이 '회삿돈을 낭비했다'는 뜻으로 해석될 수 있기 때문입니다.

상황이 이렇다 보니 이제 기업들의 AI 활용 정책도 바뀌고 있습니다. 무조건 많이 쓰라고 등을 떠밀던 정책에서 꼭 필요한 핵심 업무에만 정확하게 예산을 할당하는 방식으로 말이죠.

실제로 많은 기업이 값비싼 고성능 AI를 고집하는 대신, 단가가 훨씬 저렴한 가성비 모델로 빠르게 갈아타고 있습니다. AI가 마법처럼 모든 것을 해결해 줄 것이라 믿던 환상의 시대가 끝나고, 냉정한 '영수증의 시대'가 시작된 것입니다.

물론 하루가 다르게 급변하는 AI 생태계의 특성상, 앞으로의 기술 발전에 따라 시장의 기준은 또 어떻게 뒤바뀔지 모릅니다.

하지만 적어도 지금은 화려하게 토큰을 펑펑 쓰던 '랭커'들의 시대가 저물고, 가장 적은 비용으로 가장 확실한 성과를 내는 영리한 '실속파'들이 AI 판을 주도하는 환경이 펼쳐지고 있습니다.

이제 'AI를 얼마나 많이 썼는가?'가 아니라 '그래서 어떤 결과물을 만들어냈는가?'라는 질문이 더 중요해질 차례입니다.