AI모델, 학습에서 추론으로…AI에이전트 생태계 선점 경쟁 시작

빅테크 AI모델 고성능보다 돈버는 사업화 더 중요해져

인공지능(AI) 전환의 진짜 승부는 이제 비즈니스 모델로 옮겨 간다. 최근 막을 내린 엔비디아의 'GTC 2026'은 AI가 알고리즘이라는 껍질을 깨고 '지능의 산업화'라는 거대한 현실로 진입했음을 알리는 변곡점이었다. 데이터센터는 이제 단순한 데이터 저장소가 아니라 지능을 대량 생산하는 'AI 공장'으로 재정의되었다.

지금까지 AI 개발은 천문학적인 자본을 들여 똑똑한 거대 모델을 만드는 '학습' 단계에 머물러 있었다. 하지만 진짜 승부처는 만들어진 지능이 일상과 비즈니스의 세밀한 단위에서 작동하며 실질적인 결과물을 쏟아내는 '추론' 단계로 이동했다. 기업이 AI를 운영하는 전체 비용 중 80~90%가 바로 이 추론 과정에서 발생하는데 이는 AI 경쟁의 본질이 '누가 더 뛰어난 기술을 발명했는가'에서 '누가 더 지속가능한 비즈니스 모델을 구축했는가'로 이동함을 의미한다.

한편, 이 새로운 지능 공장의 화폐 단위는 '토큰(Token)'이다. AI의 대답 한 줄, 자율주행차의 운전대 조작 한 번이 모두 토큰을 소비한다. 기업은 소프트웨어 기술 그 자체가 아니라, 지능의 결과물인 이 토큰을 팔아 돈을 번다. 막대한 전기를 투입해 토큰을 생산해 내는 구조 속에서 승패를 가르는 절대적 지표는 1와트(W)의 전력으로 얼마나 많은 토큰을 만들어내는지 보여주는 'W당 토큰(Tokens per Watt)' 효율성이다.

지능 공장이 위기와 기회의 복합요인인 이유는 '제번스의 역설'에서 찾을 수 있다. 추론 단가가 낮아질수록 오히려 자원 소비가 기하급수적으로 폭증하게 되는 현상이다. 인간의 지시를 기다리던 AI가 스스로 계획을 짜고 도구를 다루는 '에이전틱 시스템'으로 진화하면서, 처리해야 할 토큰량은 걷잡을 수 없이 확대된다. 기술이 고도화될수록 기업이 감당해야 할 전력과 인프라 비용 청구서는 무한대로 수렴하게 된다. 이러한 상황에서 AI를 인건비와 같은 비용 절감의 수단으로 활용할 수는 없다. 기업과 정부 모두 단기적인 효율화 도구가 아닌 본질적인 혁신의 도구로 바라봐야 한다는 의미다.

혁신은 언제나 시장의 확장으로 정의되어야 한다. 그 도구가 증기기관이건, 전기이건, 인터넷이건, AI이건 이 본질이 달라지지는 않는다. AI 전환 시대에 시장 확장은 AI와 인간이 협력하고 데이터가 원활하게 교환 및 거래되는 비즈니스 모델과 생태계를 설계할 때 가능해진다. 지능의 산업화 단계에서 이는 선택이 아닌 필수다.

이제 AI 전환은 '서비스형 에이전틱 소프트웨어(ASaaS)' 단계로 진입하고 있다. 지능이 전기나 수도처럼 쏟아지는 '지능 유틸리티 시대'에 개별 기업이 막대한 연산 인프라 투자 경쟁에 뛰어들거나 고립된 시스템 안에서 소극적인 비용 절감만 따지는 것은 무의미하다.

진정한 가치 창출은 거대 빅테크가 구축한 거대한 지능망 위에서 우리 기업만의 독자적인 도메인 지식과 다단계 워크플로를 자율적으로 처리할 수 있는 생태계다.

투입된 토큰의 비용을 압도하는 새로운 시장 가치를 창출해 내지 못한다면, 팽창하는 추론 청구서를 감당하지 못하고 결국 거대 플랫폼의 지능을 비싸게 사서 쓰는 단순 하청업체로 전락하고 말 것이다. 기업의 생존을 결정짓는 비즈니스 모델의 핵심은 '에이전트 생태계'의 장악과 '토큰의 수익화'에 있다는 점을 기업과 정부 모두 기억해야 한다.

김동영 KDI 전문연구원·중앙대 겸임교수