마윈의 앤트그룹, "엔비디아 대신 中 반도체로 AI 훈련"

중국 전자상거래 기업 알리바바의 창업자 마윈 (출처: Reuters)

중국의 핀테크 대기업 앤트그룹이 미국산 고성능 반도체에 대한 의존을 줄이고, 자국산 칩으로 인공지능(AI) 모델을 훈련하는 기술을 자체 개발한 것으로 알려졌다. 24일 블룸버그통신은 앤트그룹이 알리바바, 화웨이 등과 협력해 중국산 반도체를 기반으로 한 AI 훈련 방식을 구축했다고 보도했다.

앤트그룹이 도입한 훈련 방식은 '전문가 혼합(Mixture of Experts, MoE)'이라는 기법으로, 엔비디아의 H800 칩을 사용할 때와 유사한 성능을 구현하면서도 훈련 비용은 약 20%가량 낮췄다. 구체적으로 1조 개의 토큰을 학습시키는 데 기존에는 약 635만 위안(약 12억8000만 원)이 들었으나, 새 방식으로는 510만 위안(약 10억3000만 원) 수준으로 줄어든다.

토큰은 AI가 정보를 학습하고 응답을 생성할 때 활용하는 데이터의 기본 단위다. 엔비디아의 H800은 고성능이지만, 미국 정부의 수출 제한 대상에 포함돼 중국 기업들이 직접 수급하기 어렵다. 이에 따라 앤트그룹은 최신 모델 개발에 있어 AMD나 중국 칩 제조사 제품 사용 비중을 늘리고 있는 것으로 전해졌다.

이번 기술 개발은 최근 중국 스타트업 딥시크가 적은 비용으로 AI 모델을 구현한 데 이은 또 다른 의미 있는 사례로 평가된다. 딥시크는 올해 초 자국산 반도체를 활용해 훈련 비용을 획기적으로 절감한 바 있으며, 이후 중국의 AI 산업은 자립형 기술 확보에 속도를 높이고 있다.

앤트그룹은 자사가 개발한 AI 모델이 특정 성능 지표에서 메타의 모델보다 앞섰다는 내용의 연구 결과도 공개한 바 있다. 만약 이 주장이 사실이라면, 앤트그룹의 기술은 AI 서비스 운영 비용을 줄이고 추론 능력을 강화하는 데 실질적 기여를 할 수 있다는 해석도 나온다.

전문가 혼합 방식은 그간 고성능 GPU에 대한 높은 의존도로 인해 대형 기업에만 현실적인 옵션이었지만, 앤트그룹은 이를 저사양 하드웨어에서도 구현할 수 있도록 최적화해, 비용과 기술 장벽 모두를 낮추는 데 성공한 셈이다.

AI 솔루션 기업 성상 테크의 로빈 위 최고기술책임자(CTO)는 "실전에서 효과를 발휘할 수 있는 단 하나의 기술만 있어도 경쟁에서 승리할 수 있다"며, 기술의 실용성과 응용 가능성을 높이 평가했다.

앤트그룹의 이번 행보는 중국의 기술 독립 전략과 맞물려, AI와 반도체 분야에서 미국과의 경쟁이 더욱 치열해질 것임을 예고하고 있다.