음성 AI가 데이터센터를 점령한다! 코난테크놀로지·리벨리온 국산 AI 인프라 동맹의 투자 기회

 

 

 

머니헌터SU🏹 | 음성 AI 추론 칩 심층 분석

음성 AI가 데이터센터를 점령한다! 음성 추론 칩의 투자 기회

코난테크놀로지×리벨리온국산 NPU에 국산 LLM 결합

K-클라우드 과제104억원, 2029년까지 진행

추론용 칩셋출하량 CAGR 36.9%

✅ 오늘의 핵심 요약

• 엔비디아가 저지연 추론 전문 스타트업 그록(Grok)의 기술과 인력을 확보하면서, AI 산업의 중심축이 훈련에서 추론으로 이동하고 있다는 신호가 뚜렷해졌다.
• 국내에서는 음성 AI 전문기업 코난테크놀로지가 국산 NPU 기업 리벨리온과 손잡고 자체 LLM '코난 LLM'을 리벨리온의 '아톰(ATOM)' NPU에서 구동하는 제품화 단계에 들어섰다.
• 양사는 정부 K-클라우드 사업의 104억원 규모 '이종 AI반도체 기반 분산 추론' 과제에 컨소시엄으로 참여해 2029년까지 기술 개발을 진행한다.
• 코난테크놀로지는 음성인식(STT), 음성발화 등 음성 AI 기술을 온디바이스와 데이터센터 양쪽에 적용하며 2025년 매출 339억7000만원(+29.11%)으로 창사 이래 최대 실적을 기록했다.
• 글로벌 AI 칩셋 시장에서 추론용 칩셋 출하량은 연평균 36.9% 성장할 것으로 전망돼, 학습용 대비 빠른 성장세를 보이고 있다.

지금까지 AI 반도체 시장의 스포트라이트는 대형 모델을 '가르치는' 훈련용 칩에 쏠려 있었습니다. 하지만 이제 무게중심은 이미 학습된 모델을 '실제로 써먹는' 추론으로 옮겨가고 있습니다. 그 최전선에 음성 AI가 있습니다. 콜센터 상담 요약, 회의록 자동 작성, 실시간 통역까지, 음성을 텍스트로 바꾸고 다시 답변을 만들어내는 작업은 데이터센터의 연산 자원을 끊임없이 요구합니다. 국내에서는 음성 AI 전문기업 코난테크놀로지가 국산 NPU 기업 리벨리온과 손잡고, 국산 반도체 위에 국산 음성·언어 AI를 올리는 실험을 제품 단계까지 끌어올렸습니다. 지금 음성 AI와 추론 칩이 만나는 지점에서 어떤 투자 기회가 있는지 정리합니다.

📋 목차

1. 음성 AI가 데이터센터로 향하는 이유
2. 훈련의 시대에서 추론의 시대로
3. 코난테크놀로지, 국산 NPU 위에 국산 음성 AI를 올리다
4. 코난테크놀로지의 실적과 밸류체인 확장
5. 투자 관점의 기회와 리스크

① 음성 AI가 데이터센터로 향하는 이유

음성 AI는 더 이상 스마트폰의 음성 비서에 머물지 않습니다. 콜센터 상담 내용을 실시간으로 텍스트로 바꾸고 요약하는 업무, 회의 내용을 자동으로 기록하는 스마트 회의록, 보이스피싱을 탐지하는 보안 시스템, 국방·공공기관의 음성 정보 분석까지 활용 범위가 빠르게 넓어지고 있습니다. 이런 서비스들이 대규모 언어모델(LLM)과 결합되면서, 음성을 인식하고(STT) 답변을 생성하고 다시 음성으로 합성하는 전 과정에 필요한 연산량이 기하급수적으로 늘고 있습니다. 이 연산을 감당하는 곳이 바로 데이터센터의 추론 인프라입니다.

국내 업계에서는 최근 음성인식, 추론 및 답변, 음성발화 기술을 저전력 프로세서에 탑재해 인터넷 연결 없이도 실시간으로 반응하는 온디바이스 음성 AI 개발도 함께 진행되고 있습니다. 다만 온디바이스가 감당할 수 없는 복잡한 추론이나 대규모 지식 검색이 필요한 경우에는 결국 데이터센터의 추론 인프라로 연결되는 하이브리드 구조가 표준으로 자리잡고 있습니다.

공공·국방 분야로 확산되는 음성 AI 보이스피싱 예방, 스마트 회의록, 국방 지능형 플랫폼 등 공공·국방 분야에서 음성 AI 도입이 빠르게 늘고 있다. 이런 대규모 공공 프로젝트는 안정적인 국산 추론 인프라에 대한 수요를 함께 키우는 요인으로 작용하고 있다.

② 훈련의 시대에서 추론의 시대로

최근 엔비디아가 저지연 추론 전문 스타트업 그록(Grok)의 기술과 인력을 라이선스 형태로 확보한 사건은, 2026년부터 AI 산업의 중심축이 '훈련(training)의 시대'에서 '추론(inference)의 시대'로 본격 이동하고 있음을 알리는 신호탄으로 풀이됩니다. 젠슨 황 엔비디아 CEO는 "그록의 저지연 프로세서를 엔비디아 AI 팩토리 아키텍처에 통합해 실시간 AI 추론과 다양한 워크로드를 더 폭넓게 지원할 계획"이라고 밝혔습니다.

실제 시장 데이터도 이런 흐름을 뒷받침합니다. Mordor Intelligence에 따르면 2025년 AI 칩셋 시장에서는 학습용 칩셋이 60.30%의 점유율을 차지했지만, 기업들이 다양한 산업 분야에 걸쳐 생성형 AI 서비스를 출시하고 네트워크 엣지에 소규모 모델을 임베딩함에 따라 추론용 칩셋 출하량은 연평균 36.9% 성장할 것으로 전망됩니다. AI 데이터센터 시장 전체로 보면 2025년 394억9000만달러에서 2026년 494억9000만달러로 성장하고, 2031년에는 1,529억1000만달러에 이를 것으로 전망되며 이 기간 연평균 성장률은 25.32%에 달합니다. 특히 실시간 추천 엔진과 콘텐츠 생성처럼 1초 미만의 추론에 의존하는 인터넷·디지털미디어 분야가 연평균 26.34%로 가장 가파른 성장을 보이고 있습니다.

▲ 2025년 학습용 칩셋이 시장의 60.3%를 차지했지만, 추론용 칩셋 출하량은 연평균 36.9%로 더 빠르게 성장하고 있다 (출처: Mordor Intelligence, 자체 제작)

③ 코난테크놀로지, 국산 NPU 위에 국산 음성 AI를 올리다

1999년 설립된 코난테크놀로지(402030)는 "사람처럼 보고, 듣고, 이해하고, 말하는 AI 기술"을 표방하는 인공지능 소프트웨어 전문기업입니다. Text AI(코난서치, 코난챗봇, 코난 LLM 등)와 Vision AI(코난와처, 코난보이스, 코난리스너 등) 8개 제품 라인업을 갖추고 있으며, 이 중 음성 관련 제품군이 음성인식과 음성 분석을 담당합니다. 2024년 8월 코난테크놀로지는 국산 NPU 기업 리벨리온과 인공지능 사업 협력을 위한 업무협약을 체결했습니다. 협약의 핵심은 코난테크놀로지의 생성형 AI 기술과 리벨리온의 국산 AI 반도체 인프라를 결합해 더 강력한 AI 처리 능력을 구현하고, 국산 기술 기반 LLM 시대를 선도하겠다는 것입니다.

이 협력은 실제 제품화로 이어지고 있습니다. 코난테크놀로지는 기업형 AI 서버 '코난 AI스테이션 서버'를 출시하고 이 서버에 리벨리온의 AI 가속기 '아톰(ATOM)'을 탑재해 테스트와 최적화 작업을 진행하고 있습니다. 코난 LLM은 리벨리온의 최신 NPU 'ATOM 서버' 환경에서도 원활하게 구동되며, 코난테크놀로지 관계자는 "국산 NPU 위에서 국산 LLM이 자연스럽게 구동되는 환경을 구현함으로써 AI 시장에서 기술적 주도권을 확보할 가능성을 확인했다"고 밝혔습니다. 리벨리온은 이 결과를 바탕으로 NPU 기반 국산 AI 인프라 도입을 희망하는 고객사에 솔루션을 제안할 계획입니다. 여기에 양사는 과학기술정보통신부가 추진하는 K-클라우드 기술개발 사업의 '이종 AI반도체 기반 분산 추론 및 모델 최적화 기술 개발' 과제에도 서울대·한국과학기술원과 함께 컨소시엄으로 참여하고 있습니다. 한국전자통신연구원(ETRI)이 주관하는 이 과제는 총 사업비 104억원 규모로 2025년 4월부터 2029년 12월까지 진행되며, NPU와 PIM 등 다양한 AI 반도체를 활용해 LLM 추론 비용을 낮추는 기술을 개발하는 것이 목표입니다. 코난테크놀로지는 이 중 이종 AI반도체 환경에서의 LLM-RAG 분산 추론 통합 실증 서비스를 맡고 있습니다.

▲ 코난테크놀로지의 코난 LLM(음성AI 포함)은 리벨리온의 아톰 NPU 기반 서버에서 구동되는 국산 AI 인프라 조합을 이루고 있다 (출처: ZDNet Korea·AI타임스, 자체 제작)

④ 코난테크놀로지의 실적과 밸류체인 확장

코난테크놀로지는 국방 AI사업부를 신설하고 지능형 감시·정찰, 디지털트윈 기반 AI 파일럿 등으로 사업 영역을 넓히는 한편, 에너지·제조·의료 등 다양한 산업 현장에 AI 기술을 공급하며 2026년을 공공·산업 전반의 AX(AI Transformation) 도입이 본격화되는 해로 보고 있습니다. 이런 사업 확장에 힘입어 2025년 매출은 전년(263억1800만원) 대비 76억원 늘어난 339억7000만원으로, 29.11% 성장하며 창사 이래 최대 매출을 기록했습니다.

다만 매출 성장에도 불구하고 수익성 확보는 여전히 과제로 남아있습니다. 회사는 올해 1분기에도 영업손실이 이어졌지만, 공공 부문의 LLM 개념증명(PoC)을 다수 확보해 향후 수익화가 예정돼 있다는 입장입니다. 업계에서는 "실적 지속성"이 코난테크놀로지의 핵심 숙제로 꼽히지만, 리벨리온과의 협력을 통한 국산 AI 인프라 제품화, 정부 K-클라우드 국책과제 참여 등이 향후 수주 확대의 발판이 될 수 있다는 평가가 나옵니다.

📊 음성 AI 추론 인프라 투자 포인트

🎙️

코난테크놀로지

음성AI+LLM, 2025년 매출 +29.11%

🧠

리벨리온

ATOM NPU, 국산 AI 인프라 공급 계획

🏛️

K-클라우드 과제

104억원, ETRI 주관, 2029년까지

📈

시장 성장

추론용 칩셋 출하량 CAGR 36.9%

⑤ 투자 관점의 기회와 리스크

음성 AI와 추론 칩이 만나는 지점은 AI 산업이 훈련에서 추론으로 이동하는 큰 흐름과, 국산 AI 기술 자립이라는 정책적 지원이 겹치는 영역이어서 구조적인 성장 동력을 갖추고 있습니다. 코난테크놀로지와 리벨리온의 협력은 국산 소프트웨어와 국산 반도체가 결합된 드문 사례로, 성공적으로 상용화된다면 유사한 조합의 확산으로 이어질 잠재력이 있습니다.

다만 이 조합은 아직 제품화 초기 단계이며, 실제 대기업이나 공공기관의 대규모 도입으로 이어질지는 지켜봐야 합니다. 코난테크놀로지는 매출 성장에도 불구하고 영업손실이 이어지고 있어, 실적의 질적 개선 여부를 함께 확인할 필요가 있습니다. K-클라우드 국책과제도 2029년까지 장기간에 걸쳐 진행되는 만큼, 단계별 성과와 실제 상용화 연계 여부를 꾸준히 지켜보는 것이 중요합니다.

🔍 수급 비밀 노트 음성 AI 추론 칩 핵심 포인트

산업 전환 엔비디아 그록 기술 확보로 AI 산업 중심축이 훈련에서 추론으로 이동, 추론용 칩셋 출하량 CAGR 36.9%

국산 동맹 코난테크놀로지-리벨리온, 코난 LLM(음성AI 포함)을 아톰 NPU에서 구동하는 제품화 단계 진입

정책 지원 K-클라우드 이종 AI반도체 분산추론 과제 104억원, ETRI 주관 2025~2029년

실적 성장 코난테크놀로지 2025년 매출 339.7억원(+29.11%), 창사 이래 최대 매출

투자 유의 분기 영업손실 지속, 국산 AI 인프라 조합 아직 상용화 초기 단계로 대규모 도입 여부 확인 필요

▲ 음성 AI 소프트웨어 기업과 국산 NPU 기업이 결합해 국산 AI 추론 인프라 생태계를 만들어가고 있다 (출처: 자체 제작)

 

📊 핵심 요약

AI 반도체 시장의 무게중심이 훈련에서 추론으로 옮겨가는 가운데, 음성 AI는 이 전환을 가장 빠르게 체감하는 워크로드 중 하나입니다. 국내에서는 코난테크놀로지가 음성인식·생성 기술을 포함한 자체 LLM을 국산 NPU 기업 리벨리온의 반도체 위에서 구동하는 제품화 단계까지 끌어올렸고, 정부의 104억원 규모 K-클라우드 국책과제를 통해 이종 AI반도체 기반 분산추론 기술도 함께 개발하고 있습니다. 2025년 창사 이래 최대 매출을 기록하며 성장세도 함께 증명하고 있습니다.

다만 국산 소프트웨어와 국산 반도체의 조합은 아직 상용화 초기 단계이며, 코난테크놀로지의 영업손실이 이어지고 있다는 점은 투자 시 고려해야 할 변수입니다. 국책과제의 단계별 성과와 실제 기업 고객 확보 현황을 지속적으로 확인하며 중장기 관점으로 접근하는 전략이 합리적입니다.

다음 편 예고 다음 편에서는 음성 AI 추론 인프라와 짝을 이루는 국산 소버린 AI 클라우드 구축 사업의 성장과 관련 국내 기업의 투자 포인트를 심층 분석합니다.

Q. AI 추론 칩과 훈련용 칩은 어떻게 다른가요?

A. 훈련용 칩은 AI 모델을 학습시키는 데, 추론용 칩은 학습된 모델을 실제 서비스에 적용하는 데 쓰입니다. AI 산업의 중심이 최근 추론으로 이동하고 있습니다.

Q. 음성 AI가 왜 데이터센터 추론 수요를 늘리나요?

A. 음성인식·생성 서비스가 LLM과 결합되면서 연산량이 크게 늘고, 콜센터·회의록·공공기관 등 다양한 분야로 확산되며 추론 인프라 수요가 증가하고 있습니다.

Q. 코난테크놀로지와 리벨리온의 협력은 어떤 내용인가요?

A. 코난 LLM을 리벨리온의 아톰 NPU 기반 서버에서 구동하는 국산 AI 인프라 조합으로, 코난 AI스테이션 서버를 통해 제품화 단계에 들어섰습니다.

Q. K-클라우드 이종 AI반도체 분산추론 과제란 무엇인가요?

A. 코난테크놀로지·리벨리온·서울대·KAIST가 참여하는 104억원 규모 국책과제로, 2025년부터 2029년까지 LLM 추론 비용을 낮추는 기술을 개발합니다.

Q. 음성 AI 추론 칩 관련주 투자 시 유의할 점은 무엇인가요?

A. 국산 AI 인프라 조합이 아직 상용화 초기 단계이며, 코난테크놀로지의 분기 영업손실도 지속되고 있어 실적 추이 확인이 필요합니다.

⚠️ 투자 유의사항
본 포스팅은 투자 정보 제공을 목적으로 하며 특정 종목의 매수·매도를 권유하지 않습니다. 리벨리온은 현재 비상장 기업으로 일반 투자자가 직접 거래할 수 없습니다. 코난테크놀로지의 실적 및 협력 관련 수치는 각 발표·보도 시점 기준이며, K-클라우드 국책과제의 성과와 상용화 연계 여부는 아직 확정되지 않은 사안으로 향후 진행 상황에 따라 달라질 수 있습니다. 언급된 상장 기업의 실시간 주가와 최신 공시는 증권사 앱에서 직접 확인하시기 바랍니다. 시장 규모 전망치는 조사기관의 추정으로 실제와 다를 수 있습니다. 주식 투자는 원금 손실 가능성이 있으며, 투자의 최종 판단과 책임은 투자자 본인에게 있습니다. 끝까지 읽어주셔서 감사합니다.