에이전트

LG U+, 내년 인공지능 토큰 사업 진출하여 기업 전환 비용 절감 지원

2026년 11월 18일 · 읽는 시간 1분

white and green metal stand
Petr / Unsplash

한국의 통신 사업자인 LG U+가 내년부터 인공지능 토큰 사업에 진출하여 기업들의 인공지능 전환 비용을 낮출 계획입니다.

이 서비스는 에이전트의 작업 수행 경로를 설계하는 하네스 엔지니어링, 질문 유형에 따라 모델을 배정하는 지능형 라우팅, 추론 과정 최적화를 위해 이기종 반도체를 활용하는 칩 조합이라는 세 가지 기술을 갖추고 있습니다. LG U+는 인공지능 에이전트가 작업을 수행할 때 불필요하게 반복되는 검색과 검증을 줄이고, 작업 난이도에 맞춰 가장 적절한 모델을 매칭할 예정입니다.

또한 모델 경량화와 추론 기술을 결합하여, 자체 개발한 온디바이스 인공지능 모델의 크기를 3분의 1로 줄이면서도 성능은 범용 클라우드 모델의 95% 이상을 유지했습니다. 작은 모델이 빠르게 답변을 생성하고 큰 모델이 이를 검증하는 기술을 통해 토큰 생성 속도를 2배 이상 높였습니다.

인프라 측면에서는 NVIDIA, AMD의 그래픽 처리 장치와 한국 기업인 FuriosaAI의 신경망 처리 장치를 결합하는 전략을 사용합니다. 이를 통해 문제 분석인 프리필과 답변 생성인 디코드 작업을 나누어 처리함으로써 인프라 비용을 낮춥니다. LG U+는 파트너사와의 공동 서비스 제공 및 자체 구축 방식을 병행하여 기업 간 거래 인공지능 토큰 시장에 진출하며, 이로써 한국의 3대 통신 사업자 모두가 토큰 경제 분야에 진입하게 됩니다.