매일안전신문 - LG유플러스, ‘엑사원 3.5’ 기반 온디바이스 AI 모델 개발

▲(사진=LG유플러스 제공)

[매일안전신문=김진섭 기자] LG유플러스가 LG AI연구원, 옵트에이아이와 협력해 대규모 언어모델(LLM) ‘엑사원 3.5’를 경량화한 온디바이스 sLM 개발에 성공했다.

이번 성과는 지난해 12월 공개된 ‘엑사원 3.5 2.4B’를 기반으로 6개월간 공동 연구 끝에 도출됐다. 온디바이스 AI는 데이터를 외부 서버로 전송하지 않고 스마트폰 내에서 직접 처리해 보안성이 높고 응답 속도가 빠르다. LG유플러스는 CPU 대신 NPU(신경망처리장치)를 활용한 이번 모델을 통해 성능은 유지하면서도 전력 소모량을 78%, 모델 크기를 82% 줄였다.

엑사원의 한국어 처리 능력을 강점으로 한 온디바이스 sLM은 익시오의 통화 요약, 텍스트 변환, 키워드 추출, AI Task 제안 기능을 한층 강화한다. LG유플러스는 오는 10월 베타 테스트를 거쳐 내년 상반기 상용화를 추진한다.

적용 범위도 넓힌다. 우선 퀄컴 스냅드래곤8 칩셋 기반 안드로이드 스마트폰에서 구현되고, 내년에는 iOS 단말로 확대될 예정이다. 아울러 지난 7월 공개된 차세대 모델 ‘엑사원 4.0’ 역시 온디바이스 sLM으로 개발해 초개인화 AI 에이전트로 발전시킨다는 전략이다.

송대원 LG유플러스 기술개발그룹장은 "엑사원의 성능을 온디바이스로 구현한 sLM을 통해 보안성과 효율성을 동시에 높였다"며 "초개인화된 AI 에이전트로 차별화된 사용자 경험을 제공하고 시장 선도 입지를 강화할 것"이라고 말했다.
 

[저작권자ⓒ 매일안전신문. 무단전재-재배포 금지]