출처: 블록미디어
[갤럭시 언팩] 김영집 삼성전자 언어AI팀장(부사장) 간담회
초대용량 데이터 학습한 LLM 압축해 온디바이스 AI로 탑재
온디바이스 AI·학습 성능 개선 위해서는 펌웨어 업데이트 등 거쳐야
향후 워치·링, TV 등 모든 삼성 디지털 기기에 온디바이스 AI 탑재
“갤럭시 AI 최종 목표는 사용자별 맞춤형 온디바이스 AI 개발”
통상 AI 통번역 서비스를 제공하기 위해선 신조어나 문맥 등 언어적 특성을 다차원으로 학습하고, 또 학습된 대용량 데이터를 업데이트 받아야 한다. 경쟁사들이 클라우드 서버와 연동해 서비스를 제공하는 것도 이 때문이다.
삼성 갤럭시 S24가 인터넷에 연결되지 않아도 AI 통번역이 가능한 건 갤럭시 S24에 탑재된 온디바이스 AI ‘갤럭시 AI’ 덕분이다. 거대언어모델(LLM)을 모바일 AI에 맞게 최적·경량화한 버전이다. 기기에 내장된 신경망처리장치(NPU)로도 고성능 AI 서비스를 제공할 수 있다는 게 삼성 개발진의 설명이다.
김영집 삼성전자 MX사업부 언어AI팀장(부사장)은 18일(현지시간) 미국 캘리포니아주 마운틴뷰 삼성리서치아메리카에서 진행한 기자간담회에서 갤럭시 S24 시리즈가 온디바이스 AI를 작동원리를 소개했다.
◆”최적화된 데이터 특별 학습…펌웨어 업데이트로 신조어 등 데이터 추가”
김 부사장에 따르면 갤럭시 S24에 탑재된 갤럭시 AI는 삼성전자가 개발한 LLM ‘가우스’를 모바일 AI로 최적화한 버전이다.
우선 대규모 데이터 세트를 학습·훈련한 가우스의 파운데이션 모델 내 파라미터 중 모바일 AI에 불필요한 부분을 제거하는 ‘프루닝’이 진행된다. 이후 최적화된 데이터들을 모바일 AI에 적합하게 강화 학습한 ‘파인 튜닝’을 거친 뒤 파라미터 크기를 줄여 스마트폰 내 메모리에도 AI가 작동할 수 있도록 하는 양자화 과정까지 마친다.
김 부사장은 이러한 과정을 통해 LLM 파라미터별 크기가 32비트에서 4비트로 줄게 된다며 “(양자화 과정에서) LLM 성능이 손실되지 않도록 한 기술도 개발했다”고 설명했다.
삼성전자는 실시간 통·번역 등 기능을 온디바이스 AI 형태로 제공하면서도 펌웨어 업데이트 등을 통해 신조어나 학습된 문맥 등을 지속적으로 추가할 방침이다. 김 부사장은 “온디바이스 AI가 네트워크 연결 없이 쓸 수 있다는 건 실행 과정에서의 이야기”라며 “휴대전화라는 게 항상 네트워크가 연결되지 않는 상황이 아니기 때문에 집에 들어가서 와이파이를 연결하면 (온디바이스 AI 기능) 업데이트가 가능하다”고 말했다.
이어 “높은 정확도와 메모리 사용 최적화를 위해 최첨단 딥러닝 기술을 적용했으며 많은 양의 다국어 데이터를 사전 학습해 사용자에게 효율적인 사용 경험을 제공한다”고 강조했다.
김 부사장은 온디바이스 AI 업데이트에 따른 전화, 삼성 노트 등 앱 용량 증가도 없을 것이라고 밝혔다. 그는 “책 100권을 읽고 나면 이미 내 머릿속에 있기 때문에 100권을 (꾸준히) 들고 다니지 않듯 AI가 새로운 내용을 배워도 용량이 증가하지 않는다”고 전했다.
◆2026년부터 돈 내고 갤럭시 AI 쓴다?…”유료화 계획 결정된 사항 없어”
이날 간담회에서도 갤럭시 AI 기능 유료화 계획에 대한 질의가 이어졌다. 삼성전자는 제품 설명란에 갤럭시 AI 기능을 내년 말까지 무료로 제공할 예정이라는 각주를 단 바 있다.
김 부사장은 향후 서비스를 유료화할지, 가격을 어떻게 책정할지 등에 대한 계획은 정해진 게 없다고 말했다. 그는 “갤럭시를 쓰는 사용자가 언제 어디서든지 지속적으로 쓸 수 있도록 무료로 만들었다”며 향후 상황에 따라 결정할 예정이라고 전했다.
앞서 노태문 MX사업부장(사장)도 기자간담회에서 현재 유료화 계획은 검토 중인 사항이 아니라고 강조한 바 있다.
◆”갤럭시 링, 컴퓨터, TV 등에도 온디바이스 AI 탑재할 것”
김 부사장은 사용자 개개인이 자신에게 걸맞은 AI 기술을 쓸 수 있도록 하는 것이 갤럭시 AI 최종 목표라고 밝혔다. 그는 “개인화된 갤럭시 앱이나 제품 등이 사용자를 이해하면서 사용자만을 위한 동작을 할 수 있도록 하는 게 갤럭시 AI 생태계 목표”라며 “안전도 보장하면서 자기만의 통역사를 구현하기 위한 기술을 개발하고 있다”고 말했다.
특히 이번 구글과의 협업(클라우드 AI 서비스 ‘서클 투 서치’ 등)처럼 삼성전자는 모바일 AI 다양성과 미래를 위해 다양한 파트너사와 LLM 솔루션을 개발·협력하는 데 개방적인 태도를 갖췄다고 강조했다. 김 부사장은 네이버, 카카오, KT 등 LLM을 개발하고 있는 국내 기업과의 협업 가능성에 대해 “양사가 공동 목표를 추구하면서 고객한테 의미 있는 기능을 제공할 수 있다면 협력할 수 있다”고 밝혔다.
아울러 온디바이스 AI를 스마트폰뿐만이 아닌 태블릿PC, 워치 등 웨어러블 기기, 랩톱 컴퓨터, TV 등 삼성전자 모든 기기에 순차적으로 확대 적용될 것이라고 말했다.
◎공감언론 뉴시스 alpaca@newsis.com
