퀄컴, 메타와 ‘라마2′ LLM 온디바이스 구현 위해 협업

조선비즈 김민국 기자 - 퀄컴 테크날러지(이하 퀄컴)는 메타와 ‘라마2′ 대형 언어 모델(LLM)을 온디바이스에서 구현할 수 있도록 최적화할 예정이라고 19일 밝혔다.

이번 협업으로 라마2와 같은 생성형 인공지능(AI) 모델을 스마트폰, PC, 가상현실(VR)·증강현실(AR) 헤드셋, 차량 등의 온디바이스에서 실행해 클라우드 비용을 절감하고 이용자들에게 맞춤화된 경험을 제공할 수 있게 될 것으로 보인다. 또 퀄컴의 고객사와 파트너, 개발자들은 지능형 가상 비서, 생산성 애플리케이션(앱), 콘텐츠 제작 도구, 엔터테인먼트 등의 사용 사례도 구축할 수 있다. 스냅드래곤으로 구동되는 온디바이스 AI는 인터넷 연결이 없는 곳에서나 비행기 모드에서도 사용 가능하다.

퀄컴은 내년부터 스냅드래곤 기반 단말기에 라마 2 기반 AI 구현이 가능하도록 지원할 예정이다. 개발자들은 ‘퀄컴 AI 스택’을 활용해 온디바이스 AI 앱을 최적화할 수 있다. 퀄컴 AI 스택은 스냅드래곤에서 AI를 더 효율적으로 처리하여 얇고 가벼운 소형 기기에서도 온디바이스 AI 구현을 가능하게 하는 전용 도구 모음이다.

메타와 퀄컴은 기술 혁신을 위해 장기간 협력해왔다. 라마 생태계를 확장하기 위한 양 사의 협력은 연구와 제품 엔지니어링 영역에서 전반적으로 진행되고 있다. 퀄컴의 온디바이스 AI는 스마트폰, 차량, 확장현실(XR) 헤드셋과 안경, PC, 사물인터넷(IoT) 등 수십억대의 기기가 퀄컴이 제공하는 업계 최고의 AI 하드웨어와 소프트웨어 솔루션으로 구동된다.

두르가 말라디 퀄컴 테크날러지 수석 부사장은 “퀄컴은 메타의 개방적이고 책임 있는 AI 접근 방식에 힘입어 생성형 AI를 온디바이스에 적용해 모든 규모의 개발자들을 위한 혁신을 추진하고 진입 장벽을 완화하는 데 전념하고 있다”며 “생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐만 아니라 스마트폰, 노트북, 차량, IoT 등과 같은 엣지 디바이스에서도 AI를 작동할 수 있어야 한다”고 말했다.

출처:https://biz.chosun.com/it-science/ict/2023/07/19/L5O7JGTZMVFENIKXBT77WPEEMM/ 

• SHARE
• 페이스북으로 보내기
• 트위터로 보내기
• 구글플러스로 보내기