폰이 앱 대신 의도를 먼저 받는다
Qualcomm이 30B 모델을 기기 안에 집어넣었다
Qualcomm이 2nm 플래그십 칩 두 종을 공개하면서 앱 중심에서 에이전트 중심으로 간다고 선언했다. 상위 칩은 30B 이상 MoE 모델을 기기 안에서 돌린다. 아이콘이 입구 자리를 내놓으면 유통 경로가 바뀐다.
스마트폰에서 30B급 모델이 서버를 거치지 않고 돈다면 그 폰을 쓰는 사람은 앱을 몇 개나 열까. 9월 22일 하와이 마우이에서 열린 Snapdragon Summit에서 Qualcomm이 2nm 플래그십 칩 두 종을 내놓으며 그 질문을 앞당겼다. 크리스티아노 아몬은 스마트폰의 조작 방식을 앱 중심에서 의도 중심으로 바꾸겠다고 말했다. 20년 만의 전환이라는 표현을 썼다.
한 줄 정리
상위 칩이 30B 이상 MoE 모델을 기기 안에서 돌리게 되면서 에이전트가 서버 왕복 없이 폰 안에 상주할 조건이 만들어졌다.
한눈에 보기
| Snapdragon 8 Elite Extreme Gen 6 | Snapdragon 8 Elite Gen 6 | |
|---|---|---|
| 공정 | 2nm | 2nm |
| CPU | 프라임 5GHz 2개 + 퍼포먼스 4GHz 6개 | 동일 |
| NPU 성능 | 35% 향상 | 14% 향상 |
| 와트당 AI 성능 | 33% 향상 | 20% 향상 |
| 온디바이스 모델 | 30B 이상 MoE | 명시 없음 |
Extreme 쪽에는 공유 메모리가 50% 커졌다. KV 캐시를 주고받느라 폰의 주 메모리까지 다녀오는 횟수를 줄이려는 설계다. Hexagon NPU에는 Element Accelerator라는 연산 유닛이 scalar, vector, tensor 옆에 하나 더 붙었다. 트랜스포머 추론만 맡는다.
30B가 기기 안으로 들어오면 토큰 값이 사라진다
MoE 구조는 질문마다 전체 파라미터 중 일부만 깨워서 계산량과 메모리 대역폭을 아낀다. 그 덕에 30B가 폰에 들어간다. 여기서 중요한 것은 벤치마크가 아니라 과금 구조다. 기기에서 돌아가는 추론에는 100만 토큰당 단가가 없다.
물론 지금 당장 바뀌는 것은 없다. 이 칩은 HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo, Xiaomi의 플래그십에 들어가고 Motorola Signature 27이 당일 함께 발표됐다. 플래그십부터 깔리니 보급 기기까지 내려오는 데 한두 해가 걸린다. 다만 방향은 분명하다. 자주 쓰는 짧은 판단은 기기 안으로, 어려운 일만 서버로 간다.
아이콘이 입구 자리를 내놓으면 유통이 바뀐다
지난 20년 동안 모바일에서 고객을 만나는 길은 정해져 있었다. 검색하거나 앱스토어에서 찾고 아이콘을 눌러 들어온다. 의도 중심 인터페이스는 그 중간 단계를 지운다. 사용자가 "토요일 오후에 네 명 앉을 데 잡아 줘"라고 말하면 에이전트가 후보를 고르고 예약까지 끝낸다. 이때 우리 서비스가 후보 목록에 들어가느냐는 아이콘 디자인과 아무 관계가 없다.
Qualcomm은 같은 자리에서 Google과의 제휴도 알렸다. 기기가 바뀌어도 개인 맥락과 취향이 따라붙게 하겠다는 구상이다. 맥락을 누가 들고 있느냐가 곧 추천 순서를 누가 정하느냐로 이어진다.
기기 안 모델은 서버 모델을 대신하지 않는다
30B라는 숫자를 프런티어 모델과 나란히 놓으면 실망한다. 서버에서 도는 상위 모델은 자릿수가 다르고 긴 맥락을 붙들고 여러 단계를 되짚는 일에서 격차가 크게 벌어진다. 기기 안 모델이 잘하는 자리는 따로 있다. 짧은 분류, 화면에 보이는 것 읽기, 개인 일정과 연락처를 건드리는 작업, 네트워크가 끊겨도 돌아야 하는 기능이다.
그래서 앞으로 앱이든 서비스든 판단이 두 군데로 나뉜다. 폰 안에서 끝나는 판단과 서버로 올라가는 판단. 이 경계를 누가 정하느냐가 곧 응답 속도와 데이터 노출 범위를 정한다. 고객 데이터를 다루는 팀이라면 이 경계선 하나가 개인정보 처리 방침의 문장을 바꾼다.
위시클레이 관점
에이전트가 우리 대신 고른다면 우리가 관리할 것은 앱 설치 수가 아니라 기계가 읽을 수 있는 사실의 정확도다. 영업시간, 재고, 가격, 예약 가능 시간, 배송 조건. 사람이 전화로 물어보던 것들이다. 이게 웹 어딘가에 구조화돼 있지 않으면 에이전트는 우리를 건너뛰고 옆집을 고른다. 아이콘은 못 봐도 상관없지만 빈칸은 치명적이다.
그리고 온디바이스는 값 문제만이 아니라 데이터가 어디 있느냐의 문제다. 폰 안에서 도는 추론은 고객 대화를 서버로 안 보낸다. 상담 기록이나 건강 정보처럼 밖으로 내보내기 꺼려지던 작업에 처음으로 선택지가 생긴다. 스무 명짜리 교육 회사가 수강생 상담 이력을 외부 API에 넘기지 않고도 요약을 뽑는 그림이 이제 하드웨어 쪽에서 준비되고 있다.
오늘 할 일은 칩 스펙을 외우는 게 아니다. 우리 서비스의 핵심 정보 다섯 줄을 적어 놓고 그게 사람 눈에만 보이는지 기계도 읽을 수 있는지 확인하는 일이다. 동네 공방 한 곳도 30분이면 끝난다. 30B가 폰에 들어오는 속도보다 그 다섯 줄을 채우는 속도가 느릴 이유가 없다.