총 5,010억에 활성 230억, 컨텍스트 100만 토큰

미국 오픈 모델 연구소 Reflection AI가 10월 5일 Beam을 발표했다. 전문가 혼합(MoE) 구조의 텍스트 전용 모델로 총 5,010억 매개변수, 토큰 하나를 처리할 때 켜지는 활성 매개변수는 230억이다. 학습에 23.8조 토큰을 썼고 컨텍스트 창은 100만 토큰이다.

회사가 내세우는 숫자는 추론 비용이다. 고급 추론 벤치마크에서 Z.ai의 GLM-5.2와 비슷한 점수를 내면서 추론 연산은 3~4배 적게 쓴다고 한다. 독립 검증은 아직 없다. 가중치와 기술 문서는 이달 중 공개되고 하이퍼스케일러, 네오클라우드, 오픈소스 라이브러리를 통해 배포된다.

한 줄 정리

Beam은 "크지만 켜지는 건 작은" 오픈 웨이트 모델이고, 성능 경쟁의 무게가 학습 규모에서 토큰당 추론 단가로 옮겨 가고 있다.

한눈에 보기

활성 230억이 말하는 단가

MoE 모델은 파일 크기와 호출 단가가 따로 움직인다. 가중치는 5,010억 개를 통째로 메모리에 올려야 하지만 토큰 하나를 만들 때 계산하는 양은 230억 개 분량이다. 서비스하는 쪽의 GPU 시간은 후자에 비례한다. 그래서 같은 점수라면 활성 매개변수가 작은 모델이 같은 하드웨어에서 더 많은 요청을 받는다.

3~4배라는 수치가 맞는다면 API 가격표에서 먼저 보인다. 호스팅 업체가 같은 마진을 붙여도 토큰당 값이 내려간다. 다만 아직 가격은 발표되지 않았다. 모델이 풀린 뒤 몇 곳이 얼마에 내놓는지가 실제 판정이다.

미국산 오픈 모델이라는 위치

Reflection은 2024년에 세워졌고 지금까지 약 47억 달러를 모았다. 최근 기업가치는 투자 전 250억 달러, 후원자에 Nvidia, Sequoia, Lightspeed가 있다. SpaceX, Nebius와는 Nvidia GB300 칩 확보 계약을 2029년까지 70억 달러 이상 규모로 맺었다.

이 회사가 스스로 붙인 과제는 중국 오픈 모델에 대한 서구의 대안이다. 보안 심사나 조달 규정 때문에 중국 계열 가중치를 쓰기 어려운 기업은 지금까지 선택지가 좁았다. 팀 단위로 내부 문서를 모델에 태워야 하는 에이전시, 교육 회사, 미디어 회사가 여기에 해당한다. Beam의 라이선스가 상업 이용을 얼마나 열어 두는지에 따라 이 수요를 받을 수 있는지가 갈린다.

지금 할 수 있는 것

가중치가 풀리기 전이므로 도입 결정은 이르다. 해 볼 만한 건 두 가지다. 하나는 현재 쓰는 모델에서 요약, 분류, 초안 작성처럼 추론이 깊지 않은 호출이 전체 토큰의 몇 퍼센트인지 세어 보는 일이다. 다른 하나는 라이선스 문구가 나오면 사내 데이터를 외부 API로 보내지 않고 돌릴 수 있는 조건인지 먼저 읽는 일이다.

위시클레이 관점

5,010억짜리 모델을 직접 띄울 팀은 거의 없다. 필요한 GPU 메모리가 소규모 팀의 예산 바깥에 있기 때문이다. 그런데 Beam이 의미를 갖는 곳은 거기가 아니다. 호스팅 업체 여러 곳이 같은 가중치를 두고 가격 경쟁을 하는 구조가 생긴다. 모델 하나에 묶이지 않고 업체를 갈아탈 수 있으면 협상력이 팀 쪽으로 온다.

그러면 팀이 정할 일은 모델 선택이 아니라 라우팅 기준이다. 230억 활성짜리가 감당하는 일과 비싼 폐쇄형 모델에 맡길 일을 업무 단위로 나눠 적어 두면, 오픈 모델이 하나 더 나올 때마다 표만 고쳐 쓰면 된다. 벤치마크 점수가 같아도 우리 팀의 거래처 메일 톤을 맞추는 일에서 같은 품질이 나오는지는 직접 돌려 봐야 안다. 3~4배 싸다는 말은 그 시험을 통과한 업무에만 적용된다.

참고

• Reflection의 Beam 공개 보도, 사양과 투자 규모 (TechCrunch)
• Reflection의 이전 투자 유치와 오픈 프런티어 연구소 노선 (TechCrunch)