오픈웨이트 계보

자사 설명으로 고유 문자 2조 6,010억 토큰과 로마자 2,246억 토큰을 합쳐 34개 언어·문자 조합을 덮고, 품질 점수 75점 이상만 남겨 되살린 4,384억 토큰을 포함한다. 이 말뭉치 일부로 Nemotron 3.5 Super VL을 이어 학습하자 인도어 평가 다섯 개가 4.98~9.82%포인트 올랐으나 합성 말뭉치만의 효과는 아니라고 단서를 달았다

미국 신생 랩의 첫 모델이다. 자사 측정으로 SWEBench Verified 81.6%·GPQA Diamond 90.6%·AIME 2026 97.7%·Terminal Bench v2.1 80.1%(BF16 기준)를 제시했고, BF16·FP8·NVFP4 세 벌로 배포해 NVFP4 체크포인트는 약 280GB다

자사 측정으로 209M 모델이 GIFT-Eval·TIME·fev-bench의 사전학습 제로샷 부문에서 1위이고, 28M 모델이 약 네 배 큰 Chronos-2를 앞섰다고 밝혔다. 8스레드 서버 CPU에서 5M은 약 10ms, 209M은 약 140ms가 걸린다. 기술 보고서는 예고만 했다

활성화 LoRA라 기본 모델이 만든 KV 캐시를 뒤따르는 판정에 다시 쓸 수 있고, 세 구성요소를 더해도 GPU 메모리가 기본 모델 하나와 비슷하다고 밝혔다. 수치 비교는 거의 내지 않고 맞춤 3B 모델이 초당 60~100건을 판정한 시연만 제시했다

16단계 증류판과 50단계 기본판 두 벌을 내고 FP8·NVFP4 양자화 가중치와 DreamBooth LoRA 학습 스크립트를 함께 제공했다. 증류판이 H100 한 장에서 1024×1024 그림을 약 2초에 만든다는 속도 수치만 있고 품질 점수는 내지 않았다

Meta가 지금까지 가장 강한 미국 오픈웨이트 모델이라고 자사 주장. Muse Spark 1.3과 같은 기반 모델에 단독 사용을 위한 안전 후속학습을 더했고, SGLang·vLLM 최적화와 Helion 커널(GB300에서 1.03~3.95배)을 함께 냄. 4월 비공개 프리뷰로 시작한 Muse Spark가 반년 만에 가중치까지 공개됨

자사 측정 MTEB Code 68.76에서 78.68로 상승, 컨텍스트 8K(전작의 4배), MRL로 768차원을 128차원까지 줄여 저장 공간을 최대 6배 아낌. 양자화하면 Pixel 11 Pro에서 텍스트 전용 약 191MB, 전체 멀티모달 약 567MB RAM으로 돌아 온디바이스 멀티모달 검색을 오픈 가중치로 내림

딥리서치류 기능이 8B 오픈웨이트로 내려온 지점이다. 인용 정확도·재현율을 평가 축으로 삼은 점이 중요한데, 보고서 생성에서 문제가 되는 것은 문장 품질이 아니라 인용이 실재하는지이기 때문이다. 학습 데이터까지 공개해 재현 가능한 비교 기준이 생겼다.

오픈웨이트 공개가 안전 조치 없이 이뤄질 때 무엇이 흘러나가는가를 경쟁 랩이 수치로 제시한 첫 사례다. 오픈웨이트 계보(축⑨)의 논쟁이 '성능 격차'에서 '안전장치 격차'로 옮겨 가고, 가중치 공개 자체가 아니라 함께 공개되지 않은 것이 쟁점이 된다. 경쟁자가 경쟁자를 평가했다는 이해관계는 감안해야 한다.

에이전트 런타임이 벤더 제품에서 재단 소유 표준 인프라로 넘어가는 경로가 생겼다. 하네스·모델·샌드박스를 교체 가능한 슬롯으로 규정한 것이 핵심인데, 이 분리가 자리 잡으면 모델 교체 비용이 떨어지고 기업은 특정 랩에 덜 묶인다. 상시 에이전트를 사내 격리 환경에 두려는 제조·금융 쪽 요구와 바로 맞물린다.

에이전트 워크로드의 병목이 연산이 아니라 KV 캐시의 저장·대역폭으로 옮겨갔다는 진단을 모델 설계 전체로 밀어붙인 사례. 프리필과 디코드에 서로 다른 활성 파라미터를 쓰는 구성이 특히 새롭다.

오픈웨이트 대형 MoE가 범용이 아니라 번역이라는 수직 태스크로 내려와 상용 번역 서비스를 정면 겨냥한 사례다.

별도 비전 인코더와 VAE를 모두 없앤 완전 end-to-end 통합 구조가 실용 성능에 도달했음을 보여, 멀티모달 통합 모델의 표준 설계가 바뀔 가능성을 시사한다.

형식 검증기 없이 순수 자연어 추론만으로 IMO 금메달권에 이른 결과를 가중치와 데이터까지 공개한 사례로, 최상위 수학 추론의 재현 가능성을 크게 넓혔다.

유럽 오픈웨이트·주권 AI 진영이 미국 빅테크에 필적하는 자본을 확보한 분기점이며, 삼성전자·NVIDIA·ASML 등 반도체 공급망 기업이 직접 들어왔다는 점이 특징이다.

'순환 상태의 오차는 긴 문맥에서 누적된다'는 통념을 뒤집어 하이브리드 LLM의 순환 절반이 오히려 양자화하기 쉬운 쪽이라고 주장하고, NVFP4의 16원소 블록 스케일링이 잔차 스트림의 극단 이상치를 국소화하는 점과 델타 규칙 순환이 주입된 잡음을 32K 토큰에 걸쳐 평탄하게 유지하는 점 등 네 갈래 기계적 설명을 제시. 수치는 저자 자체 보고.

확산 언어모델 계열이 이미지 생성 쪽으로 넘어온 사례로, 관찰 주제 「확산 언어모델」의 누적을 늘린다. 저자 자체 보고로 Qwen-Image-Bench 영어 53.53 · 중국어 53.38로 오픈소스 중 양쪽 최고라고 주장

MSL이 폐쇄 API 노선을 유지한 채 에이전트 효율(툴 호출·토큰 절감)을 전면 지표로 내세움

프런티어 오픈웨이트 모델의 아키텍처 선택 근거를 절제 실험 단위로 공개한 사례. 저자 자체 보고로 손실과 다운스트림 정확도가 늘 같이 움직이지는 않으며, 이 아키텍처와 Muon 옵티마이저의 조합이 최적 학습률과 배치 크기를 위로 밀어 배치 크기 워밍업을 불필요하게 만들고 스트레스 테스트에서 안정성을 크게 개선.

개방과 폐쇄의 격차가 3점까지 좁혀짐

한 주 사이에 오픈웨이트 모델이 몰려 나왔고, 27B급이 소비자용 GPU 한 장에서 초당 200토큰대로 돌면서 상용 최상위 모델에 근접한다는 주장까지 붙었다. 특히 모델뿐 아니라 에이전트 하네스까지 공개돼 도구·세션 로그·에이전트 루프·서브에이전트를 플러그인처럼 갈아끼울 수 있게 된 점은, 외부망이 막힌 사내망에서 에이전트를 굴리려는 쪽에 곧바로 걸린다. 반대편에서는 대화 로그를 수집·분류해

Llama 4 이후 첫 오픈웨이트를 Apache 2.0으로, 4bit 20GB 미만 온디바이스 에이전트

최상위 모델의 개방 약속과 실제 배포가 분리되는 관행. Kimi K3도 같은 방식이었다는 지적이 함께 제기됨 — 오픈 모델 기록 시 발표일과 가중치 공개일을 분리해야 하는 근거

최상위 모델은 자체 라이선스로 가면서 소형 모델은 Apache 2.0을 유지 — 규모별 라이선스 이원화

최상위 오픈웨이트가 Apache가 아닌 전용 라이선스로 회귀. Qwen3.8-Max는 이를 기반으로 한 비공개 상용판

1단계 236B의 3배 이상. Apache 2.0 전환으로 상업적 제약 제거

3조 파라미터급 오픈웨이트. 규모는 커지고 라이선스는 좁아지는 패턴의 대표 사례

독자 파운데이션 모델 2단계 성과

가중치가 아닌 하네스·에이전트 스캐폴딩의 공개. 라이선스는 발표문에 미명시

토큰 효율을 전면에 내세운 오픈웨이트 코딩 모델

오픈웨이트가 폐쇄 최상위와 일부 영역에서 경합

소형 오픈웨이트 코딩 에이전트 모델

200B급 MoE를 Apache 2.0으로 공개하면서 온프레미스 배포 문턱을 GPU 1~2장으로 낮춤

MIT를 유지한 채 프런티어 재진입

dense 27B가 397B MoE 전작을 상회하며 진짜 개방의 무게중심이 30B급으로 내려옴

오픈웨이트 모델이 SWE-Bench Verified 80%대에 진입. 독립 검증 주체는 명시되지 않음

LG의 첫 오픈웨이트 비전-언어 모델로, 국내 오픈웨이트 노선이 텍스트 밖으로 확장된 지점

Llama 브랜드 교체와 폐쇄 전환

Meta의 프론티어 모델은 폐쇄, 별도 소형 모델만 개방하는 이원 전략이 확정된 지점

안드로이드 온디바이스 AI가 시스템 서비스(AICore)로 오픈 모델을 직접 배포하는 체계로 진화

미국 진영의 진짜 개방 회귀 신호탄

텍스트 LLM 중심 랩이 음성 인식을 완전 개방 라이선스로 공개

AI 생성 코드를 형식 명세에 대해 기계적으로 검증하는 방향. 평가 축을 경쟁 수학에서 실제 형식화 프로젝트 기여로 이동

초기 융합 멀티모달 학습을 Apache 2.0 대형 MoE에 적용. Plus는 비공개로 남겨 개방/폐쇄 병행

오픈웨이트 배포가 상장 가능한 비즈니스 모델로 승인됨

에이전틱 AI 최적화. Kanana-1.5 계보의 후속

675B급 프런티어 모델을 Apache 2.0으로 공개. 2025년 말 서구권 최대 규모 완전 개방 릴리스

자사 주장 기준 V3.2-Speciale가 IMO·IOI 2025 등에서 금메달 수준 결과를 냈다고 밝힌 오픈웨이트 추론 모델

미국 커뮤니티 팀이 중국 베이스 모델 위에 파인튜닝, 주도권 이동의 상징적 장면

국내 대형 오픈웨이트가 한꺼번에 등장한 시점

사고 과정과 도구 호출을 번갈아 수행하도록 학습한 오픈웨이트 추론 에이전트로, 자사 주장 기준 사람 개입 없이 200~300회 연속 도구 호출을 유지

거부율 축소 자체를 정렬 지표로 벤치마킹한 노선. 안전 정렬의 대안 축을 오픈 커뮤니티가 공식화

Apache 2.0에서 자체 커뮤니티 라이선스로 공개 정책이 후퇴한 전환점. 반경쟁 조항 때문에 오픈소스 정의 충족 여부에 이견

DeepSeek가 에이전트 시대로 가는 첫걸음이라고 밝힌 릴리스로, API의 deepseek-chat·deepseek-reasoner가 한 모델의 비사고·사고 모드가 되면서 V3와 R1으로 나뉘어 있던 제공 방식이 합쳐짐

OpenAI가 GPT-2 이후 처음 공개한 오픈웨이트 언어 모델. 120b(총 117B·토큰당 활성 5.1B)는 80GB GPU 1장, 20b(총 21B·활성 3.6B)는 16GB 메모리에서 구동

오픈소스 모델에 한국어 추가 학습(CPT)을 한 A.X 4.0과 달리 설계부터 학습까지 직접 수행한 모델로, 이로써 SKT의 오픈소스 모델은 A.X 3.1 2종과 A.X 4.0 2종 등 4종이 됨

자사 주장 기준 오픈 모델 중 에이전틱 코딩·브라우저 사용·툴 사용에서 최고 성능을 냈다고 밝혔고, 명령줄 코딩 도구 Qwen Code를 함께 오픈소스로 공개

추론과 에이전트(MCP·function calling)를 통합한 하이브리드

통신사 최초 대형 오픈웨이트 공개

오픈웨이트 최초의 1T급이자 매출·규모 임계형 라이선스라는 새 유형

Llama 노선의 전환점, Behemoth 출시 연기

온디바이스급 소형 모델이 멀티모달과 벤치마크 경쟁력을 동시에 갖추기 시작한 이정표

카나나 계열에서 처음으로 상업 이용이 가능한 Apache 2.0 라이선스를 적용한 공개

걸프 국가가 자국어 오픈웨이트를 주권의 언어로 프레이밍한 사례

전 크기대를 무제약 라이선스로 덮는 전략으로 HF 파생 모델 수에서 Llama를 추월

네이버의 첫 오픈웨이트 공개

Llama 브랜드 신뢰의 전환점

수학·과학·코딩 추론에 특화한 LG의 오픈웨이트 계열로, 자사 발표 기준 32B가 2025학년도 수능 수학 94.5점·AIME 2024 90.0점을 기록

소형·온디바이스 노선의 성숙

QwQ-32B-Preview의 정식 후속으로, 자사 주장 기준 총 671B(활성 37B)인 DeepSeek-R1과 비슷한 성능을 32B로 냈다고 밝힘

2.1B~32.5B 카나나 언어모델 라인업의 학습 과정을 공개하면서 그중 경량 모델을 연구 목적으로 내놓은 카나나 계열의 첫 오픈웨이트

범용 모델은 Apache 2.0으로 내고 MRL(Mistral Research License) 모델에서 점차 벗어나겠다고 밝힌 릴리스로, 자사 주장 MMLU 81% 이상·초당 150토큰

추론 모델이 오픈웨이트로 즉시 재현되고 중국 랩 2곳이 같은 날 프런티어 추격을 선언

EXAONE 3.0 7.8B 공개 4개월 만에 크기를 3종으로 늘린 후속으로, 비상업(NC) 라이선스는 유지

별도 사전학습 모델 없이 70B 지시 조정(Instruct) 모델 하나만 내놓은 Llama 3 계열의 갱신판

MIT 라이선스와 극단적 비용 효율로 중국 진영이 가장 개방적인 위치를 점유

Llama·Gemma·Qwen 대부분이 오픈소스가 아니라는 판정 근거를 확립

일본 국책자금이 실제 100B급 국산 모델 산출로 이어진 첫 확인 사례

11B·90B는 Llama 계열 최초로 이미지 입력을 지원하는 모델이고, 1B·3B는 기기 내 실행을 겨냥한 경량 모델로 함께 공개됨

3B와 72B를 뺀 오픈 모델을 Apache 2.0으로 배포했고, 이전 세대에서 빠졌던 14B·32B 크기를 다시 넣음

11월 정식판에 앞서 가중치와 무료 API로 내놓은 프리뷰로, 자사 주장 기준 GPU 여러 장이 필요한 Llama 3.1 70B와도 겨룸

커뮤니티가 405B를 실제로 파인튜닝한 첫 사례

한국 대기업 최초의 자체 LLM 오픈 공개. 다만 연구 목적 한정 라이선스로 한국형 개방 전략의 보수성도 함께 드러냄

단일 노드 추론을 겨냥한 123B 플래그십의 가중치를 공개하되 연구·비상업 용도로 한정하고, 셀프 배포 상업 이용에는 별도 상용 라이선스를 요구

프런티어급 가중치가 처음 공개되고 출력물을 이용한 학습이 라이선스로 허용

자사 주장 기준 27B가 크기 두 배 이상인 모델과 겨룰 수준이고 9B가 Llama 3 8B를 앞섰다고 밝힌 Gemma 2세대

자사 평가 기준 코드 과제에서 GPT-4 Turbo와 비슷한 성능을 냈다고 밝힌 오픈웨이트 코드 모델

일본 대기업이 자국어 사전학습 모델을 공개 배포한 초기 사례이자 통신사 자본이 국산 LLM에 들어온 신호

재학습 없이 안전 정렬을 되돌릴 수 있음을 공개 증명, 오픈웨이트 안전 논쟁의 기술적 근거

72B만 기존 Qianwen 라이선스를 유지하고 나머지 4종은 Apache 2.0으로 바꿔 Qwen 계열의 라이선스 개방이 시작된 릴리스

가중치를 공개하되 연구·테스트 용도로만 쓰게 한 비생산(Non-Production) 라이선스를 새로 도입하고 상업 이용은 별도 라이선스로 둔 사례

8B가 이전 세대 70B급 성능을 내며 로컬 실용선을 끌어올림

Mixtral 8x7B보다 큰 MoE를 다시 Apache 2.0으로 내놓은 Mistral의 오픈웨이트 모델

파라미터 규모 경쟁을 따라가지 않고 경량·자국어 특화로 방향을 잡은 일본 통신사 노선의 시작점

당시 최대 규모의 Apache 2.0 오픈웨이트 MoE. 단 대화용 파인튜닝이 없는 raw 체크포인트로 실사용성은 제한적

Microsoft Azure를 첫 유통 파트너로 두고 API로 낸 플래그십으로, 자사 주장 기준 API로 제공되는 모델 가운데 GPT-4 다음 2위

빅테크의 소형 오픈웨이트 참전이나 Apache가 아니라는 비판

자사 발표 기준 공개 시점 Hugging Face Open LLM 리더보드 1위에 오른 국내 스타트업 모델로, 1위 점수인 평균 74.2점은 지시 조정 모델(SOLAR-10.7B-Instruct)의 기록이며 베이스 모델은 66.04점

Sparse MoE를 오픈 생태계 표준 아키텍처로, 총 대 활성 파라미터 개념을 각인

중간 체크포인트까지 공개한 DeepSeek의 범용 언어 모델로, 자사 평가 기준 67B Base가 추론·코딩·수학·중국어 이해에서 Llama 2 70B Base를 앞섰다고 밝힘

진짜 무제약 라이선스와 유럽발 대항마, 이후 수천 개 파인튜닝의 베이스

Llama 2를 바탕으로 코드·코드 관련 데이터 5,000억 토큰을 학습한 코드 특화 계열로, 70B는 2024년 1월 29일에 추가 공개됨

국내 첫 대형 상용 LLM 계보의 시작

알리바바의 첫 오픈웨이트 언어 모델로, 초기판은 2.2T 토큰으로 학습됐고 2023년 9월 25일 갱신판에서 2.4T 토큰으로 늘어남

오픈웨이트의 대중화이자 오픈소스인가 논쟁의 시작점

합성·유출 대화 학습 관행과 LLM-as-judge 평가 문화를 동시에 확립

소액으로 instruction-following 복제가 가능함을 입증

통제된 배포가 물리적으로 불가능함을 증명, 오픈웨이트 생태계의 실질적 기점

프런티어급 가중치를 심사 후 배포한 최초의 대형 시도

네이버가 한국 최초의 초대규모 AI이자 AI 주권 확보 수단으로 내세운 비공개 모델로, 이후 하이퍼클로바X로 이어짐