Dark Side of the Moon 오픈 소스 Kimi K3: 2조 8천억 개의 매개 변수가 완전히 공개되어 해외 개발자는 이를 "Fable 5의 로컬 버전"이라고 부릅니다.

오픈 소스 모델 커뮤니티가 여전히 300B를 '큰' 것으로 간주했을 때 Dark Side of the Moon은 직접적으로 임계값을 1조 수준으로 높였습니다. 7월 27일, Kimi K3가 공식적으로 오픈소스화되었습니다. 2조 8천억 개의 매개변수는 외부 세계에 공개된 세계 최초의 3T 수준 매개변수 모델로, 이전에는 거의 상호 배타적이었던 두 단어인 '조 단위 매개변수'와 '오픈소스'를 처음으로 결합한 것입니다.

세 가지 하드 지표의 금 함량

Kimi K3는 오픈 소스 모델의 기존 경계를 3차원으로 새로 고칩니다. 첫 번째는 매개변수 규모입니다. 2조 8천억이라는 규모는 중국 최초의 오픈 소스 1조 수준 모델일 뿐만 아니라 오픈 소스 모델의 용량 한도를 전체 규모로 직접적으로 끌어올리는 것을 의미합니다. 두 번째는 아키텍처입니다. K3는 혼합 전문가(MoE) 아키텍처를 채택하고 희소 활성화 아이디어를 사용하여 매우 큰 매개변수 규모에서 사용 가능한 추론 효율성을 유지합니다. 이는 또한 수조 개의 매개변수가 실제로 "실행"되기 위한 전제이기도 합니다. 세 번째는 기능 적용 범위입니다. 모델은 기본 시각적 기능을 갖추고 있으며 그래픽 및 텍스트의 다중 모드 작업을 처음부터 끝까지 처리할 수 있습니다. 컨텍스트 창은 100만 개의 토큰에 도달하며, 이는 매우 긴 문서 이해와 복잡한 장기 작업을 지원하기에 충분합니다.

해외 커뮤니티 반응

오픈 소스로부터의 피드백은 빠르게 전달됩니다. 해당 모델은 온라인에 공개된 후 Hugging Face 트렌드 목록에서 빠르게 1위를 차지했습니다. 해외 개발자 커뮤니티에서는 Kimi K3를 "Fable 5의 로컬 버전"이라고 부르는 매우 유익한 평가를 내렸습니다. 이는 최첨단 폐쇄 소스 모델에 가까운 경험을 제공하지만 로컬로 완전히 배포할 수 있고 무게가 완전히 개방된다는 의미입니다. Elon Musk는 또한 소셜 플랫폼에 좋아요를 표시하고 댓글을 달며 이러한 열기를 개발자 집단에서 더 많은 대중에게 퍼뜨렸습니다.

이러한 현상의 배경에는 오픈소스 진영과 폐쇄소스 진영 간의 세력 균형이 미묘하게 변화하고 있다는 점에 있습니다. 과거에는 오픈 소스 모델이 일반적으로 "충분하지만 최고 수준은 아닌" 옵션으로 간주되었습니다. Kimi K3의 등장은 "최첨단에 가까운 기능 + 완전한 개방성"이라는 두 가지 요구를 처음으로 1조 수준으로 충족시켰으며, "오픈 소스가 폐쇄 소스를 따라잡을 수 없다"는 기존 이야기에 균열을 일으켰습니다.

보다 넓은 산업 관점에서 DeepSeek 및 Kimi로 대표되는 국내 오픈 소스 경로는 "초대형 + 개방형 무게"를 사용하여 폐쇄 소스 프론티어와는 완전히 다른 경로를 택하고 있습니다. 전자는 용량의 상한선을 갖고 있는 반면 후자는 개방성과 현지화 가능한 배포를 생태학과 신뢰로 교환합니다. 수조 개의 매개변수가 있는 오픈 소스 모델이 추론 인프라에 엄격한 요구 사항을 적용한다는 점은 주목할 가치가 있습니다. 로컬 배포의 실제 비용과 사용 용이성은 "오픈 소스 한도 상향 조정"의 물결이 궁극적으로 얼마나 실제 채택으로 이어질 수 있는지를 결정합니다.

앞으로 추적할 가치가 있는 몇 가지 방향은 다음과 같습니다.

1. 실제 로드 시 Kimi K3의 추론 비용: MoE의 희소 활성화 이점이 수 조 수준 매개변수의 메모리 압박을 상쇄할 수 있는지 여부는 커뮤니티가 가장 우려하는 실질적인 문제입니다.
2. HF 목록 인기의 지속 가능성: 추세 목록의 인기는 결국 쇠퇴할 것입니다. K3가 안정적인 개발자 생태계를 촉진할 수 있는지 여부는 장기적인 지표입니다.
3. 국내 오픈소스의 후속 리듬: DeepSeek, Qwen 등이 조 단위 오픈소스 레이아웃을 가속화할지 여부에 따라 오픈소스 진영이 전체적으로 한도를 높일 수 있는지 여부가 결정됩니다.
4. Musk의 발언에 대한 후속 조치: xAI 리더의 대중적 칭찬은 특정 기술 경로에 대한 인정이나 협력 가능성을 나타냅니까?