ダークサイド・オブ・ザ・ムーンオープンソースのキミK3:2兆8000億パラメータが完全オープン、海外開発者は「ローカル版フェイブル5」と呼ぶ
Dark Side of the Moon は、7 月 27 日に、MoE アーキテクチャ、ネイティブのビジュアル機能、および 100 万トークン コンテキストを使用した、世界初のオープン 3T レベル パラメータ モデル (2.8 兆) である Kim K3 をオープンソース化しました。オンラインに公開されるやいなや、Hugging Face トレンドリストのトップとなり、海外の開発者からは「ローカル版 Fable 5」と呼ばれ、マスク氏も公に賞賛しました。
オープンソース モデル コミュニティがまだ 300B を「大きい」とみなしていたとき、Dark Side of the Moon は直接そのしきい値を兆レベルに引き上げました。 7 月 27 日、Kimi K3 が正式にオープンソース化されました - 2.8 兆パラメータ。これは外の世界に公開された世界初の 3T レベルのパラメータ モデルであり、これまでほぼ相互に排他的だった 2 つの単語である「兆レベルのパラメータ」と「オープンソース」を初めて組み合わせたものです。
3 つのハード指標の金含有量
Kimi K3 は、オープンソース モデルの既存の境界を 3 次元で更新します。 1 つ目はパラメーター スケールです。2 兆 8,000 億というサイズは、これが中国初のオープンソースの兆レベル モデルであるだけでなく、オープンソース モデルの能力の上限を 1 桁も直接押し上げることを意味します。 2 つ目はアーキテクチャです。K3 は混合エキスパート (MoE) アーキテクチャを採用し、スパース アクティベーションのアイデアを使用して、非常に大きなパラメータ スケールの下でも使用可能な推論効率を維持します。これは、何兆ものパラメータが実際に「実行」されるための前提条件でもあります。 3 つ目は機能のカバレッジです。モデルにはネイティブのビジュアル機能があり、グラフィックスとテキストのマルチモーダル タスクをエンドツーエンドで処理できます。コンテキスト ウィンドウは 100 万トークンに達します。これは、超長期のドキュメントの理解と複雑な長期タスクをサポートするのに十分です。
海外コミュニティの反応
オープンソースからのフィードバックはすぐに届きます。このモデルがオンラインに公開されると、すぐにハグフェイストレンドリストのトップになりました。海外の開発者コミュニティは、Kimi K3 を「ローカル版 Fable 5」と非常に有益な評価を与えました。つまり、最先端のクローズドソース モデルに近いエクスペリエンスを提供しますが、完全にローカルにデプロイでき、ウェイトは完全にオープンです。イーロン・マスクもソーシャル プラットフォームを気に入ってコメントし、この熱の波を開発者サークルから広く一般の人々に広めました。
この現象の背景には、オープンソース陣営とクローズドソース陣営の間のパワーバランスの微妙な変化がある。以前は、オープンソース モデルは通常、「十分ではあるが一流ではない」オプションとみなされていました。 Kimi K3 の登場は、「最先端に近い機能 + 完全なオープン性」という 2 つの要求を初めて兆レベルの規模で満たすとともに、「オープンソースはクローズドソースに追いつけない」という古い物語に亀裂を生じさせました。
より広い業界の観点から見ると、DeepSeek と Kimi に代表される国内のオープンソース路線は、「超大規模 + オープン ウェイト」を利用して、クローズド ソース フロンティアとはまったく異なる道を歩んでいます。前者には容量の上限がありますが、後者はオープン性とローカライズ可能な展開をエコロジーと信頼と引き換えにしています。数兆個のパラメータを持つオープンソース モデルでは、推論インフラストラクチャに厳しい要件が課されることは注目に値します。実際のコストとローカル展開の使いやすさによって、この「オープンソースの上限引き上げ」の波が最終的にどれだけ実際に採用されるかが決まります。
将来的に追跡する価値のあるいくつかの方向性:
- 実負荷時の Kim K3 の推論コスト : MoE のスパース アクティベーションの利点が、兆レベルのパラメータによるメモリ プレッシャーを相殺できるかどうかは、コミュニティが最も懸念している現実的な問題です。
- HF リストの人気の持続性: トレンド リストの人気は最終的には衰えます。 K3 が安定した開発者エコシステムを形成できるかどうかが長期的な指標となります。
- 国内オープンソースのフォローアップリズム: DeepSeek、Qwenなどが兆レベルのオープンソースの配置を加速するかどうかが、オープンソース陣営全体の天井を引き上げられるかどうかを決定する。
- マスク氏の声明のフォローアップ: xAI リーダーの公の称賛は、特定の技術的ルートにおける認識または協力の可能性を示していますか?
レビュー