Gemma 是 Google DeepMind 基于 Gemini 研究成果发布的开源轻量级 AI 基础模型系列，Gemma 2 提供 2B/9B/27B 三种规模，遵循 Apache 2.0 许可证，可免费商业使用，专为端侧和资源受限场景优化，在同参数规模中性能领先，支持 HuggingFace、Kaggle 和 Google Cloud 多渠道访问。

Gemma — Google 开源轻量级大语言模型系列

核心参数与统计

参数	详情
最新版本	Gemma 2（2B/9B/27B）
发布日期	2024-06-27
许可证	Apache 2.0（完全开放商用，无月活限制）
上下文窗口	8192 Token（Gemma 2）
技术来源	基于 Gemini 研究成果，使用知识蒸馏技术
发布渠道	HuggingFace、Kaggle、Google Cloud Vertex AI
变体模型	CodeGemma（代码）、PaliGemma（视觉语言）、RecurrentGemma
量化支持	GGUF、GPTQ、AWQ 等主流量化格式
推理框架	HuggingFace Transformers、llama.cpp、Ollama、vLLM
Google Colab 支持	免费提供 Colab 笔记本，直接在浏览器运行 Gemma

Gemma 与 Llama 的关键差异在于许可证：Gemma 采用 Apache 2.0（无用户规模限制，真正意义上的完全开源），而 Llama 3 的 Meta Llama License 在月活用户超 7 亿后需要特殊许可。对于规模不断扩大的商业应用，Gemma 的 Apache 2.0 许可证提供了更无忧的法律保障。

用户与市场认可

Gemma 自 2024 年 2 月发布以来，在 HuggingFace 上的下载量持续攀升，成为仅次于 Llama 系列的第二大最受欢迎开源 LLM 家族。Google 强大的开发者生态（Kaggle、Colab、Google Cloud）为 Gemma 提供了得天独厚的分发渠道，大量数据科学家和 Kaggle 竞赛参与者通过熟悉的平台接触到 Gemma，形成了快速增长的用户基础。

Gemma 2 27B 在 LMSys Chatbot Arena 的盲测排名中达到接近 GPT-4 Turbo 的水平，这一基准成绩在开源社区引发广泛关注，证明了参数高效的小型模型通过知识蒸馏可以达到远超参数量预期的性能水平。CodeGemma 和 PaliGemma 等专业变体的推出，进一步扩展了 Gemma 生态的应用场景覆盖。

成本优势

方式	价格	主要适用场景	特点
本地部署	硬件成本（一次性）	隐私应用、开发实验	Apache 2.0，无商用限制
Google Cloud Vertex AI	按 Token 计费（Gemini 价格体系）	企业 API 集成	与 Google Cloud 深度集成
HuggingFace Inference	免费（限速）或 PRO 计划	轻量级应用测试	最快上手，无需本地 GPU
Kaggle Notebooks	免费（含 GPU）	数据科学实验	Kaggle 用户零成本访问

Gemma 2 2B 量化版可在 CPU 上勉强运行，在 MacBook（M 芯片）或 RTX 3060 上流畅运行，是「有笔记本电脑就能跑的 AI 模型」中性能最强的选项之一。相比需要 A100 的大规模模型，Gemma 2B/9B 的硬件要求使开发成本大幅降低。

主要功能

• Gemma 2 多规模预训练模型（Base）：提供未经指令微调的基础预训练模型，适合研究人员在特定任务或领域进行二次微调，2B/9B/27B 三种规模覆盖从端侧部署到高性能服务器的不同算力场景。
• Gemma 2 指令微调版（Instruct）：经过指令跟随和安全对齐训练的对话版本，开箱即用于聊天助手和问答应用，无需额外微调即可获得高质量的自然语言交互能力。
• 知识蒸馏优化的超高参数效率：Gemma 2 通过从更大规模 Gemini 模型（27B 从 Gemini 蒸馏，9B/2B 从 27B 蒸馏）获得参数效率，实现了在同参数规模中显著领先的基准测试成绩，这一「蒸馏链」策略是 Gemma 系列的核心技术创新。
• CodeGemma（代码专用变体）：专门针对代码补全、代码生成和数学推理优化的 Gemma 变体，提供 2B（代码填充）和 7B（指令版）两种规格，代码任务表现优于同规模通用 Gemma 模型。
• PaliGemma（视觉语言多模态版）：支持图像理解的多模态 Gemma 变体，可处理图文混合输入，执行图像描述、视觉问答和文档理解任务，是 Google 轻量级多模态开源模型的代表。
• Apache 2.0 无限制商业授权：全部 Gemma 模型遵循 Apache 2.0 许可证，可在任何规模的商业产品中自由使用、修改和分发，无用户数量或收入限制，是最宽松的开源 LLM 商业许可之一。
• Google Colab 零配置体验：Google 为 Gemma 提供官方 Colab 笔记本，用户无需本地 GPU 即可直接在浏览器中运行 Gemma，是 AI 学习者和数据科学家最低门槛的 Gemma 体验入口。
• Kaggle 生态深度集成：Gemma 在 Kaggle 平台深度集成，支持在 Kaggle 竞赛和笔记本中直接调用，面向数据科学社区的独特发行渠道形成了 Gemma 区别于其他开源 LLM 的独特生态位。

模型与版本演进

版本	发布时间	说明
Gemma 1.0（2B/7B）	2024-02-21	Google 首个 Gemma 发布，基础版+指令版，Apache 2.0 许可
CodeGemma（2B/7B）	2024-04-09	代码专用变体，代码填充和生成优化
Gemma 1.1（2B/7B 更新版）	2024-04-05	指令跟随质量改进，修复 1.0 版本的对话问题
RecurrentGemma（2B/9B）	2024-04	基于线性递归架构的高效推理变体，适合边缘设备
PaliGemma（3B 多模态）	2024-05	视觉语言模型，支持图像理解任务
Gemma 2（2B/9B/27B）	2024-06-27	第二代，知识蒸馏优化，性能大幅提升，27B 接近 GPT-4 Turbo
Gemma 2 JetBrains/Ollama	2024-08	主流 IDE 和本地推理工具支持 Gemma 2，生态持续扩展

技术优势

知识蒸馏链带来的超高参数效率：Gemma 2 的技术核心是多级知识蒸馏——27B 从更大规模的 Gemini 蒸馏，9B 和 2B 又从 27B 蒸馏。这一蒸馏链使每个规模的 Gemma 2 模型都能获得远超其参数量应有的性能水平，是 Gemma 2 9B 在 HuggingFace Open LLM Leaderboard 上超越 Llama 3 70B 的技术原因，体现了 Google DeepMind 在模型压缩和知识传递领域的领先研究成果。

Apache 2.0 的最宽松商业授权：相较于 Llama 的 Meta Llama License（超 700M MAU 需特殊授权），Gemma 的 Apache 2.0 许可证对任何商业用途均无限制，开发者和企业可将 Gemma 集成至任何规模的商业产品中，无需担忧随业务增长触发许可证限制，降低了企业使用开源 LLM 的法律合规风险。

Google 基础设施的紧密集成：Gemma 是 Google Cloud、Vertex AI、Colab 和 Kaggle 的原生支持模型，在这些平台上具有最优的访问体验和工具支持。对于已采用 Google Cloud 作为云基础设施的企业，使用 Gemma 能够获得与 Google 生态系统的最深度集成，包括 Vertex AI 的托管微调、Model Registry 和安全监控功能。

小规模高性能的端侧部署价值：Gemma 2 2B 是目前性能最优的 2B 参数规模开源模型之一，可在中等配置 Android 手机（搭配 Google AI Edge 框架）上本地运行，为端侧 AI 应用（离线语音助手、隐私保护设备端处理等）提供有实用价值的本地 LLM 能力，是 Gemma 相比 Llama（最小 8B）的重要差异化优势。

如何使用

入口	说明
HuggingFace	访问 https://huggingface.co/google/gemma-2-9b 申请访问并下载模型
Kaggle	在 Kaggle 笔记本中免费使用 Gemma，含 GPU 加速
Google Colab	使用 Google 官方 Colab 笔记本，无需本地 GPU 即可运行
Ollama（本地）	ollama run gemma2:9b 一键本地部署
Vertex AI	通过 Google Cloud Vertex AI 访问 Gemma API 服务

典型使用步骤（HuggingFace 接入 Gemma 2）：

1. 访问 https://huggingface.co/google/gemma-2-9b，登录 HuggingFace 账号并接受使用协议（Apache 2.0，无额外限制）。
2. 安装依赖：pip install transformers accelerate。
3. 使用 HuggingFace Transformers 加载模型：from transformers import AutoTokenizer, AutoModelForCausalLM。
4. 加载 Tokenizer 和模型（需要至少 20GB 显存运行 9B 模型，2B 约 6GB），或使用量化版本降低显存需求。
5. 编写推理代码，使用 model.generate() 生成文本，Gemma 指令版遵循 <start_of_turn>user ... <end_of_turn> 对话格式。
6. 如需微调，推荐使用 HuggingFace TRL + LoRA 进行参数高效微调。

产品定价

Gemma 模型权重完全免费，各平台使用成本不同：

• 模型权重下载：完全免费，Apache 2.0 许可证，无商业限制，可直接从 HuggingFace 或 Kaggle 下载，无需特殊申请。
• 本地部署：仅需硬件成本，Gemma 2 2B 在 RTX 3060（12GB）上可流畅运行，9B 需要 RTX 3090（24GB）或多卡部署。
• Kaggle Notebooks：Kaggle 免费账户提供有限 GPU 额度（约 30 小时/周 T4 GPU），可运行 Gemma 实验，完全零成本入门。
• Google Colab：免费版提供有限 GPU 使用，Colab Pro（约 $10/月）提供更多 GPU 资源，适合中等规模实验。
• Google Cloud Vertex AI：商业 API 服务按 Token 计费，具体价格参考 Google Cloud 官方价格页面，为企业级应用提供托管推理服务。

应用场景

1. 移动端和边缘设备 AI 功能：Gemma 2 2B 的小型化设计专为端侧部署优化，通过 Google AI Edge 框架可在中高端 Android 设备上本地运行，支持离线智能助手、实时文本处理和隐私保护的设备端 NLP 功能，是需要离线 AI 能力的移动应用的首选开源方案。

2. 资源受限环境的 AI 部署：嵌入式系统、边缘服务器和低算力云实例中的 AI 应用，使用 Gemma 2B/9B 量化模型在有限 GPU 显存（8-16GB）内提供有实用价值的文本生成和问答能力，是在硬件条件受限时最大化 AI 能力的理想选择。

3. 学生和研究人员 AI 学习实验：通过 Kaggle 笔记本（免费 GPU）访问 Gemma，数据科学学生可以零成本体验完整的 LLM 微调、评估和部署流程，Apache 2.0 许可保证学术研究成果可自由发表和商业化，是 AI 教育最无障碍的开源 LLM 之一。

4. 面向 Google Cloud 企业的 AI 集成：已采用 Google Cloud 的企业在 Vertex AI 上使用 Gemma，享受与 Google 基础设施的最深度集成、托管微调服务、Model Registry 版本管理和企业级安全合规功能，将开源模型的成本优势与 Google Cloud 的工程可靠性结合。

5. 代码辅助工具开发：使用 CodeGemma 7B 构建私有化代码补全和代码审查工具，在本地或内网部署，避免代码通过 GitHub Copilot 等云服务传输，Apache 2.0 许可确保代码工具可自由商业化，适合有知识产权保护需求的软件企业。

适用人群

• 数据科学家和 Kaggle 竞赛参与者：Kaggle 平台的深度集成和免费 GPU 访问，使 Gemma 成为这一群体的自然之选，与现有工作流无缝衔接。
• 移动和端侧 AI 开发者：需要在设备端运行 LLM 的 Android 开发者，Gemma 2B 和 Google AI Edge 的组合是目前最成熟的端侧 LLM 开发方案。
• 需要 Apache 2.0 许可的企业：对 Llama 的 Meta Llama License 有法律顾虑，需要更宽松开源许可的企业，Apache 2.0 的 Gemma 提供无忧的商业使用保障。
• Google Cloud 用户：已部署 Google Cloud 基础设施的团队，使用 Vertex AI 上的 Gemma 能获得最佳的集成体验和企业级支持。
• 不适配场景：需要超长上下文处理（>8K Token）的应用（Gemma 2 上下文窗口相对较小，Llama 3.1 的 128K 更适合）；需要最顶级性能的生产级应用（Gemma 27B 强于同规模竞品但对比 Llama 3.1 405B 或 GPT-4 仍有差距）；已有稳定 Llama 技术栈且无迁移动力的团队。

总结与展望

Gemma 系列代表了 Google 在开源 AI 领域的战略性布局——通过将 Gemini 顶级研究成果以开放许可证形式向开发者社区释放，既推动了 AI 普及，也为 Google 生态系统（Cloud、Colab、Kaggle）吸引了大量开发者。知识蒸馏链带来的超高参数效率是 Gemma 最重要的技术差异化点，使小规模模型具备了超越参数规模预期的性能表现。

Apache 2.0 许可证的选择体现了 Google 对开源社区的真诚承诺，相比 Meta 的 Llama License 更具开放性，在对法律合规敏感的企业市场中形成了独特优势。

后续关注点：Gemma 3 系列的参数规模扩展和多模态能力增强（视觉、音频）、PaliGemma 视觉语言模型的功能演进、Google AI Edge 在端侧部署生态的完善程度、以及与 Gemini Nano（设备端 Gemini）的差异化定位，将决定 Gemma 在开源 LLM 竞争格局中的长期位置。

版本信息

• Gemma 2（2B/9B/27B） ：Gemma 2 正式发布，推出 2B、9B 和 27B 三种参数规模，采用知识蒸馏技术将大模型能力压缩至小模型，在 LMSys Chatbot Arena 等主流基准测试中，Gemma 2 27B 接近 GPT-4 Turbo 水平，9B 版本超越同规模所有开源模型；全部版本遵循 Apache 2.0 许可证，可免费商业使用；同时在 HuggingFace、Kaggle 和 Google Cloud 三大渠道同步发布，极大降低了访问门槛。 （2024-06-27）
• Gemma 1.1（2B/7B 更新版） ：发布 Gemma 1.1 更新版本，针对 Gemma 1.0 中用户反馈的指令跟随质量问题进行专项改进，指令版（Instruct）对话能力大幅提升；同期正式推出 CodeGemma（2B/7B 代码专用版）和 RecurrentGemma（高效推理变体），扩展 Gemma 模型家族至代码生成等专业场景。 （2024-04-05）
• ：Google 首次发布 Gemma 开源模型系列，推出 2B 和 7B 两种规模的预训练版（Base）和指令微调版（Instruct），基于 Gemini 模型研究成果蒸馏，在同参数规模开源模型基准测试中取得领先成绩，提供 HuggingFace、Kaggle 和 Google Colab 三种访问渠道，配套发布负责任 AI 使用工具包。 （2024-02-21）