LlamaFactory 发布 v0.9.5:支持 Qwen3.5/3.6、Gemma 4 与 Transformers v5

LlamaFactory v0.9.5 新增对 Qwen3.5/Qwen3.6/Gemma4 模型的主要支持,并兼容 Transformers v5。

LlamaFactory 发布 v0.9.5:支持 Qwen3.5/3.6、Gemma 4 与 Transformers v5

事件概览

LlamaFactoryLlamaFactory 发布 v0.9.5 版本,标题为「Qwen3.5/3.6, Gemma 4, Transformers v5」。根据官方发布说明,本版本聚焦最新模型的适配与训练框架的兼容性。

关键变化

  • 新模型支持:新增对 Qwen3.5、Qwen3.6、Gemma4 模型的主要支持。
  • Transformers v5 兼容:适配 Transformers v5,并相应更新 peft、deepspeed 等依赖。
  • 更多模型与特性(节选自变更记录):支持 LiquidAI LFM2.5 / LFM2.5-VL、Phi-4-mini、Youtu-VL、MiniCPM-o-4.5、GLM-4.7-Flash、GLM-OCR 等;v1 训练栈持续完善(FSDP2、DeepSpeed、量化、批量生成等)。
  • 延续 v0.9.4 的重要变更:仓库更名为 LlamaFactory;要求 Python 3.11+;迁移到 uv(uv pip install llamafactory)。

业务影响

  • 对需要在最新开源模型(如 Qwen3.5/Gemma4)上做微调的团队,v0.9.5 提供了开箱即用的支持。
  • Transformers v5 的兼容性确保了与上游生态的同步。

落地建议

  1. 升级前确认 Python ≥ 3.11,并按官方说明使用 uv 安装。
  2. 校验现有训练脚本在 Transformers v5 下的兼容性后再切换。

风险与待确认项

  • 跨大版本(Transformers v5)升级可能影响既有依赖,建议先在隔离环境验证。
  • 逐项变更与受支持模型清单以官方发布说明为准。
版权声明:本文内容来自 LlamaFactory GitHub Releases 。本平台对该内容进行了编译和整理,仅用于信息传播和学习交流之用。如有侵权,请联系我们进行处理。

用户评价

  • 加载评价中...