AI训练模型

H2O EvalGPT EvalGPT

H2O.ai 推出的、基于 Elo 评级方法的大模型评估系统

vLLM vLLM

面向大模型推理与部署的高吞吐、省显存开源引擎，自带 OpenAI 兼容服务端

Unsloth Unsloth

让大模型微调更快、更省显存的开源库，单卡也能高效训练与强化学习

Transformers HF Transformers

覆盖文本、视觉、音频与多模态的主流模型定义框架，支持训练与推理双场景。

SiliconFlow SiliconFlow

面向开发者的生成式 AI 推理云，一个 API 调用 DeepSeek、Qwen、FLUX 等主流开源模型

OpenRouter AIStartMap

OpenRouter 面向业务与内容场景提供 AI 能力，强调可落地效率与可持续迭代

Ollama Ollama

一行命令在本地运行 Llama、DeepSeek、Qwen 等主流开源大模型，173K+ GitHub Star

MiniMax MiniMax

自研全模态大模型与开放平台，覆盖文本、语音、音乐与视频生成，并提供开放 API

LocalAI LocalAI

可在自有硬件上替代 OpenAI/Anthropic 的开源本地推理引擎

LlamaIndex LlamaIndex

面向大模型应用的数据框架，把私有数据接入 LLM 做检索增强与智能体编排

LLaMA-Factory LLaMA-Factory

面向多模型微调与评估的一体化开源框架，覆盖 100+ LLM/VLM 的高效训练流程。

Llama Meta AI

Meta 开源大语言模型系列，8B/70B/405B 参数，128K 上下文，开放商用权重