AI训练模型

H2O EvalGPT EvalGPT

H2O.ai 推出的、基于 Elo 评级方法的大模型评估系统

Groq Groq

自研 LPU 硬件驱动的超高速 AI 推理平台，开发者 API 最快达 1000 tokens/秒

Weights & Biases W&B

面向 AI 应用、模型训练、评测与资产治理的一体化开发平台。

Gradio Gradio

用几行 Python 即可为机器学习模型搭建可交互 Web 界面并分享的开源库

vLLM vLLM

面向大模型推理与部署的高吞吐、省显存开源引擎，自带 OpenAI 兼容服务端

Giskard Giskard

面向 LLM 应用、RAG 与 AI Agent 的自动化红队测试、质量评估和企业级监控平台

Unsloth Unsloth

让大模型微调更快、更省显存的开源库，单卡也能高效训练与强化学习

Gemma Google

Google 开源轻量级 LLM，Gemma 2 提供 2B/9B/27B，Apache 2.0 开放商用

Transformers HF Transformers

覆盖文本、视觉、音频与多模态的主流模型定义框架，支持训练与推理双场景。

FlagEval FlagEval

智源研究院推出的大模型评测平台，提供多维度的模型能力评测与榜单

Together AI Together AI

运行、微调和部署 200+ 开源 AI 模型的云平台，支持无服务器推理与专用端点

Fireworks AI Fireworks

面向生成式 AI 应用的模型推理、托管、微调和 GPU 部署平台