AI训练模型

LLaMA-Factory LLaMA-Factory

面向多模型微调与评估的一体化开源框架，覆盖 100+ LLM/VLM 的高效训练流程。

Llama Meta AI

Meta 开源大语言模型系列，8B/70B/405B 参数，128K 上下文，开放商用权重

Literal AI Literal AI

面向生产级 LLM 应用的可观测、评估、Prompt 管理与数据集实验平台

LiteLLM LiteLLM

面向 100+ LLM 的开源 AI Gateway，统一 OpenAI 格式、路由、预算与观测

LangWatch LangWatch

面向 AI Agent 的 LLM 评测、监控与反馈平台

Jan Jan

开源、可离线运行的本地大模型桌面客户端，兼容云端模型并自带 OpenAI 风格 API

HoneyHive HoneyHive

面向生产级 AI Agent 的观测、评测、监控与持续改进平台

HoneyHive HoneyHive

面向生产级 AI Agent 的观测、评测、监控与持续改进平台

HELM HELM

斯坦福大学推出的大模型整体评测体系，强调多场景、多指标的透明评测

Groq Groq

自研 LPU 硬件驱动的超高速 AI 推理平台，开发者 API 最快达 1000 tokens/秒

Gradio Gradio

用几行 Python 即可为机器学习模型搭建可交互 Web 界面并分享的开源库

Giskard Giskard

面向 LLM 应用、RAG 与 AI Agent 的自动化红队测试、质量评估和企业级监控平台