FunGPT

核心参数与统计

以上信息基于 GitHub 仓库与项目 README 整理。

用户与市场认可

FunGPT 是一个在 GitHub 上开源的个人项目，截至 2026 年 7 月获得 57 Stars 与 10 Forks。项目由独立开发者 Alannikos 维护，最初作为上海人工智能实验室 InternLM 系列模型的学习与实践项目。

• 开源社区认可：项目被收录于 AI工具集导航等中文 AI 资源站，获得社区正面反馈。
• 学术研究定位：项目明确声明仅用于学术研究目的，不涉及商业运营。
• 模型生态贡献：在 HuggingFace 上发布了 BanterBot / BoostBot 系列共 8 个微调模型，涵盖 7B 和 1.8B 两种规格及 INT4 量化版本。

成本优势

作为纯开源项目，FunGPT 无任何付费订阅或企业授权费用。主要成本在于本地部署所需的 GPU 资源与时间投入。项目提供 1.8B 轻量化模型和 AWQ INT4 量化版本，可在较低配置下运行。

主要功能

• 甜言蜜语模式（BoostBot）：以温暖、夸赞的语气回应用户，帮助提升情绪和自信心。基于指令微调后的 InternLM2.5 模型，生成个性化的赞美内容。
• 犀利怼语模式（BanterBot）：以幽默、犀利的语气回应用户，提供情绪释放出口。支持脑洞大开的怼人方式，兼具娱乐性。
• 语音全链路支持：集成 ASR（SenseVoice）语音识别与 TTS（ChatTTS）语音合成，支持语音输入→LLM 处理→语音输出的完整交互闭有。
• 模型量化部署：基于 LMDeploy 工具实现 AWQ INT4 量化，可将 7B 模型显存占用降低约 60%，在消费级 GPU 上也能运行。
• 全流程教学资源：开源完整的数据生成、微调（LoRA/QLoRA）、量化、部署代码与文档，配套 Bilibili 视频教程。

模型与版本演进

模型家族涵盖 BanterBot（怼语）和 BoostBot（甜言）两条产品线，每个系列提供 7B 和 1.8B 两种规格的标准版与 INT4 量化版共 8 个模型，所有模型均开放 HuggingFace 和 OpenXLab 下载。

技术优势

• 基础模型选型：采用 InternLM2.5 系列作为基座模型，具备 8K 上下文窗口和优秀的汉语理解能力，在中文情感交互场景中表现自然。
• 微调技术栈：使用 Xtuner 工具进行指令微调和全量微调（LoRA/QLoRA），支持在消费级显卡上完成模型定制。1.8B 轻量模型进一步降低硬件门槛。
• 量化部署优化：基于 LMDeploy 实现 AWQ（Adaptive Weight Quantization）INT4 量化，在保持模型性能的同时显著降低显存占用和推理延迟。
• 全链路架构：LLM（核心对话）+ ASR（语音识别）+ TTS（语音合成）三段式架构，各模块可独立替换和升级。模型加载/卸载机制优化 GPU 显存利用率。
• Streamlit Web 界面：基于 Streamlit 构建交互页面，支持甜言蜜语和犀利怼语双模式切换，附带录音组件实现语音输入。

如何使用

FunGPT 是开源项目，需自行部署。以下为快速启动流程：

有境要求

• 操作系统：Ubuntu 20.04+（推荐）
• GPU：NVIDIA A100 80GB / 同等算力（量化版本可降低需求）
• Python 3.10

部署步骤

# 1. 克隆仓库
git clone https://github.com/Alannikos/FunGPT
cd FunGPT

# 2. 创建 Conda 有境
conda create -n FunGPT python==3.10.0
conda activate FunGPT
pip install -r requirements.txt

# 3. 下载模型（LLM 必需，ASR/TTS 可选）
# LLM 模型示例（1.8B 版）：
git lfs install
git clone https://huggingface.co/Alannikos768/BanterBot_1_8b-chat LLM/weights/
git clone https://huggingface.co/Alannikos768/BoostBot_1_8b-chat LLM/weights/

# 4. 启动 Web 服务
streamlit run app.py --server.address=127.0.0.1 --server.port=7860

在线体验

项目提供 HuggingFace Spaces 在线 Demo： https://huggingface.co/spaces/Alannikos768/BoostBot-1_8B-chat-Demo

产品定价

FunGPT 是完全开源的项目（MIT 协议），无需任何订阅或授权费用。

• 软件成本：$0（开源免费）
• 硬件成本：自备 GPU 服务器，1.8B 量化版可在消费级显卡运行，7B 版建议 A100 级别
• 可选 API 成本：数据生成有节可使用 ChatGLM4-Flash 免费额度，无需额外支出

注意：项目明确声明仅限学术研究用途，禁止商业使用。如涉及第三方代码，需遵守其各自的开源许可。

应用场景

• AI / LLM 学习实践：完整覆盖数据生成→微调→量化→部署的全流程，是入门大模型开发的理想参考项目。配套文档和视频教程降低了上手门槛。
• 情感交互研究：为情感计算、对话式 AI 的情绪调节能力研究提供可复现的实验基线。
• 娱乐与减压：甜言蜜语模式适合日常心情调节，犀利怼语模式可作为趣味社交互动工具。
• 语音交互原型：ASR + LLM + TTS 三段式架构可作为语音对话系统的参考实现。

适用人群

• AI 开发者 / LLM 学习者：希望通过完整项目实践大模型微调、量化与部署全流程的技术人员。
• 学术研究者：从事情感计算、人机交互、对话系统方向的研究人员，可将 FunGPT 作为基线系统。
• 开源爱好者：对 AI 情感交互感兴趣，愿意探索和贡献开源项目的个人。

不适配人群：

• 需要开箱即用 SaaS 产品的用户（FunGPT 需自部署，非零门槛）
• 追求严肃商业应用的团队（项目仅限学术用途，无商业支持）
• 对生成内容质量要求极高的场景（模型存在随机性和量化精度限制）

总结与展望

FunGPT 是一个功能完整、文档详尽的开源 AI 情感调节项目，以 InternLM2.5 为基座，通过 LoRA/QLoRA 微调实现了甜言蜜语和犀利怼语两种趣味交互模式。项目最大价值在于为 LLM 学习者提供了一条从数据准备到模型量化部署的完整实践路径。

未来规划包括支持 GPT-SoVITS 语音合成、大模型 API 接入、完善数据生成指南、增强敏感词过滤模块等方向。

采购/采用风险评估：FunGPT 定位为学术研究和个人学习项目，MIT 协议允许自由使用，但项目无商业支持团队、无 SLA 保障、无稳定的版本发布节奏。生产有境部署需自行承担 GPU 成本和维护工作。建议将本项目作为学习和原型验证工具，而非关键业务依赖。

相关工具：、

架构设计与技术选型

FunGPT 作为开源项目，其架构设计、社区健康和运维成熟度是技术选型时需要综合考量的核心维度。以下是评估开源项目生产就绪度的系统框架。

架构与模块化设计 项目的架构设计直接决定了二次开发和集成的灵活度。采用微服务、插件化或事件驱动架构的项目通常具有更好的可扩展性和功能隔离性，便于团队按需扩展和定制特定模块；单体架构部署简单、运维直观，适合小规模使用和快速验证，但在功能增多后可能面临维护复杂度上升和技术债积累的问题。建议在选型前阅读项目的架构文档和开发者指南，评估架构设计对团队现有技术栈的适配性、以及未来业务增长时架构的可扩展空间。

社区健康度与长期维护 开源项目的社区健康度是衡量项目能否长期维护和持续发展的关键指标。建议综合评估以下维度：GitHub Stars 的增长趋势和绝对值（反映社区关注度和用户基础）、贡献者数量与构成（核心维护者与临时贡献者的比例，理想状态是至少有 3 名活跃核心维护者）、Issue 响应中位数时间（理想值在 24 小时内，反映维护团队的响应效率）、PR 合并率与合并延迟（反映项目治理的规范性和效率）、以及最近一次主要 Release 的时间（超过 6 个月无更新应视为项目维护停滞的信号）。活跃的社区意味着更快的 bug 修复、更频繁的功能更新、更丰富的第三方集成生态，以及遇到问题时更容易从社区获取帮助。

部署运维与生产就绪度 生产环境部署需重点评估以下方面：Docker 镜像的完善程度和版本标签策略（是否提供多架构镜像）、一键部署脚本（docker-compose、Helm Chart、Terraform 等）的可用性和文档质量、运行时依赖组件的数量和管理复杂度（依赖越多，运维复杂度指数级上升）、监控与日志基础设施的集成支持（Prometheus 指标暴露、Grafana 面板、结构化日志输出）、以及备份恢复和高可用方案的文档完备度。强烈建议在测试环境中完整走一遍部署流程，从零开始严格按照文档操作，验证每一步的准确性和环境的兼容性，在所有功能验证通过后再投入生产使用。