FunGPT는 InternLM2.5 시리즈 대형 모델을 기반으로 한 오픈 소스 AI 감정 조절 프로젝트입니다. Sweet Talk 모드와 Sharp Talk 모드를 제공하며 LLM + ASR + TTS 풀링크 상호작용을 지원합니다.

FunGPT

핵심 매개변수 및 통계

프로젝트	세부정보
제품명	FunGPT
제품 유형	AI 감정조절 / 오픈소스 프로젝트
배송 양식	오픈 소스 코드 + 자체 배포 웹
지원되는 언어	중국어, 영어
기본 모델	인턴LM2.5(1.8B/7B)
대상 사용자	개발자, AI 학습자, 정서적 상호작용 연구자

위 정보는 GitHub Warehouse 및 프로젝트 README를 기반으로 합니다.

사용자 및 시장 인지도

FunGPT는 GitHub의 개인 프로젝트 오픈 소스이며 2026년 7월 현재 57개의 별과 10개의 포크를 받았습니다. 이 프로젝트는 독립 개발자 Alannikos에 의해 유지 관리되며 원래 상하이 인공 지능 연구소의 InternLM 시리즈 모델에 대한 학습 및 실습 프로젝트로 사용되었습니다.

• 오픈소스 커뮤니티 인정: 해당 프로젝트는 AI Toolset Navigation 등 중국 AI 리소스 사이트에 포함되어 커뮤니티로부터 긍정적인 피드백을 받았습니다.
• 학술 연구 포지셔닝: 이 프로젝트는 학술 연구 목적으로만 사용되며 상업적인 운영을 포함하지 않음을 분명히 명시합니다.
• 모델 생태학적 기여: BanterBot/BoostBot 시리즈의 미세 조정된 총 8개 모델이 HuggingFace에 출시되었으며, 7B 및 1.8B 사양과 INT4 양자화 버전을 포괄합니다.

비용 이점

비용 차원	설명
오픈 소스 및 무료	MIT 라이센스 기반의 오픈 소스, 무료 사용, 수정 및 배포
자체 전개 비용	GPU 서버를 직접 준비해야 함(A100 80GB 또는 동급 컴퓨팅 성능 권장)
클라우드 모델 비용	로컬 추론 비용을 줄이기 위한 외부 API(예: ChatGLM4-Flash 무료 할당량)에 대한 선택적 액세스

순수 오픈 소스 프로젝트인 FunGPT에는 유료 구독료나 기업 라이센스 비용이 없습니다. 주요 비용은 로컬 배포에 필요한 GPU 리소스와 시간 투자입니다. 이 프로젝트는 1.8B 경량 모델과 더 낮은 구성에서 실행될 수 있는 AWQ INT4 양자화 버전을 제공합니다.

주요 기능

• 달콤한 대화 모드(BoostBot): 따뜻하고 칭찬하는 어조로 사용자에게 응답하여 기분과 자신감을 향상시키는 데 도움을 줍니다. InternLM2.5 모델을 지침으로 미세 조정한 모델을 기반으로 맞춤형 칭찬 콘텐츠를 생성합니다.
• 샤프 토크 모드(BanterBot): 유머러스하고 날카로운 어조로 사용자에게 응답하여 감정의 배출구를 제공합니다. 사람들을 공격하는 상상력이 풍부한 방법을 지원하며 이는 재미 있고 재미있습니다.
• 풀 링크 음성 지원: ASR(SenseVoice) 음성 인식 및 TTS(ChatTTS) 음성 합성이 통합되어 음성 입력 → LLM 처리 → 음성 출력의 완전한 상호 작용을 지원합니다.
• 모델 양자화 배포: LMDeploy 도구를 기반으로 AWQ INT4 양자화를 구현하면 7B 모델의 메모리 사용량을 약 60% 줄일 수 있으며 소비자급 GPU에서도 실행할 수 있습니다.
• 전체 프로세스 교육 리소스: 오픈 소스 전체 데이터 생성, 미세 조정(LoRA/QLoRA), 정량화, 배포 코드 및 문서가 Bilibili 비디오 튜토리얼과 함께 제공됩니다.

모델 및 버전의 진화

시간	이정표
2024-09	LLM(InternLM2.5), ASR(SenseVoice), TTS(ChatTTS) 초기 단일 기능 테스트 완료
2024-10	BoostBot v1의 첫 번째 미세 조정 버전 출시 및 Streamlit 웹 인터페이스 완성
2024-11-10	7B 시리즈 모델 출시 (BanterBot-7b-chat / BoostBot-7b-chat)
2024-11-13	1.8B 시리즈 경량화 모델 출시
2024-11-14	LMDeploy를 기반으로 4개 모델의 AWQ INT4 정량화 완료
2024-11-19	민감한 워드 프로세싱 모듈을 통합하여 콘텐츠 보안 강화
2025-05-29	경로 관련 버그 수정 및 배포 경험 최적화
2025-05-30	오픈 소스 보완 미세 조정 데이터 세트 ComplimentCorpus

모델 제품군에는 BanterBot(Talk) 및 BoostBot(Sweet Talk)의 두 가지 제품 라인이 포함됩니다. 각 시리즈는 표준 버전과 7B 및 1.8B 사양의 INT4 양자화 버전으로 총 8개 모델을 제공합니다. 모든 모델은 HuggingFace 및 OpenXLab에서 다운로드할 수 있습니다.

기술적인 장점

• 기본 모델 선정 : InternLM2.5 시리즈를 기본 모델로 사용하여 8K 컨텍스트 윈도우와 뛰어난 중국어 이해 능력을 갖추고 있으며, 중국어 감성 상호작용 장면에서 자연스럽게 동작합니다.
• 미세 조정 기술 스택: 명령 미세 조정 및 전체 규모 미세 조정(LoRA/QLoRA)을 위해 Xtuner 도구를 사용하여 소비자급 그래픽 카드에서 모델 사용자 정의를 지원합니다. 1.8B 경량 모델은 하드웨어 임계값을 더욱 낮춥니다.
• 정량화 배포 최적화: LMDeploy를 기반으로 AWQ(Adaptive Weight Quantization) INT4 양자화를 구현하여 모델 성능을 유지하면서 비디오 메모리 사용량과 추론 대기 시간을 크게 줄입니다.
• 풀링크 아키텍처: LLM(핵심 대화) + ASR(음성 인식) + TTS(음성 합성) 3단계 아키텍처로 각 모듈을 독립적으로 교체 및 업그레이드할 수 있습니다. 모델 로드/언로드 메커니즘은 GPU 메모리 활용을 최적화합니다.
• Streamlit 웹 인터페이스: Streamlit을 기반으로 구축된 대화형 페이지는 달콤한 단어와 날카로운 단어 사이의 듀얼 모드 전환을 지원하며 음성 입력을 위한 녹음 구성 요소가 함께 제공됩니다.

사용방법

FunGPT는 오픈 소스 프로젝트이므로 직접 배포해야 합니다. 빠른 시작 프로세스는 다음과 같습니다.

위치 요구 사항

• 운영 체제: Ubuntu 20.04+(권장)
• GPU: NVIDIA A100 80GB / 동급 컴퓨팅 성능(양자화된 버전은 요구 사항을 줄일 수 있음) -파이썬 3.10

배포 단계

``배쉬

1. 저장소 복제

자식 클론 https://github.com/Alannikos/FunGPT CD FunGPT

2. Conda 컨텍스트 생성

conda create -n FunGPT python==3.10.0 Conda는 FunGPT를 활성화합니다 pip 설치 -r 요구사항.txt

3. 모델 다운로드(LLM의 경우 필수, ASR/TTS의 경우 선택 사항)

LLM 모델 예(버전 1.8B):

자식 lfs 설치 자식 클론 https://huggingface.co/Alannikos768/BanterBot_1_8b-chat LLM/weights/ 자식 클론 https://huggingface.co/Alannikos768/BoostBot_1_8b-chat LLM/weights/

4. 웹 서비스 시작

스트림라이트 실행 app.py --server.address=127.0.0.1 --server.port=7860

### 온라인 경험
이 프로젝트는 HuggingFace Spaces 온라인 데모를 제공합니다.
[https://huggingface.co/spaces/Alannikos768/BoostBot-1_8B-chat-Demo](https://huggingface.co/spaces/Alannikos768/BoostBot-1_8B-chat-Demo)

## 제품 가격

FunGPT는 구독료나 라이센스 비용이 전혀 없는 완전한 오픈 소스 프로젝트(MIT 라이센스)입니다.

- **소프트웨어 비용**: $0(오픈소스의 경우 무료)
- **하드웨어 비용**: 자체 GPU 서버를 가져오세요. 1.8B 정량 버전은 소비자급 그래픽 카드에서 실행될 수 있으며 7B 버전은 A100 수준을 권장합니다.
- **선택적 API 비용**: ChatGLM4-Flash 무료 할당량은 추가 비용 없이 데이터 생성에 사용할 수 있습니다.

**참고**: 이 프로젝트는 학술 연구 목적으로만 사용되며 상업적인 사용이 금지되어 있음을 분명히 명시하고 있습니다. 타사 코드가 포함된 경우 해당 오픈 소스 라이선스를 따라야 합니다.

## 애플리케이션 시나리오

- **AI/LLM 학습 실습**: 데이터 생성 → 미세 조정 → 정량화 → 배포의 전 과정을 완벽하게 다루고 있습니다. 보급형 대형 모델 개발을 위한 이상적인 참조 프로젝트입니다. 지원 문서 및 비디오 튜토리얼은 시작하기 위한 임계값을 낮춰줍니다.
- **감정 상호 작용 연구**: 감성 컴퓨팅 및 대화형 AI의 감정 조절 기능에 대한 연구를 위한 재현 가능한 실험 기준을 제공합니다.
- **오락 및 스트레스 감소**: 달콤한 대화 모드는 일상의 기분 조절에 적합하고, 날카로운 대화 모드는 재미있는 사회적 상호 작용 도구로 사용할 수 있습니다.
- **음성 상호작용 프로토타입**: ASR + LLM + TTS 3단계 아키텍처를 음성 대화 시스템의 참조 구현으로 사용할 수 있습니다.

## 해당자

- **AI 개발자/LLM 학습자** : 완성된 프로젝트를 통해 대형 모델의 미세 조정, 정량화, 배포까지의 전 과정을 실습하고자 하는 기술 인력입니다.
- **학술 연구원**: 감성 컴퓨팅, 인간-컴퓨터 상호 작용 및 대화 시스템에 종사하는 연구원은 FunGPT를 기본 시스템으로 사용할 수 있습니다.
- **오픈소스 애호가**: AI 감성 상호작용에 관심이 있고 오픈소스 프로젝트를 탐색하고 기여할 의향이 있는 개인입니다.

**대중에게 적합하지 않음**:
- 즉시 사용 가능한 SaaS 제품이 필요한 사용자(FunGPT에는 자체 배포, 0이 아닌 임계값이 필요함)
- 심각한 상업적 응용을 추구하는 팀(프로젝트는 학문적 용도로만 사용되며 상업적 지원은 없음)
- 생성된 콘텐츠의 매우 높은 품질이 필요한 시나리오(모델은 무작위성 및 수량화 정확도에 제한이 있음)

## 요약 및 전망

FunGPT는 완전한 기능과 상세한 문서를 갖춘 오픈 소스 AI 감정 조절 프로젝트입니다. InternLM2.5를 기반으로 LoRA/QLoRA 미세 조정을 통해 달콤한 말과 날카로운 발언의 두 가지 흥미로운 상호 작용 모드를 구현합니다. 이 프로젝트의 가장 큰 가치는 LLM 학습자에게 데이터 준비부터 모델 정량적 배포까지 완전한 실제 경로를 제공한다는 것입니다.

향후 계획에는 GPT-SoVITS 음성 합성 지원, 대규모 모델 API 액세스, 데이터 생성 지침 개선, 민감한 단어 필터링 모듈 강화가 포함됩니다.

**조달/채택 위험 평가**: FunGPT는 학술 연구 및 개인 학습 프로젝트로 자리잡고 있습니다. MIT 라이선스는 무료 사용을 허용하지만 이 프로젝트에는 상용 지원팀이 없고 SLA 보장도 없으며 안정적인 버전 출시 리듬도 없습니다. 프로덕션 제한 배포는 GPU 비용과 유지 관리를 담당합니다. 이 프로젝트를 중요한 비즈니스 종속성보다는 학습 및 프로토타이핑 도구로 사용하는 것이 좋습니다.

관련 도구: <a href="https://www.aistarmap.com/ko-KR/aitool/crewai" target="_self" class="tool-link"><img src="https://res.aistarmap.com/uploads/images/tools/zh-CN/crewai/logo_1785767147.svg" alt="크루AI" class="tool-logo" style="width: 20px; height: 20px; margin-right: 5px; vertical-align: middle;">크루AI</a>, langchain
## 아키텍처 설계 및 기술 선정

오픈소스 프로젝트인 FunGPT의 아키텍처 설계, 커뮤니티 건전성, 운영 및 유지 관리 성숙도는 기술을 선택할 때 종합적으로 고려해야 하는 핵심 차원입니다. 다음은 오픈소스 프로젝트의 생산 준비 상태를 평가하기 위한 체계적인 프레임워크입니다.

**아키텍처 및 모듈형 설계**
프로젝트의 아키텍처 설계는 보조 개발 및 통합의 유연성을 직접적으로 결정합니다. 마이크로서비스, 플러그인 또는 이벤트 기반 아키텍처를 채택하는 프로젝트는 일반적으로 더 나은 확장성과 기능 격리를 제공하므로 팀이 필요에 따라 특정 모듈을 더 쉽게 확장하고 사용자 지정할 수 있습니다. 모놀리식 아키텍처는 배포가 간단하고 작동 및 유지 관리가 직관적이며 소규모 사용 및 신속한 검증에 적합합니다. 그러나 기능이 증가함에 따라 유지 관리 복잡성이 증가하고 기술 부채가 누적되는 등의 문제에 직면할 수 있습니다. 선택하기 전에 프로젝트의 아키텍처 문서와 개발자 가이드를 읽어보고 팀의 기존 기술 스택에 대한 아키텍처 설계의 적응성과 향후 비즈니스 성장에 따른 아키텍처의 확장성을 평가하는 것이 좋습니다.

**지역사회 건강 및 장기 유지관리**
오픈소스 프로젝트의 커뮤니티 상태는 프로젝트가 장기적으로 유지되고 개발될 수 있는지 여부를 나타내는 핵심 지표입니다. 다음 차원을 종합적으로 평가하는 것이 좋습니다: GitHub Stars의 성장 추세 및 절대 가치(커뮤니티 관심 및 사용자 기반 반영), 기여자 수 및 구성(임시 기여자에 대한 핵심 유지 관리자 비율, 이상적으로는 활성 핵심 유지 관리자가 3명 이상임), 중앙 문제 응답 시간(이상적으로는 유지 관리 팀의 응답 효율성을 반영하여 24시간 이내), PR 병합 속도 및 병합 지연(프로젝트 거버넌스의 표준화 및 효율성 반영), 최신 주요 릴리스 시간(업데이트가 없는 6개월 이상은 프로젝트 유지 관리가 중단되었다는 신호로 간주되어야 함) 활발한 커뮤니티는 더 빠른 버그 수정, 더 빈번한 기능 업데이트, 더 풍부한 타사 통합 생태계를 의미하며 문제가 발생할 때 커뮤니티에서 더 쉽게 도움을 받을 수 있습니다.

**배포, 운영, 유지 관리 및 생산 준비**
프로덕션 환경 배포는 Docker 이미지 및 버전 레이블 지정 전략의 완전성(다중 아키텍처 미러링 제공 여부), 원클릭 배포 스크립트의 가용성 및 문서 품질(docker-compose, Helm Chart, Terraform 등), 런타임 종속 구성 요소의 수 및 관리 복잡성(종속성이 많을수록 운영 및 유지 관리의 복잡성이 기하급수적으로 증가함), 모니터링 및 로깅 인프라의 통합 지원(Prometheus 표시기 노출, Grafana 대시보드, 구조화된) 측면을 평가하는 데 중점을 두어야 합니다. 로그 출력) 및 백업, 복구 및 고가용성 솔루션에 대한 전체 문서를 제공합니다. 테스트 환경에서 전체 배포 과정을 진행하고, 처음부터 문서를 엄격히 따르고, 각 단계의 정확성과 환경의 호환성을 검증하고, 모든 기능이 검증된 후 프로덕션에 투입하는 것이 좋습니다.

버전 정보

• 정식 출시 버전 ：InternLM2.5 시리즈 모델을 기반으로 달콤한 말과 날카로운 말의 두 가지 감정 조절 모드를 제공하며 LLM + ASR + TTS의 풀 링크를 지원합니다. （~2024-11）
• 초기 버전 ：InternLM2.5_1.8b 모델을 기반으로 LLM, ASR 및 TTS 단일 기능의 초기 테스트 및 평가를 완료합니다. （~2024-10）