फ़नजीपीटी एक ओपन सोर्स एआई इमोशन रेगुलेशन प्रोजेक्ट है जो बड़े मॉडलों की इंटर्नएलएम2.5 श्रृंखला पर आधारित है। यह स्वीट टॉक मोड और शार्प टॉक मोड प्रदान करता है, और एलएलएम + एएसआर + टीटीएस फुल-लिंक इंटरैक्शन का समर्थन करता है।

फनजीपीटी

मुख्य पैरामीटर और आँकड़े

प्रोजेक्ट	विवरण
उत्पाद का नाम	फ़नजीपीटी
उत्पाद प्रकार	एआई इमोशन रेगुलेशन/ओपन सोर्स प्रोजेक्ट
डिलिवरी फॉर्म	ओपन सोर्स कोड + सेल्फ-डिप्लॉयिंग वेब
समर्थित भाषाएँ	चीनी, अंग्रेजी
मूल मॉडल	इंटर्नएलएम2.5 (1.8बी/7बी)
लक्षित उपयोगकर्ता	डेवलपर्स, एआई सीखने वाले, भावनात्मक संपर्क शोधकर्ता

उपरोक्त जानकारी GitHub वेयरहाउस और प्रोजेक्ट README पर आधारित है।

उपयोगकर्ता और बाज़ार की पहचान

फनजीपीटी गिटहब पर एक निजी प्रोजेक्ट ओपन सोर्स है और जुलाई 2026 तक इसे 57 स्टार और 10 फोर्क्स प्राप्त हुए हैं। इस परियोजना का रखरखाव स्वतंत्र डेवलपर एलननिकोस द्वारा किया जाता है और मूल रूप से शंघाई आर्टिफिशियल इंटेलिजेंस प्रयोगशाला के इंटर्नएलएम श्रृंखला मॉडल के लिए एक सीखने और अभ्यास परियोजना के रूप में उपयोग किया गया था।

• ओपन सोर्स कम्युनिटी रिकॉग्निशन: इस परियोजना को चीनी एआई संसाधन साइटों जैसे एआई टूलसेट नेविगेशन में शामिल किया गया था और समुदाय से सकारात्मक प्रतिक्रिया प्राप्त हुई थी।
• अकादमिक अनुसंधान स्थिति: परियोजना स्पष्ट रूप से बताती है कि यह केवल अकादमिक अनुसंधान उद्देश्यों के लिए है और इसमें वाणिज्यिक संचालन शामिल नहीं है।
• मॉडल पारिस्थितिक योगदान: हगिंगफेस पर बैंटरबॉट / बूस्टबॉट श्रृंखला के कुल 8 फाइन-ट्यून किए गए मॉडल जारी किए गए, जिनमें 7बी और 1.8बी विनिर्देश और आईएनटी4 परिमाणित संस्करण शामिल थे।

लागत लाभ

लागत आयाम	विवरण
खुला स्रोत और मुफ़्त	एमआईटी लाइसेंस पर आधारित खुला स्रोत, उपयोग, संशोधन और वितरण के लिए निःशुल्क
स्व-परिनियोजन लागत	स्वयं GPU सर्वर तैयार करने की आवश्यकता है (अनुशंसित A100 80GB या समतुल्य कंप्यूटिंग शक्ति)
क्लाउड मॉडल लागत	स्थानीय अनुमान लागत को कम करने के लिए बाहरी एपीआई (जैसे चैटजीएलएम4-फ्लैश फ्री कोटा) तक वैकल्पिक पहुंच

पूरी तरह से ओपन सोर्स प्रोजेक्ट के रूप में, फ़नजीपीटी की कोई सशुल्क सदस्यता या एंटरप्राइज़ लाइसेंसिंग शुल्क नहीं है। मुख्य लागत GPU संसाधन और स्थानीय तैनाती के लिए आवश्यक समय निवेश है। प्रोजेक्ट एक 1.8B हल्का मॉडल और एक AWQ INT4 क्वांटाइज़्ड संस्करण प्रदान करता है जो कम कॉन्फ़िगरेशन पर चल सकता है।

मुख्य कार्य

• स्वीट टॉक मोड (बूस्टबॉट): मूड और आत्मविश्वास को बेहतर बनाने में मदद के लिए उपयोगकर्ताओं को गर्मजोशी और प्रशंसात्मक लहजे में जवाब दें। निर्देशों के साथ सुव्यवस्थित इंटर्नएलएम2.5 मॉडल के आधार पर, वैयक्तिकृत प्रशंसा सामग्री तैयार की जाती है।
• शार्प टॉक मोड (बैंटरबॉट): उपयोगकर्ताओं को विनोदी और तीखे लहजे में जवाब दें, जो भावनात्मक मुक्ति का एक रास्ता प्रदान करता है। लोगों पर हमला करने के कल्पनाशील तरीकों का समर्थन करता है, जो मनोरंजक भी है और मनोरंजक भी।
• पूर्ण-लिंक ध्वनि समर्थन: एकीकृत एएसआर (सेंसवॉइस) वाक् पहचान और टीटीएस (चैटटीटीएस) वाक् संश्लेषण, वाक् इनपुट → एलएलएम प्रसंस्करण → वाक् आउटपुट की पूर्ण सहभागिता का समर्थन करता है।
• मॉडल क्वांटाइजेशन परिनियोजन: LMDeploy टूल के आधार पर AWQ INT4 क्वांटाइजेशन को लागू करने से 7B मॉडल के मेमोरी उपयोग को लगभग 60% तक कम किया जा सकता है और यह उपभोक्ता-ग्रेड GPU पर भी चल सकता है।
• पूर्ण-प्रक्रिया शिक्षण संसाधन: ओपन सोर्स पूर्ण डेटा जेनरेशन, फाइन-ट्यूनिंग (LoRA/QLoRA), परिमाणीकरण, परिनियोजन कोड और दस्तावेज़ीकरण, बिलिबिली वीडियो ट्यूटोरियल के साथ।

मॉडल और संस्करण विकास

समय	मील के पत्थर
2024-09	एलएलएम (इंटर्नएलएम2.5), एएसआर (सेंसवॉइस), और टीटीएस (चैटटीटीएस) का प्रारंभिक एकल फ़ंक्शन परीक्षण पूरा हो गया
2024-10	BoostBot v1 का पहला परिष्कृत संस्करण जारी किया और स्ट्रीमलिट वेब इंटरफ़ेस पूरा किया
2024-11-10	7बी श्रृंखला मॉडल का विमोचन (बैंटरबॉट-7बी-चैट / बूस्टबॉट-7बी-चैट)
2024-11-13	1.8B श्रृंखला के हल्के मॉडल का विमोचन
2024-11-14	LMDeploy पर आधारित 4 मॉडलों का AWQ INT4 परिमाणीकरण पूरा किया गया
2024-11-19	सामग्री सुरक्षा बढ़ाने के लिए संवेदनशील वर्ड प्रोसेसिंग मॉड्यूल को एकीकृत करें
2025-05-29	पथ-संबंधित बग ठीक करें और परिनियोजन अनुभव को अनुकूलित करें
2025-05-30	ओपन सोर्स कॉम्प्लिमेंट फाइन-ट्यूनिंग डेटासेट कॉम्प्लिमेंटकॉर्पस

मॉडल परिवार में दो उत्पाद लाइनें शामिल हैं: बैंटरबॉट (टॉक) और बूस्टबॉट (स्वीट टॉक)। प्रत्येक श्रृंखला मानक संस्करण में कुल 8 मॉडल और 7B और 1.8B विनिर्देशों में INT4 परिमाणित संस्करण प्रदान करती है। सभी मॉडल HuggingFace और OpenXLab से डाउनलोड के लिए खुले हैं।

तकनीकी लाभ

• बेसिक मॉडल चयन: बेस मॉडल के रूप में इंटर्नएलएम2.5 श्रृंखला का उपयोग करते हुए, इसमें 8K संदर्भ विंडो और उत्कृष्ट चीनी समझ क्षमताएं हैं, और यह चीनी भावनात्मक इंटरैक्शन दृश्यों में स्वाभाविक रूप से व्यवहार करता है।
• फाइन-ट्यूनिंग टेक्नोलॉजी स्टैक: उपभोक्ता-ग्रेड ग्राफिक्स कार्ड पर मॉडल अनुकूलन का समर्थन करने के लिए निर्देश फाइन-ट्यूनिंग और पूर्ण-स्केल फाइन-ट्यूनिंग (LoRA/QLoRA) के लिए Xtuner टूल का उपयोग करें। 1.8B हल्का मॉडल हार्डवेयर सीमा को और कम करता है।
• परिमाण परिनियोजन अनुकूलन: LMDeploy पर आधारित AWQ (अनुकूली भार परिमाणीकरण) INT4 परिमाणीकरण लागू करें, जो मॉडल के प्रदर्शन को बनाए रखते हुए वीडियो मेमोरी उपयोग और अनुमान विलंबता को काफी कम कर देता है।
• पूर्ण-लिंक आर्किटेक्चर: एलएलएम (कोर डायलॉग) + एएसआर (स्पीच रिकग्निशन) + टीटीएस (स्पीच सिंथेसिस) थ्री-स्टेज आर्किटेक्चर, प्रत्येक मॉड्यूल को स्वतंत्र रूप से बदला और अपग्रेड किया जा सकता है। मॉडल लोडिंग/अनलोडिंग तंत्र जीपीयू मेमोरी उपयोग को अनुकूलित करता है।
• स्ट्रीमलाइट वेब इंटरफ़ेस: एक इंटरैक्टिव पेज स्ट्रीमलिट पर आधारित बनाया गया है, जो मीठे शब्दों और तीखे शब्दों के बीच दोहरे मोड स्विचिंग का समर्थन करता है, और वॉयस इनपुट के लिए एक रिकॉर्डिंग घटक के साथ आता है।

कैसे उपयोग करें

फ़नजीपीटी एक ओपन सोर्स प्रोजेक्ट है और इसे स्वयं ही तैनात करने की आवश्यकता है। त्वरित प्रारंभ प्रक्रिया निम्नलिखित है:

स्थित आवश्यकताएँ

• ऑपरेटिंग सिस्टम: उबंटू 20.04+ (अनुशंसित)
• GPU: NVIDIA A100 80GB / समतुल्य कंप्यूटिंग शक्ति (परिमाणित संस्करण आवश्यकताओं को कम कर सकता है) -पायथन 3.10

परिनियोजन चरण

# 1. रिपॉजिटरी को क्लोन करें
गिट क्लोन https://github.com/Alannikos/FunGPT
सीडी फनजीपीटी

# 2. कॉनडा संदर्भ बनाएं
कोंडा क्रिएट -एन फनजीपीटी पायथन==3.10.0
कोंडा फ़नजीपीटी सक्रिय करें
पिप इंस्टॉल -आर आवश्यकताएँ.txt

# 3. मॉडल डाउनलोड करें (एलएलएम के लिए आवश्यक, एएसआर/टीटीएस के लिए वैकल्पिक)
# एलएलएम मॉडल उदाहरण (संस्करण 1.8बी):
गिट एलएफएस स्थापित करें
गिट क्लोन https://huggingface.co/Alannikos768/BanterBot_1_8b-chat LLM/weights/
गिट क्लोन https://huggingface.co/Alannikos768/BoostBot_1_8b-chat LLM/weights/

#4. वेब सेवा प्रारंभ करें
स्ट्रीमलाइट रन ऐप.py --server.address=127.0.0.1 --server.port=7860

ऑनलाइन अनुभव

यह प्रोजेक्ट हगिंगफेस स्पेसेस ऑनलाइन डेमो प्रदान करता है: https://huggingface.co/spaces/Alannikos768/BoostBot-1_8B-chat-Demo

उत्पाद का मूल्य निर्धारण

फ़नजीपीटी बिना किसी सदस्यता या लाइसेंस शुल्क के पूरी तरह से ओपन सोर्स प्रोजेक्ट (एमआईटी लाइसेंस) है।

• सॉफ्टवेयर लागत: $0 (ओपन सोर्स के लिए निःशुल्क)
• हार्डवेयर लागत: अपना स्वयं का GPU सर्वर लाएँ, 1.8B मात्रात्मक संस्करण उपभोक्ता-ग्रेड ग्राफिक्स कार्ड पर चल सकता है, और 7B संस्करण A100 स्तर की अनुशंसा करता है
• वैकल्पिक एपीआई लागत: चैटजीएलएम4-फ्लैश फ्री कोटा का उपयोग बिना अतिरिक्त खर्च के डेटा जेनरेशन के लिए किया जा सकता है।

नोट: परियोजना में स्पष्ट रूप से कहा गया है कि यह केवल अकादमिक अनुसंधान उद्देश्यों के लिए है और व्यावसायिक उपयोग निषिद्ध है। यदि तृतीय-पक्ष कोड शामिल है, तो उनके संबंधित ओपन सोर्स लाइसेंस का पालन किया जाना चाहिए।

अनुप्रयोग परिदृश्य

• एआई/एलएलएम लर्निंग प्रैक्टिस: डेटा जेनरेशन → फाइन-ट्यूनिंग → क्वांटिफिकेशन → डिप्लॉयमेंट की पूरी प्रक्रिया को पूरी तरह से कवर करता है। यह प्रवेश स्तर के बड़े मॉडल विकास के लिए एक आदर्श संदर्भ परियोजना है। सहायक दस्तावेज़ीकरण और वीडियो ट्यूटोरियल आरंभ करने की सीमा को कम करते हैं।
• इमोशनल इंटरेक्शन रिसर्च: भावनात्मक कंप्यूटिंग और संवादात्मक एआई की भावना विनियमन क्षमताओं पर शोध के लिए एक प्रतिलिपि प्रस्तुत करने योग्य प्रयोगात्मक आधार रेखा प्रदान करता है।
• मनोरंजन और तनाव में कमी: स्वीट टॉक मोड दैनिक मूड समायोजन के लिए उपयुक्त है, और शार्प टॉक मोड का उपयोग एक मजेदार सामाजिक संपर्क उपकरण के रूप में किया जा सकता है।
• वॉयस इंटरेक्शन प्रोटोटाइप: एएसआर + एलएलएम + टीटीएस तीन-चरण आर्किटेक्चर का उपयोग वॉयस डायलॉग सिस्टम के संदर्भ कार्यान्वयन के रूप में किया जा सकता है।

लागू लोग

• एआई डेवलपर/एलएलएम लर्नर: तकनीकी कर्मचारी जो संपूर्ण परियोजनाओं के माध्यम से बड़े मॉडलों की फाइन-ट्यूनिंग, मात्रा निर्धारण और तैनाती की पूरी प्रक्रिया का अभ्यास करना चाहते हैं।
• अकादमिक शोधकर्ता: भावात्मक कंप्यूटिंग, मानव-कंप्यूटर संपर्क और संवाद प्रणालियों में लगे शोधकर्ता फ़नजीपीटी को आधारभूत प्रणाली के रूप में उपयोग कर सकते हैं।
• ओपन सोर्स उत्साही: ऐसे व्यक्ति जो एआई भावनात्मक बातचीत में रुचि रखते हैं और ओपन सोर्स परियोजनाओं का पता लगाने और उनमें योगदान करने के इच्छुक हैं।

भीड़ के लिए उपयुक्त नहीं:

• जिन उपयोगकर्ताओं को आउट-ऑफ-द-बॉक्स SaaS उत्पादों की आवश्यकता है (FunGPT को स्व-परिनियोजन, गैर-शून्य सीमा की आवश्यकता है)
• गंभीर व्यावसायिक अनुप्रयोगों पर काम करने वाली टीमें (परियोजनाएं केवल शैक्षणिक उपयोग के लिए हैं और कोई व्यावसायिक समर्थन नहीं है)
• ऐसे परिदृश्य जिनमें उत्पन्न सामग्री की अत्यधिक उच्च गुणवत्ता की आवश्यकता होती है (मॉडल में यादृच्छिकता और मात्रा निर्धारण सटीकता में सीमाएं हैं)

सारांश और आउटलुक

फ़नजीपीटी संपूर्ण कार्यों और विस्तृत दस्तावेज़ीकरण के साथ एक खुला स्रोत एआई भावना विनियमन परियोजना है। यह आधार के रूप में इंटर्नएलएम2.5 का उपयोग करता है और लोआरए/क्यूएलओआरए फाइन-ट्यूनिंग के माध्यम से मीठे शब्दों और तीखी टिप्पणियों के दो दिलचस्प इंटरैक्शन मोड का एहसास करता है। परियोजना का सबसे बड़ा मूल्य यह है कि यह एलएलएम शिक्षार्थियों को डेटा तैयारी से लेकर मॉडल मात्रात्मक तैनाती तक एक संपूर्ण व्यावहारिक मार्ग प्रदान करता है।

भविष्य की योजनाओं में GPT-SoVITS वाक् संश्लेषण का समर्थन, बड़े मॉडल एपीआई एक्सेस, डेटा उत्पादन दिशानिर्देशों में सुधार और संवेदनशील शब्द फ़िल्टरिंग मॉड्यूल को बढ़ाना शामिल है।

खरीद/गोद लेने का जोखिम मूल्यांकन: फनजीपीटी को एक अकादमिक अनुसंधान और व्यक्तिगत शिक्षण परियोजना के रूप में तैनात किया गया है। एमआईटी लाइसेंस मुफ्त उपयोग की अनुमति देता है, लेकिन परियोजना में कोई व्यावसायिक सहायता टीम नहीं है, कोई एसएलए गारंटी नहीं है, और कोई स्थिर संस्करण रिलीज लय नहीं है। उत्पादन सीमाबद्ध परिनियोजन GPU लागत और रखरखाव के लिए जिम्मेदार हैं। यह अनुशंसा की जाती है कि इस परियोजना का उपयोग एक महत्वपूर्ण व्यावसायिक निर्भरता के बजाय एक शिक्षण और प्रोटोटाइप उपकरण के रूप में किया जाए।

संबंधित उपकरण: <एक्सलिंक प्रकार='टूल' स्लग='क्रूवाई'>, <एक्सलिंक प्रकार='टूल' स्लग='लैंगचेन'>

वास्तुकला डिजाइन और प्रौद्योगिकी चयन

एक ओपन सोर्स प्रोजेक्ट के रूप में, फ़नजीपीटी का आर्किटेक्चर डिज़ाइन, सामुदायिक स्वास्थ्य और संचालन और रखरखाव परिपक्वता मुख्य आयाम हैं जिन पर प्रौद्योगिकी का चयन करते समय व्यापक रूप से विचार करने की आवश्यकता है। ओपन सोर्स परियोजनाओं की उत्पादन तत्परता का आकलन करने के लिए निम्नलिखित एक व्यवस्थित रूपरेखा है।

वास्तुकला और मॉड्यूलर डिजाइन परियोजना का वास्तुशिल्प डिजाइन सीधे माध्यमिक विकास और एकीकरण के लचीलेपन को निर्धारित करता है। जो परियोजनाएं माइक्रोसर्विसेज, प्लग-इन या इवेंट-संचालित आर्किटेक्चर को अपनाती हैं, उनमें आमतौर पर बेहतर स्केलेबिलिटी और कार्यात्मक अलगाव होता है, जिससे टीम के लिए मांग पर विशिष्ट मॉड्यूल का विस्तार और अनुकूलन करना आसान हो जाता है; अखंड वास्तुकला को तैनात करना आसान है, संचालन और रखरखाव के लिए सहज है, और छोटे पैमाने पर उपयोग और तेजी से सत्यापन के लिए उपयुक्त है। हालाँकि, जैसे-जैसे कार्य बढ़ते हैं, उन्हें रखरखाव की बढ़ती जटिलता और तकनीकी ऋण के संचय जैसी समस्याओं का सामना करना पड़ सकता है। चयन करने से पहले प्रोजेक्ट के आर्किटेक्चर दस्तावेज़ों और डेवलपर गाइडों को पढ़ने और टीम के मौजूदा प्रौद्योगिकी स्टैक के लिए आर्किटेक्चर डिज़ाइन की अनुकूलनशीलता का मूल्यांकन करने की सिफारिश की जाती है, साथ ही भविष्य में व्यवसाय बढ़ने पर आर्किटेक्चर की स्केलेबिलिटी का भी मूल्यांकन किया जाता है।

सामुदायिक स्वास्थ्य और दीर्घकालिक रखरखाव एक ओपन सोर्स प्रोजेक्ट का सामुदायिक स्वास्थ्य इस बात का एक प्रमुख संकेतक है कि क्या प्रोजेक्ट को लंबे समय तक बनाए रखा और विकसित किया जा सकता है। निम्नलिखित आयामों का व्यापक मूल्यांकन करने की अनुशंसा की जाती है: GitHub स्टार्स की वृद्धि की प्रवृत्ति और पूर्ण मूल्य (सामुदायिक ध्यान और उपयोगकर्ता आधार को दर्शाता है), योगदानकर्ताओं की संख्या और संरचना (अस्थायी योगदानकर्ताओं के लिए मुख्य अनुरक्षकों का अनुपात, आदर्श रूप से कम से कम 3 सक्रिय कोर अनुरक्षक हैं), औसत मुद्दा प्रतिक्रिया समय (आदर्श रूप से 24 घंटों के भीतर, रखरखाव टीम की प्रतिक्रिया दक्षता को दर्शाता है), पीआर मर्ज दर और मर्ज विलंब (परियोजना प्रशासन के मानकीकरण और दक्षता को दर्शाता है), और समय नवीनतम प्रमुख रिलीज़ (अपडेट के बिना 6 महीने से अधिक समय को एक संकेत के रूप में लिया जाना चाहिए कि परियोजना रखरखाव रुका हुआ है)। एक सक्रिय समुदाय का अर्थ है तेजी से बग फिक्स, अधिक लगातार फीचर अपडेट, एक समृद्ध तृतीय-पक्ष एकीकरण पारिस्थितिकी तंत्र, और समस्याओं का सामना करने पर समुदाय से सहायता प्राप्त करना आसान है।

तैनाती, संचालन और रखरखाव और उत्पादन की तैयारी उत्पादन पर्यावरण परिनियोजन को निम्नलिखित पहलुओं के मूल्यांकन पर ध्यान देने की आवश्यकता है: डॉकर छवि और संस्करण लेबलिंग रणनीति की पूर्णता (चाहे मल्टी-आर्किटेक्चर मिररिंग प्रदान की गई हो), एक-क्लिक परिनियोजन स्क्रिप्ट की उपलब्धता और दस्तावेज़ गुणवत्ता (डॉकर-कंपोज़, हेल्म चार्ट, टेराफॉर्म, आदि), रनटाइम पर निर्भर घटकों की संख्या और प्रबंधन जटिलता (जितनी अधिक निर्भरता, संचालन और रखरखाव की जटिलता तेजी से बढ़ती है), निगरानी और लॉगिंग बुनियादी ढांचे का एकीकरण समर्थन (प्रोमेथियस संकेतक) एक्सपोज़र, ग्राफाना डैशबोर्ड, संरचित लॉग आउटपुट), और बैकअप, रिकवरी और उच्च-उपलब्धता समाधानों का पूरा दस्तावेज़ीकरण। परीक्षण वातावरण में संपूर्ण परिनियोजन प्रक्रिया से गुजरने, शुरुआत से ही दस्तावेज़ीकरण का सख्ती से पालन करने, प्रत्येक चरण की सटीकता और पर्यावरण की अनुकूलता को सत्यापित करने और सभी कार्यों के सत्यापित होने के बाद इसे उत्पादन में डालने की दृढ़ता से अनुशंसा की जाती है।

संस्करण जानकारी

• आधिकारिक रिलीज़ संस्करण ：इंटर्नएलएम2.5 श्रृंखला मॉडल के आधार पर, यह दो भावनात्मक विनियमन मोड प्रदान करता है: मीठे शब्द और तीखे शब्द, और एलएलएम + एएसआर + टीटीएस के पूर्ण लिंक का समर्थन करता है। （~2024-11）
• प्रारंभिक संस्करण ：इंटर्नएलएम2.5_1.8बी मॉडल के आधार पर एलएलएम, एएसआर और टीटीएस एकल कार्यों का प्रारंभिक परीक्षण और मूल्यांकन पूरा करें। （~2024-10）