ओपन सोर्स आरएजी ज्ञान आधार स्थानीयकरण परिनियोजन समाधान

🛒 डेटा अनुपालन आवश्यकताओं वाले उद्यमों और टीमों के लिए, यह आरएजी ज्ञान आधार चयन, निजीकृत तैनाती और संचालन और रखरखाव के लिए एक संपूर्ण मार्ग प्रदान करता है।

समाधान सिंहावलोकन

कंपनी के भीतर बड़ी संख्या में दस्तावेज़, सिस्टम, एफएक्यू और व्यावसायिक सामग्रियां जमा हैं, लेकिन वे हर जगह बिखरे हुए हैं और कर्मचारी "उन्हें खोज, खोज या समझ नहीं सकते हैं"। आरएजी (रिट्रीवल ऑगमेंटेड जेनरेशन) बड़े मॉडलों को कंपनी के अपने ज्ञान के आधार पर सवालों के जवाब देने और पता लगाने योग्य आधार प्रदान करने की अनुमति देने के लिए "पहले पुनर्प्राप्त करें, फिर उत्पन्न करें" की विधि का उपयोग करता है। यह समाधान "ज्ञान इंट्रानेट नहीं छोड़ता है और उत्तर अच्छी तरह से प्रलेखित हैं" की मूल आवश्यकता को हल करने के लिए ओपन सोर्स आरएजी स्टैक + स्थानीयकृत तैनाती पर केंद्रित है।

लक्षित उपयोगकर्ता चित्र

• डेटा अनुपालन आवश्यकताओं वाले उद्यम (वित्त, चिकित्सा, सरकार, विनिर्माण, आदि): दस्तावेज़ों को डोमेन से बाहर जाने की अनुमति नहीं है।
• ज्ञान प्रबंधन/प्रशिक्षण टीम: सिस्टम, एसओपी और उत्पाद दस्तावेजों को एक ज्ञान आधार में बदलना आवश्यक है जिसका उपयोग कर्मचारी स्वयं-सेवा प्रश्नोत्तर के लिए कर सकते हैं।
• आर एंड डी टीम: आशा है कि कम लागत पर आरएजी को जल्दी से सत्यापित किया जाएगा और धीरे-धीरे उत्पादन में विकसित किया जाएगा।

अपेक्षित परिणाम और आरओआई

• परिनियोजन चक्र: स्टैंड-अलोन संस्करण के लिए 1-3 दिन, उत्पादन स्तर के लिए 1-3 सप्ताह।
• पुनर्प्राप्ति दक्षता: आमतौर पर उपयोग किए जाने वाले दस्तावेज़ों के लिए "खोजने और उपयोग करने" का समय मिनटों से घटाकर सेकंड कर दिया गया है।
• लागत: पूरी तरह से प्रबंधित SaaS की तुलना में, स्थानीय तैनाती टोकन के आधार पर दीर्घकालिक ज्ञान कॉल शुल्क से बच सकती है, और डेटा इंट्रानेट पर रहता है।

पूर्व शर्ते

• एक उपलब्ध सर्वर या वर्कस्टेशन (सीपीयू संस्करण छोटे मॉडल चला सकता है, जीपीयू संस्करण का अनुभव बेहतर है)।
• दस्तावेज़ मुख्य रूप से पीडीएफ, वर्ड, मार्कडाउन और टीएक्सटी जैसे सामान्य प्रारूपों में होते हैं।
• स्पष्ट ज्ञान आधार का दायरा और अधिकार सीमाएँ (कौन पढ़ सकता है और कौन बनाए रख सकता है)।

दृश्य स्थिति और सीमा स्पष्टीकरण

यह समाधान "निजी ज्ञान पुनर्प्राप्ति प्रश्न और उत्तर" को हल करता है। यह उच्च-सटीक तथ्य निर्णय और जटिल मल्टी-हॉप तर्क के लिए ज़िम्मेदार नहीं है, न ही यह संरचित डेटाबेस की सटीक क्वेरी को प्रतिस्थापित करता है। इनपुट स्थितियाँ "मानकीकृत प्रारूपों वाले दस्तावेज़ों का एक बैच + स्पष्ट प्रश्न और उत्तर परिदृश्य" हैं; वितरण मानक "अच्छी तरह से स्थापित उत्तर, क्लिक करने योग्य स्रोत, नियंत्रित अनुमतियाँ हैं, और ऑफ़लाइन चलाए जा सकते हैं"।

वर्कफ़्लो डिज़ाइन (6 चरण)

चरण 1: ज्ञान का दायरा और प्रारूप सूची

• इनपुट: मौजूदा दस्तावेज़ परिसंपत्तियों की सूची।
• कार्रवाई: डुप्लिकेट और समाप्त हो चुके दस्तावेज़ों को साफ़ करें, और प्रारूप और नामकरण को एकीकृत करें।
• आउटपुट: आयात योग्य दस्तावेज़ सेट + डेटा स्वामी तालिका।
• अभिगम नियंत्रण: दस्तावेज़ डुप्लिकेट किए गए और पुराने हैं, और संवेदनशील फ़ाइलों को अलग से चिह्नित किया गया है।

चरण 2: प्रौद्योगिकी स्टैक चयन

• इनपुट: दस्तावेज़ का आकार, हार्डवेयर स्थितियां, टीम प्रौद्योगिकी स्टैक।
• क्रिया: "वेक्टर लाइब्रेरी + अरेंजमेंट इंटरफ़ेस + मॉडल" के संयोजन का चयन करें।
• आउटपुट: चयन निष्कर्ष तालिका।
• अभिगम नियंत्रण: 50 वास्तविक प्रश्नों का उपयोग आधारभूत परीक्षण के रूप में किया गया, और स्मरण दर स्वीकार्य स्तर पर पहुंच गई।

चरण 3: स्थानीय मॉडल और वेक्टर लाइब्रेरी परिनियोजन

• इनपुट: चयन निष्कर्ष.
• क्रिया: अनुमान सेवा तैनात करें (जैसे Ollama) और वेक्टर लाइब्रेरी (जैसे Milvus)।
• आउटपुट: उपलब्ध मॉडल और वेक्टर सेवाएँ।
• अभिगम नियंत्रण: मॉडल अनुमान विलंबता और वेक्टर लेखन गति मानकों को पूरा करती है।

चरण 4: ज्ञान आधारित आयात और चंकिंग रणनीति

• इनपुट: साफ़ किया गया दस्तावेज़ सेट.
• क्रिया: वैश्वीकरण और भंडारण को पूरा करने के लिए ब्लॉक आकार, ओवरलैप और मेटाडेटा कॉन्फ़िगर करें।
• आउटपुट: खोजने योग्य ज्ञान का आधार।
• अभिगम नियंत्रण: यादृच्छिक रूप से 20 प्रश्नों की जाँच करें और हिट-संबंधित अंशों को पुनः प्राप्त करें।

चरण 5: प्रश्नोत्तरी संयुक्त डिबगिंग और ट्रैसेबिलिटी कॉन्फ़िगरेशन

• इनपुट: नॉलेज बेस + ऑर्केस्ट्रेशन प्लेटफॉर्म (जैसे AnythingLLM / Open WebUI / FastGPT)।
• कार्रवाई: शीघ्र शब्द, संदर्भ प्रदर्शन और "आधार के बिना अस्वीकृति" नीति कॉन्फ़िगर करें।
• आउटपुट: संवादी प्रश्नोत्तरी आवेदन।
• अभिगम नियंत्रण: उत्तर स्रोतों के साथ होने चाहिए, और बिना आधार वाले प्रश्नों का कठोरता से उत्तर नहीं दिया जाएगा।

चरण 6: सुरक्षा, निगरानी और निरंतर अद्यतन

• इनपुट: लाइव होने से पहले प्रश्नोत्तर आवेदन।
• कार्रवाई: एक्सेस एक्सेस कंट्रोल, ऑडिट लॉग, वृद्धिशील अद्यतन कार्य और प्रभाव निगरानी।
• आउटपुट: उत्पादन संचालन और रखरखाव योजना।
• प्रवेश नियंत्रण: अनधिकृत पहुंच अवरुद्ध है और दस्तावेज़ अद्यतन होने के 24 घंटे के भीतर प्रभावी हो जाएगी।

टूल मैपिंग टेबल

उपकरण	उद्देश्य	खाता स्तर	अनुमानित फीस	विकल्प
AnythingLLM	वन-स्टॉप नॉलेज बेस Q&A इंटरफ़ेस	खुला स्रोत/वाणिज्यिक	खुला स्रोत और मुफ़्त	वेबयूआई खोलें
Open WebUI	संवादी इंटरफ़ेस और दस्तावेज़ प्रबंधन	खुला स्रोत	मुफ़्त	कुछ भीएलएलएम
FastGPT	विज़ुअल वर्कफ़्लो RAG प्लेटफ़ॉर्म	खुला स्रोत/व्यावसायिक संस्करण	फ्री से शुरू	फ्लोवाइज
<एक्सलिंक प्रकार='टूल' स्लग='फ्लोवाइज' नाम='फ्लोवाइज'>	दृश्य ऑर्केस्ट्रेशन	खुला स्रोत	मुफ़्त	फास्टजीपीटी
<एक्सलिंक प्रकार='टूल' स्लग='ओलामा' नाम='ओलामा'>	स्थानीय बड़े मॉडल का अनुमान	खुला स्रोत	मुफ़्त	लामा.सीपीपी
<एक्सलिंक प्रकार = "टूल" स्लग = "मिल्वस" नाम = "मिल्वस">	वेक्टर डेटाबेस	खुला स्रोत	मुफ़्त	क्यूड्रैंट/क्रोमा

नोट: लागत आधिकारिक वास्तविक समय पृष्ठ पर आधारित है; ओपन सोर्स संस्करण की गणना स्व-होस्टेड संसाधन लागत के आधार पर की जाती है, और जीपीयू मांग पर है।

लागत, जोखिम और कार्यान्वयन सीमा

इनपुट संरचना

• जनशक्ति: 1 इंजीनियर, 1-3 सप्ताह; ज्ञान संकलन के लिए व्यावसायिक पक्ष से सहयोग की आवश्यकता होती है।
• हार्डवेयर: सीपीयू संस्करण न्यूनतम 16जी मेमोरी के साथ शुरू होता है; उत्पादन स्तर (मॉडल और संगामिति के अधीन) के लिए GPU की अनुशंसा की जाती है।
• टूल लागत: ओपन सोर्स स्टैक मुफ़्त है, मुख्य रूप से हार्डवेयर और रखरखाव लागत।

जोखिम और पहुंच नियंत्रण

• डेटा अनुपालन: पुष्टि करें कि दस्तावेज़ में संवेदनशील सामग्री नहीं है जिसे ज्ञान आधार में प्रवेश नहीं करना चाहिए।
• गुणवत्ता में कमी: दस्तावेज़ों को समय पर अपडेट न करने से भ्रामक जानकारी मिल सकती है। वृद्धिशील अद्यतन और संस्करण रिकॉर्ड आवश्यक हैं।
• शेष मतिभ्रम: "उद्धरण ट्रैसेबिलिटी + उत्तर देने से निराधार इनकार" का दोहरा बीमा चालू किया जाना चाहिए।
• संचालन और रखरखाव सीमा: कनेक्शन के एकल बिंदु नुकसान से बचने के लिए स्व-होस्टिंग को बैकअप, अपग्रेड और निगरानी की आवश्यकता होती है।

छिपे हुए लाभ और लागत

• लाभ: ज्ञान के पुन: उपयोग की दर बढ़ जाती है, नए कर्मचारी प्रशिक्षण और ग्राहक सेवा प्रश्नोत्तरी जनशक्ति कम हो जाती है।
• लागत: ज्ञान का आधार एक "दीर्घकालिक संपत्ति" है और दस्तावेज़ की गुणवत्ता और अद्यतन लय के निरंतर रखरखाव की आवश्यकता होती है।

अपेक्षित परिणाम और स्वीकृति मानदंड

• स्वीकृति 1: सभी ज्ञान आधार संग्रहीत हैं, स्रोतों का पता लगाया जा सकता है, और संदर्भों पर क्लिक किया जा सकता है।
• स्वीकृति 2: 50 वास्तविक-प्रश्न बेसलाइन परीक्षण उत्तीर्ण हुए, और निराधार प्रश्नों को सही ढंग से अस्वीकार कर दिया गया।
• स्वीकृति 3: इंट्रानेट ऑफ़लाइन चलता है और कोई भी डेटा डोमेन से बाहर नहीं जाता है।
• स्वीकृति 4: अनुमतियाँ और ऑडिटिंग प्रभावी हैं, और वृद्धिशील दस्तावेज़ अद्यतन तंत्र स्थिर है।

अक्सर पूछे जाने वाले प्रश्न और समस्या निवारण (एफएक्यू)

1. क्या सीपीयू मशीनें RAG चला सकती हैं?

   योग्य। छोटे मॉडल (7बी परिमाणित संस्करण) को सीपीयू पर चलाया जा सकता है, लेकिन प्रतिक्रिया की गति धीमी है; समवर्तीता अधिक होने पर GPU की अनुशंसा की जाती है।

2. कुछ भी एलएलएम या फास्टजीपीटी चुनें?

   त्वरित लॉन्च (कम कॉन्फ़िगरेशन) के लिए कुछ भी एलएलएम चुनें; यदि आपको जटिल वर्कफ़्लो और सशर्त शाखाओं के कई दौर की आवश्यकता है तो फास्टजीपीटी चुनें।

3. यदि दस्तावेज़ पुनर्प्राप्ति की अनुमति नहीं है तो मुझे क्या करना चाहिए?

   पहले ब्लॉक आकार समायोजित करें (500-1000 शब्द उपयुक्त हैं) और ओवरलैप करें, फिर एम्बेडिंग मॉडल की जांच करें, और अंत में बेहतर रीरैंकिंग का उपयोग करें।

4. यदि मुझे बहुत अधिक मतिभ्रम हो तो मुझे क्या करना चाहिए?

   "बिना आधार के अस्वीकृति" चालू करें, स्रोतों का उद्धरण बलपूर्वक दें, खोज टॉपके बढ़ाएं और फिर पुनर्व्यवस्थित करें।

5. ज्ञानकोष को अद्यतन कैसे रखें?

   वृद्धिशील दस्तावेज़ अद्यतन कार्यों (अनुसूचित निर्देशिका स्कैनिंग या मैन्युअल ट्रिगरिंग) को कॉन्फ़िगर करें, और अपडेट के बाद वैश्वीकरण फिर से करें।

6. एकाधिक विभागों की अनुमतियों को कैसे अलग किया जाए?

   प्लेटफ़ॉर्म परत को स्थान/संग्रह द्वारा अलग किया जाता है, वेक्टर लाइब्रेरी को संग्रह द्वारा बकेट किया जाता है, और फ्रंट एंड को उपयोगकर्ता भूमिका द्वारा फ़िल्टर किया जाता है।

उन्नति और विस्तार

• हाइब्रिड पुनर्प्राप्ति: लंबी-पूंछ वाले प्रश्न स्मरण को बेहतर बनाने के लिए वेक्टर + कीवर्ड (BM25) फ़्यूज़न।
• रीरैंकिंग: शीर्ष 50 की रैंकिंग को शीर्ष 5 तक परिष्कृत करने के लिए रीरैंक मॉडल का परिचय दें।
• मल्टी-मोडल स्टोरेज: स्कैन किए गए दस्तावेज़ों को कवर करते हुए ओसीआर और इमेज वेक्टराइजेशन तक पहुंचें।
• एजेंट के साथ एकीकरण: ज्ञान आधार को एजेंट के लिए एक खोज उपकरण बनाएं और व्यावसायिक प्रक्रियाओं को लिंक करें।