लैंगचेन एपीआई (लैंगसर्व) मुफ्त

Name: लैंगचेन एपीआई (लैंगसर्व)
Price: मुफ्त INR
Availability: InStock
Author: लैंगचेन, इंक.

डेवलपर लैंगचेन, इंक.

आधिकारिक वेबसाइट https://www.langchain.com/langserve

लैंगचेन एपीआई (लैंगसर्व) पारिस्थितिकी तंत्र में एक REST API परिनियोजन ढांचा है। यह फास्टएपीआई और पाइडेंटिक पर बनाया गया है और लैंगचेन की रननेबल ऑब्जेक्ट्स को एक क्लिक के साथ उत्पादन-स्तरीय एपीआई सेवाओं के रूप में तैनात कर सकता है। मानक समापन बिंदु प्रदान करता है जैसे `/invoke`, `/batch`, `/stream`, `/stream_log`, `/stream_events`, आदि, स्वचालित रूप से इनपुट और आउटपुट स्कीमा का अनुमान लगाता है और OpenAPI दस्तावेज़ तैयार करता है। परियोजना ने नवंबर 2024 में बहिष्करण चरण में प्रवेश किया है, और अधिकारियों का सुझाव है कि अधिक संपूर्ण एजेंट परिनियोजन क्षमताओं को प्राप्त करने के लिए नई परियोजनाओं को लैंगग्राफ प्लेटफ़ॉर्म पर स्थानांतरित किया जाना चाहिए।

लैंगचेन एपीआई (लैंगसर्व): एलएलएम एप्लिकेशन श्रृंखला को उत्पादन-ग्रेड आरईएसटी एपीआई के रूप में तैनात करें

मुख्य पैरामीटर और आँकड़े

पैरामीटर्स	विवरण
गिटहब स्टार्स	2,300+ (लैंगचैन-एआई/लैंगसर्व)
गिटहब फोर्क्स	272+
ओपन सोर्स लाइसेंस	एमआईटी
नवीनतम संस्करण	v0.3.3 (2025-10-17)
परियोजना की स्थिति	अस्वीकृत (2024-11-18 से), केवल सामुदायिक बग फिक्स स्वीकार करना
विकल्प	लैंगग्राफ प्लेटफ़ॉर्म (आधिकारिक अनुशंसा)
अंतर्निहित रूपरेखा	फास्टएपीआई + पाइडेंटिक + यूव्लूप + एसिंसिओ
समर्थित प्रोग्रामिंग भाषाएँ	पायथन (सर्वर), जावास्क्रिप्ट/टाइपस्क्रिप्ट (क्लाइंट)
मुख्य समापनबिंदु	`/invoke`, `/batch`, `/stream`, `/stream_log`, `/stream_events`, `/playground`
पीईपीआई डाउनलोड	लाखों संचयी (2023-2025)
पिपी पैकेज का नाम	`लैंगसर्व`
स्थापना विधि	`पाइप इंस्टाल "लैंगसर्व[ऑल]"`

परियोजना स्थिति व्याख्या: लैंगसर्व जून 2023 से नवंबर 2024 तक लैंगचेन पारिस्थितिकी तंत्र में चेन और एजेंटों को तैनात करने के लिए वास्तविक मानक समाधान था। संचयी 2.3K+ सितारे और लाखों PyPI डाउनलोड इसकी बाजार में पैठ की पुष्टि करते हैं। नवंबर 2024 में पदावनति की घोषणा जारी होने के बाद, लैंगग्राफ प्लेटफ़ॉर्म ने आधिकारिक तौर पर इसकी स्थिति संभाल ली। मौजूदा परियोजनाओं के लिए जिन्हें अभी भी बनाए रखा जा रहा है, लैंगसर्व का एमआईटी प्रोटोकॉल और सरल आर्किटेक्चर इसका उपयोग जारी रखने की अनुमति देता है, लेकिन नई परियोजनाओं को सीधे LangGraph के क्लाउड परिनियोजन समाधान को अपनाना चाहिए।

आर्किटेक्चर पोजीशनिंग: लैंगसर्व एक मॉडल अनुमान इंजन नहीं है, बल्कि एक अनुकूलन परत है जो "लैंगचेन के रननेबल एब्स्ट्रैक्शन को एक HTTP इंटरफ़ेस में परिवर्तित करती है"। मुख्य समस्या जो यह हल करती है वह यह है कि डेवलपर्स एलसीईएल के साथ एक श्रृंखलाबद्ध पाइपलाइन का निर्माण करने के बाद, वे इसे शून्य अतिरिक्त कोड के साथ एक संरचित आरईएसटी एंडपॉइंट के रूप में उजागर कर सकते हैं, और स्ट्रीमिंग समर्थन, समवर्ती प्रसंस्करण और स्वचालित दस्तावेज़ पीढ़ी प्राप्त कर सकते हैं।

उपयोगकर्ता और बाज़ार की पहचान

लैंगचेन पारिस्थितिकी तंत्र का "अंतिम मील" घटक: लैंगचैन फ्रेमवर्क (138K+ स्टार) के विशाल उपयोगकर्ता आधार के साथ, लैंगसर्व को स्वाभाविक रूप से आधिकारिक तैनाती समाधान के रूप में व्यापक रूप से अपनाया गया है। लाखों संचयी PyPI डाउनलोड से संकेत मिलता है कि 2023-2024 में प्रोटोटाइप को उत्पादन में धकेलने वाले लैंगचेन डेवलपर्स के लिए लैंगसर्व पसंद का उपकरण है। GitHub पर 36 योगदानकर्ताओं में लैंगचेन कोर टीम के सदस्य (eyurtsev, nfcampos, hwchase17) और सक्रिय सामुदायिक डेवलपर्स शामिल हैं।

एंटरप्राइज़ अपनाने का इतिहास: लैंगग्राफ क्लाउड के लॉन्च से पहले, लैंगसर्व कई फॉर्च्यून 500 कंपनियों के लिए लैंगचेन अनुप्रयोगों को तैनात करने वाला एकमात्र आधिकारिक समाधान था। विशिष्ट परिदृश्यों में आंतरिक आरएजी क्यू एंड ए प्रणाली, दस्तावेज़ विश्लेषण श्रृंखला और ग्राहक सहायता एजेंट को आंतरिक माइक्रोसर्विसेज के रूप में समाहित करना शामिल है। फास्टएपीआई इकोसिस्टम के साथ लैंगसर्व की अनुकूलता इसे उद्यम के मौजूदा एपीआई गेटवे और मॉनिटरिंग सिस्टम (जैसे प्रोमेथियस और डेटाडॉग जैसे मानक टूल का उपयोग करना) में सहजता से एकीकृत करने में सक्षम बनाती है। यह "स्व-निर्मित फ्लास्क एंडपॉइंट्स" पर इसका प्रमुख लाभ है।

प्रतिस्पर्धी उत्पादों के साथ स्थिति में अंतर:

आयामों की तुलना करें	लैंगसर्व	लैंगग्राफ प्लेटफार्म	स्व-निर्मित फास्टएपीआई एंडपॉइंट	मोडल/बीम
परिनियोजन वस्तु	लैंगचेन रननेबल	लैंगग्राफ एजेंट	कोई भी पायथन फ़ंक्शन	यूनिवर्सल पायथन एप्लिकेशन
स्वचालित स्कीमा	✅ स्वचालित अनुमान	✅ स्वचालित अनुमान	❌ लिखावट	❌ लिखावट
स्ट्रीमिंग समर्थन	✅ मूलनिवासी	✅ मूलनिवासी	❌ क्रियान्वित करने की आवश्यकता है	✅ क्रियान्वित करने की आवश्यकता है
खेल का मैदान यूआई	✅ बिल्ट-इन	✅ बिल्ट-इन	❌	❌
एजेंट दृढ़ता	❌	✅ चेकप्वाइंट	❌	❌
होस्टिंग सेवाएँ	❌	✅ लैंगस्मिथ होस्टिंग	❌	✅
वर्तमान अनुशंसा	❌ पदावनत	✅ अनुशंसित	⚠️ लचीला लेकिन भारी कार्यभार	⚠️ सीमित परिदृश्य

बाज़ार परिवर्तन संकेत: लैंगसर्व का परित्याग उत्पाद की विफलता के कारण नहीं है, बल्कि लैंगचेन, इंक. द्वारा एक रणनीतिक उन्नयन है - तैनाती क्षमताओं को "हल्के अनुकूलन परत" से "पूरी तरह से प्रबंधित एजेंट प्लेटफ़ॉर्म" में अपग्रेड करना। लैंगसर्व द्वारा संचित REST API डिज़ाइन प्रतिमान (आह्वान/बैच/स्ट्रीम एंडपॉइंट विनिर्देश) लैंगग्राफ प्लेटफ़ॉर्म द्वारा विरासत में मिला है, कुबेरनेट्स द्वारा डॉकर को अस्वीकार करने के समान, लेकिन कंटेनर ऑर्केस्ट्रेशन की अवधारणा विरासत में मिली है और गहरी हुई है।

लागत लाभ

सी-साइड/व्यक्तिगत डेवलपर (शून्य लागत):

लैंगसर्व एमआईटी लाइसेंस का उपयोग करता है और बिना किसी उपयोग प्रतिबंध के पूरी तरह से खुला स्रोत और मुफ़्त है। व्यक्तिगत डेवलपर्स ऑन-प्रिमाइसेस या किसी भी क्लाउड वीएम पर तैनात करने के लिए पाइप इंस्टॉल लैंगसर्व कर सकते हैं, और केवल सर्वर इंफ्रास्ट्रक्चर की लागत (जैसे एडब्ल्यूएस ईसी 2 टी 3.मीडियम लगभग $ 30-50 / माह, या कम सर्वर रहित विकल्प) वहन कर सकते हैं।
छिपी हुई लागत: स्व-होस्टेड लैंगसर्व के लिए डेवलपर्स को स्वयं संचालन और रखरखाव को संभालने की आवश्यकता होती है - एसएसएल प्रमाणपत्र प्रबंधन, स्वचालित विस्तार और संकुचन, लॉग रोटेशन, निगरानी और अलार्मिंग। व्यक्तिगत परियोजनाओं के लिए ये लागत नगण्य हैं, लेकिन उत्पादन सेवाओं के लिए, संचालन और रखरखाव जनशक्ति में निवेश आमतौर पर सॉफ्टवेयर लाइसेंस शुल्क से बहुत अधिक है।

डेवलपर/एपीआई इंटीग्रेटर (बुनियादी ढांचा लागत):

लैंगसर्व स्वयं मुफ़्त है, और लागत तीन भागों में केंद्रित है: ① अंतर्निहित एलएलएम एपीआई कॉल शुल्क (टोकन द्वारा बिल किया गया, इसका लैंगसर्व से कोई लेना-देना नहीं है); ② सर्वर होस्टिंग शुल्क (समवर्तीता और विलंबता आवश्यकताओं के आधार पर, आमतौर पर $50-500/माह); ③ लैंगस्मिथ ट्रैकिंग सेवा शुल्क (यदि सक्षम है, तो निःशुल्क टियर 3,000 ट्रेस/माह, प्लस टियर $39/माह/उपयोगकर्ता)।
स्व-निर्मित फ्लास्क/फास्टएपीआई एंडपॉइंट्स की तुलना में, लैंगसर्व इंजीनियरिंग लागत (स्कीमा परिभाषा, स्ट्रीमिंग कार्यान्वयन, इनपुट सत्यापन ओपनएपीआई दस्तावेज़, त्रुटि प्रबंधन) में लगभग 1-2 सप्ताह का विकास समय बचाता है, लेकिन यह लैंगचेन रनटाइम पर संस्करण निर्भरता का परिचय देता है।

उद्यम/निजी परिनियोजन (संचालन और रखरखाव लागत प्रमुख):

जब कोई उद्यम उत्पादन-स्तर एआई एपीआई को तैनात करने के लिए लैंगसर्व का उपयोग करता है, तो वास्तविक लागत वितरण होता है: संचालन और रखरखाव जनशक्ति > बुनियादी ढांचा > ढांचा लागत (शून्य)। मौजूदा कुबेरनेट्स क्लस्टर और डेवऑप्स प्रक्रियाओं वाली टीमों के लिए, लैंगसर्व की डॉकराइज्ड तैनाती को मौजूदा सीआई/सीडी पाइपलाइनों में जल्दी से एकीकृत किया जा सकता है।
खरीद जोखिम युक्ति: चूंकि लैंगसर्व को हटा दिया गया है, नई उद्यम परियोजनाओं को लैंगग्राफ प्लेटफॉर्म की निजी तैनाती योजना का मूल्यांकन करना चाहिए (मूल्य निर्धारण की पुष्टि के लिए व्यवसाय से संपर्क करने की आवश्यकता है)। मौजूदा लैंगसर्व सेवाओं को सुरक्षा पैच के बंद किए गए अपडेट के कारण होने वाले अनुपालन जोखिमों से बचने के लिए एक माइग्रेशन योजना विकसित करने की आवश्यकता है।

मुख्य कार्य

टूल ओपन सूची (LangServe द्वारा प्रदर्शित REST एंडपॉइंट प्रिमिटिव)

लैंगसर्व लैंगचेन रननेबल को निम्नलिखित मानक HTTP एंडपॉइंट में परिवर्तित करता है, जिसके माध्यम से बड़े मॉडल या बाहरी सिस्टम एलएलएम एप्लिकेशन इंटरैक्शन पूरा करते हैं:

POST /{path}/invoke: एक इनपुट प्राप्त करता है, रननेबल को सिंक्रोनाइज़ करता है और पूरा आउटपुट लौटाता है। सबसे सरल अनुरोध मोड, गैर-स्ट्रीमिंग परिदृश्यों (जैसे बैच डेटा प्रोसेसिंग) के लिए उपयुक्त।
POST /{path}/batch: एक इनपुट ऐरे प्राप्त करता है, समानांतर में Runnable को कॉल करता है और एक आउटपुट ऐरे लौटाता है। बैच तर्क के लिए उपयुक्त, यह आंतरिक रूप से समवर्ती निष्पादन के लिए एसिंसियो का उपयोग करता है, जिससे थ्रूपुट में काफी सुधार होता है।
POST /{path}/stream: एक एकल इनपुट प्राप्त करता है और सर्वर-भेजे गए इवेंट (SSE) स्ट्रीमिंग में आउटपुट टोकन लौटाता है। टाइपराइटर प्रभाव प्राप्त करें, जो चैट और वास्तविक समय पीढ़ी परिदृश्यों के लिए उपयुक्त है।
POST /{path}/stream_log: एक एकल इनपुट प्राप्त करें और सभी मध्यवर्ती चरणों (प्रॉम्प्ट असेंबली, टूल कॉल, पुनर्प्राप्ति परिणाम आदि सहित) के आउटपुट को स्ट्रीम करें। जटिल श्रृंखलाओं और एजेंट की तर्क प्रक्रिया को डीबग करने के लिए उपयोग किया जाता है।
POST /{path}/stream_events (v0.2.0+): एकल इनपुट प्राप्त करता है और संरचित घटनाओं को वापस स्ट्रीम करता है। 'स्ट्रीम_लॉग' की तुलना में एक स्पष्ट ईवेंट मॉडल प्रदान करता है, और मूल आउटपुट को पार्स किए बिना मध्यवर्ती चरण की जानकारी प्राप्त कर सकता है।
GET /{path}/input_schema: रननेबल इनपुट पैरामीटर का JSON स्कीमा लौटाता है। ग्राहकों के लिए गतिशील रूप से अनुरोध प्रपत्र तैयार करना या इनपुट प्रारूपों को सत्यापित करना।
GET /{path}/output_schema: रननेबल आउटपुट पैरामीटर का JSON स्कीमा लौटाता है। क्लाइंट के लिए लौटाई गई डेटा संरचना को समझना।
GET /{path}/config_schema: रननेबल रनटाइम कॉन्फ़िगरेशन (जैसे कॉन्फ़िगर करने योग्य मॉडल पैरामीटर) की JSON स्कीमा लौटाता है।
GET /{path}/playground/: ब्राउज़र द्वारा पहुंच योग्य एक इंटरैक्टिव डिबगिंग इंटरफ़ेस, इनपुट कॉन्फ़िगरेशन, स्ट्रीमिंग आउटपुट डिस्प्ले और साझा लिंक का समर्थन करता है।

मुख्य कार्यों का विस्तृत विवरण

स्वचालित स्कीमा अनुमान और सत्यापन: रननेबल के इनपुट/आउटपुट प्रकार एनोटेशन से JSON स्कीमा को स्वचालित रूप से निकालने के लिए लैंगसर्व पाइडेंटिक का उपयोग करता है और प्रत्येक अनुरोध आने पर इसे स्वचालित रूप से सत्यापित करता है। डेवलपर्स को हाथ से अनुरोध/प्रतिक्रिया मॉडल लिखने की आवश्यकता नहीं है, न ही उन्हें नियंत्रक में सत्यापन तर्क लिखने की आवश्यकता है - एक बार लैंगचेन पाइपलाइन परिभाषित होने के बाद, स्कीमा और सत्यापन स्वचालित रूप से तैयार हो जाते हैं। जब अवैध पैरामीटर पारित किए जाते हैं (जैसे कि प्रकार बेमेल, आवश्यक फ़ील्ड गायब), तो एक संरचित 422 त्रुटि वापस आ जाती है।
स्ट्रीमिंग आउटपुट पूर्ण लिंक: एसएसई प्रोटोकॉल के माध्यम से एलएलएम से क्लाइंट तक एंड-टू-एंड स्ट्रीमिंग। /stream समापन बिंदु टोकन-स्तरीय वृद्धि लौटाता है, और /stream_log और /stream_events चरण-स्तरीय मध्यवर्ती लौटाता है। ग्राहक स्ट्रीम का उपभोग करने के लिए RemoteRunnable SDK या मानक HTTP अनुरोधों का उपयोग कर सकते हैं और उन्हें AsyncIterator से SSE रूपांतरण को स्वयं संभालने की आवश्यकता नहीं है।
प्लेग्राउंड इंटरैक्टिव डिबगिंग इंटरफ़ेस: प्रत्येक तैनात रननेबल को स्वचालित रूप से एक वेब डिबगिंग पेज (/प्लेग्राउंड/) मिलता है, जो इनपुट कॉन्फ़िगरेशन (फ़ाइल अपलोड विजेट और चैट विजेट सहित), ट्रिगर कॉल, स्ट्रीमिंग आउटपुट देखने और मध्यवर्ती चरणों का समर्थन करता है। यह इंटरफ़ेस विकास, डिबगिंग और डेमो परिदृश्यों में बेहद उपयोगी है - उत्पाद प्रबंधक या परीक्षक पायथन को स्थापित किए बिना श्रृंखला के व्यवहार को सत्यापित कर सकते हैं।
लैंगस्मिथ ट्रेस इंटीग्रेशन: LANGCHAIN_TRACING_V2=true और एपीआई कुंजी सेट करने के बाद, लैंगसर्व स्वचालित रूप से लैंगस्मिथ को प्रत्येक एपीआई कॉल के पूर्ण ट्रेस (इनपुट/आउटपुट/विलंब/टोकन उपयोग/मध्यवर्ती चरणों) की रिपोर्ट करता है। यह अतिरिक्त नौकरशाही की आवश्यकता के बिना, एपीआई परिनियोजन परिदृश्यों में स्थानीय विकास के अनुरूप दृश्यता को सक्षम बनाता है।
मल्टीपल एंडपॉइंट संयोजन: फास्टएपीआई के add_routes फ़ंक्शन के माध्यम से, एकाधिक रननेबल्स को एक ही सर्वर इंस्टेंस पर माउंट किया जा सकता है, प्रत्येक को एक अलग /path के तहत माउंट किया जा सकता है। विभिन्न मॉडलों, विभिन्न श्रृंखलाओं और विभिन्न संस्करणों के एजेंटों की मिश्रित तैनाती का समर्थन करता है।

आर्किटेक्चर लिंक

डेवलपर-परिभाषित एलसीईएल/लैंगग्राफ पाइपलाइन
       │
       ▼
लैंगसर्व (FastAPI में पंजीकृत add_routes)
       │
       ▼
फास्टएपीआई सर्वर (स्वचालित रूप से ओपनएपीआई दस्तावेज़ + स्कीमा सत्यापन उत्पन्न करता है)
       ├── /{पथ}/आह्वान → सिंक्रोनस कॉल
       ├── /{पथ}/बैच → बैच कॉल
       ├── /{पथ}/स्ट्रीम → टोकन स्ट्रीम
       ├── /{path}/stream_log → मध्यवर्ती चरण लॉग स्ट्रीम
       ├── /{path}/stream_events → संरचित इवेंट स्ट्रीम
       ├── /{पथ}/input_schema → इनपुट स्कीमा
       ├── /{पथ}/आउटपुट_स्कीमा→ आउटपुट स्कीमा
       ├── /{path}/config_schema→ स्कीमा कॉन्फ़िगर करें
       └── /{पथ}/प्लेग्राउंड/ → वेब डिबगिंग यूआई
              │
              ▼
       लैंगस्मिथ ट्रेस (वैकल्पिक ट्रेसिंग)
              │
              ▼
       डेवलपर्स को फीडबैक मिलता है → पुनरावृत्तीय अनुकूलन

इंजीनियरिंग ख़तरा गाइड

Pydantic V1/V2 नेमस्पेस संघर्ष (LangServe <= 0.2.0): Pydantic V2 के संदर्भ में, LangServe का पुराना संस्करण OpenAPI दस्तावेज़ उत्पन्न नहीं कर सकता क्योंकि FastAPI Pydantic V1 और V2 नेमस्पेस को मिलाने का समर्थन नहीं करता है। समाधान: लैंगसर्व>=0.3.0 पर अपग्रेड करें (अंतिम संस्करण में तय), या पाइडेंटिक को 1.10.17 पर डाउनग्रेड करें। नई परियोजनाएँ इस समस्या से बचने के लिए सीधे लैंगग्राफ प्लेटफ़ॉर्म का उपयोग करती हैं।
प्लेग्राउंड एंडपॉइंट सुरक्षा जोखिम: लैंगसर्व v0.0.13-0.0.15 के प्लेग्राउंड एंडपॉइंट में एक सीवीई भेद्यता है जो सर्वर पर मनमानी फ़ाइलों तक पहुंच की अनुमति देती है। समाधान: v0.0.16+ पर अपग्रेड करें; उत्पादन परिवेश में रिवर्स प्रॉक्सी (जैसे Nginx) के माध्यम से /playground/ एंडपॉइंट के एक्सेस दायरे को सीमित करें (केवल इंट्रानेट या विशिष्ट आईपी की अनुमति दें), या इसे add_routes में disabled_endpoints=["playground"] के माध्यम से अक्षम करें।
लीगेसी चेन की स्कीम अधूरी है: 'चेन' क्लास के पुराने संस्करण से विरासत में मिले घटकों (गैर-एलसीईएल रननेबल) की इनपुट स्कीम अधूरी या गलत हो सकती है, जिससे उत्पन्न ओपनएपीआई दस्तावेज़ वास्तविक मापदंडों के साथ असंगत हो सकता है। समाधान: input_schema विशेषता को मैन्युअल रूप से ओवरराइड करें, या LCEL रननेबल प्रारूप में रिफैक्टर करें। लैंगसर्व से जुड़ने से पहले लिगेसी चेन पर स्कीमा अखंडता परीक्षण करने की अनुशंसा की जाती है।
लैंगग्राफ एजेंट असंगति: लैंगसर्व मुख्य रूप से सरल रननेबल और चेन के लिए डिज़ाइन किया गया है। लैंगग्राफ द्वारा निर्मित जटिल एजेंटों (चेकपॉइंट पर्सिस्टेंस ह्यूमन-इन-द-लूप सहित) के लिए, लैंगसर्व पूर्ण संचालन समर्थन प्रदान नहीं कर सकता है। समाधान: लैंगग्राफ एजेंट को लैंगसर्व के बजाय लैंगग्राफ क्लाउड/प्लेटफ़ॉर्म का उपयोग करके तैनात किया जाना चाहिए। आधिकारिक लैंगसर्व दस्तावेज़ इस सीमा को स्पष्ट रूप से नोट करता है।

मॉडल और संस्करण विकास

प्रारंभिक रिलीज़ अवधि (2023-06 ~ 2023-09)

v0.0.1 (2023-06): प्रारंभिक संस्करण जारी किया गया, मुख्य कार्य 'add_routes' के माध्यम से लैंगचेन रननेबल को फास्टएपीआई अनुप्रयोगों में माउंट करना है। तीन बुनियादी समापन बिंदुओं का समर्थन करता है: /invoke, /batch, और /stream, स्वचालित स्कीमा अनुमान और स्वैगर दस्तावेज़ निर्माण।
v0.0.16 (2023-10): प्लेग्राउंड एंडपॉइंट में एक मनमानी फ़ाइल रीड सुरक्षा भेद्यता को ठीक करता है, यह लैंगसर्व के इतिहास में सबसे महत्वपूर्ण सुरक्षा अद्यतन है। साथ ही, खेल का मैदान साझाकरण लिंक फ़ंक्शन पेश किया गया है।

कार्य विस्तार अवधि (2024-01 ~ 2024-10)

v0.2.0 (2024-06): /stream_events समापन बिंदु जोड़ा गया, जो /stream_log की तुलना में एक स्पष्ट संरचित ईवेंट मॉडल प्रदान करता है। चैट प्लेग्राउंड समर्थन का परिचय (चैट-प्रकार रननेबल्स के लिए एक समर्पित इंटरैक्टिव इंटरफ़ेस प्रदान करना)। प्लेग्राउंड विजेट सिस्टम पूर्ण है और फ़ाइल अपलोड विजेट और चैट इतिहास विजेट का समर्थन करता है।
v0.3.0 (2024-11): पाइडेंटिक V2 के लिए आधिकारिक समर्थन। उसी दिन एक अवमूल्यन विवरण (#791) जारी किया गया था, और आधिकारिक तौर पर यह सिफारिश की गई थी कि नई परियोजनाओं को लैंगग्राफ प्लेटफ़ॉर्म पर स्थानांतरित किया जाए। एक ओर, यह तकनीकी विकास के लिए एक स्वाभाविक विकल्प है - लैंगग्राफ की एजेंट ऑर्केस्ट्रेशन क्षमताएं लैंगसर्व के डिजाइन दायरे से कहीं अधिक हैं; दूसरी ओर, यह एक व्यावसायिक रणनीति समायोजन है - भुगतान प्लेटफ़ॉर्म लैंगस्मिथ में तैनाती क्षमताओं को एकीकृत करना।

अंतिम रखरखाव अवधि (2025-01 ~ 2025-10)

v0.3.3 (2025-10-17): लैंगसर्व का अंतिम आधिकारिक संस्करण। सुरक्षा निर्भरताएँ ठीक करें, एनपीएम निर्भरताएँ अद्यतन करें, और अवमूल्यन चेतावनियाँ संभालें। इसके बाद, रिपॉजिटरी केवल पढ़ने योग्य स्थिति में प्रवेश करती है और केवल सामुदायिक बग फिक्स पीआर स्वीकार करती है। GitHub रिपॉजिटरी 5 मई, 2026 को संग्रहीत की गई।

संस्करण सारांश: लैंगसर्व का जीवन चक्र लगभग 2 वर्ष और 4 महीने (2023-06 से 2025-10) है, और इसके 65 संस्करण रिलीज़ हो चुके हैं। लैंगचेन पारिस्थितिकी तंत्र में एक परिनियोजन घटक के रूप में, इसका डिज़ाइन दर्शन लैंगग्राफ प्लेटफ़ॉर्म द्वारा विरासत में मिला है - जिसमें एंडपॉइंट विनिर्देश (इनवोक/बैच/स्ट्रीम), स्वचालित स्कीमा अनुमान और लैंगस्मिथ एकीकरण शामिल है।

तकनीकी लाभ

घोषणात्मक एपीआई एक्सपोजर, शून्य बॉयलरप्लेट कोड: लैंगसर्व का मुख्य मूल्य यह है कि "परिभाषा एपीआई है" - डेवलपर्स रननेबल को परिभाषित करने के लिए एलसीईएल का उपयोग करते हैं, और add_routes कॉल की एक पंक्ति के साथ पूर्ण REST एपीआई प्राप्त कर सकते हैं। हस्त-लिखित फास्टएपीआई एंडपॉइंट की तुलना में: डेवलपर्स को मैन्युअल रूप से पाइडेंटिक अनुरोध/प्रतिक्रिया मॉडल को परिभाषित करने, POST और स्ट्रीमिंग एंडपॉइंट लागू करने, इनपुट सत्यापन तर्क लिखने और ओपनएपीआई दस्तावेज़ तैयार करने की आवश्यकता होती है। लैंगसर्व बॉयलरप्लेट कोड की इन लगभग 200-300 पंक्तियों को 1 पंक्ति में संघनित करता है।

पूर्ण-लिंक स्ट्रीमिंग के लिए एकीकृत अमूर्त: लैंगसर्व का स्ट्रीमिंग समर्थन एसएसई के लिए एसिंक जेनरेटर की सरल मैपिंग नहीं है। यह लैंगचेन के रननेबल इंटरफ़ेस अनुबंध को समझता है - यदि श्रृंखला में सभी घटक स्ट्रीमिंग का समर्थन करते हैं (जैसे कि चैटओपेनएआई का स्ट्रीमिंग मोड + स्ट्रॉटपुटपार्सर का चरित्र-दर-चरित्र पार्सिंग), तो एंड-टू-एंड स्ट्रीमिंग स्वचालित रूप से सक्षम हो जाती है; यदि कोई मध्यवर्ती अनुभाग स्ट्रीमिंग का समर्थन नहीं करता है, तो यह स्वचालित रूप से बफ़रिंग मोड में डाउनग्रेड हो जाता है। डेवलपर्स को प्रत्येक श्रृंखला की थ्रॉटलिंग अनुकूलता को मैन्युअल रूप से निर्धारित करने की आवश्यकता नहीं है।

लैंगस्मिथ की मूल अवलोकन क्षमता के साथ संयुक्त: लैंगसर्व, लैंगचेन पारिस्थितिकी तंत्र में एकमात्र परिनियोजन समाधान है जो "शून्य कॉन्फ़िगरेशन" के साथ उत्पादन-स्तर ट्रेस की रिपोर्ट कर सकता है। दो प्रासंगिक चर सेट करने के बाद, प्रत्येक एपीआई कॉल की पूरी कॉल श्रृंखला स्वचालित रूप से लैंगस्मिथ में प्रवेश करती है - जिसमें शीघ्र इंजेक्शन, मॉडल प्रतिक्रिया, टूल कॉल परिणाम, पुनर्प्राप्ति टुकड़े और अन्य मध्यवर्ती चरण शामिल हैं। यह उत्पादन परिवेश में असामान्य एजेंट व्यवहार (जैसे टूल कॉल पैरामीटर त्रुटियां, गलत पुनर्प्राप्ति और रिकॉल, और मॉडल फैंटम आउटपुट) के समस्या निवारण के लिए महत्वपूर्ण है।

फास्टएपीआई पारिस्थितिक संगतता: लैंगसर्व फास्टएपीआई को प्रतिस्थापित नहीं करता है, लेकिन फास्टएपीआई के शीर्ष पर डेकोरेटर जैसी वृद्धि करता है। इसका मतलब यह है कि डेवलपर्स लैंगसर्व-प्रबंधित एआई एंडपॉइंट्स और हस्तलिखित बिजनेस एंडपॉइंट्स को एक ही सर्वर इंस्टेंस में मिश्रित और तैनात कर सकते हैं, फास्टएपीआई के सभी मिडलवेयर, निर्भरता इंजेक्शन, प्रमाणीकरण तंत्र और तैनाती टूल का पुन: उपयोग कर सकते हैं। एंटरप्राइज़ टीमें एआई सेवाओं के लिए अलग बुनियादी ढांचे के निर्माण के बिना लैंगसर्व एंडपॉइंट को मौजूदा एपीआई गेटवे और मॉनिटरिंग सिस्टम (जैसे कोंग, एपीआईएसआईएक्स, डेटाडॉग एपीएम) में शामिल कर सकती हैं।

कैसे उपयोग करें

प्रासंगिक जानकारी सार्वजनिक नहीं की गई है, कृपया आधिकारिक वास्तविक समय पृष्ठ देखें।

उत्पाद का मूल्य निर्धारण

ओपन सोर्स फ्रेमवर्क (शून्य लागत):

लैंगसर्व को एमआईटी लाइसेंस के तहत लाइसेंस प्राप्त है और यह पूरी तरह से मुफ़्त है। यहां कोई लाइसेंस शुल्क नहीं है, और कोई वाणिज्यिक स्तर नहीं है जो प्रति कॉल या समवर्ती शुल्क लेता हो। डेवलपर की पूरी लागत आती है: ① सेवा चलाने के लिए क्लाउड इंफ्रास्ट्रक्चर की लागत; ② अंतर्निहित एलएलएम का एपीआई शुल्क कहा जाता है; ③ यदि लैंगस्मिथ ट्रैकिंग की आवश्यकता है, तो इसका बिल लैंगस्मिथ मूल्य निर्धारण के अनुसार किया जाता है।

लैंगस्मिथ ट्रैकिंग शुल्क (वैकल्पिक):

लैंगस्मिथ लैंगसर्व के लिए अवलोकनीयता बैकएंड प्रदान करता है, जिसका मूल्य निर्धारण इस प्रकार है:

टियर	कीमत	कोटा	लागू परिदृश्य
मुफ़्त	$0	3,000 ट्रेस/माह, 1 प्रोजेक्ट	व्यक्तिगत विकास और डिबगिंग
प्लस	$39/माह/उपयोगकर्ता	असीमित निशान, एकाधिक परियोजनाएं, उन्नत मूल्यांकन	विकास दल
उद्यम	व्यवसाय से संपर्क करें	एसएसओ, ऑडिट लॉग, निजीकृत तैनाती शामिल है	बड़े उद्यम

संचालन और रखरखाव लागत संदर्भ (स्वयं-होस्टेड):

कम ट्रैफ़िक प्रोटोटाइप (प्रति दिन औसत 1,000 कॉल): $5-15/माह (एडब्ल्यूएस लैम्ब्डा + एपीआई गेटवे या क्लाउड रन का न्यूनतम कॉन्फ़िगरेशन)
मध्यम ट्रैफ़िक उत्पादन (प्रति दिन औसत 100,000 कॉल): $100-500/माह (2-4 t3.मध्यम उदाहरण + लोड संतुलन)
उच्च ट्रैफ़िक उत्पादन (औसतन दैनिक 1 मिलियन + कॉल): $1,000-5,000/माह (स्वचालित स्केलिंग क्लस्टर + रेडिस कैश + सीडीएन)

हिडन कॉस्ट टिप: लैंगसर्व स्वयं लगभग कोई अतिरिक्त विलंबता नहीं पेश करता है (एकल कॉल के लिए फ्रेमवर्क ओवरहेड लगभग 1-5ms है), लेकिन एलएलएम एपीआई की कॉल विलंबता मुख्य बाधा है। यदि श्रृंखला में एकाधिक सीरियल एलएलएम कॉल (जैसे एजेंट के बहु-चरणीय तर्क) शामिल हैं, तो एंड-टू-एंड विलंबता एकल एपीआई कॉल की तुलना में 3-10 गुना अधिक हो सकती है। लैंगस्मिथ में विलंब अलार्म सीमा को P95 <10 सेकंड पर सेट करने और इससे अधिक होने पर श्रृंखला की क्रमिक अड़चन का निवारण करने की अनुशंसा की जाती है।

अनुप्रयोग परिदृश्य

1. आंतरिक RAG Q&A सिस्टम बैकएंड

एंटरप्राइज़ के आंतरिक ज्ञान आधार (उत्पाद दस्तावेज़ीकरण, अनुपालन दस्तावेज़, तकनीकी मैनुअल) को लैंगचेन आरएजी श्रृंखला के माध्यम से संसाधित करने के बाद, इसे लैंगसर्व के माध्यम से एक आंतरिक एपीआई के रूप में उजागर किया जाता है। फ्रंट-एंड एप्लिकेशन (स्लैक बॉट, वेब पोर्टल, एंटरप्राइज वीचैट इंटीग्रेशन) मानक HTTP कॉल के माध्यम से प्रश्नोत्तर परिणाम प्राप्त करते हैं। स्वीकृति संकेतक: एपीआई प्रतिक्रिया समय P95 <5 सेकंड (एलएलएम अनुमान और पुनर्प्राप्ति सहित), पुनर्प्राप्ति सटीकता> 90%, 500ms के भीतर स्ट्रीमिंग आउटपुट पहला टोकन। लैंगसर्व का स्वचालित स्कीमा सत्यापन यह सुनिश्चित करता है कि इस परिदृश्य में सभी क्लाइंट सही क्वेरी प्रारूप में पास हों।

2. मल्टी-मॉडल ए/बी परीक्षण एपीआई गेटवे

उत्पाद टीम ने एक ही लैंगसर्व सर्वर पर कई रननेबल्स को माउंट किया - एक ही इनपुट को संसाधित करने के लिए जीपीटी-4ओ, क्लाउड 4 और जेमिनी 3 का उपयोग करते हुए, विभिन्न /पथ समापन बिंदुओं के माध्यम से उजागर किया गया। प्रत्येक मॉडल की विलंबित टोकन खपत और आउटपुट गुणवत्ता की तुलना करने के लिए लैंगस्मिथ की एकीकृत ट्रेस क्षमता का उपयोग करें। कार्यान्वयन युक्ति: लैंगसर्व के per_req_config_modifier का उपयोग प्रत्येक कॉन्फ़िगरेशन के लिए एक अलग समापन बिंदु को तैनात करने की आवश्यकता के बिना, प्रत्येक अनुरोध में मॉडल पैरामीटर (जैसे विभिन्न उपयोगकर्ताओं की तापमान प्राथमिकताएं) को गतिशील रूप से स्विच करने के लिए किया जा सकता है।

3. एजेंट वर्कफ़्लो का बाहरी ट्रिगरिंग इंटरफ़ेस

लैंगग्राफ पर आधारित स्वचालित एजेंट (जैसे प्रतिस्पर्धी उत्पाद अनुसंधान एजेंट और कोड समीक्षा एजेंट) लैंगसर्व के माध्यम से ट्रिगर एंडपॉइंट को उजागर करते हैं। बाहरी प्रणाली (जैसे सीआई/सीडी पाइपलाइन, निर्धारित कार्य अनुसूचक) कार्य विवरण को /invoke समापन बिंदु पर भेजती है, और एजेंट निष्पादन शुरू करता है और निर्दिष्ट भंडारण में परिणाम लिखता है। सीमा के लिए उपयुक्त नहीं: यदि एजेंट 10 मिनट से अधिक समय तक चलता है या उपयोगकर्ता के साथ कई दौर की बातचीत की आवश्यकता होती है, तो लैंगसर्व का सिंक्रोनस अनुरोध/प्रतिक्रिया मॉडल अब लागू नहीं होता है - इस समय लैंगग्राफ प्लेटफ़ॉर्म की अतुल्यकालिक तैनाती और वेबसॉकेट संचार क्षमताओं का उपयोग किया जाना चाहिए।

4. वास्तविक समय सामग्री निर्माण सेवा

मार्केटिंग टीम ने LCEL द्वारा निर्मित सामग्री निर्माण श्रृंखला (ब्रांड टोन + उत्पाद जानकारी + लंबाई की कमी) को लैंगसर्व एपीआई के रूप में तैनात किया। ऑपरेटिंग सिस्टम सोशल मीडिया कॉपी, ईमेल टेम्प्लेट और विज्ञापन नारे उत्पन्न करने के लिए बैचों में /बैच एंडपॉइंट को कॉल करता है। लैंगसर्व की समवर्ती बैच प्रसंस्करण क्षमता प्रतिलिपि के 100 टुकड़ों के उत्पादन समय को क्रमिक रूप से 5 मिनट से समानांतर में 30 सेकंड तक सीमित कर देती है। स्वीकृति संबंधी चिंताएं: बैच आकार और समवर्ती संख्या के बीच संतुलन - बहुत अधिक समवर्तीता एलएलएम एपीआई दर सीमा (दर सीमा) या ओओएम का कारण बन सकती है।

5. क्रॉस-टीम एआई योग्यता केंद्र

प्लेटफ़ॉर्म इंजीनियरिंग टीम कंपनी के भीतर आमतौर पर उपयोग की जाने वाली एआई क्षमताओं (पाठ सारांश, भावना विश्लेषण, इकाई निष्कर्षण, सामग्री समीक्षा) को स्वतंत्र लैंगसर्व मॉड्यूल में समाहित करती है और उन्हें एपीआई गेटवे पर समान रूप से पंजीकृत करती है। प्रत्येक व्यावसायिक टीम को स्वयं एलएलएम एपीआई से जुड़ने और मानक HTTP इंटरफ़ेस के माध्यम से एआई क्षमताओं का उपभोग करने की आवश्यकता नहीं है। यह मॉडल प्रत्येक टीम के विकेन्द्रीकृत प्रबंधन से प्लेटफ़ॉर्म टीम तक एलएलएम एपीआई कुंजी के प्रबंधन और आवृत्ति नियंत्रण को केंद्रीकृत करता है, जिससे एपीआई कुंजी रिसाव का जोखिम और अनुपालन ऑडिट की कठिनाई कम हो जाती है।

लागू लोग

एआई एप्लिकेशन डेवलपर्स (पायथन): मुख्य उपयोगकर्ता समूह। लैंगसर्व एलसीईएल पाइपलाइनों की तैनाती लागत को लगभग शून्य तक कम कर देता है - एक रननेबल को परिभाषित करें, add_routes की एक पंक्ति, और आपके पास एक उत्पादन-ग्रेड एपीआई है। पूर्वावश्यकता: लैंगचेन के रननेबल इंटरफ़ेस और एलसीईएल मूल सिंटैक्स से परिचित। पहले से ही LangChain का उपयोग करने वाले डेवलपर्स के लिए, लैंगसर्व एक प्राकृतिक परिनियोजन विकल्प है, लेकिन ध्यान रखें कि नई परियोजनाएं लैंगग्राफ प्लेटफॉर्म पर जा रही हैं।
बैकएंड आर्किटेक्ट्स और डेवऑप्स इंजीनियर्स: लैंगसर्व की फास्टएपीआई अनुकूलता इसे मौजूदा बैकएंड इंफ्रास्ट्रक्चर में सहजता से फिट होने की अनुमति देती है। आर्किटेक्ट इसे "एआई अनुकूलन परत" के रूप में मान सकते हैं - यह लैंगचेन के जटिल ऑपरेटिंग लॉजिक को एक मानक आरईएसटी इंटरफ़ेस में समाहित करता है, और बैक-एंड टीम टोकन, प्रॉम्प्ट और चेन जैसी अवधारणाओं को समझे बिना एआई क्षमताओं से जुड़ सकती है। तैनात करते समय, आपको लैंगसर्व की राज्य प्रबंधन सीमाओं पर ध्यान देने की आवश्यकता है: यह डिफ़ॉल्ट रूप से स्टेटलेस है, और कई प्रतियों को तैनात करते समय आपको सत्र स्थिरता को स्वयं संभालने की आवश्यकता है।
एआई उत्पाद प्रबंधक और डेमो निर्माता: लैंगसर्व द्वारा प्रदान किया गया प्लेग्राउंड इंटरफ़ेस एआई क्षमताओं को प्रदर्शित करने के लिए एक आदर्श उपकरण है। उत्पाद प्रबंधक सीधे कमांड लाइन संचालन के बिना https://<server>/playground/ पेज पर श्रृंखला के विभिन्न इनपुट मापदंडों का परीक्षण करता है। प्लेग्राउंड का साझा लिंक फ़ंक्शन पीएम को उत्पाद सत्यापन में तेजी लाने के लिए हितधारक समीक्षाओं के लिए विशिष्ट कॉन्फ़िगरेशन के लिंक साझा करने की अनुमति देता है।
शिक्षा और प्रशिक्षण परिदृश्य: एआई पाठ्यक्रम में, प्रशिक्षक एक लैंगसर्व सर्वर को शिक्षण बैकएंड के रूप में तैनात करता है। छात्र ब्राउज़र या सरल पायथन स्क्रिप्ट के माध्यम से एपीआई को कॉल करते हैं और परिनियोजन संदर्भ से परेशान हुए बिना प्रॉम्प्ट इंजीनियरिंग और चेन लॉजिक सीखने पर ध्यान केंद्रित करते हैं।
भीड़ के लिए उपयुक्त नहीं: ① जो टीमें नई एआई परियोजनाएं शुरू कर रही हैं - उन्हें सीधे लैंगसर्व के बजाय लैंगग्राफ प्लेटफॉर्म का उपयोग करना चाहिए; ② ऐसे परिदृश्य जिनमें लैंगग्राफ द्वारा निर्मित जटिल एजेंटों की तैनाती की आवश्यकता होती है (चेकपॉइंट, ह्यूमन-इन-द-लूप, लगातार मेमोरी के साथ) - लैंगसर्व इन सुविधाओं का पूरी तरह से समर्थन नहीं कर सकता है; ③ न्यूनतम विलंबता (<50ms) पर सख्त आवश्यकताओं के साथ न्यूनतम कॉलिंग परिदृश्य - एलएलएम एसडीके को सीधे कॉल करने से कम विलंबता और कम निर्भरता होती है; ④ टीमों में पायथन संचालन और रखरखाव क्षमताओं की कमी है - स्व-होस्ट किए गए लैंगसर्व को बुनियादी डॉकर और सर्वर प्रबंधन कौशल की आवश्यकता होती है, अन्यथा पूरी तरह से प्रबंधित समाधान का उपयोग करने की अनुशंसा की जाती है।

सारांश और आउटलुक

2023 से 2025 तक लैंगचेन इकोसिस्टम के आधिकारिक परिनियोजन घटक के रूप में लैंगचेन एपीआई (लैंगसर्व) ने "लैंगचेन चेन को REST API के रूप में जल्दी से उजागर करने" के स्पष्ट इंजीनियरिंग समस्या बिंदु को सफलतापूर्वक हल किया। इसका स्वचालित स्कीमा अनुमान, पूर्ण-लिंक स्ट्रीमिंग समर्थन और लैंगस्मिथ मूल एकीकरण "एलएलएम एप्लिकेशन एपीआई परिनियोजन" के इंजीनियरिंग प्रतिमान को परिभाषित करता है। 2.3K+ GitHub स्टार्स, 65 रिलीज़ और लाखों PyPI डाउनलोड डेवलपर समुदाय के बीच इसका वास्तविक मूल्य साबित करते हैं।

वर्तमान सीमाएँ और अनिश्चितताएँ:

लैंगसर्व को आधिकारिक तौर पर हटा दिया गया है (2024-11-18) और गिटहब रिपॉजिटरी को मई 2026 में संग्रहीत किया गया है। हालांकि एमआईटी लाइसेंस अनिश्चितकालीन उपयोग की अनुमति देता है, लेकिन अब कोई नई सुविधाएं और सुरक्षा अपडेट नहीं हैं।
लैंगग्राफ के जटिल एजेंटों (पुनरावृत्ति, दृढ़ता, बहु-एजेंट सहयोग) के लिए परिनियोजन समर्थन अधूरा है, और लैंगसर्व का डिज़ाइन दायरा सरल रननेबल और चेन तक सीमित है।
कोई अंतर्निहित प्रमाणीकरण और प्राधिकरण तंत्र नहीं है, और डेवलपर्स को इसे फास्टएपीआई परत या रिवर्स प्रॉक्सी परत पर लागू करने की आवश्यकता है।
शुरुआती संस्करणों में प्लेग्राउंड एंडपॉइंट की सुरक्षा में भेद्यता (सीवीई) थी। हालाँकि इसे बाद के संस्करणों में ठीक कर दिया गया है, लेकिन इसने डिबगिंग इंटरफ़ेस की सुरक्षा सीमा समस्या को उजागर कर दिया है जो डिफ़ॉल्ट रूप से चालू है।
स्ट्रीमिंग एंडपॉइंट का प्रदर्शन बड़े समवर्ती परिदृश्यों (>100 समवर्ती कनेक्शन) में बैक प्रेशर की समस्या पैदा कर सकता है, और उचित संख्या में श्रमिकों और कनेक्शन पूल आकार को कॉन्फ़िगर करने की आवश्यकता है।

खरीद और गोद लेने का जोखिम मूल्यांकन:

मौजूदा प्रोजेक्ट: यदि मौजूदा सिस्टम पहले से ही लैंगसर्व के आधार पर स्थिर रूप से चल रहा है, तो वर्तमान संस्करण को बनाए रखने और परिधि पर सुरक्षा निगरानी (विशेष रूप से रिवर्स प्रॉक्सी कॉन्फ़िगरेशन और निर्भरता स्कैनिंग) करने और 6-12 महीनों के भीतर माइग्रेशन विंडो की योजना बनाने की सिफारिश की जाती है।
नया प्रोजेक्ट चयन: परिनियोजन समाधान के रूप में सीधे लैंगग्राफ प्लेटफ़ॉर्म का उपयोग करें। लैंगसर्व का इंटरफ़ेस डिज़ाइन (इनवोक/बैच/स्ट्रीम एंडपॉइंट विनिर्देश) नए प्लेटफ़ॉर्म में विरासत में मिला है, और माइग्रेशन लागत मुख्य रूप से इंटरफ़ेस पुनर्निर्माण के बजाय रनटाइम प्रतिस्थापन में परिलक्षित होती है।
मुख्य शर्तें जिन्हें उद्यम खरीद से पहले सत्यापित करने की आवश्यकता है: ① लैंगग्राफ प्लेटफ़ॉर्म की निजी तैनाती मूल्य निर्धारण और डेटा रेजिडेंसी योजना; ② लैंगस्मिथ की डेटा उपयोग नीति - पुष्टि करें कि एआई ट्रैकिंग डेटा का उपयोग मॉडल माध्यमिक प्रशिक्षण के लिए नहीं किया जाएगा; ③ क्या लैंगसर्व से लैंगग्राफ प्लेटफ़ॉर्म पर माइग्रेशन टूल और समर्थन सेवाएँ एंटरप्राइज़ अनुबंध में शामिल हैं। यह अनुशंसा की जाती है कि उपरोक्त सत्यापन आइटम नवीनतम आधिकारिक अनुबंध शर्तों के अधीन हों।

लैंगचेन एपीआई का उपयोग कैसे करें

त्वरित शुरुआत: एक साधारण एलएलएम श्रृंखला तैनात करें

निम्नलिखित कोड लैंगसर्व के मुख्य उपयोग को दर्शाता है - कोड की लगभग 20 पंक्तियाँ एक चैट मॉडल और एक "मजाक सुनाने वाली" श्रृंखला को REST API के रूप में तैनात करती हैं:

# सर्वर.py
फास्टएपीआई से फास्टएपीआई आयात करें
langchan.prompts से ChatPromptTemplate आयात करें
langchin_openai से ChatOpenAI आयात करें
लैंगसर्व से add_routes आयात करें

ऐप = फास्टएपीआई (शीर्षक = "लैंगचेन एपीआई सर्वर", संस्करण = "1.0")

# चैट मॉडल को सीधे उजागर करें
add_routes(ऐप, ChatOpenAI(मॉडल='gpt-4o'), पाथ='/चैट')

# एक श्रृंखला को उजागर करें: शीघ्र शब्द + मॉडल
मॉडल = ChatOpenAI(model='gpt-4o', तापमान=0.7)
प्रॉम्प्ट = ChatPromptTemplate.from_template("{विषय} के बारे में एक चुटकुला सुनाएँ")
add_routes(ऐप, प्रॉम्प्ट | मॉडल, पथ='/मजाक')

यदि __नाम__ == "__मुख्य__":
    यूविकॉर्न आयात करें
    uvicorn.run(ऐप, होस्ट='0.0.0.0', पोर्ट=8000)

प्रारंभ आदेश:

पाइप इंस्टाल "लैंगसर्व[ऑल]" लैंगचैन-ओपनाई
निर्यात OPENAI_API_KEY='sk-...'
पायथन सर्वर.py

क्लाइंट एसडीके का उपयोग करके कॉल करें

# client.py
लैंगसर्व से रिमोट रननेबल आयात करें

जोक_एपीआई = रिमोट रननेबल ("http://localhost:8000/joke/")
परिणाम =joke_api.invoke({"विषय": "प्रोग्रामर"})
प्रिंट(परिणाम)

या मानक HTTP अनुरोध के माध्यम से:

कर्ल -एक्स पोस्ट http://localhost:8000/joke/invoke \
  -एच "सामग्री-प्रकार: एप्लिकेशन/जेसन" \
  -d '{"इनपुट": {"विषय": "प्रोग्रामर"}}'

प्रमुख कॉन्फ़िगरेशन मापदंडों का विवरण

add_routes(app, runnable, path="/my_चेन"): एक Runnable को निर्दिष्ट पथ पर माउंट करें और स्वचालित रूप से सभी मानक समापन बिंदु उत्पन्न करें।
enabled_endpoints=["इनवोक", "बैच", "स्ट्रीम"]: हमले की सतह को कम करते हुए, केवल निर्दिष्ट एंडपॉइंट्स तक एक्सपोज़र सीमित करें।
disabled_endpoints=["playground"]: उत्पादन वातावरण में प्लेग्राउंड डिबगिंग इंटरफ़ेस को अक्षम करें।
per_req_config_modifier: प्रत्येक अनुरोध में उपयोगकर्ता प्रमाणीकरण जानकारी इंजेक्ट करें (जैसे JWT में उपयोगकर्ता आईडी को रननेबल के कॉन्फ़िगरेशन में पास करना)।
`playground_type='chat'': चैट प्रकार Runnable के लिए चैट-विशिष्ट Playground UI सक्षम करें।

लैंगस्मिथ ट्रेस कॉन्फ़िगरेशन (वैकल्पिक)

निर्यात LANGCHAIN_TRACING_V2=सही
LANGCHAIN_API_KEY=<your_langsmith_api_key> निर्यात करें
LANGCHAIN_PROJECT=my-langserve-app निर्यात करें

उत्पादन परिवेश में परिनियोजन

लैंगसर्व किसी भी फास्टएपीआई-संगत परिनियोजन विधि का समर्थन करता है:

परिनियोजन के तरीके	आदेश/उपकरण	लागू परिदृश्य
स्थानीय डॉकर	`डॉकर बिल्ड -टी लैंगसर्व-ऐप। && docker run -p 8000:8000 langserve-app`	विकास परीक्षण
एडब्ल्यूएस ईसीएस/कोपायलट	`कोपायलट इनिट --ऐप माय-ऐप --नाम लैंगसर्व --टाइप 'लोड बैलेंस्ड वेब सर्विस'`	AWS क्लाउड नेटिव परिनियोजन
Azure कंटेनर ऐप्स	`एज़ कंटेनरएप अप--नाम लैंगसर्व-एप--सोर्स।`	Azure क्लाउड मूल परिनियोजन
जीसीपी क्लाउड रन	`जीक्लाउड रन डिप्लॉय लैंगसर्व-ऐप --सोर्स। --पोर्ट 8001`	जीसीपी सर्वर रहित परिनियोजन
रेलवे	रेलवे टेम्पलेट्स का एक-क्लिक परिनियोजन	रैपिड प्रोटोटाइप लॉन्च

संस्करण जानकारी

लैंगसर्व v0.3.3 ：पूरी तरह से Pydantic V2 का समर्थन करता है, OpenAPI दस्तावेज़ निर्माण संगतता समस्याओं को ठीक करता है, और सुरक्षा निर्भरता को अद्यतन करता है। यह संस्करण लैंगसर्व का अंतिम आधिकारिक रिलीज़ संस्करण है। （2025-10-17）
लैंगसर्व v0.3.0 ：पाइडेंटिक V2 आधिकारिक तौर पर समर्थित है, एक अवमूल्यन विवरण जारी किया गया है (2024-11-18, #791), और नई परियोजनाओं को लैंगग्राफ प्लेटफ़ॉर्म पर स्थानांतरित करने की अनुशंसा की जाती है। （2024-11）
लैंगसर्व v0.2.0 ：स्ट्रीमिंग इवेंट मॉडल को बेहतर बनाने के लिए एक नया /stream_events एंडपॉइंट जोड़ा गया है, जिससे डेवलपर्स को /stream_log आउटपुट को पार्स किए बिना इंटरमीडिएट स्टेप इवेंट प्राप्त करने की अनुमति मिलती है। （2024-06）
लैंगसर्व v0.0.16 ：प्लेग्राउंड एंडपॉइंट की मनमानी फ़ाइल रीडिंग सुरक्षा भेद्यता (सीवीई) को ठीक करें और इनपुट सत्यापन को बढ़ाएं। （2023-10）
लैंगसर्व आरंभिक रिलीज़ ：प्रारंभिक संस्करण जारी किया गया है, जो फास्टएपीआई सेवा के रूप में लैंगचेन रननेबल की तैनाती का समर्थन करता है, / इनवोक, / बैच, / स्ट्रीम एंडपॉइंट प्रदान करता है। अभी तक कोई आधिकारिक सटीक तारीख नहीं है। （2023-06）

उपयोगकर्ता समीक्षाएं

समीक्षाएं लोड हो रही हैं...

इसके साथ लॉगिन करें समीक्षा सबमिट करने के लिए