कोर एपीआई
कोहेयर एपीआई एंटरप्राइज़-स्तरीय परिदृश्यों के लिए कोहेयर द्वारा प्रदान किया गया एक बड़ा मॉडल एपीआई प्लेटफ़ॉर्म है। इसमें चार मॉडल परिवार शामिल हैं: जेनरेशन (कमांड सीरीज़), सिमेंटिक एम्बेडिंग (एम्बेड), प्रासंगिकता रैंकिंग (रीरैंक), और स्पीच रिकग्निशन (ट्रांसक्राइब)। यह नॉर्थ फुल-स्टैक एआई वर्कबेंच और कंपास इंटेलिजेंट सर्च उत्पाद भी प्रदान करता है। मुख्य अंतर डेटा संप्रभुता और निजी परिनियोजन के लिए गहन समर्थन में निहित है - मॉडल को ग्राहक वीपीसी, स्थानीय डेटा केंद्रों या कोहेयर होस्टेड समर्पित उदाहरणों (मॉडल वॉल्ट) में चलाया जा सकता है, और मॉडल फाइन-ट्यूनिंग के माध्यम से व्यवसाय अनुकूलन प्राप्त किया जा सकता है।
कोहेयर एपीआई का गहन विश्लेषण
मुख्य पैरामीटर और आँकड़े
एक वाक्य में संक्षिप्त टिप्पणी: कोहेयर एपीआई एक सामान्य चैटबॉट नहीं है, बल्कि एंटरप्राइज आरएजी और खोज परिदृश्यों के लिए एक "मॉडल + इंफ्रास्ट्रक्चर" संयोजन मंच है। मुख्य अंतर डेटा संप्रभुता में निहित है - मॉडल कोहेयर के क्लाउड से गुजरने के बजाय ग्राहक के वीपीसी में चल सकता है।
| आयाम | वर्तमान सार्वजनिक सूचना |
|---|---|
| उत्पाद स्थिति | एंटरप्राइज़-स्तरीय बड़े मॉडल एपीआई प्लेटफ़ॉर्म - जेनरेशन (कमांड), एम्बेडिंग (एम्बेड), सॉर्टिंग (रीरैंक), स्पीच रिकग्निशन (ट्रांसक्राइब) |
| डिलिवरी फॉर्म | सार्वजनिक क्लाउड एपीआई + मॉडल वॉल्ट (समर्पित होस्टिंग उदाहरण) + वीपीसी/स्थानीय निजी परिनियोजन + उत्तर (पूर्ण-स्टैक एआई कार्यक्षेत्र) |
| नवीनतम मुख्य मॉडल | कमांड ए+ 05-2026 (एमओई, 128के सीटीएक्स, 64के आउटपुट, टेक्स्ट+इमेज) |
| अधिकतम संदर्भ (सभी श्रृंखला) | 8K ~ 256K (मॉडल के अनुसार भिन्न होता है) |
| एंबेड मॉडल अधिकतम आयाम | 1536 (एम्बेड v4.0) |
| रीरैंक मॉडल अधिकतम संदर्भ | 32K (रीरैंक v4.0 प्रो/फास्ट) |
| समर्थित प्लेटफार्मों की संख्या | शीर्ष 5 क्लाउड प्लेटफ़ॉर्म: अमेज़ॅन बेडरॉक/सेजमेकर, एज़्योर एआई फाउंड्री, ओरेकल ओसीआई |
| उद्यम ग्राहक | सार्वजनिक प्रकटीकरणों में ओरेकल, फुजित्सु, डेल, आरबीसी, एसएपी, सेल्सफोर्स, एक्सेंचर, मैकिन्से, आदि शामिल हैं। |
| मुख्यालय/स्थान | कनाडा (टोरंटो) |
| सुरक्षा प्रमाणन | एसओसी 2, वीपीसी मॉडल वॉल्ट समर्पित इंस्टेंस तैनात करता है (आधिकारिक ट्रस्ट सेंटर के अधीन) |
उत्पाद सीमा: कोहेयर का मुख्य युद्धक्षेत्र "निजीकरण योग्य उद्यम आरएजी और खोज" है, सामान्य चैट या उपभोक्ता एप्लिकेशन नहीं। यदि किसी टीम को कम-अवरोधक संवादी एआई या ओपन सोर्स मॉडल की सेल्फ-होस्टिंग की आवश्यकता है, तो कोहेयर का एपीआई पथ अधिक महत्वपूर्ण हो सकता है।
उपयोगकर्ता और बाज़ार की पहचान
- एंटरप्राइज़ ग्राहक सूची अत्यधिक मूल्यवान है: ओरेकल (रणनीतिक सहयोग और संयुक्त बिक्री), फुजित्सु (सीटीओ सार्वजनिक समर्थन), एसएपी, और सेल्सफोर्स सभी वैश्विक एंटरप्राइज़ सॉफ़्टवेयर विक्रेता हैं, जो दर्शाता है कि कोहेरे को "मौजूदा एंटरप्राइज़ सॉफ़्टवेयर पारिस्थितिकी तंत्र में एम्बेडिंग" में प्रमुख चैनलों द्वारा सत्यापित किया गया है। आरबीसी और टीडी बैंक जैसे वित्तीय संस्थानों द्वारा अपनाए जाने से अनुपालन-संवेदनशील उद्योगों में इसकी पैठ साबित होती है।
- डेवलपर समुदाय: कोहेयर डिस्कॉर्ड समुदाय एलएलएम विश्वविद्यालय में मुफ्त पाठ्यक्रम और संपूर्ण एपीआई दस्तावेज़ीकरण प्रदान करता है। कई आधिकारिक और सामुदायिक परियोजनाएँ (जैसे कोहेरे टूलकिट, एलएलएम यूनिवर्सिटी कोड बेस) GitHub पर सक्रिय रहती हैं। सितारों/कांटों की विशिष्ट संख्या GitHub वास्तविक समय पृष्ठ के अधीन है।
- वित्तपोषण और मूल्यांकन: कोहेयर ने ओरेकल, एनवीआईडीआईए इंडेक्स वेंचर्स इत्यादि सहित निवेशकों के साथ वित्तपोषण के कई दौर पूरे कर लिए हैं, और इसका मूल्यांकन जेनरेटिव एआई इंफ्रास्ट्रक्चर के क्षेत्र में सबसे आगे है (विशिष्ट राशि और दौर क्रंचबेस जैसे सार्वजनिक डेटाबेस के अधीन हैं)।
- बाजार दृश्यता: आरएजी और एंबेडिंग सेगमेंट में, कोहेर का रेरैंक मॉडल पुनर्प्राप्ति वृद्धि पीढ़ी पाइपलाइन में एक उच्च आवृत्ति संदर्भ घटक है, और लामाइंडेक्स और लैंगचेन जैसे मुख्यधारा ढांचे के साथ गहराई से एकीकृत है।
सीमा विवरण: यदि खरीद प्रक्रिया सटीक एमएयू/एआरआर/उद्यम ग्राहकों की संख्या जैसे कठिन संकेतकों पर निर्भर करती है, तो आपको व्यवसाय के अंत में कोहेयर बिक्री टीम से आधिकारिक प्रमाणन सामग्री का अनुरोध करना होगा।
लागत लाभ: टोकन द्वारा नि:शुल्क परीक्षण मूल्य निर्धारण से लेकर समर्पित उदाहरणों के पूर्ण स्तर तक
कोहेयर की मूल्य निर्धारण प्रणाली चार स्तरों को कवर करती है, शून्य-सीमा परीक्षण कुंजी से लेकर मिलियन-डॉलर निजीकृत तैनाती तक। बीच में प्रत्येक स्तर की लागत संरचना और प्रतिबंध काफी भिन्न हैं। गलत स्तर चुनने से लागत नियंत्रण से बाहर हो सकती है।
| लागत स्तर | बिलिंग विधि | विशिष्ट परिदृश्य | मूल्य सीमा (संदर्भ) |
|---|---|---|---|
| सी-साइड/ट्रायल | परीक्षण एपीआई कुंजी, मुफ़्त लेकिन गति सीमित | व्यक्तिगत प्रोटोटाइप सत्यापन, मॉडल मूल्यांकन | $0 (दर सीमित, व्यावसायिक उपयोग निषिद्ध) |
| एपीआई भुगतान-जैसा-आप-जाओ | टोकन द्वारा बिलिंग (इनपुट/आउटपुट पृथक्करण) | छोटे और मध्यम पैमाने पर उत्पादन, डेवलपर एकीकरण | कमांड श्रृंखला $1~$15/1एम टोकन (मॉडल के अनुसार भिन्न होता है) |
| मॉडल वॉल्ट समर्पित उदाहरण | उदाहरण घंटे/माह के आधार पर निश्चित दर | मध्यम और बड़े पैमाने पर उत्पादन, उच्च डेटा अलगाव आवश्यकताएँ | $4~$10/घंटा या $2,500~$6,500/माह |
| उद्यम निजीकरण (वीपीसी/स्थानीय) | तैनाती + अनुकूलन + संचालन और रखरखाव सहित अनुकूलित अनुबंध | वित्त, सरकार, सख्त अनुपालन उद्योग | बिजनेस कोटेशन आवश्यक, अज्ञात |
सी-साइड/व्यक्तिगत: पंजीकरण के बाद, आपको स्वचालित रूप से ट्रायल एपीआई कुंजी प्राप्त होगी, और आप सभी मॉडलों का अनुभव करने के लिए सीधे डैशबोर्ड में प्लेग्राउंड को कॉल कर सकते हैं। परीक्षण कुंजी दर सीमित है और किसी भी व्यावसायिक या उत्पादन उपयोग से स्पष्ट रूप से निषिद्ध है, और तकनीकी मूल्यांकन और प्रोटोटाइप सत्यापन के लिए उपयुक्त है। कोई छिपी हुई सदस्यता शुल्क नहीं.
डेवलपर/एपीआई: प्रोडक्शन एपीआई कुंजी का भुगतान टोकन के बाद किया जाता है, और मासिक बिलिंग चक्र के अंत में या जब बकाया राशि $250 से अधिक हो जाती है, तो बिल किया जाएगा। विभिन्न मॉडलों की कीमत बहुत भिन्न होती है - प्रमुख MoE मॉडल के रूप में कमांड A+ की इकाई कीमत सबसे अधिक है (विशेष रूप से डैशबोर्ड वास्तविक समय कीमत पर आधारित), जबकि कमांड R7B (12B पैरामीटर स्तर) कम लागत वाले परिदृश्यों पर लक्षित है। अया एक्सपेंस सीरीज़ (ओपन सोर्स मल्टी-लैंग्वेज मॉडल) का प्रवेश मूल्य $0.50/1M इनपुट + $1.50/1M आउटपुट है। रीरैंक को "खोज इकाई" (1 क्वेरी × 100 दस्तावेज़ तक) के आधार पर बिल किया जाता है, और अतिरिक्त-लंबे दस्तावेज़ों को स्वचालित रूप से टुकड़ों में बिल किया जाता है। मुख्य छिपी हुई लागत: संदर्भ सीमा से अधिक होने पर स्वचालित ट्रंकेशन के कारण बिलिंग टोकन की संख्या अपेक्षा से अधिक हो सकती है। उत्पादन परिवेश में max_tokens की स्पष्ट ऊपरी सीमा निर्धारित करने की अनुशंसा की जाती है।
एंटरप्राइज़/निजी: मॉडल वॉल्ट कोहेयर का विशेष होस्टिंग समाधान है - मॉडल कोहेयर द्वारा प्रबंधित एकल-किरायेदार उदाहरणों पर चलते हैं, जिसमें कोई बहु-किरायेदार संसाधन विवाद नहीं है। बिलिंग उदाहरण के प्रकार और लंबाई पर आधारित है (उदाहरण के लिए, एंबेड 4 छोटे $4/घंटा/$2,500 प्रति माह, रीरैंक 4 प्रो बड़े $10/घंटा/$6,500 प्रति माह)। वीपीसी/स्थानीय परिनियोजन के लिए एक अनुकूलित अनुबंध की आवश्यकता होती है। स्पष्ट लागतों में इंस्टेंस लीजिंग, तैनाती कार्यान्वयन और निरंतर संचालन और रखरखाव शामिल हैं। अंतर्निहित लागत में मॉडल फाइन-ट्यूनिंग के लिए डेटा एनोटेशन जनशक्ति, समर्पित हार्डवेयर के लिए खरीद चक्र और टीम कौशल प्रशिक्षण भी शामिल है।
मुख्य कार्य
- कमांड जनरेशन मॉडल परिवार: 12बी पैरामीटर स्तर (कमांड आर7बी) से फ्लैगशिप एमओई (कमांड ए+) तक उत्पादन क्षमताओं को कवर करता है। आरएजी पीढ़ी, अनुवाद और तर्क को कॉल करने के लिए एजेंटिक टूल का समर्थन करें। कमांड ए रीज़निंग कोहेयर का पहला "सोच" मॉडल है, जो टोकन जेनरेशन से पहले आंतरिक तर्क श्रृंखला गणना करता है, और तार्किक तर्क, गणित और मल्टी-स्टेप एजेंट कार्यों के लिए उपयुक्त है। कमांड ए विज़न चार्ट ओसीआर, दस्तावेज़ प्रश्न और उत्तर और लक्ष्य का पता लगाने के लिए छवि समझ क्षमताओं को जोड़ता है।
- एम्बेड सिमेंटिक एंबेडिंग: सिमेंटिक खोज, क्लस्टरिंग और वर्गीकरण का समर्थन करते हुए पाठ और छवियों को निश्चित-आयामी वेक्टर अभ्यावेदन (1536 आयाम तक) में परिवर्तित करें। एम्बेड v4.0 संदर्भ लंबाई को 512 टोकन से 128K तक बढ़ा देता है, जो प्री-ब्लॉकिंग की आवश्यकता के बिना लंबे दस्तावेज़ों की एंड-टू-एंड एम्बेडिंग को संभाल सकता है। यह गतिशील आयाम चयन (256/512/1024/1536) का भी समर्थन करता है, और डाउनस्ट्रीम वेक्टर डेटाबेस की भंडारण लागत को सटीकता आवश्यकताओं के अनुसार लचीले ढंग से नियंत्रित किया जा सकता है।
- रीरैंक: एक चरण की पुनर्प्राप्ति (जैसे बीएम25 या वेक्टर खोज) में उम्मीदवार दस्तावेजों को वापस बुलाने के बाद, प्रासंगिकता स्कोर को ठीक करने और क्वेरी-डॉक जोड़े को फिर से रैंक करने के लिए ट्रांसफार्मर मॉडल का उपयोग करें। रीरैंक v4.0 प्रो 32K संदर्भ और अर्ध-संरचित डेटा (JSON) का समर्थन करता है, जो RAG सटीकता में सुधार के लिए प्रमुख घटक हैं। विशेषज्ञ दृष्टिकोण: एंबेड + रीरैंक का संयोजन "मोटे रिकॉल → बारीक सॉर्टिंग" की दो-चरणीय खोज पाइपलाइन बना सकता है। अकेले वेक्टर खोज की तुलना में, आंतरिक मूल्यांकन में हिट दर आमतौर पर 15-30% अधिक होती है। यह एक स्वतंत्र सुविधा नहीं है, बल्कि एक कोर सिनर्जी कार्ड स्लॉट है जिसका उपयोग कोहेरे आरएजी की प्रतिस्पर्धात्मकता बनाने के लिए करता है।
- ट्रांसक्राइब वाक् पहचान: ऑडियो-टू-टेक्स्ट (एएसआर) परिदृश्यों पर ध्यान केंद्रित करें, बहु-भाषा ट्रांसक्रिप्शन का समर्थन करते हुए, अधिकतम ऑडियो फ़ाइल आकार 25 एमबी के साथ। मार्च 2026 में जारी खुला स्रोत अनुसंधान संस्करण
cohere-transcribe-03-2026उच्च-सटीक बहु-भाषा प्रतिलेखन पर केंद्रित है। - नॉर्थ फुल-स्टैक एआई वर्कबेंच और कम्पास इंटेलिजेंट सर्च: नॉर्थ कोहेयर का एंटरप्राइज-स्तरीय एआई वन-स्टॉप प्लेटफॉर्म है जिसमें बिल्ट-इन कमांड मॉडल आरएजी पाइपलाइन एजेंट और वर्कफ़्लो ऑर्केस्ट्रेशन है, जो गैर-तकनीकी व्यावसायिक उपयोगकर्ताओं को लक्षित करता है। कम्पास पूर्व-निर्मित के साथ उद्यम-स्तर की बुद्धिमान खोज और खोज पर केंद्रित है
डेटा कनेक्टर, दस्तावेज़ पार्सिंग और प्रबंधन अनुक्रमणिका क्षमताओं का निर्माण करें। दोनों को कस्टम कोटेशन के लिए बिक्री से संपर्क करने की आवश्यकता होती है।
मॉडल और संस्करण विकास
कोहेयर का मॉडल पुनरावृत्ति लय गहन है: कमांड आर (128के सीटीएक्स) मार्च 2024 में जारी किया जाएगा, और आर+ उन्नत संस्करण अगस्त में लॉन्च किया जाएगा; कमांड ए मार्च 2025 में 256के सीटीएक्स और 150% थ्रूपुट सुधार के साथ ऊपरी सीमा को महत्वपूर्ण रूप से ताज़ा करेगा; जुलाई से अगस्त 2025 तक विज़न/ट्रांसलेट/रीज़निंग के तीन विशेष संस्करण लॉन्च किए जाएंगे; मई 2026 में, कमांड A+ कोहेयर का पहला MoE आर्किटेक्चर मॉडल बन जाएगा जो विज़ुअल इनपुट को भी सपोर्ट करता है।
वर्तमान मेनलाइन (जुलाई 2026)
| मॉडल | शृंखला | प्रसंग | अधिकतम आउटपुट | तौर-तरीके | वास्तुशिल्प विशेषताएं | |
|---|---|---|---|---|---|---|
| कमांड ए+ 05-2026 | कमांड ए | 128K | 64K | पाठ+छवि | पहला MoE, 1×B200 या 2×H100 चला सकते हैं | |
| कमांड ए 03-2025 | कमांड ए | 256K | 8K | पाठ | R+ | की तुलना में थ्रूपुट में 150% की वृद्धि हुई |
| कमांड ए रीज़निंग 08-2025 | कमांड ए | 256K | 32K | पाठ | तर्क मॉडल, आंतरिक सोच श्रृंखला | |
| कमांड ए विज़न 07-2025 | कमांड ए | 128K | 8K | पाठ+छवि | चार्ट ओसीआर, दस्तावेज़ प्रश्नोत्तर | |
| कमांड ए अनुवाद 08-2025 | कमांड ए | 8K | 8K | पाठ | 23 भाषाएँ मशीनी अनुवाद SOTA | |
| कमांड आर7बी 12-2024 | कमांड आर | 128K | 4K | पाठ | छोटे पैरामीटर और उच्च लागत प्रदर्शन, आरएजी/एजेंट को समर्पित | |
| एम्बेड v4.0 | एम्बेड करें | 128K | — | पाठ+छवि | परिवर्तनीय आयाम 256~1536 | |
| रीरैंक v4.0 प्रो/फास्ट | पुनः रैंक करें | 32K | — | पाठ | अर्ध-संरचित डेटा + बहुभाषी |
- कमांड आर सीरीज: कमांड आर (03-2024) और कमांड आर+ (04-2024) को 15 सितंबर, 2025 को हटा दिया गया था, और अब इसे कमांड ए सीरीज या कमांड आर7बी पर माइग्रेट करने की सिफारिश की गई है। अप्रचलित मॉडल अभी भी लीगेसी एपीआई के माध्यम से पहुंच योग्य हैं, लेकिन अब प्रदर्शन अनुकूलन और सुरक्षा अपडेट प्राप्त नहीं होते हैं।
- अया बहुभाषी श्रृंखला: अया एक्सपेंसे 32बी (23 भाषाएं, 128के सीटीएक्स) और अया विजन 32बी (मल्टीमॉडल) सक्रिय मेनलाइन हैं; 8बी संस्करण को अप्रैल 2026 में बंद कर दिया गया है। टिनी अया (3.35बी, 70 भाषाएं) को भौगोलिक क्षेत्रों के अनुसार चार प्रकारों में विभाजित किया गया है: वैश्विक/पृथ्वी/अग्नि/जल, जो संसाधन-विवश परिदृश्यों के लिए उपयुक्त है।
- एम्बेड सीरीज़: v3.0 सीरीज़ (अंग्रेजी/बहुभाषी) संदर्भ में केवल 512 टोकन हैं, और बड़े दस्तावेज़ों को टुकड़ों में विभाजित करने की आवश्यकता है; v4.0 सीधे 128K संदर्भ का समर्थन करता है, जो लंबे दस्तावेज़ पुनर्प्राप्ति के लिए एक महत्वपूर्ण उन्नयन है। v3.0 अभी भी उपलब्ध है लेकिन यह अनुशंसा की जाती है कि नई परियोजनाएँ सीधे v4.0 का उपयोग करें।
संस्करण मूल्यांकन के लिए मुख्य बिंदु
उत्पादन टीम के लिए, संस्करण चयन का आयाम न केवल "नवीनतम" को देखना चाहिए, बल्कि इस पर भी विचार करने की आवश्यकता है: प्रमुख क्षमताएं (जैसे कि रीजनिंग/विजन की आवश्यकता है), परिनियोजन लागत (कमांड ए + के लिए केवल 1 × बी 200 की आवश्यकता है, जो हार्डवेयर थ्रेशोल्ड को काफी कम कर सकता है), डेटा अनुपालन (वीपीसी समर्थन संस्करणों के बीच भिन्न होता है), और डेप्रिसेशन टाइमलाइन (कमांड आर श्रृंखला को हटा दिया गया है, और माइग्रेशन विंडो सीमित है)।
तकनीकी लाभ
तंत्र: कोहेयर का तकनीकी मार्ग ओपनएआई की सार्वभौमिक स्केलिंग और एंथ्रोपिक की सुरक्षा प्राथमिकता से अलग है, जो "एंटरप्राइज़-स्तरीय खोज वृद्धि + निजी तैनाती" के ऊर्ध्वाधर अनुकूलन पर केंद्रित है।
- आरएजी पूर्ण स्टैक अनुकूलन: कोहेयर उन कुछ एपीआई प्लेटफार्मों में से एक है जो एक ही समय में जेनरेशन (कमांड), एम्बेडिंग (एम्बेड) और रीऑर्डरिंग (रीरैंक) के तीन प्रमुख आरएजी घटक प्रदान करता है। तीनों के बीच तालमेल है: एंबेड रफ रिकॉल को पूरा करने के लिए दस्तावेज़ों को वैक्टर में परिवर्तित करता है, रेरैंक उम्मीदवार सेट पर बढ़िया सॉर्टिंग और स्कोरिंग करता है, और कमांड सॉर्ट किए गए संदर्भ के आधार पर जेनरेशन करता है। यह पाइपलाइन बंद होने से विक्रेताओं के बीच एकीकरण करते समय संगतता हानि और अतिरिक्त देरी से बचा जाता है।
- परिनियोजन लचीलापन प्रीमियम: मॉडल वॉल्ट के माध्यम से "मॉडल को समर्पित उदाहरण के रूप में" होस्टिंग मॉडल लागू करें - मॉडल वजन पूरी तरह से अलग हैं, और बहु-किरायेदार संदूषण का कोई खतरा नहीं है। वीपीसी/स्थानीय परिनियोजन एक कदम आगे बढ़ता है और मॉडल को ग्राहक के स्वयं के बुनियादी ढांचे के भीतर चलाता है, ताकि डेटा एंटरप्राइज़ नेटवर्क सीमा को न छोड़े। यह "एकीकृत एपीआई प्रवेश + डेटा प्लेन सेगमेंटेशन" आर्किटेक्चर वित्त, चिकित्सा देखभाल और सरकारी मामलों जैसे अनुपालन-गहन उद्योगों में एक स्पष्ट खरीद प्रीमियम का गठन करता है।
- MoE आर्किटेक्चर परियोजना कार्यान्वयन: कमांड A+ कोहेयर का पहला MoE मॉडल है, जिसे एकल B200 या 2 H100 GPU पर चलाया जा सकता है। इसका मतलब यह है कि समकक्ष क्षमताओं के घने मॉडल की तुलना में हार्डवेयर सीमा और अनुमान विलंबता काफी कम हो जाती है - उन टीमों के लिए जो आंतरिक जीपीयू क्लस्टर पर निजी मॉडल चलाना चाहते हैं, यह सीधे गणना योग्य टीसीओ (स्वामित्व की कुल लागत) को प्रभावित करता है।
- प्रभाव मात्रा: आधिकारिक खुलासे के अनुसार, कमांड ए में कमांड आर+ 08-2024 की तुलना में थ्रूपुट में 150% की वृद्धि हुई है, जिसका अर्थ है कि एक ही हार्डवेयर प्रति यूनिट समय में अधिक अनुरोधों को पूरा कर सकता है। रीरैंक v4.0 प्रो 32K संदर्भ का समर्थन करता है, जो v3.5 के 4K की तुलना में 8 गुना बेहतर है, और सॉर्टिंग के लिए सीधे लंबे दस्तावेज़ टुकड़े प्राप्त कर सकता है।
लागू परिदृश्य: उन टीमों के लिए सबसे उपयुक्त जिनके पास पहले से ही एंटरप्राइज़ खोज या आरएजी आर्किटेक्चर है और उन्हें पुनर्प्राप्ति सटीकता में सुधार करने और यह सुनिश्चित करने की आवश्यकता है कि डेटा डोमेन नहीं छोड़ता है। यह स्क्रैच से बुनियादी मॉडल प्रशिक्षण स्टैक बनाने या वास्तविक समय के चैट परिदृश्यों के लिए उपयुक्त नहीं है, जिनमें न्यूनतम देरी की आवश्यकता होती है।
कैसे उपयोग करें
कोहेयर एपीआई के उपयोग प्रवेश द्वारों को विभिन्न तकनीकी पृष्ठभूमि वाली टीमों के अनुरूप चार श्रेणियों में विभाजित किया गया है:
| प्रवेश | विशिष्ट चरण | अनुकूलन भूमिका |
|---|---|---|
| डैशबोर्ड खेल का मैदान | रजिस्टर करें → ट्रायल कुंजी प्राप्त करें → खेल के मैदान में मॉडल का चयन करें, प्रॉम्प्ट लिखें और डीबग करें | उत्पाद प्रबंधक, व्यवसाय विश्लेषक एआई मूल्यांकनकर्ता |
| रेस्ट एपीआई | उत्पादन कुंजी प्राप्त करें → डैशबोर्ड में उत्पादन एप्लिकेशन पर पूर्ण रूप से जाएं → SDK/HTTP कॉल को एकीकृत करें | बैकएंड/एमएल इंजीनियर |
| मॉडल वॉल्ट | डैशबोर्ड में एक इंस्टेंस बनाएं → एक मॉडल और विनिर्देश चुनें → एक वॉल्ट-विशिष्ट समापन बिंदु प्राप्त करें | डेवऑप्स, एमएलओपीएस, आईटी एडमिन |
| उत्तर / दिशा सूचक यंत्र | संपर्क बिक्री अनुरोध डेमो → डेटा कनेक्टर कॉन्फ़िगर करें → एजेंट और खोज सूचकांक कॉन्फ़िगर करें | एंटरप्राइज डिजिटल टीम आईटी प्रोक्योरमेंट |
एपीआई कॉल उदाहरण (पायथन एसडीके):
यहाँ आयात करें
# क्लाइंट को इनिशियलाइज़ करें (डैशबोर्ड में प्रोडक्शन कुंजी लागू करने की आवश्यकता है)
सह = सहयहाँ.क्लाइंट("<YOUR_API_KEY>")
# कमांड जनरेट करें
प्रतिक्रिया = सह.चैट(
मॉडल = "कमांड-ए-प्लस-05-2026",
संदेश = "एंटरप्राइज़ खोज के लिए RAG आर्किटेक्चर के प्रमुख लाभों को संक्षेप में प्रस्तुत करें।",
तापमान=0.3,
max_tokens=1024,
)
प्रिंट(प्रतिक्रिया.पाठ)
#एम्बेड एंबेड
एम्बेडिंग = सह.एम्बेडिंग(
texts=["Cohere API VPC में निजी परिनियोजन का समर्थन करता है।"],
मॉडल = "एम्बेड-v4.0",
इनपुट_प्रकार = "खोज_दस्तावेज़",
एम्बेडिंग_प्रकार=["फ्लोट"]
)
प्रिंट(एम्बेडिंग्स.एम्बेडिंग्स)
# पुनः क्रमित करें
पुनःरैंक_परिणाम = सह.रीरैंक(
मॉडल = "रीरैंक-v4.0-प्रो",
क्वेरी = "कमांड A+、 की संदर्भ लंबाई क्या है",
दस्तावेज़=[
"कमांड A+ की संदर्भ लंबाई 128K टोकन है।",
"एम्बेड v4.0 128K संदर्भ लंबाई तक का समर्थन करता है।",
"रीरैंक v4.0 प्रो 32K संदर्भ लंबाई का समर्थन करता है।"
],
शीर्ष_n=2
)
rerank_results.results में परिणाम के लिए:
प्रिंट(f"सूचकांक: {result.index}, प्रासंगिकता: {result.relevance_score}")
कार्यान्वयन पथ के लिए अनुशंसा: पहले खेल के मैदान में मॉडल चयन और सटीकता सत्यापन को पूरा करने के लिए ट्रायल कुंजी का उपयोग करें (1-2 सप्ताह), फिर एपीआई एकीकरण पीओसी (2-4 सप्ताह) करने के लिए उत्पादन कुंजी का उपयोग करें, और अंत में तय करें कि थ्रूपुट और अनुपालन आवश्यकताओं के आधार पर सार्वजनिक एपीआई, मॉडल वॉल्ट या वीपीसी को तैनात करना है या नहीं।
उत्पाद का मूल्य निर्धारण
कोहेयर की कीमत कोई निश्चित मूल्य सूची नहीं है, बल्कि "एक्सेस मेथड × मॉडल × स्पेसिफिकेशन" पर आधारित एक त्रि-आयामी मैट्रिक्स है।
सार्वजनिक एपीआई की कीमत टोकन (प्रतिनिधि मॉडल) द्वारा तय की गई है:
| मॉडल | इनपुट ($/1M टोकन) | आउटपुट ($/1M टोकन) | टिप्पणियाँ |
|---|---|---|---|
| कमांड ए+ 05-2026 | अज्ञात (फ्लैगशिप MoE) | अज्ञात | डैशबोर्ड वास्तविक समय कीमत के अधीन |
| कमांड ए 03-2025 | अज्ञात | अज्ञात | डैशबोर्ड वास्तविक समय कीमत के अधीन |
| कमांड आर7बी 12-2024 | अज्ञात | अज्ञात | छोटे पैरामीटर और कम लागत, वास्तविक समय पृष्ठ के अधीन |
| कमान (विरासत) | $1.00 | $2.00 | अप्रचलित, केवल मौजूदा ग्राहकों के लिए उपलब्ध |
| कमांड आर+ 08-2024 (विरासत) | $2.50 | $10.00 | पदावनत |
| आया विस्तार 32बी | $0.50 | $1.50 | ओपन सोर्स मल्टी-लैंग्वेज मॉडल |
रीरैंक बिलिंग: "खोज इकाई" पर आधारित - 1 खोज इकाई = 1 क्वेरी + अधिकतम 100 दस्तावेज़। 500 टोकन से अधिक के दस्तावेज़ स्वचालित रूप से टुकड़ों में विभाजित हो जाते हैं, और प्रत्येक टुकड़े को एक स्वतंत्र दस्तावेज़ के रूप में गिना जाता है। रीरैंक v4.0 श्रृंखला की आधिकारिक कीमत का पूरी तरह से खुलासा नहीं किया गया है, और यह डैशबोर्ड वास्तविक समय पृष्ठ के अधीन है।
मॉडल वॉल्ट विशेष उदाहरण (कुछ विशिष्टताएँ):
| मॉडल | प्रदर्शन स्तर | प्रति घंटा दरें | मासिक दरें |
|---|---|---|---|
| एंबेड 4 | छोटा | $4.00/घंटा | $2,500/माह |
| एंबेड 4 | मध्यम | $5.00/घंटा | $3,250/माह |
| रीरैंक 3.5 / 4 फास्ट / 4 प्रो | मध्यम | $5.00/घंटा | $3,250/माह |
| रीरैंक 4 प्रो | बड़ा | $10.00/घंटा | $6,500/माह |
निःशुल्क कोटा: ट्रायल एपीआई कुंजी पूरी तरह से निःशुल्क है, लेकिन दर सीमित है और व्यावसायिक उपयोग निषिद्ध है। एक बार प्रोडक्शन कुंजी में स्थानांतरित होने के बाद, इसे पोस्ट-पेड आधार पर बिल किया जाएगा।
छिपी हुई लागत: मॉडल फाइन-ट्यूनिंग के लिए डेटा तैयारी और लेबलिंग लागत (ग्राहकों को स्वयं प्रशिक्षण डेटा तैयार करने की आवश्यकता होती है), सार्वजनिक एपीआई से वीपीसी में स्थानांतरित करने के लिए इंजीनियरिंग एकीकरण लागत, दीर्घकालिक निजी तैनाती के लिए हार्डवेयर खरीद और संचालन और रखरखाव लागत।
अनुप्रयोग परिदृश्य
- एंटरप्राइज़ आरएजी नॉलेज बेस प्रश्नोत्तर: आंतरिक दस्तावेज़ों (पीडीएफ, टेबल, स्कैन सहित) को वैक्टर में बदलने के लिए एंबेड v4.0 का उपयोग करें, बढ़िया लेआउट के लिए रीरैंक v4.0 प्रो और उत्तर उत्पन्न करने के लिए कमांड श्रृंखला का उपयोग करें। विशिष्ट परिदृश्य: वित्तीय अनुसंधान रिपोर्ट प्रश्नोत्तर, कानूनी अनुबंध समीक्षा, चिकित्सा साहित्य पुनर्प्राप्ति। सत्यापन फोकस: पायलटों के पहले बैच में पुनर्प्राप्ति रिकॉल दर (रिकॉल@के) और उत्तर निष्ठा (उत्तर फेथफुलनेस) को मापें, और शुद्ध वेक्टर खोज बनाम एंबेड+रीरैंक दो-चरण पाइपलाइन के बीच अंतर की तुलना करें।
- बहुभाषी सामग्री की समझ और अनुवाद: कमांड ए ट्रांसलेशन 23 भाषाओं में अनुवाद SOTA तक पहुंचता है, और आया श्रृंखला 23~70 भाषाओं को कवर करती है। सीमा पार ई-कॉमर्स के लिए बहुभाषी ग्राहक सेवा और वैश्विक उद्यमों के लिए आंतरिक ज्ञान की क्रॉस-भाषा पुनर्प्राप्ति के लिए उपयुक्त। सीमा: कम संसाधन वाली भाषाओं की अनुवाद गुणवत्ता के लिए अभी भी मैन्युअल निरीक्षण की आवश्यकता होती है, और यह अत्यधिक उच्च साहित्यिक आवश्यकताओं वाली सामग्री के अनुवाद के लिए उपयुक्त नहीं है।
- अनुपालन खोज और समीक्षा: वित्तीय, सरकारी मामलों और चिकित्सा परिदृश्यों में, दस्तावेज़ों को कॉर्पोरेट नेटवर्क नहीं छोड़ना चाहिए। वीपीसी परिनियोजन या मॉडल वॉल्ट के माध्यम से मॉडल को अपने स्वयं के बुनियादी ढांचे में चलाएं, और संवेदनशील सामग्री पर प्रासंगिक फ़िल्टरिंग करने के लिए इसे रीरैंक के साथ संयोजित करें। सत्यापन के मुख्य बिंदु: पुष्टि करें कि क्या परिनियोजन योजना सभी डेटा प्रोसेसिंग प्रक्रियाओं (लॉग ऑडिटिंग, ट्रांसमिशन एन्क्रिप्शन और एक्सेस कंट्रोल सहित) को कवर करती है।
- एजेंट और स्वचालित वर्कफ़्लो: कमांड ए श्रृंखला मूल रूप से टूल इनवोकेशन और एजेंट वर्कफ़्लो ऑर्केस्ट्रेशन का समर्थन करती है। इसका उपयोग स्वचालित संचालन और रखरखाव कार्य ऑर्डर वर्गीकरण, बिक्री लीड स्कोरिंग और अनुबंध खंड निष्कर्षण जैसे संरचित कार्यों के लिए किया जा सकता है। सीमाओं के लिए उपयुक्त नहीं: वास्तविक समय के इंटरैक्शन परिदृश्य जिनमें बेहद कम विलंबता (<200ms) की आवश्यकता होती है, वे क्रॉस-क्लाउड एजेंट ऑर्केस्ट्रेशन लिंक के लिए उपयुक्त नहीं हैं। स्थानीय परिनियोजन या समर्पित अनुमान समाधानों का मूल्यांकन करने की अनुशंसा की जाती है।
लागू लोग
- एआई आर्किटेक्ट और एमएल इंजीनियर: पुनर्प्राप्ति सटीकता, मॉडल चयन और निजीकृत परिनियोजन पथ पर ध्यान केंद्रित करते हुए उद्यम के लिए एक एंड-टू-एंड आरएजी पाइपलाइन बनाने की आवश्यकता है। कोहेयर का एंबेड+रीरैंक+कमांड थ्री-पीस सुइट डेटा वेयरहाउसिंग से लेकर आउटपुट जेनरेशन तक एक मानकीकृत समाधान प्रदान करता है, जो क्रॉस-वेंडर एकीकरण के कार्यभार को समाप्त करता है।
- एंटरप्राइज़ आईटी और अनुपालन लीडर: डेटा सुरक्षा और अनुपालन ऑडिट के लिए जिम्मेदार। कोहेयर का वीपीसी/मॉडल वॉल्ट निजी परिनियोजन समाधान एसओसी 2 प्रमाणन और यह खंड कि डेटा का उपयोग मॉडल प्रशिक्षण के लिए नहीं किया जाता है (जिसे अनुबंध स्तर पर पुष्टि की जानी चाहिए) इसके मुख्य मूल्य बिंदु हैं।
- उद्योग समाधान इंटीग्रेटर: वित्त, चिकित्सा देखभाल और सरकारी मामलों जैसे अनुपालन-संवेदनशील उद्योगों की सेवा करना। ओरेकल, फुजित्सु, एडब्ल्यूएस, एज़्योर और अन्य प्लेटफार्मों के साथ कोहेयर का गहरा एकीकरण इसे एंटरप्राइज़-ग्रेड एआई क्षमताओं के लिए प्लग-इन घटक के रूप में मौजूदा सिस्टम में एम्बेड करने की अनुमति देता है।
- सीमाओं में फिट नहीं बैठता:
- सीमित बजट वाली छोटी टीमें या व्यक्तिगत डेवलपर्स - ट्रायल कुंजी पर सख्त प्रतिबंध हैं, उत्पादन कुंजी में अनुमोदन सीमाएँ हैं और टोकन द्वारा बिलिंग पूर्वानुमानों से अधिक हो सकती है। यह अधिक अनुशंसित है कि ओपन सोर्स मॉडल (जैसे लामा, मिस्ट्रल) को ओलामा/वीएलएलएम के माध्यम से स्वयं-होस्ट किया जाए।
- ऐसे एप्लिकेशन जिनके लिए सामान्य बातचीत या उपभोक्ता-ग्रेड एआई की आवश्यकता होती है - कोहेयर की कमांड श्रृंखला को एक एंटरप्राइज़ आरएजी/एजेंट के रूप में तैनात किया गया है, और एंथ्रोपिक क्लाउड या जीपीटी श्रृंखला के साथ बातचीत क्षमताओं में एक अंतर है।
- अत्यधिक सख्त निजी परिदृश्य जिनके लिए पूर्ण ऑफ़लाइन संचालन की आवश्यकता होती है और कोई बाहरी निर्भरता नहीं होती है - हालांकि मॉडल वॉल्ट एक एकल किरायेदार है, नियंत्रण विमान अभी भी कोहेयर द्वारा प्रबंधित किया जाता है, और वीपीसी समाधान के लिए निर्माता को साइट पर होना आवश्यक है; यदि पूर्ण स्वायत्तता और नियंत्रण की आवश्यकता है, तो ओपन सोर्स मॉडल + स्व-प्रशिक्षण अभी भी एकमात्र विकल्प हैं।
सारांश और आउटलुक
कोहेयर एपीआई की मुख्य प्रतिस्पर्धात्मकता किसी एकल मॉडल के बेंचमार्क स्कोर में निहित नहीं है, बल्कि "जेनरेशन + एम्बेडिंग + रीऑर्डरिंग" और एंटरप्राइज़-स्तरीय निजी तैनाती की पूर्ण-स्टैक आरएजी क्षमताओं के इंजीनियरिंग कार्यान्वयन में निहित है। एंटरप्राइज़ आरएजी और खोज परिदृश्यों में, कोहेयर का एंबेड+रीरैंक घटक वर्तमान में बाज़ार में एक ही आपूर्तिकर्ता द्वारा प्रदान किया गया एकमात्र मूल सहयोग समाधान है - जिसका अर्थ है सबसे कम पाइपलाइन संगतता हानि और सबसे छोटा डिबगिंग लिंक। कमांड ए+, पहला एमओई मॉडल, हार्डवेयर दक्षता के साथ निजी तैनाती के टीसीओ को कम करता है जो एक ही कार्ड पर चल सकता है। 70 भाषाओं में अया श्रृंखला का कवरेज इसे बहुभाषी परिदृश्यों में एक अलग मूल्य बनाता है।
वर्तमान सीमाएं और अनिश्चितताएं: सामान्य बातचीत, रचनात्मक लेखन और मल्टी-मोडल समझ जैसे क्षेत्रों में कोहेयर की क्षमताएं अभी भी ओपनएआई जीपीटी-5 श्रृंखला या एंथ्रोपिक क्लाउड 4 श्रृंखला से बहुत पीछे हैं, और खुले डोमेन परिदृश्यों के लिए उपयुक्त नहीं हैं जिनके लिए सबसे मजबूत सामान्य बुद्धि की आवश्यकता होती है। MoE मॉडल (कमांड A+) का वास्तविक प्रदर्शन और स्थिरता डेटा अभी तक बड़े पैमाने पर समुदाय द्वारा सत्यापित नहीं किया गया है। वीपीसी/स्थानीय परिनियोजन में उच्च खरीद सीमा और लंबा वितरण चक्र होता है, जिससे छोटे और मध्यम आकार के उद्यमों के लिए इसे जल्दी से अपनाना मुश्किल हो जाता है। कोहेयर ने सभी मॉडलों के लिए सटीक टीटीएफटी और थ्रूपुट बेंचमार्क का खुलासा नहीं किया है, इसलिए मॉडल का चयन और तुलना करते समय आपको कागजी विनिर्देशों के बजाय वास्तविक माप पर भरोसा करने की आवश्यकता है।
खरीद/गोद लेने का जोखिम मूल्यांकन: उन उद्यमों के लिए जो कोहेयर एपीआई को उत्पादन में पेश करने की योजना बना रहे हैं, उन्हें तीन-चरणीय सत्यापन करने की अनुशंसा की जाती है - पहले 2-4 सप्ताह के भीतर मुख्य परिदृश्य की सटीकता और विलंबता बेंचमार्क परीक्षण को पूरा करने के लिए परीक्षण कुंजी का उपयोग करें (विशेष रूप से एंबेड + रीरैंक संयुक्त पाइपलाइन की रिकॉल दर), और फिर उत्पादन कुंजी के लिए एक महीने का मध्यम यातायात तनाव परीक्षण करने के लिए आवेदन करें ताकि यह पुष्टि हो सके कि बिलिंग मॉडल वाणिज्यिक अनुबंध में प्रवेश करने से पहले विकास अपेक्षाओं को पूरा करता है। मंच. निजी परिनियोजन समाधान (मॉडल वॉल्ट/वीपीसी) को डेटा प्रोसेसिंग शर्तों (चाहे डेटा का उपयोग मॉडल सुधार के लिए किया जाता है), ऑडिट लॉग की दृश्यता एसएलए और अनुबंध स्तर पर अपग्रेड और माइग्रेशन प्रक्रिया की पुष्टि करनी होगी। मॉडल बाइंडिंग जोखिमों के संदर्भ में, आरएजी पाइपलाइन में एंबेडिंग और रीरैंक मॉडल की इंटरफ़ेस एब्स्ट्रैक्शन परत को बनाए रखने की सिफारिश की जाती है, जिससे अन्य विक्रेताओं या ओपन सोर्स समाधानों पर स्विच करने के लिए इंजीनियरिंग लचीलापन छोड़ दिया जाता है।
संबंधित टूल: <एक्सलिंक टाइप='टूल' स्लग='हगिंग-फेस'>, <एक्सलिंक टाइप='टूल' स्लग='रेप्लिकेट'>
संस्करण जानकारी
- कमांड ए+एमओई :कोहेयर का पहला मिक्स्ड एक्सपर्ट (MoE) मॉडल टेक्स्ट और इमेज इनपुट, 128K संदर्भ, 64K अधिकतम आउटपुट दोनों का समर्थन करता है, और एक B200 या 2 H100 GPU पर चल सकता है। एजेंटिक क्षमताओं, तर्क और बहुभाषी अनुवाद को एक ही वजन में एकीकृत करें।
- कमान ए :256K संदर्भ, टूल कॉलिंग और RAG क्षमताओं को काफी बढ़ाया गया है, थ्रूपुट कमांड R+ 08-2024 से 150% अधिक है, और चलाने के लिए केवल 2 GPU की आवश्यकता होती है।
- कमांड आर+ 08-2024 :128K संदर्भ, जटिल RAG और मल्टी-स्टेप टूल कॉल का समर्थन करता है, प्रवेश मूल्य $2.50/1M इनपुट टोकन।
- कमान आर :कोहेयर का पहला कमांड डायलॉग मॉडल, 128K संदर्भ, कोड जेनरेशन RAG, टूल इनवोकेशन और एजेंट वर्कफ़्लो का समर्थन करता है। बहिष्कृत.
उपयोगकर्ता समीक्षाएं