एरीज़ एआई
मुफ्त
Arize AI, AI एजेंट और LLM अनुप्रयोगों के लिए एक इंजीनियरिंग प्लेटफ़ॉर्म है, जो दो उत्पाद लाइनें प्रदान करता है: Arize AX (क्लाउड SaaS) और
टूल टेक्स्ट
मुख्य पैरामीटर और आँकड़े
Arize AI की उत्पाद प्रणाली को दो पंक्तियों में विभाजित किया गया है: Arize AX (क्लाउड SaaS प्लेटफ़ॉर्म) और Arize फ़ीनिक्स (ओपन सोर्स AI ऑब्जर्वेबिलिटी प्लेटफ़ॉर्म)। पहले का लक्ष्य एंटरप्राइज़-स्तरीय परिदृश्यों पर है जिसके लिए प्रबंधित सेवाओं और टीम सहयोग की आवश्यकता होती है, जबकि बाद वाले का लक्ष्य उन विकास टीमों पर है जिन्हें स्व-होस्टिंग, डेटा रेजिडेंसी या स्थानीय डिबगिंग की आवश्यकता होती है। दोनों OpenInference/OpenTelemetry डेटा मानकों और मूल्यांकन इंजनों का एक ही सेट साझा करते हैं।
| प्रोजेक्ट्स | सार्वजनिक सूचना |
|---|---|
| उत्पाद प्रणाली | एरीज़ एक्स (क्लाउड सास) + एरीज़ फीनिक्स (ओपन सोर्स) |
| आधिकारिक प्रवेश द्वार | arize.com |
| उत्पाद दस्तावेज़ीकरण | arize.com/docs |
| गिटहब संगठन | github.com/Arize-ai - 72 रिपॉजिटरी |
| कोर रिपोजिटरी | फ़ीनिक्स (10.6k सितारे), ओपनइंफ़रेंस (1.1k सितारे) |
| ओपन सोर्स लाइसेंस | इलास्टिक लाइसेंस 2.0 (फीनिक्स), अपाचे-2.0 (ओपनइंफेरेंस, आदि) |
| प्लेटफ़ॉर्म मासिक प्रसंस्करण मात्रा | 1 ट्रिलियन+ स्पैन, 1 बिलियन+ इवेल्स, 5 मिलियन+ डाउनलोड |
| एंटरप्राइज़ ग्राहक | रेडिट, डोरडैश, उबर, इंस्टाकार्ट, स्पॉटिफ़ाई, बुकिंग.कॉम, पेजरड्यूटी, एटलसियन, पेप्सी, प्राइसलाइन, और बहुत कुछ |
| परिनियोजन प्रपत्र | Arize AX SaaS, फीनिक्स सेल्फ-होस्टिंग (डॉकर/K8s/लोकल) |
| टीम का आकार | बर्कले और NYC में 35+ खुले पद, कार्यालय |
| वित्त पोषण पृष्ठभूमि | बैटरी वेंचर्स, फाउंडेशन कैपिटल, टीसीवी, एडम्स स्ट्रीट, माइक्रोसॉफ्ट वेंचर, ओएमईआरएस, आदि |
इन मापदंडों से संकेत मिलता है कि Arize अब एक प्रारंभिक स्टार्टअप नहीं है - इसकी ट्रिलियन-स्तरीय स्पैन प्रसंस्करण क्षमता और अग्रणी उद्यम ग्राहकों की सूची से संकेत मिलता है कि एलएलएम अवलोकन ट्रैक में इसे प्रथम-प्रस्तावक लाभ प्राप्त है। लेकिन जो चीज वास्तव में अंतर को बढ़ाती है, वह खुद संख्याएं नहीं हैं, बल्कि "ट्रेस + इवल + एक्सपेरिमेंट" का थ्री-इन-वन उत्पाद तर्क है: पारंपरिक एपीएम उपकरण आपको बता सकते हैं कि सिस्टम धीमा है, लेकिन वे यह नहीं बता सकते कि यह एक त्वरित समस्या है, लापता पुनर्प्राप्ति है, या मॉडल का क्षरण है; Arize इन तीन प्रकार के संकेतों को एक ही ट्रेस से जोड़ता है, जिससे AI टीम को डिबगिंग कोड की तरह एजेंट के व्यवहार को डीबग करने की अनुमति मिलती है।
उपयोगकर्ता और बाज़ार की पहचान
एरीज़ की बाज़ार पहचान को तीन आयामों से देखा जा सकता है। एंटरप्राइज़ एडॉप्शन स्तर पर, आधिकारिक वेबसाइट पर प्रदर्शित ग्राहक सूची में रेडिट, उबर, डोरडैश, स्पॉटिफ़ाइ, इंस्टाकार्ट, बुकिंग.कॉम, एटलसियन, पेजरड्यूटी, वेफ़ेयर, प्राइसलाइन और सोशल नेटवर्किंग, यात्रा, ई-कॉमर्स, ऑडियो और वीडियो और SaaS की अन्य अग्रणी कंपनियां शामिल हैं। इनमें से अधिकांश ग्राहक एआई एजेंट या एलएलएम कार्यों को मुख्य व्यावसायिक प्रक्रियाओं में शामिल करते हैं और उन्हें अवलोकन और मूल्यांकन की सख्त आवश्यकता होती है।
ओपन सोर्स इकोसिस्टम स्तर पर, फीनिक्स को GitHub पर 10.6k स्टार प्राप्त हुए, OpenInference को 1.1k स्टार प्राप्त हुए, और संगठन-स्तरीय गोदामों की संख्या 72 तक पहुंच गई। 5 मिलियन+ डाउनलोड और 22 मिलियन+ ओपनटेलीमेट्री इंस्ट्रूमेंटेशन डाउनलोड का मासिक औसत दर्शाता है कि इसे न केवल आज़माया जा रहा है, बल्कि वास्तविक परियोजनाओं में लगातार एकीकृत भी किया जा रहा है।
उद्योग समर्थन एरीज़ के निवेशकों में बैटरी वेंचर्स, फाउंडेशन कैपिटल, टीसीवी, एडम्स स्ट्रीट, माइक्रोसॉफ्ट वेंचर, ओएमईआरएस, साइनवेव और डेटाडॉग शामिल हैं। उनमें से, डेटाडॉग के निवेश का विशेष अर्थ है-पारंपरिक एपीएम दिग्गज अप्रत्यक्ष रूप से मानते हैं कि एआई अवलोकन एक स्वतंत्र नई श्रेणी है।
यह ध्यान दिया जाना चाहिए कि ओपन सोर्स स्टार और मासिक डाउनलोड डेवलपर की रुचि और पारिस्थितिक प्रसार गति को दर्शाते हैं, और सीधे भुगतान करने वाले ग्राहकों की संख्या या राजस्व के बराबर नहीं हैं। खरीद मूल्यांकन के दौरान, उद्यमों को एरीज़ से संदर्भ मामले एसएलए नियम और डेटा निर्यात नीतियां प्रदान करने के लिए कहना चाहिए जो उनके स्वयं के ट्रेस स्केल से मेल खाते हों।
लागत लाभ
Arize की लागत संरचना को तीन स्तरों में विभाजित करने की आवश्यकता है क्योंकि ओपन सोर्स संस्करण और क्लाउड SaaS संस्करण की लागत बहुत अलग है।
व्यक्तिगत/छोटी टीम (सी-साइड): एरिज़ एएक्स फ्री टियर 15 दिनों के रिटेंशन के साथ 25k स्पैन/माह और 1 जीबी स्टोरेज प्रदान करता है, जो व्यक्तिगत डेवलपर्स के लिए अवधारणाओं को सत्यापित करने या परीक्षण उपयोग के लिए सीखने के लिए उपयुक्त है। यदि आप केवल ट्रेसिंग प्रक्रिया से गुजरना चाहते हैं, तो फ्री टियर के लिए कोटा के भीतर कोई शुल्क नहीं है। फीनिक्स सेल्फ-होस्टिंग पूरी तरह से मुफ़्त है, लेकिन इसके लिए स्थानीय या सर्वर संसाधनों की प्रतिबद्धता की आवश्यकता होती है।
डेवलपर/एपीआई टियर: AX प्रो की कीमत $50/माह है, इसमें 50k स्पैन, 10 जीबी, 30 दिन का रिटेंशन शामिल है। अतिरिक्त को अतिरिक्त अवधि और भंडारण के रूप में बिल किया जाता है (विशिष्ट इकाई मूल्य का खुलासा नहीं किया गया है, कृपया आधिकारिक वास्तविक समय पृष्ठ देखें)। स्व-होस्टिंग की तुलना में, प्रो टियर संचालन और रखरखाव लागत बचाता है और समर्पित प्लेटफ़ॉर्म टीमों के बिना छोटी और मध्यम आकार की टीमों के लिए उपयुक्त है। मौजूदा कुबेरनेट्स अनुभव और परिचालन क्षमताओं वाली टीमों के लिए, स्व-होस्टेड फीनिक्स की बड़े पैमाने पर कुल लागत कम हो सकती है - सॉफ्टवेयर मुफ़्त है और लागत को बुनियादी ढांचे, भंडारण और एसआरई मानव-घंटे में स्थानांतरित कर दिया गया है।
एंटरप्राइज़/प्राइवेट टियर: AX एंटरप्राइज़ एक अनुकूलित उद्धरण है, और सार्वजनिक जानकारी से पता चलता है कि इसमें समर्पित समर्थन SLA, SOC2/HIPAA अनुपालन, प्रशिक्षण, स्व-होस्ट किए गए ऐड-ऑन और डेटा रेजिडेंसी क्षमताएं शामिल हैं। इस स्तर की पुष्टि बिक्री संचार के माध्यम से की जानी चाहिए, और विशिष्ट मूल्य निर्धारण सार्वजनिक पृष्ठ पर सूचीबद्ध नहीं है। Arize प्रारंभिक चरण की AI कंपनियों के लिए एक स्टार्टअप मूल्य निर्धारण योजना भी प्रदान करता है।
छिपी हुई लागतों के संदर्भ में, ऐसे कई बिंदु हैं जिन्हें आसानी से नजरअंदाज कर दिया जाता है: ट्रेसिंग की स्पैन ग्रैन्युलैरिटी मासिक खपत को प्रभावित करेगी - यदि प्रत्येक टूल कॉल, प्रत्येक पुनर्प्राप्ति, और एजेंट सोच का प्रत्येक दौर स्वतंत्र स्पैन उत्पन्न करता है, तो वास्तविक एजेंट परिदृश्यों में 25k या 50k का मुफ्त/प्रवेश कोटा जल्दी समाप्त हो सकता है। इसके अलावा, डेटा प्रतिधारण नीतियां सीधे भंडारण लागत को प्रभावित करती हैं: लंबी प्रतिधारण अवधि (जैसे कि 90 दिनों से अधिक) के लिए एंटरप्राइज़ स्व-होस्टिंग परिदृश्यों में डेटाबेस क्षमता और बैकअप समाधान की योजना की आवश्यकता होती है।
मुख्य कार्य
-
एजेंट व्यवहार ट्रैकिंग (अवलोकन): ओपनइंफरेंस/ओपनटेलीमेट्री मानक के आधार पर, यह एजेंट के टूल कॉल एलएलएम अनुरोध, पुनर्प्राप्ति संचालन और निर्णय पथ के हर चरण को पूरी तरह से रिकॉर्ड करता है, और इसे ट्रेस ग्राफ के रूप में प्रस्तुत करता है। स्वीकृति संबंधी चिंताएं: जांचें कि क्या कोडिंग एजेंट (कर्सर, क्लाउड कोड, ओपनकोड), मल्टी-एजेंट सहयोग और नेस्टेड टूल कॉल जैसे जटिल लिंक कवर किए गए हैं।
-
मूल्यांकन इंजन: एलएलएम-ए-जज, पुनर्प्राप्ति प्रासंगिकता, उत्तर शुद्धता और मतिभ्रम का पता लगाने जैसे अंतर्निहित टेम्पलेट्स के साथ स्पैन-स्तर, ट्रेस-स्तर और सत्र-स्तरीय मूल्यांकन का समर्थन करता है। स्वीकृति संबंधी चिंताएं: क्या मूल्यांकन परिणामों को कनेक्शन बनाने के लिए सीधे ट्रेस से जोड़ा जा सकता है, और क्या जज मानकों और स्कोरिंग नियमों को अनुकूलित किया जा सकता है।
-
प्रयोग प्रबंधन (सुधार): डेटासेट और प्रयोग मॉड्यूल के माध्यम से, ऑनलाइन विफल ट्रेस नमूनों को संस्करणित डेटा सेट में अवक्षेपित किया जाता है, और फिर विभिन्न संकेतों, मॉडल, मापदंडों और पुनर्प्राप्ति रणनीतियों के मूल्यांकन संकेतकों में अंतर की तुलना की जाती है। स्वीकृति फोकस: क्या प्रयोग बैच चलाने, संकेतक तुलना और सांख्यिकीय महत्व निर्णय का समर्थन करता है।
-
एलेक्स एआई इंजीनियरिंग असिस्टेंट: आधिकारिक तौर पर "एआई इंजीनियरिंग एजेंट" के रूप में तैनात, यह समस्याओं को समझ सकता है, स्वचालित रूप से ईवल्स चला सकता है, मुद्दों को डीबग कर सकता है और संकेतों को अनुकूलित कर सकता है। कर्सर या क्लाउड कोड के समान लेकिन विशेष रूप से एआई इंजीनियरिंग परिदृश्यों के लिए डिज़ाइन किया गया। स्वीकृति संबंधी चिंताएँ: एलेक्स की क्षमता सीमाएँ - यह निर्देशित डिबगिंग के लिए उपयुक्त है, लेकिन मैन्युअल अपरिवर्तनीय उत्पादन परिवर्तनों को बदलने के लिए उपयुक्त नहीं है।
-
एडीबी डेटा स्टोरेज (एराइज़ डेटाबस): एक डेटा स्टोरेज परत जिसे विशेष रूप से जेनएआई ट्रेस के लिए डिज़ाइन किया गया है। इसे एक खुले प्रारूप में संग्रहीत किया जाता है और इसे डेटाफैब्रिक के माध्यम से बाहरी डेटा वेयरहाउस जैसे बिगक्वेरी, डेटाब्रिक्स, स्नोफ्लेक इत्यादि से जोड़ा जा सकता है। स्वीकृति संबंधी चिंताएं: क्या डेटा प्रारूप वास्तव में खुला है, और क्या निर्यात और प्रवासन लागत नियंत्रणीय है।
-
एजेंट कौशल और सीएलआई इकोसिस्टम: आधिकारिक तौर पर
arize-skills(अवलोकन क्षमता जोड़ने के लिए कोडिंग एजेंट का मार्गदर्शन करना),कोडिंग-हार्नेस-ट्रेसिंग(क्लाउड कोड/कर्सर/कोडेक्स की कोडिंग प्रक्रिया का पता लगाना) औरarize-ax-cli(CLI टूल) प्रदान करता है। ये उपकरण अवलोकन को "निष्क्रिय रिकॉर्डिंग" से "विकास कार्यप्रवाह में सक्रिय इंजेक्शन" की ओर ले जाते हैं।
अंतर्निहित लिंकेज: मूल्यांकन स्कोर उत्पन्न करने के लिए ऑब्जर्व द्वारा कैप्चर किए गए निशान सीधे मूल्यांकन के लिए भेजे जा सकते हैं। मूल्यांकन द्वारा चिह्नित समस्या नमूनों को प्रयोग के लिए सीधे डेटासेट में जोड़ा जा सकता है। प्रयोग के परिणाम शीघ्र या कॉन्फ़िगरेशन संशोधनों का मार्गदर्शन कर सकते हैं - यह "अवलोकन → मूल्यांकन → सुधार" चक्र एरीज़ और पृथक ट्रेसिंग टूल या स्वतंत्र मूल्यांकन टूल के बीच मुख्य अंतर है। जब किसी प्लेटफ़ॉर्म का ट्रेस, ईवल, डेटासेट, प्रयोग और प्रॉम्प्ट एक ही डेटा मॉडल का उपयोग करते हैं, तो टीम को कई सिस्टमों के बीच संदर्भ को मैन्युअल रूप से स्थानांतरित करने की आवश्यकता नहीं होती है।
मॉडल और संस्करण विकास
Arize के उत्पाद विकास को तीन धागों में विभाजित किया जा सकता है: फीनिक्स ओपन सोर्स प्लेटफ़ॉर्म संस्करण Arize AX क्लाउड प्लेटफ़ॉर्म फ़ंक्शन रिलीज़, और OpenInference मानक विकास। चूंकि AX एक निरंतर वितरित SaaS सेवा है, इसलिए पारंपरिक अर्थ में कोई संस्करण संख्या नहीं है। प्लेटफ़ॉर्म क्षमताओं की विकास लय को दिखाने के लिए निम्नलिखित फ़ीनिक्स ओपन सोर्स संस्करण को मुख्य लाइन के रूप में उपयोग करता है।
मेनलाइन रिलीज़
| समय | संस्करण | मुख्य परिवर्तन |
|---|---|---|
| 2026-07-14 | फ़ीनिक्स v18.0.0 | सत्र अंतराल-ओवरलैप सिमेंटिक परिवर्तनों का परिचय, सत्र समय सीमा फ़िल्टरिंग व्यवहार को प्रभावित करना |
| 2026-07-14 | फ़ीनिक्स v17.30.0 | एजेंट ने डिबग प्रासंगिक चर को ट्रैक करने के लिए मजबूर किया, बैच एनोटेशन कॉन्फ़िगरेशन प्रबंधन प्लेग्राउंड आउटपुट त्रुटि गिनती |
| 2026-07-13 | फीनिक्स v17.29.0 | पीएक्सआई ट्रेसिंग को सर्वर पर ले जाया गया, रिमोट एक्सपोर्ट सेटिंग कमांड |
| 2026-07-13 | फीनिक्स v17.28.0 | सत्र एनोटेशन संपादन खेल का मैदान फोल्डिंग पैनल टैब एनीमेशन संकेतक |
| 2026-07-12 | फीनिक्स v17.27.0 | टेबल कॉलम खींचें और छोड़ें पुन: व्यवस्थित करना स्पैन आईओ पूर्वावलोकन टूल टिप प्रॉम्प्ट टेबल कस्टम कॉलम |
| 2026-07-11 | फीनिक्स v17.26.0 | टूल चयन मेनू और स्थिति कोड फ़िल्टर को केस-असंवेदनशील होने के लिए बाध्य करें |
| 2026-07-11 | फ़ीनिक्स v17.25.0 | पीएक्सआई अप्रूवल गेटिंग टूल डेटासेट पेज मेट्रिक्स चार्ट |
| 2026-07-10 | फीनिक्स v17.24.0 | पीएक्सआई इवैल्स पाइटेस्ट प्लग-इन, बिल्ट-इन मॉडल टोकन मूल्य अपडेट में स्थानांतरित हो गया |
| 2026-06-02 | फीनिक्स v17.0.0 | 17.x मुख्य लाइन आरंभिक बिंदु |
प्लेटफ़ॉर्म मील के पत्थर
संस्करण संख्याओं के अलावा, Arize के पास 2026 में कई महत्वपूर्ण उत्पाद रिलीज़ नोड हैं:
- एलेक्स एआई इंजीनियरिंग असिस्टेंट को आधिकारिक तौर पर जारी किया गया है, जिसे "एआई इंजीनियरिंग के लिए एआई एजेंट" के रूप में तैनात किया गया है, जो स्वतंत्र रूप से ट्रेस को डीबग कर सकता है और ईवल चला सकता है।
- ADB (Arize DataBus) को GenAI ट्रेस के लिए एक समर्पित डेटा स्टोरेज परत के रूप में जारी किया गया था, जो खुले प्रारूपों और बाहरी डेटा वेयरहाउस कनेक्शन का समर्थन करता है।
- एजेंट स्किल्स खुला स्रोत है, जो क्लाउड कोड और कर्सर जैसे कोडिंग एजेंटों को सीधे फीनिक्स क्षमताओं को कॉल करने की अनुमति देता है।
- OpenInference का विस्तार जारी है, जिसमें MCP, Pydantic AI, Autogen AgentChat, Claude Agent SDK, आदि जैसे नए फ्रेमवर्क के इंस्ट्रूमेंटेशन को शामिल किया गया है।
रिलीज़ लय से देखते हुए, अराइज़ जुलाई 2026 में लगभग दैनिक संस्करण आवृत्ति तक पहुंच जाएगा। यह उच्च-आवृत्ति पुनरावृत्ति पारिस्थितिक परिवर्तनों के प्रति तीव्र प्रतिक्रिया को इंगित करती है, लेकिन इसका मतलब यह भी है कि उत्पादन परिनियोजन के लिए संस्करण लॉकिंग और अपग्रेड सत्यापन प्रक्रियाओं की स्थापना की आवश्यकता होती है।
तकनीकी लाभ
एरीज़ का प्रौद्योगिकी स्टैक एक मुख्य निर्णय के आसपास बनाया गया है: एआई अवलोकन पारंपरिक एपीएम के मालिकाना डेटा मॉडल का उपयोग नहीं कर सकता है। एलएलएम और एजेंट अनुप्रयोगों द्वारा उत्पन्न निशान सरल आरपीसी कॉल श्रृंखला नहीं हैं - प्रत्येक स्पैन हजारों टोकन के इनपुट और आउटपुट, पुनर्प्राप्त दस्तावेज़ टुकड़े, पैरामीटर और टूल कॉल के रिटर्न मान और एजेंट की मध्यवर्ती तर्क प्रक्रिया को ले जा सकता है। पारंपरिक निगरानी उपकरणों के डेटा मॉडल इस ग्रैन्युलैरिटी की जानकारी को प्रभावी ढंग से नहीं ले जा सकते हैं।
OpenInference / OpenTelemetry प्राथमिकता Arize का सबसे मौलिक तकनीकी निर्णय है। OpenInference, GenAI सिमेंटिक कन्वेंशन के लिए एक खुला मानक, OpenTelemetry पर बनाया गया है ताकि यह सुनिश्चित किया जा सके कि ट्रेस डेटा एक निजी प्रारूप में लॉक न हो। चार भाषाओं में इंस्ट्रुमेंटेशन: पायथन, टाइपस्क्रिप्ट, जावा और गो, ओपनएआई, एंथ्रोपिक, गूगल, एडब्ल्यूएस बेडरॉक, लैंगचेन, लामाइंडेक्स, डीएसपीवाई, क्रूएआई और एमसीपी जैसे मुख्यधारा के ढांचे और प्रदाताओं को कवर करता है। इसका मतलब है कि टीमें अलग-अलग परियोजनाओं पर अलग-अलग एलएलएम ढांचे का उपयोग कर सकती हैं लेकिन ट्रेसिंग विनिर्देशों और अवलोकन प्लेटफार्मों का एक ही सेट साझा कर सकती हैं।
ट्रेस-एवल-एक्सपेरिमेंट ट्रिनिटी दूसरा वास्तुशिल्प लाभ है। कई उपकरण इनमें से एक या दो चीजें अच्छी तरह से कर सकते हैं: ट्रेसिंग टूल कॉल श्रृंखला को देख सकता है लेकिन इसका मूल्यांकन नहीं कर सकता है, और ईवल फ्रेमवर्क स्कोर कर सकता है लेकिन इसमें चलने वाले संदर्भ का अभाव है। Arize मूल्यांकन परिणामों को सीधे ट्रेस स्पैन से जोड़ता है, और फिर विफल नमूनों को डेटासेट और प्रयोग प्रक्रियाओं में धकेलता है। यह आर्किटेक्चर "विसंगतियों की खोज से लेकर सत्यापन और मरम्मत तक" को संदर्भ की मैन्युअल हैंडलिंग की आवश्यकता के बिना, एक ही डेटा लाइन पर पूरा करने की अनुमति देता है।
परिनियोजन लचीलेपन के संदर्भ में, फीनिक्स को स्थानीय पाइप स्थापित करने के तुरंत बाद शुरू किया जा सकता है, या इसे कुबेरनेट्स पर उत्पादन बुनियादी ढांचे के रूप में चलाया जा सकता है। आधिकारिक तौर पर डॉकर कंपोज़, हेल्म चार्ट, रेलवे, रेंडर, गूगल क्लाउड रन, एज़्योर कंटेनर इंस्टेंसेस, एडब्ल्यूएस क्लाउडफॉर्मेशन आदि जैसे कई परिनियोजन पोर्टल प्रदान करता है। उन उद्यमों के लिए जिन्हें स्व-होस्टिंग की आवश्यकता होती है, इस लोच का मतलब है कि आप एक नोटबुक प्रोटोटाइप के साथ शुरू कर सकते हैं और धीरे-धीरे मध्यवर्ती माइग्रेशन प्लेटफार्मों की आवश्यकता के बिना एक उत्पादन क्लस्टर में विकसित हो सकते हैं।
कोडिंग एजेंट मूल एकीकरण 2026 में नई दिशा है। कोडिंग-हार्नेस-ट्रेसिंग वेयरहाउस एरीज़ को क्लाउड कोड, कर्सर और कोडेक्स जैसे कोडिंग एजेंटों के कोडिंग व्यवहार को सीधे ट्रैक करने की अनुमति देता है, जो एआई-सहायता प्रोग्रामिंग की प्रक्रिया को अवलोकन योग्य सीमा में लाता है। इसका तात्पर्य यह है कि Arize की उत्पाद दृष्टि "AI अनुप्रयोगों का अवलोकन" से "AI का अवलोकन करने और AI प्रक्रियाओं को विकसित करने" तक विस्तारित हो गई है।
कैसे उपयोग करें
Arize के साथ आरंभ करने का मार्ग उत्पाद लाइन और टीम के आकार के अनुसार भिन्न होता है। यहां तीन विशिष्ट प्रवेश बिंदु हैं।
प्रवेश 1: फीनिक्स सेल्फ-होस्टिंग (स्थानीय परीक्षण)
पिप इंस्टाल एरिज़-फीनिक्स
फ़ीनिक्स सेवा
स्टार्टअप के बाद, फीनिक्स यूआई देखने के लिए http://localhost:6006 पर जाएं। फिर एलएलएम एप्लिकेशन के अंश ओपनइंफरेंस इंस्ट्रुमेंटेशन के माध्यम से फीनिक्स को भेजे जाते हैं।
प्रवेश 2: एरिज़ एएक्स क्लाउड प्लेटफ़ॉर्म
- खाता पंजीकृत करने के लिए app.arize.com पर जाएं (फ्री टियर के लिए कोई क्रेडिट कार्ड आवश्यक नहीं है)।
- एक प्रोजेक्ट बनाएं और एपीआई एंडपॉइंट और एपीआई कुंजी प्राप्त करें।
- OpenInference SDK का उपयोग करके या सीधे OTel निर्यातक के माध्यम से AX एंडपॉइंट पर एप्लिकेशन ट्रेस भेजें।
- एएक्स कंसोल में ट्रेस देखें, ईवल्स कॉन्फ़िगर करें, डेटासेट और प्रयोग बनाएं।
प्रवेश 3: एरिज़ एएक्स प्रो/एंटरप्राइज़ बिक्री प्रक्रिया के माध्यम से एंटरप्राइज़-ग्रेड परिनियोजन विकल्प प्राप्त करें, जिसमें स्व-होस्ट किए गए ऐड-ऑन, SOC2/HIPAA अनुरूप कॉन्फ़िगरेशन SLAs और डेटा रेजिडेंसी विकल्प शामिल हैं। एंटरप्राइज़ ग्राहक आमतौर पर ऑनबोर्डिंग को पूरा करने के लिए एरीज़ सॉल्यूशंस टीम के साथ सहयोग करते हैं।
विशिष्ट एकीकरण प्रक्रिया:
- ट्रेसिंग का दायरा निर्धारित करें: सभी एलएलएम कॉल + टूल कॉल + पुनर्प्राप्ति चरण, या सिर्फ महत्वपूर्ण लिंक।
- एक्सेस इंस्ट्रुमेंटेशन: प्रौद्योगिकी स्टैक के अनुसार संबंधित ओपनइंफरेंस पैकेज (पायथन/जेएस/जावा/गो) का चयन करें।
- डेटा आगमन को सत्यापित करें: पुष्टि करें कि निशान सामान्य रूप से फीनिक्स या एएक्स में प्रदर्शित होते हैं, और स्पैन स्तर, इनपुट और आउटपुट टोकन गिनती, और देरी पूरी हो जाती है।
- मूल्यांकन स्थापित करें: टेम्पलेट मूल्यांकन (जैसे प्रतिक्रिया प्रासंगिकता, पुनर्प्राप्ति सटीकता) से शुरू करें, और धीरे-धीरे कस्टम जज जोड़ें।
- अवक्षेपित डेटासेट: प्रतिगमन परीक्षण बेसलाइन के रूप में डेटासेट में ऑनलाइन विफलता ट्रेस जोड़ें।
- प्रयोग चलाएँ: संकेत या पैरामीटर परिवर्तन से पहले और बाद में मूल्यांकन संकेतकों में परिवर्तनों की तुलना करें।
- ठोसकरण प्रक्रिया: eval को CI पाइपलाइन में एकीकृत करें और कोड विलय से पहले स्वचालित रूप से प्रतिगमन मूल्यांकन चलाएं।
उत्पाद का मूल्य निर्धारण
Arize की मूल्य निर्धारण रणनीति "ओपन सोर्स फ्री + क्लाउड SaaS टियरड चार्जिंग" है, जो व्यक्तियों से लेकर उद्यमों तक के पूरे स्पेक्ट्रम को कवर करती है।
| योजना | समूह-उन्मुख | सार्वजनिक मूल्य | कोर समावेशन |
|---|---|---|---|
| फीनिक्स सेल्फ-होस्टिंग | संचालन और रखरखाव क्षमताओं के साथ डेवलपर/टीम | मुफ़्त (ईएलवी2) | सभी फ़ंक्शन, कोई कोटा सीमा नहीं, डेटा स्थानीय रहता है |
| कुल्हाड़ी मुफ़्त | व्यक्तिगत परीक्षण/सीखना | $0 | 25 हजार स्पैन/महीना 1 जीबी, 15 दिन प्रतिधारण |
| एएक्स प्रो | छोटी टीम/एआई-देशी टीम | $50/माह | 50k स्पैन/महीना 10 जीबी, 30 दिन प्रतिधारण |
| एएक्स एंटरप्राइज | बड़े पैमाने/अनुपालन आवश्यकताएँ | अनुकूलित कोटेशन | अनुकूलित SLA, SOC2/HIPAA, स्व-होस्टेड ऐड-ऑन, डेटा रेजिडेंसी |
| स्टार्टअप प्रोग्राम | प्रारंभिक चरण की एआई कंपनियां | आवेदन आवश्यक | स्टार्टअप टीमों के लिए रियायती मूल्य |
फ्री/प्रो कोटा समाप्त होने के बाद बिलिंग पद्धति पर विशेष ध्यान देने की आवश्यकता है। आधिकारिक मूल्य निर्धारण पृष्ठ अवधि और भंडारण से परे इकाई मूल्य का खुलासा नहीं करता है। उद्यमों को बजट मूल्यांकन के दौरान बिक्री के साथ इस लागत की पुष्टि करने की आवश्यकता होती है। इसके अलावा, हालांकि सेल्फ-होस्टिंग सॉफ्टवेयर शुल्क से मुक्त है, उत्पादन-स्तर की तैनाती के लिए अभी भी PostgreSQL (या संगत डेटाबेस), ऑब्जेक्ट स्टोरेज, कंप्यूटिंग संसाधन और संचालन और रखरखाव जनशक्ति की आवश्यकता होती है। कुल लागत का यह हिस्सा निर्णय लेने की प्रक्रिया में शामिल किया जाना चाहिए।
अनुप्रयोग परिदृश्य
-
एआई एजेंट उत्पादन निगरानी: एजेंट उत्पादन वातावरण में लगातार दर्जनों टूल कॉल निष्पादित कर सकता है। किसी भी चरण में कोई भी त्रुटि (उपकरण असामान्य एलएलएम मतिभ्रम, संदर्भ हानि लौटाता है) समग्र कार्य के विफल होने का कारण बन सकता है। एरीज़ का ट्रेस ग्राफ़ प्रत्येक चरण की समय लेने वाली टोकन खपत और मूल्यांकन परिणामों को चिह्नित करते हुए, संपूर्ण निष्पादन लिंक का विस्तार कर सकता है। मात्रात्मक कटौती: बुनियादी निगरानी के निर्माण को दिनों से घटाकर घंटों (पूर्व निर्धारित उपकरण के माध्यम से) कर दिया जाता है, और एजेंट की विफलता के कारण का पता लगाने को घंटों से घटाकर मिनटों में कर दिया जाता है।
-
आरएजी अनुप्रयोग गुणवत्ता मूल्यांकन: आरएजी प्रणाली की गुणवत्ता की बाधा अक्सर एलएलएम ही नहीं है, बल्कि पुनर्प्राप्ति चरण के दौरान सही संदर्भ पाया जाता है या नहीं। एरीज़ के पुनर्प्राप्ति मूल्यांकन प्रत्येक पुनर्प्राप्ति की सटीकता और स्मरण को माप सकते हैं और इसे अंतिम उत्तर की शुद्धता से सहसंबंधित कर सकते हैं। मात्रात्मक व्युत्पत्ति: 100 आरएजी नमूनों की मैन्युअल समीक्षा को लगभग 2 घंटे से घटाकर 15 मिनट कर दिया गया (एलएलएम-ए-जज + मैनुअल सैंपलिंग के माध्यम से स्वचालित स्कोरिंग)।
-
शीघ्र प्रतिगमन परीक्षण: एआई उत्पाद पुनरावृत्ति में सबसे आम जोखिम "एक मामले को ठीक करना और तीन मामलों को तोड़ना" है। एरीज़ का डेटासेट + प्रयोग वर्कफ़्लो टीमों को किनारे के मामलों को कवर करने वाले एक परीक्षण सेट को बनाए रखने की अनुमति देता है और हर बार संकेत बदलने पर स्वचालित रूप से मूल्यांकन चलाता है। मात्रात्मक कटौती: प्रत्येक त्वरित संशोधन के बाद प्रतिगमन परीक्षण को मैन्युअल सत्यापन से एक-एक करके (लगभग 1 घंटा/राउंड) से स्वचालित रूप से चलने (लगभग 5 मिनट/राउंड) तक छोटा कर दिया जाता है।
-
एलएलएम ऑनलाइन गेटिंग: सीआई/सीडी में एरिज़ इवेल्स को एकीकृत करें, थ्रेसहोल्ड सेट करें (उदाहरण के लिए पुनर्प्राप्ति सटीकता <0.8 या मतिभ्रम स्कोर> 0.3 होने पर विलय को रोकें)। इंजीनियरिंग टीमों के लिए आदर्श जो रिलीज प्रक्रिया में एआई गुणवत्ता को एकीकृत करती हैं।
-
आंतरिक उद्यम एआई गवर्नेंस: स्व-होस्टेड फीनिक्स व्यावसायिक क्षेत्रों में एआई अनुप्रयोगों के लिए ट्रेसिंग विनिर्देशों, मूल्यांकन मानकों और डेटा प्रतिधारण नीतियों को एकीकृत करता है। अनुपालन, ऑडिट और डेटा रेजीडेंसी आवश्यकताओं को पूरा करें।
सीमाओं के लिए उपयुक्त नहीं: Arize पारंपरिक बुनियादी ढांचे की निगरानी के लिए उपयुक्त नहीं है जिसके लिए वास्तविक समय अलर्ट की आवश्यकता होती है (जो डेटाडॉग/प्रोमेथियस का डोमेन है); यह उन परिदृश्यों के लिए उपयुक्त नहीं है जो केवल एक बार मॉडल ऑफ़लाइन मूल्यांकन करते हैं और ऑनलाइन ट्रेस की परवाह नहीं करते हैं; न ही यह उन टीमों के लिए उपयुक्त है जिन्हें ट्रेसिंग की कोई आवश्यकता नहीं है और केवल सरल वर्गीकरण कार्यों के लिए एलएलएम का उपयोग करते हैं - ऐसे परिदृश्यों में, एरीज़ की तैनाती और सीखने की लागत लाभ से अधिक हो सकती है।
लागू लोग
-
एआई एप्लिकेशन डेवलपर: खेल के मैदान में बार-बार प्रयास करने के बजाय, उत्पादन वातावरण में एलएलएम और एजेंट के वास्तविक व्यवहार को समझने की आवश्यकता है। Arize ट्रेस से eval तक पूर्ण प्लेबैक क्षमताएं प्रदान करता है।
-
एआई प्लेटफॉर्म/इंफ्रास्ट्रक्चर टीम: संगठन के भीतर कई एआई परियोजनाओं के लिए एकीकृत अवलोकन, मूल्यांकन और प्रयोग बुनियादी ढांचे की स्थापना के लिए जिम्मेदार। स्व-होस्टेड फीनिक्स डेटा रेजिडेंसी, एक्सेस कंट्रोल और टीम सहयोग आवश्यकताओं को संभाल सकता है।
-
एआई उत्पाद प्रबंधक और मूल्यांकन टीम: "क्या इसे ऑनलाइन लॉन्च किया जा सकता है" या "क्या नया प्रॉम्प्ट बेहतर है" यह तय करने के लिए मात्रात्मक गुणवत्ता संकेतकों की आवश्यकता होती है। एरीज़ का डेटासेट + प्रयोग वर्कफ़्लो प्रतिलिपि प्रस्तुत करने योग्य तुलनात्मक डेटा प्रदान करता है।
-
अनुपालन और सुरक्षा टीम: यह सुनिश्चित करने की आवश्यकता है कि एआई अनुप्रयोगों का ऑपरेटिंग डेटा श्रवण योग्य, पता लगाने योग्य और नियंत्रणीय है। फ़ीनिक्स का स्व-होस्टेड मॉडल और एरीज़ का SOC2/HIPAA अनुपालन प्रमाणन मूलभूत आश्वासन प्रदान करता है।
पूर्वापेक्षाएँ और अनुपयुक्त लोग: एरीज़ का उपयोग करने के लिए शर्त यह है कि टीम के पास पहले से ही एलएलएम/एजेंट एप्लिकेशन है या बना रही है और उसने रनटाइम डेटा तैयार किया है जिसे देखने और मूल्यांकन करने की आवश्यकता है। शुद्ध मॉडल प्रशिक्षण टीमों के लिए, ऐसी टीमें जो केवल एलएलएम एपीआई आउटपुट का उपभोग करती हैं लेकिन कॉल विवरण की परवाह नहीं करती हैं, या पीओसी परियोजनाओं के लिए जिन्हें बिल्कुल भी अवलोकन की आवश्यकता नहीं होती है, एरीज़ का इनपुट-आउटपुट अनुपात अधिक नहीं है। इसके अलावा, स्व-होस्ट किए गए पथ के लिए टीम को कुछ कंटेनरीकरण या कुबेरनेट्स संचालन और रखरखाव क्षमताओं की आवश्यकता होती है, और यह शुद्ध व्यवसाय विकास टीमों द्वारा स्वतंत्र रखरखाव के लिए उपयुक्त नहीं है।
सारांश और आउटलुक
Arize की मुख्य प्रतिस्पर्धात्मकता "निष्क्रिय रिकॉर्डिंग" से "सक्रिय सुधार" तक AI अवलोकन में सुधार करने में निहित है। पारंपरिक निगरानी उत्तर देती है "क्या हुआ", एरीज़ उत्तर देने का प्रयास करती है "इसे बेहतर कैसे बनाया जाए"। निरीक्षण करें → मूल्यांकन करें → सुधार का उत्पाद तर्क वास्तव में एलएलएम/एजेंट युग में दर्द बिंदु को पकड़ता है - जब मॉडल आउटपुट अब पूर्वानुमानित नहीं होता है, तो टीम को न केवल लॉग की आवश्यकता होती है, बल्कि वर्कफ़्लो का एक सेट होता है जो समस्याओं का पता लगा सकता है, विचलन की मात्रा निर्धारित कर सकता है और मरम्मत को सत्यापित कर सकता है।
मौजूदा प्रतिबंध भी स्पष्ट हैं. सबसे पहले, एरीज़ का मूल्य दृढ़ता से कवरेज और निशान की गुणवत्ता से संबंधित है - यदि यह पूरी तरह से इंस्ट्रूमेंटेशन से जुड़ा नहीं है, या सार्थक मूल्यांकन उत्पन्न नहीं करता है, तो प्लेटफ़ॉर्म का मूल्य बहुत कम हो जाएगा। दूसरा, हालांकि सेल्फ-होस्टिंग मुफ़्त है, बड़े पैमाने पर उत्पादन परिनियोजन (लाखों स्पैन/दिन, लंबी अवधारण अवधि) की भंडारण और कंप्यूटिंग लागत को नजरअंदाज नहीं किया जा सकता है। तीसरा, बड़े पैमाने के परिदृश्यों में SaaS उत्पादों की कीमत तेजी से बढ़ सकती है। उद्यमों को खरीद से पहले कोटा पार होने के बाद यूनिट मूल्य और अनुबंध की शर्तों की पुष्टि Arize से करनी चाहिए।
अधिग्रहण/गोद लेने का जोखिम मूल्यांकन: एरीज़ की ओपन सोर्स रणनीति अपनाने में बाधा को कम करती है (फीनिक्स स्व-होस्टेड कोई सॉफ़्टवेयर लागत नहीं), लेकिन उद्यमों को ऑन-प्रिमाइसेस प्लेटफ़ॉर्म पर एआई अवलोकन को मानकीकृत करने से पहले निम्नलिखित शर्तों को सत्यापित करने की आवश्यकता है: डेटा निकास और माइग्रेशन लागत (ओपन प्रारूप बनाम प्लेटफ़ॉर्म लॉक-इन), ट्रेस हानि और क्वेरी उपलब्धता के लिए एसएलए कवरेज, एसओसी 2/एचआईपीएए प्रमाणन का विशिष्ट दायरा, और डेटा रेजिडेंसी के संबंध में एंटरप्राइज़ अनुबंध में प्रतिबद्धताएं और अवधारण अवधि. पीओसी को फीनिक्स सेल्फ-होस्टिंग या एएक्स फ्री के साथ शुरू करने की सिफारिश की जाती है, और 1-3 महीने के भीतर ट्रेस कवरेज, मूल्यांकन परिणाम और संचालन और रखरखाव लागत को सत्यापित करने के लिए वास्तविक व्यावसायिक ट्रैफ़िक का उपयोग करें, और फिर तय करें कि प्रो या एंटरप्राइज के भुगतान चरण में प्रवेश करना है या नहीं।
संबंधित टूल: <एक्सलिंक टाइप='टूल' स्लग='हगिंग-फेस'>, <एक्सलिंक टाइप='टूल' स्लग='रेप्लिकेट'>
संस्करण जानकारी
- एरिज़ फीनिक्स 18.0.0 :फीनिक्स प्लेटफ़ॉर्म का मुख्य संस्करण सत्र समय-सीमा अंतराल-ओवरलैप सिमेंटिक परिवर्तनों का परिचय देता है; Arize AX क्लाउड प्लेटफ़ॉर्म को एक साथ अपडेट किया जाता है।
- एरिज़ फीनिक्स 17.30.0 :एजेंट मजबूर ट्रैकिंग, डिबग प्रासंगिक चर, बैच एनोटेशन कॉन्फ़िगरेशन प्रबंधन और प्लेग्राउंड आउटपुट त्रुटि गणना का समर्थन करता है।
- एरिज़ फीनिक्स 17.0.0 :17.x मुख्य लाइन का प्रारंभिक बिंदु है और ट्रेसिंग, मूल्यांकन और खेल के मैदान की क्षमताओं को पुनरावृत्त करना जारी रखता है।
- एरीज़ फीनिक्स 1.0.0 :अभी तक कोई आधिकारिक सटीक तारीख नहीं है। फीनिक्स का पहला आधिकारिक संस्करण जारी किया गया है, जो एआई ऑब्जर्वेबिलिटी और मूल्यांकन की स्थिति स्थापित करता है।
उपयोगकर्ता समीक्षाएं