बनाना देव एक सर्वर रहित जीपीयू अनुमान मंच प्रदान करता है। डेवलपर्स को जीपीयू इंफ्रास्ट्रक्चर को प्रबंधित करने की आवश्यकता के बिना पे-ए-यू-गो आरईएसटी एपीआई प्राप्त करने के लिए केवल मॉडल कोड अपलोड करने की आवश्यकता है।

केलादेव

बनाना देव के मुख्य पैरामीटर और आँकड़े

बनाना देव को एक बार सर्वर रहित जीपीयू अनुमान मंच के रूप में तैनात किया गया था, जो "प्रशिक्षण पूरा होने के बाद दूसरों को कॉल करने के लिए मॉडल को कैसे चलाया जाए" की इंजीनियरिंग समस्या को हल करता था। यह "शून्य संचालन और रखरखाव परिनियोजन" मॉडल को अपनाता है, जिससे डेवलपर्स को केवल मॉडल कोड पर ध्यान केंद्रित करने और GPU बुनियादी ढांचे का प्रबंधन करने की अनुमति नहीं मिलती है। प्लेटफ़ॉर्म ने 31 मार्च, 2024 को आधिकारिक तौर पर सेवा बंद कर दी है। निम्नलिखित पैरामीटर इसके संचालन के दौरान उत्पाद के स्वरूप को दर्शाते हैं।

प्रोजेक्ट	परिचालन अवधि के दौरान सार्वजनिक सूचना
आधिकारिक स्थिति	सर्वर रहित जीपीयू अनुमान प्लेटफार्म
परिनियोजन मोड	कोड अपलोड करें → स्वचालित रूप से डॉकर बनाएं → REST API जेनरेट करें
मॉडल रनटाइम	पायथन, PyTorch, TensorFlow, ONNX
जीपीयू का समर्थन करता है	A10G, A100, L4 (कोरवीव और रनपॉड बैकएंड के माध्यम से)
ठंडी शुरुआत	सेकंड (init फ़ंक्शन के माध्यम से प्रीलोड मॉडल वज़न)
बिलिंग विधि	टीम मासिक शुल्क + GPU निष्पादन समय के आधार पर शून्य बोनस बिलिंग
टीम पैकेज	$1,200/माह (10 सीटें, 5 परियोजनाएं, 50 अधिकतम समानांतर जीपीयू शामिल हैं)
खुला स्रोत	पोटेशियम फ़्रेमवर्क (अपाचे-2.0), फ्रुक्टोज़ (अपाचे-2.0)
गिटहब स्टार्स	पोटेशियम 103 ★, फ्रुक्टोज़ 748 ★, सर्वर रहित टेम्पलेट 89 ★
निवास स्थान	संयुक्त राज्य अमेरिका (यूएस)

मुख्य अंतर: बनाना देव और एडब्ल्यूएस सेजमेकर और जीसीपी वर्टेक्स एआई जैसी पारंपरिक अनुमान सेवाओं के बीच सबसे बड़ा अंतर डेवलपर अनुभव का सरलीकरण है - डेवलपर्स को केवल एक app.init आरंभीकरण फ़ंक्शन और एक app.handler अनुमान फ़ंक्शन, साथ ही requirements.txt लिखने की आवश्यकता है, और प्लेटफ़ॉर्म स्वचालित रूप से डॉकर बिल्ड जीपीयू शेड्यूलिंग, स्क्रैच से स्वचालित विस्तार और संकुचन, और लोड संतुलन को पूरा करता है। यह एक-क्लिक अनुभव "कोड से एपीआई तक" 2022-2023 में बड़ी संख्या में स्टार्ट-अप टीमों द्वारा पसंद किया जाएगा।

महत्वपूर्ण स्थिति नोट: बनाना देव ने 1 फरवरी, 2024 को सर्वर रहित जीपीयू सेवा को बंद करने की घोषणा की है, और आधिकारिक तौर पर 31 मार्च, 2024 को बुनियादी ढांचे को बंद कर दिया है। इसके आधिकारिक ब्लॉग में स्पष्ट रूप से कहा गया है कि रनवे, उपयोगकर्ता प्रतिधारण एआई मैक्रो रुझानों में बदलाव और जीपीयू आपूर्ति श्रृंखला बाधाओं जैसे कई कारकों के कारण, टीम "विश्वसनीय, किफायती, तेज़ और उपयोग में आसान" उत्पाद विनिर्देश प्राप्त करने में असमर्थ थी, और अंततः निर्णय लिया गया। बिजनेस लाइन बंद करें और कंपनी को बदल दें। निम्नलिखित सामग्री इसके परिचालन अवधि के दौरान सार्वजनिक जानकारी पर आधारित है और मॉडल चयन संदर्भ और ऐतिहासिक समीक्षा के लिए प्रदान की गई है।

केले देव के उपयोगकर्ता और बाज़ार की पहचान

केले देव ने अपने संचालन के दौरान विशिष्ट बाजार क्षेत्रों से मान्यता प्राप्त की, लेकिन इसके उपयोगकर्ता पैमाने और बाजार कवरेज अपेक्षाकृत सीमित थे:

• वाई कॉम्बिनेटर एंडोर्समेंट: बनाना देव वाई कॉम्बिनेटर एस21 बैच का सदस्य है। इस पृष्ठभूमि ने इसे शुरुआती दिनों में उद्यमशीलता पारिस्थितिकी तंत्र और प्रारंभिक उपयोगकर्ता पूल के भीतर विश्वसनीयता प्रदान की।
• गिटहब कम्युनिटी फीडबैक: इसके ओपन सोर्स फ्रेमवर्क पोटेशियम को 103 स्टार मिले, फ्रुक्टोज (एक अधिक सामान्य HTTP सेवा ढांचा) को 748 स्टार मिले, और सर्वर रहित-टेम्पलेट को 89 स्टार मिले। एआई इंफ्रास्ट्रक्चर ओपन सोर्स प्रोजेक्ट्स के बीच ये संख्याएं मध्यम आकार की हैं, जो कुछ सामुदायिक ध्यान को दर्शाती हैं लेकिन व्यापक वायरलिटी को नहीं दर्शाती हैं।
• उपयोगकर्ता संरचना: मुख्य उपयोगकर्ता एआई स्टार्ट-अप टीमें, स्वतंत्र डेवलपर हैकथॉन प्रतिभागी और छोटे और मध्यम आकार के SaaS उत्पाद हैं। विशिष्ट उपयोगकर्ता प्रोफ़ाइल 1-10 लोगों की एक टीम है जिनके पास "मॉडल परिनियोजन की आवश्यकताएं हैं लेकिन DevOps जनशक्ति की कमी है"।
• उद्यम-स्तर पर अपनाना: उद्यम ग्राहकों की कोई विशिष्ट सूची या भुगतान करने वाले उपयोगकर्ताओं की संख्या का खुलासा नहीं किया गया है। मूल्य निर्धारण पृष्ठ ने एक बार टीम और एंटरप्राइज़ स्तरों की पेशकश की थी, लेकिन एंटरप्राइज़ मूल्य निर्धारण और ग्राहक जानकारी का खुलासा नहीं किया गया था।
• उद्योग बेंचमार्किंग स्थिति: सर्वर रहित जीपीयू अनुमान ट्रैक में, बनाना देव रेप्लिकेट, मोडल, रनपॉड सर्वरलेस, बीम और अन्य उत्पादों के समान प्रतिस्पर्धी रेंज में है। रेप्लिकेट के मॉडल मार्केट इकोसिस्टम और मॉडल के पायथन मूल अनुभव की तुलना में, केले के मुख्य अंतर "शून्य-प्लस जीपीयू मूल्य निर्धारण" और "पोटेशियम ढांचे के न्यूनतम अमूर्तता" में निहित हैं।

बाजार से बाहर निकलने का संकेत: 2024 की शुरुआत में ही बंद करने का निर्णय सर्वर रहित जीपीयू अनुमान बाजार की क्रूर वास्तविकता को दर्शाता है - क्लाउड विक्रेताओं (एडब्ल्यूएस सेजमेकर, जीसीपी वर्टेक्स एआई) और अधिक अच्छी तरह से वित्त पोषित प्रतिस्पर्धियों (रेप्लिकेट, मॉडल) का सामना करते समय बुनियादी ढांचे की परत (जीपीयू ऑर्केस्ट्रेशन) में स्टार्टअप को इकाई आर्थिक मॉडल और प्रतिधारण पर जबरदस्त दबाव का सामना करना पड़ता है।

केला देव के लागत लाभ

बनाना देव का लागत मॉडल एक समय इसका सबसे अलग विक्रय बिंदु था। निम्नलिखित इसकी लागत संरचना को तीन आयामों से विभाजित करता है:

सी-साइड/व्यक्तिगत डेवलपर परत

• नि:शुल्क परीक्षण: नए खातों में आमतौर पर लगभग $5 का निःशुल्क क्रेडिट मिलता है, जिसका उपयोग छोटे पैमाने पर मॉडल सत्यापन और प्रोटोटाइप परीक्षण के लिए किया जा सकता है।
• जैसे ही आप जाएं भुगतान करें: प्रारंभिक प्रति-सेकंड बिलिंग मोड में, A10G की लागत लगभग $0.0005/सेकंड है, जो कभी-कभार अनुमान परिदृश्यों के लिए उपयुक्त है। 2023 के अंत में मूल्य निर्धारण को "शून्य-प्लस जीपीयू समय" में बदलने के बाद, जीपीयू से क्लाउड निर्माता की लागत मूल्य पर शुल्क लिया जाएगा, और प्लेटफ़ॉर्म केवल मासिक शुल्क लेगा।
• छिपी हुई लागत: व्यक्तिगत डेवलपर्स को प्रोजेक्ट समय की लागत जैसे मॉडल डिबगिंग, डॉकर छवि अनुकूलन, कोल्ड स्टार्ट ट्यूनिंग इत्यादि को वहन करने की आवश्यकता होती है। हालांकि केले का पोटेशियम ढांचा तैनाती टेम्पलेट्स को सरल बनाता है, गैर-मानक मॉडल (जैसे कस्टम ऑपरेटर, मल्टी-मोडल पाइपलाइन) के अनुकूलन के लिए अभी भी अतिरिक्त इंजीनियरिंग निवेश की आवश्यकता होती है।

एपीआई/डेवलपर परत

• टीम मासिक शुल्क $1,200/माह: यह 2023 के अंत में बनाना देव का समायोजित मूल्य निर्धारण मॉडल है - एक निश्चित मासिक शुल्क प्लेटफ़ॉर्म फ़ंक्शंस (डैशबोर्ड, लॉग, मल्टी-प्रोजेक्ट, शाखा परिनियोजन) को कवर करता है, और जीपीयू कंप्यूटिंग संसाधनों को वास्तविक उपयोग के आधार पर शून्य मार्कअप पर बिल किया जाता है।
• लागत तुलना: रनपॉड सर्वरलेस की शुद्ध ऑन-डिमांड कीमत और मॉडल की प्रति-सेकंड बिलिंग की तुलना में, केले का "मासिक शुल्क + शून्य बोनस जीपीयू" मॉडल बड़ी मासिक अनुमान मात्रा वाली टीमों के लिए अधिक अनुकूल है, लेकिन कम आवृत्ति वाले उपयोगकर्ताओं के लिए मासिक शुल्क सीमा अधिक है।
• छिपी हुई फीस: कोल्ड स्टार्ट के दौरान जीपीयू वार्म-अप समय का भी बिल दिया जाता है; मल्टी-प्रोजेक्ट समानांतर परिनियोजन के लिए उच्च टीम पैकेज की आवश्यकता होती है; एंटरप्राइज़-स्तरीय सुविधाओं (एसएएमएल एसएसओ, ऑटोमेशन एपीआई, कस्टम अनुमान कतार) को एंटरप्राइज़ योजना में अपग्रेड करने की आवश्यकता है, और मूल्य निर्धारण का खुलासा नहीं किया गया है।

उद्यम/निजीकरण परत

• उद्यम योजना: कीमत का खुलासा नहीं किया गया है, व्यवसाय से संपर्क करें। एसएएमएल एसएसओ, उच्च समानांतर जीपीयू कोटा, कस्टम अनुमान कतार, बिल्ड पाइपलाइन जीपीयू, समर्पित समर्थन शामिल है।
• निजी परिनियोजन: बनाना देव मूलतः एक होस्टेड प्लेटफ़ॉर्म है और निजी परिनियोजन विकल्प प्रदान नहीं करता है। उच्च डेटा संप्रभुता और अनुपालन आवश्यकताओं वाले उद्यम परिदृश्यों के लिए, यह कोई विकल्प नहीं है।
• प्रवासन लागत: यह सबसे बड़ी छिपी हुई लागत है। बनाना बंद होने के बाद, सभी उपयोगकर्ताओं को अन्य प्लेटफ़ॉर्म पर स्थानांतरित होना होगा। इसका आधिकारिक माइग्रेशन गाइड रनपॉड सर्वरलेस, मोडल, रेप्लिकेट, एडब्ल्यूएस सेजमेकर और अन्य जैसे विकल्पों की सिफारिश करता है। पोटेशियम फ्रेमवर्क पर आधारित एप्लिकेशन को रनपॉड (एक कंटेनरीकृत HTTP सर्वर) में अपेक्षाकृत आसानी से माइग्रेट किया जा सकता है, लेकिन मॉडल में माइग्रेट करने के लिए मॉडल एसडीके शैली को फिर से लिखने की आवश्यकता होती है।

लागत लाभ सारांश: केले देव की "शून्य-प्लस जीपीयू" कीमत स्पष्ट रूप से 2023 में सर्वर रहित जीपीयू बाजार में प्रतिस्पर्धी लागत है, लेकिन यह लाभ "मुनाफा कमाने के लिए प्लेटफॉर्म जीपीयू मूल्य अंतर पर निर्भर नहीं है" के बिजनेस मॉडल पर आधारित है - जो स्वयं टिकाऊ विकास के लिए एक प्रश्न चिह्न है। अंतिम शटडाउन ने इस मॉडल की व्यावसायीकरण चुनौतियों की भी पुष्टि की।

केला देव की मुख्य विशेषताएं

बनाना देव का कार्यात्मक डिज़ाइन "कोड से एपीआई तक" सबसे छोटे पथ के आसपास घूमता है, और प्रत्येक फ़ंक्शन का लक्ष्य तैनाती सीमा को कम करना है:

• एक-क्लिक मॉडल परिनियोजन: उपयोगकर्ता एक GitHub रिपॉजिटरी या ज़िप पैकेज अपलोड करते हैं जिसमें मॉडल कोड और requirements.txt होता है, और प्लेटफ़ॉर्म स्वचालित रूप से डॉकर छवि निर्माण, कंटेनर पंजीकरण और एपीआई एंडपॉइंट जेनरेशन को पूरा करता है। परिनियोजन पोर्टल कई आधिकारिक टेम्पलेट (स्टेबल डिफ्यूजन, मिस्ट्रल-7बी, जीपीटी-जे, व्हिस्पर, आदि) प्रदान करता है, और उपयोगकर्ता फोर्किंग के बाद सीधे मॉडल वेट को बदल सकते हैं।
• शून्य से स्वचालित विस्तार और संकुचन: अनुरोध मात्रा के अनुसार अनुमान उदाहरण स्वचालित रूप से 0 से एन तक फैलता है, और निष्क्रिय होने पर वापस 0 पर सिकुड़ जाता है। विस्तार और संकुचन नीति सीपीयू उपयोग प्रतिशत के आधार पर शुरू की जाती है, और उपयोगकर्ता टीम पैकेज में उपयोग सीमा को कॉन्फ़िगर कर सकते हैं। यह क्षमता सर्वर रहित जीपीयू का मूल मूल्य है-न कि निष्क्रिय जीपीयू के लिए भुगतान करना।
• बहु-संस्करण प्रबंधन और शाखा परिनियोजन: एक ही मॉडल एक ही समय में ऑनलाइन कई संस्करणों का समर्थन करता है, और प्रत्येक संस्करण एक स्वतंत्र एपीआई एंडपॉइंट से मेल खाता है। शाखा परिनियोजन का समर्थन करता है, जिससे उपयोगकर्ता ए/बी परीक्षण और ग्रेस्केल रिलीज प्रक्रियाओं को सुविधाजनक बनाने के लिए विभिन्न गिट शाखाओं से स्वतंत्र परिनियोजन संदर्भ बना सकते हैं।
• अंतर्निहित अवलोकन: अनुमान लॉग खोज, अनुरोध ट्रैफ़िक विज़ुअलाइज़ेशन, विलंबता वितरण और त्रुटि दर निगरानी पैनल प्रदान करता है। बिजनेस एनालिटिक्स सुविधा एंडपॉइंट और समय आयामों के आधार पर खपत और अनुरोध मात्रा पर नज़र रखने का समर्थन करती है, जिससे टीमों को व्यावसायिक रुझानों को समझने में मदद मिलती है।
• मल्टी-बैकएंड शेड्यूलिंग: बनाना देव ने जनवरी 2024 में चेंजलॉग 045 में मल्टी-क्लाउड परिनियोजन के लिए समर्थन की घोषणा की - उपयोगकर्ता लागत कम करने के लिए रनपॉड के अधिक प्रतिस्पर्धी जीपीयू मूल्य निर्धारण (कोरवीव से 50% से अधिक कम होने का दावा) का लाभ उठाते हुए, कोरवीव या रनपॉड के ऑन-डिमांड वीएम बैकएंड पर अनुमान वर्कलोड तैनात कर सकते हैं।
• निजी डॉकर रिपॉजिटरी एकीकरण: एंटरप्राइज़-स्तरीय सुरक्षा आवश्यकताओं को पूरा करने के लिए निर्माण प्रक्रिया के दौरान निजी डॉकर रजिस्ट्री से आधार छवियों को खींचने का समर्थन करता है।
• ऑटोमेशन एपीआई और सीएलआई: एक रेस्टफुल एपीआई और कमांड लाइन टूल बनाना-सीएलआई (पायथन कार्यान्वयन, 22 सितारे) प्रदान करता है, जो उपयोगकर्ताओं को प्रोग्रामेटिक रूप से तैनाती, ट्रिगर बिल्ड और क्वेरी स्थिति प्रबंधित करने की अनुमति देता है।

कार्यात्मक तालमेल: बनाना देव की फ़ंक्शन श्रृंखला एक पूर्ण पैकेज है - टेम्पलेट आरंभीकरण → कोड अपलोड → स्वचालित निर्माण → एपीआई पीढ़ी → निगरानी अलार्म → स्वचालित विस्तार और संकुचन। डेवलपर्स को डॉकरफाइल में कुबेरनेट्स कॉन्फ़िगरेशन इनग्रेस लिखने, एचपीए नीति सेट करने आदि की आवश्यकता नहीं है और अनुभागों के बीच आगे और पीछे स्विच करने की आवश्यकता नहीं है। इस "पूरी तरह से प्रबंधित" अनुभव में 2022-2023 में जीपीयू अनुमान बाजार में स्पष्ट डेवलपर अनुभव लाभ हैं, और यह वाईसी समर्थन और शुरुआती उपयोगकर्ताओं को प्राप्त करने का एक प्रमुख कारण भी है।

बनाना देव का संस्करण विकास

लगातार संचालित होने वाली क्लाउड सेवा के रूप में, बनाना देव का संस्करण विकास मुख्य रूप से आधिकारिक ब्लॉग पर चेंजलॉग श्रृंखला के माध्यम से दर्ज किया जाता है। इसके संचालन के दौरान निम्नलिखित प्रमुख मील के पत्थर हैं:

मुख्य प्रकाशन नोड

समय	संस्करण/घटना	मुख्य परिवर्तन
2021 (एस21)	वाईसी बैच लॉन्च	बनाना देव को वाई कॉम्बिनेटर एस21 के लिए चुना गया और उन्हें प्रारंभिक फंडिंग और पारिस्थितिक पहुंच प्राप्त हुई
2022 की शुरुआत	सार्वजनिक बीटा रिलीज	सर्वर रहित GPU अनुमान प्लेटफ़ॉर्म पहली बार जनता के लिए उपलब्ध होगा
2023 की शुरुआत	पोटेशियम फ्रेमवर्क खुला स्रोत	उपयोगकर्ता माइग्रेशन चिंताओं को कम करने के लिए ओपन सोर्स HTTP इंट्रेंस फ्रेमवर्क पोटेशियम (अपाचे-2.0) जारी करें
2023 के मध्य	फ्रुक्टोज फ्रेमवर्क खुला स्रोत	डेवलपर कवरेज को और अधिक विस्तारित करने के लिए एक अधिक सामान्य HTTP सेवा ढाँचा जारी करें
2023-11	शून्य मार्कअप मूल्य निर्धारण जारी	घोषणा की गई कि प्लेटफ़ॉर्म अब GPU समय की कीमत में वृद्धि नहीं करेगा, और एक निश्चित मासिक शुल्क + लागत मूल्य GPU में बदल जाएगा
2023-12	चेंजलॉग #042-#044	एकाधिक प्लेटफ़ॉर्म अनुकूलन और फ़ंक्शन संवर्द्धन
2024-01-19	चेंजलॉग 045	रनपॉड बैकएंड मल्टी-क्लाउड परिनियोजन, निजी डॉकर वेयरहाउस एकीकरण का समर्थन करें
2024-02-01	शटडाउन की घोषणा	सीईओ एरिक डनटेमैन ने सनसेटिंग सर्वरलेस जीपीयू की घोषणा जारी की
2024-03-31	आधिकारिक शटडाउन	बनाना सर्वरलेस जीपीयू इन्फ्रास्ट्रक्चर पूरी तरह से बंद हो गया है

संस्करण सुविधा विश्लेषण

• शून्य मार्कअप मूल्य निर्धारण धुरी: नवंबर 2023 मूल्य निर्धारण ओवरहाल बनाना देव के बिजनेस मॉडल के लिए एक प्रमुख मोड़ है। प्लेटफ़ॉर्म "जीपीयू के मूल्य अंतर से मुनाफा कमाने" से "प्लेटफ़ॉर्म मासिक शुल्क द्वारा मुनाफा कमाने" में स्थानांतरित हो गया है, और जीपीयू सीधे लागत मूल्य पर जुड़े हुए हैं। एक ओर, यह मूल्य निर्धारण पारदर्शिता में सुधार करता है, और दूसरी ओर, यह उद्योग की वास्तविकता को भी उजागर करता है कि "विशुद्ध रूप से मूल्य अंतर पर निर्भर रहना प्लेटफ़ॉर्म संचालन का समर्थन नहीं कर सकता है।"
• मल्टी-क्लाउड शेड्यूलिंग प्रयास: जनवरी 2024 में पेश किया गया रनपॉड बैकएंड उत्पाद स्तर पर बनाना देव का आखिरी प्रमुख फीचर पुनरावृत्ति है - मल्टी-क्लाउड रणनीति के माध्यम से उपयोगकर्ता लागत को कम करने और प्रतिस्पर्धात्मकता में सुधार करने का एक प्रयास। लेकिन केवल दो सप्ताह बाद, टीम ने इसे बंद करने का निर्णय लिया, जिससे संकेत मिलता है कि व्यवसाय की बुनियादी समस्याओं को अब उत्पाद सुविधाओं के माध्यम से हल नहीं किया जा सकता है।
• ओपन सोर्स लिगेसी: दो ओपन सोर्स फ्रेमवर्क, पोटेशियम और फ्रुक्टोज, शटडाउन के बाद GitHub (Apache-2.0 लाइसेंस) पर बने रहते हैं और इन्हें संदर्भ कार्यान्वयन या माइग्रेशन बेस के रूप में उपयोग किया जा सकता है।

केला देव के तकनीकी फायदे

बनाना देव की तकनीकी वास्तुकला "जीपीयू अनुमान परिनियोजन को सरल बनाने" के मूल विरोधाभास के इर्द-गिर्द घूमती है, और इसका प्रौद्योगिकी चयन सीधे डेवलपर अनुभव की ऊपरी सीमा निर्धारित करता है।

पोटेशियम फ्रेमवर्क: HTTP सर्वर से अनुमान आदिम तक

पोटेशियम एक खुला स्रोत पायथन HTTP फ्रेमवर्क है जिसे बनाना देव द्वारा विकसित किया गया है और इसे विशेष रूप से GPU अनुमान परिदृश्यों के लिए डिज़ाइन किया गया है। इसके मूल अमूर्तन के केवल दो कार्य हैं:

पोटेशियम आयात से पोटेशियम, अनुरोध, प्रतिक्रिया
ट्रांसफार्मर से पाइपलाइन आयात करते हैं

ऐप = पोटैशियम("my_app")

@app.init
डीईएफ़ init():
    """जब कंटेनर मॉडल को GPU मेमोरी में लोड करना शुरू करता है तो एक बार निष्पादित करें""
    मॉडल = पाइपलाइन ('फिल-मास्क', मॉडल = 'बर्ट-बेस-अनकेस्ड', डिवाइस = 0)
    वापसी {"मॉडल": मॉडल}

@app.हैंडलर("/")
डीईएफ़ हैंडलर (संदर्भ, अनुरोध):
    """हर बार एक अनुमान अनुरोध किए जाने पर कॉल किया जाता है, init में लोड किए गए मॉडल का पुन: उपयोग किया जाता है""
    मॉडल = context.get("मॉडल")
    प्रॉम्प्ट = request.json.get("प्रॉम्प्ट")
    आउटपुट = मॉडल (प्रॉम्प्ट)
    वापसी प्रतिक्रिया (स्थिति = 200, json = {"आउटपुट": आउटपुट [0]})

ऐप.सर्व()

तंत्र → प्रभाव: @app.init को केवल एक बार निष्पादित किया जाता है जब कंटेनर ठंडा हो जाता है और मॉडल वजन को GPU मेमोरी में लोड करना शुरू कर देता है (जिसमें कई सेकंड से लेकर दसियों सेकंड तक का समय लग सकता है); @app.handler वास्तविक अनुमान अनुरोध को संसाधित करता है और लोड किए गए मॉडल का पुन: उपयोग करता है। यह "पृथक आरंभीकरण और अनुमान" डिज़ाइन केवल मॉडल अनुमान समय और नेटवर्क ट्रांसमिशन द्वारा निर्धारित कोल्ड स्टार्ट के बाद अनुमान में देरी करता है, प्रत्येक अनुरोध के साथ मॉडल को फिर से लोड करने की प्रदर्शन आपदा से बचता है।

आरंभ से स्वचालित विस्तार और संकुचन का कार्यान्वयन पथ

पारंपरिक कुबेरनेट्स एचपीए की सरल प्रतिकृति संख्या रणनीति के बजाय, बनाना देव की स्वचालित स्केलिंग सीपीयू उपयोग प्रतिशत के आधार पर शुरू होती है:

• शून्य तक स्केल: जब अनुमान उदाहरण की निष्क्रियता सीमा से अधिक हो जाती है, तो यह स्वचालित रूप से समाप्त हो जाती है और GPU संसाधन जारी हो जाते हैं। उपयोगकर्ताओं को आलस्य के लिए भुगतान करने की आवश्यकता नहीं है। यह मुख्य क्षमता है जो सर्वर रहित जीपीयू को पारंपरिक जीपीयू क्लाउड होस्ट से अलग करती है।
• स्क्रैच से शुरू करें: जब कोई नया अनुरोध आता है, तो प्लेटफ़ॉर्म नए कंटेनर निर्माण को ट्रिगर करता है → डॉकर इमेज पुल → @app.init निष्पादन → मॉडल लोडिंग → तैयार प्रतिक्रिया। मॉडल आकार और छवि कैश के आधार पर पूरी प्रक्रिया में आमतौर पर 5-30 सेकंड लगते हैं।
• वार्म पूल रणनीति: केला गर्म कंटेनरों का एक पूल बनाए रखता है जो ठंड शुरू होने के समय को काफी कम कर देता है। विलंबता-संवेदनशील परिदृश्यों के लिए, उपयोगकर्ता कम प्रथम अनुरोध विलंबता के बदले में न्यूनतम संख्या में सक्रिय उदाहरण बनाए रख सकते हैं।

मल्टी-क्लाउड जीपीयू शेड्यूलिंग आर्किटेक्चर

ऑपरेशन के बाद के चरणों में, बनाना देव की वास्तुकला "कंट्रोल प्लेन + मल्टी-क्लाउड डेटा प्लेन" मॉडल में विकसित हुई:

उपयोगकर्ता अनुरोध → बनाना एपीआई गेटवे → शेड्यूलर → कोरवीव जीपीयू क्लस्टर
                                    ↘ रनपॉड जीपीयू क्लस्टर

यह आर्किटेक्चर लागत कम करने के लिए रनपॉड के कम कीमत वाले जीपीयू का लाभ उठाते हुए, बनाना देव को विभिन्न जीपीयू क्लाउड प्रदाताओं में अनुमान कार्यभार को शेड्यूल करने की अनुमति देता है। तकनीकी दृष्टिकोण से, यह GPU क्लाउड विक्रेताओं के शीर्ष पर एक अमूर्त सर्वर रहित शेड्यूलिंग परत के निर्माण के बराबर है - यह विचार बाद के उत्पादों जैसे कि रनपॉड सर्वरलेस और बीम की दिशा के अनुरूप है।

इंजीनियरिंग ख़तरे का अनुभव (आधिकारिक ब्लॉग और उद्योग के सामान्य ज्ञान पर आधारित)

1. कोल्ड स्टार्ट और लंबी-पूंछ देरी: बड़े मॉडल (जैसे कि 7बी से अधिक पैरामीटर वाले एलएलएम) के लिए @app.init का लोडिंग समय 30-60 सेकंड तक पहुंच सकता है, जो उच्च वास्तविक समय आवश्यकताओं वाले परिदृश्यों के लिए अस्वीकार्य है। समाधानों में वार्म-अप पूल, मॉडल परिमाणीकरण (FP16 → INT8), और ONNX रनटाइम या TensorRT का उपयोग करके लोडिंग गति को अनुकूलित करना शामिल है।
2. जीपीयू आपूर्ति श्रृंखला बाधाएं: बनाना देव जीपीयू आपूर्ति के लिए कोरवीव और रनपॉड पर अत्यधिक निर्भर है। 2022-2023 में A100 जैसे हाई-एंड GPU की वैश्विक कमी के संदर्भ में, प्लेटफ़ॉर्म के GPU मॉडल का चयन और उपलब्धता अपस्ट्रीम आपूर्तिकर्ताओं द्वारा गंभीर रूप से प्रतिबंधित है।
3. यूनिट इकोनॉमिक मॉडल चैलेंज: सर्वर रहित जीपीयू प्लेटफॉर्म का सकल लाभ मार्जिन जीपीयू उपयोग, कोल्ड स्टार्ट आवृत्ति और बोली रणनीति द्वारा निर्धारित किया जाता है। हालाँकि बनाना देव का शून्य-मार्कअप मूल्य निर्धारण मॉडल उपयोगकर्ता के अनुकूल है, लेकिन प्लेटफ़ॉर्म में लाभ बफर का अभाव है। एक बार जब उपयोगकर्ता प्रतिधारण दर अपर्याप्त हो जाती है या GPU उपयोग ब्रेक-ईवन बिंदु से नीचे आ जाता है, तो व्यावसायीकरण टिकाऊ नहीं होगा।

केले देव का उपयोग कैसे करें

बनाना देव ऑपरेशन के दौरान कई पहुंच बिंदु प्रदान करता है। निम्नलिखित को इसके आधिकारिक दस्तावेजों और ओपन सोर्स प्रोजेक्ट्स के आधार पर संकलित किया गया है।

परिनियोजन प्रक्रिया (मानक पथ)

1. मॉडल कोड तैयार करें: पोटेशियम फ्रेमवर्क युक्त एक पायथन प्रोजेक्ट बनाएं और @app.init और @app.handler फ़ंक्शंस लागू करें।
2. कॉन्फ़िगरेशन निर्भरताएँ: सभी पायथन पैकेज निर्भरताओं को सूचीबद्ध करने के लिए requirements.txt लिखें।
3. केले पर अपलोड करें: GitHub रिपॉजिटरी एसोसिएशन या ज़िप पैकेज के माध्यम से बनाना कंसोल पर अपलोड करें।
4. स्वचालित निर्माण: प्लेटफ़ॉर्म कोड परिवर्तनों का पता लगाता है और स्वचालित रूप से कोड खींचता है → डॉकर छवि बनाता है → छवि वेयरहाउस को धक्का देता है।
5. एपीआई के रूप में तैनात करें: निर्माण पूरा होने के बाद, प्लेटफ़ॉर्म https://<project>.banana.dev/ के प्रारूप में एक एपीआई एंडपॉइंट आवंटित करता है।
6. कॉल अनुमान: परिणाम प्राप्त करने के लिए HTTP POST अनुरोध के माध्यम से JSON प्रारूप में अनुमान इनपुट भेजें।

एसडीके और एपीआई कॉल उदाहरण

यहां बताया गया है कि पायथन एसडीके आम तौर पर एक तैनात मॉडल को कैसे कॉल करता है:

केले_देव को केले के रूप में आयात करें

#क्लाइंट को इनिशियलाइज़ करें
api_key = "<Your_API_KEY>"
मॉडल_कुंजी = "<आपका_MODEL_KEY>"

# कॉल अनुमान (तुल्यकालिक)
इनपुट्स = {"प्रॉम्प्ट": "तेज़ भूरी लोमड़ी ऊपर से कूदती है"}
परिणाम = बनाना.रन(api_key, model_key, इनपुट्स)
प्रिंट(परिणाम["आउटपुट"])

# कर्ल के माध्यम से सीधे एपीआई एंडपॉइंट को कॉल करें
कर्ल -एक्स पोस्ट https://<project>.banana.dev/ \
  -एच "सामग्री-प्रकार: एप्लिकेशन/जेसन" \
  -एच "प्राधिकरण: कुंजी <आपका_एपीआई_कुंजी>" \
  -d '{"प्रॉम्प्ट": "तेज़ भूरी लोमड़ी ऊपर से कूदती है"}'

सीएलआई उपकरण

केला बनाना-क्ली कमांड लाइन टूल (पायथन में कार्यान्वित) प्रदान करता है, जो परिनियोजन प्रबंधन, लॉग व्यूइंग और बिल्ड ट्रिगरिंग जैसे संचालन का समर्थन करता है:

पिप केले-सीएलआई स्थापित करें
बनाना परिनियोजन --प्रोजेक्ट माय-मॉडल --एपीआई-कुंजी <YOUR_API_KEY>
बनाना लॉग्स--प्रोजेक्ट माय-मॉडल

माइग्रेशन पथ (शटडाउन के बाद संदर्भ)

उन उपयोगकर्ताओं के लिए जो अभी भी बनाना परिनियोजन का उपयोग कर रहे हैं, निम्नलिखित माइग्रेशन पथ आधिकारिक तौर पर अनुशंसित हैं:

लक्ष्य मंच	प्रवासन कठिनाई	अनुकूलन बिंदु
रनपॉड सर्वर रहित	निम्न	दोनों कंटेनरीकृत HTTP सर्वर हैं, और अधिकांश पोटेशियम कोड का पुन: उपयोग किया जा सकता है
मोडल	मध्यम-उच्च	मॉडल एसडीके शैली में फिर से लिखने की आवश्यकता है, लेकिन उच्च प्रतिकृति सीमा और तेज़ कोल्ड स्टार्ट प्राप्त कर सकते हैं
प्रतिकृति (कोग)	मध्यम	पोटेशियम परियोजना को कॉग प्रारूप में परिवर्तित करने की आवश्यकता है
एडब्ल्यूएस सेजमेकर	उच्च	सेजमेकर अनुमान कंटेनर विनिर्देशों को अनुकूलित करने की आवश्यकता है, लेकिन बुनियादी ढांचा सबसे स्थिर है

केले देव के लिए उत्पाद मूल्य निर्धारण

बनाना देव की कीमत "प्रति-सेकंड बिलिंग" से "मासिक शुल्क + शून्य-प्लस जीपीयू" में स्थानांतरित हो गई है। इसका अंतिम मूल्य निर्धारण मॉडल निम्नलिखित है:

मूल्य सीमा

टियर	मासिक शुल्क	सामग्री शामिल	जीपीयू बिलिंग
टीम	$1,200/माह	10 सीटें 5 परियोजनाएं 50 अधिकतम समानांतर जीपीयू, लॉग खोज, अनुरोध विश्लेषण, शाखा परिनियोजन	उपयोग के आधार पर शून्य मार्कअप (लागत मूल्य)
उद्यम	अज्ञात (व्यावसायिक संपर्क की आवश्यकता)	टीम पूर्ण सुविधाएँ + एसएएमएल एसएसओ, ऑटोमेशन एपीआई, उच्च समानांतर जीपीयू, कस्टम अनुमान कतार, बिल्ड पाइपलाइन जीपीयू	उपयोग के आधार पर शून्य बोनस
केले की डिलिवरी	$20	सीईओ कार्यालय में केले वितरित करते हैं (केवल एसएफ क्षेत्र, मनोरंजक अतिरिक्त सेवा)	शामिल नहीं

मूल्य निर्धारण रणनीति विश्लेषण

• शून्य मार्कअप जीपीयू मॉडल: बनाना देव एक "नो मार्कअप" जीपीयू अनुमान प्लेटफॉर्म होने का दावा करता है - जीपीयू कंप्यूटिंग सीधे क्लाउड निर्माता की लागत मूल्य पर आधारित है, और प्लेटफॉर्म मुनाफा कमाने के लिए केवल मासिक शुल्क पर निर्भर करता है। यह 2023 में सर्वर रहित जीपीयू बाजार में एक अनूठी मूल्य निर्धारण रणनीति है, जो सीधे पारंपरिक क्लाउड विक्रेताओं की 20-50% जीपीयू मार्कअप दर को बेंचमार्क करती है।
• मासिक शुल्क सीमा: $1,200/माह टीम पैकेज में व्यक्तिगत डेवलपर्स और बहुत शुरुआती प्रोटोटाइप टीमों के लिए उच्च सीमा है। यह मूल्य निर्धारण वास्तव में बनाना देव के लक्षित उपयोगकर्ताओं को "स्वतंत्र डेवलपर्स जो कभी-कभार प्रयास करते हैं" के बजाय "स्थिर तर्क आवश्यकताओं वाली छोटी टीमों" पर लॉक कर देता है।
• निःशुल्क क्रेडिट: नए खातों में आमतौर पर $5 का निःशुल्क क्रेडिट प्राप्त होता है, जो छोटे मॉडलों के लिए दर्जनों से सैकड़ों अनुमान कॉलों को कवर कर सकता है।
• प्रतिस्पर्धी उत्पादों के साथ कीमत की तुलना:

प्लेटफार्म	आरंभिक लागत	जीपीयू बिलिंग मॉडल	कोल्ड स्टार्ट प्रदर्शन
केला देव	$1,200/माह (टीम) + शून्य बोनस जीपीयू	निश्चित मासिक शुल्क + लागत मूल्य जीपीयू	दूसरा स्तर (प्रीहीटिंग पूल)
रनपॉड सर्वर रहित	$0/माह + दूसरे द्वारा बिल किया गया	पूरी तरह ऑन-डिमांड, कोई मासिक शुल्क नहीं	दूसरा स्तर
मोडल	$0/माह + दूसरे द्वारा बिल किया गया	पूरी तरह से ऑन-डिमांड, निःशुल्क मासिक कोटा	उप-द्वितीय स्तर (उच्च गति स्नैपशॉट)
दोहराएँ	$0/माह + दूसरे द्वारा बिल किया गया	शुद्ध ऑन-डिमांड	दूसरा स्तर
एडब्ल्यूएस सेजमेकर	$0/माह + प्रति-आवृत्ति बिलिंग	प्रति-आवृत्ति चलने का समय	मिनट (वार्म-अप की आवश्यकता है)

जैसा कि ऊपर दी गई तालिका से देखा जा सकता है, बनाना देव का मासिक शुल्क मॉडल उच्च-आवृत्ति अनुमान टीमों के लिए अधिक लागत प्रभावी है (बड़ी संख्या में अनुमानों द्वारा मासिक शुल्क को कम करने के बाद जीपीयू लागत पर कोई बोनस नहीं है), लेकिन कम आवृत्ति या उतार-चढ़ाव वाले अनुमान भार के लिए, शुद्ध ऑन-डिमांड प्लेटफ़ॉर्म (मोडल, रनपॉड) अधिक लचीले हैं।

केले देव के अनुप्रयोग परिदृश्य

केला देव अपने परिचालन जीवन के दौरान निम्नलिखित परिदृश्यों के लिए सबसे उपयुक्त है:

• एआई प्रोटोटाइप रैपिड लॉन्च: स्टार्टअप टीमें या हैकथॉन परियोजनाएं डेमो प्रदर्शन, उपयोगकर्ता सत्यापन या निवेश पिचों के लिए 24 घंटे के भीतर एक सुलभ एपीआई के रूप में हगिंगफेस मॉडल को तैनात करती हैं। बनाना द्वारा प्रदान किए गए आधिकारिक टेम्पलेट (स्टेबल डिफ्यूजन, मिस्ट्रल-7बी, व्हिस्पर, आदि) तैनाती के समय को दिनों से घटाकर घंटों में कर देते हैं। सत्यापन फोकस: प्रोटोटाइप चरण के दौरान, यह मूल्यांकन करने को प्राथमिकता दी जाती है कि कोल्ड स्टार्ट विलंब स्वीकार्य सीमा के भीतर है या नहीं।
• छोटे और मध्यम आकार के उत्पादों के लिए बैक-एंड अनुमान: SaaS उत्पादों (जैसे छवि निर्माण, पाठ वर्गीकरण, भाषण प्रतिलेखन) में एआई क्षमताओं का बैक-एंड, मासिक अनुमान मात्रा दसियों से सैकड़ों हजारों तक होती है, और ट्रैफ़िक में स्पष्ट "पीक-ट्रफ" विशेषताएं होती हैं। केले की स्वचालित रूप से शून्य से ऊपर और नीचे स्केल करने की क्षमता यह सुनिश्चित करती है कि कठिन अवधि के दौरान GPU संसाधन बर्बाद न हों। सत्यापन फोकस: कुल मासिक अनुमान मात्रा के अनुरूप जीपीयू निष्पादन समय का मूल्यांकन करें और निर्धारित करें कि मासिक परिशोधन के बाद यूनिट की लागत शुद्ध ऑन-डिमांड प्लेटफॉर्म की तुलना में बेहतर है या नहीं।
• बैच ऑफ़लाइन अनुमान कार्य: एपीआई के माध्यम से बैच अनुमान कार्य सबमिट करें, और एक ही समय में समानांतर प्रसंस्करण के लिए एकाधिक जीपीयू उदाहरण शुरू करने के लिए स्वचालित विस्तार और संकुचन का उपयोग करें। यह डेटा सेट एनोटेशन, बैच सामग्री समीक्षा और बड़े पैमाने पर एंबेडिंग पीढ़ी जैसे परिदृश्यों के लिए उपयुक्त है। सत्यापित करने के लिए मुख्य बिंदु: प्लेटफ़ॉर्म की अधिकतम समानांतर जीपीयू सीमा (टीम पैकेज के लिए 50) और लंबे समय तक चलने वाली नौकरियों की स्थिरता पर ध्यान दें।
• मल्टी-मॉडल ए/बी परीक्षण और ग्रेस्केल रिलीज: अनुमान गुणवत्ता, विलंबता और लागत की तुलना करने के लिए एक ही मॉडल के कई संस्करणों को एक साथ चलाने के लिए बनाना देव के बहु-संस्करण प्रबंधन और शाखा परिनियोजन क्षमताओं का लाभ उठाएं। बार-बार मॉडल पुनरावृत्तियों वाली एआई टीमों में यह परिदृश्य विशेष रूप से महत्वपूर्ण है। सत्यापन फोकस: पुष्टि करें कि संस्करणों के बीच ट्रैफ़िक विभाजन और संकेतक तुलना की अवलोकन क्षमताएं टीम की आवश्यकताओं को पूरा करती हैं या नहीं।

अनुपयुक्त परिदृश्य: केला देव निम्नलिखित परिदृश्यों के लिए उपयुक्त नहीं है - मिलीसेकंड-स्तरीय वास्तविक समय अनुमान (जैसे ऑनलाइन विज्ञापन अनुशंसा, लेनदेन जोखिम नियंत्रण), क्योंकि कोल्ड स्टार्ट दूसरे-स्तर की देरी अस्वीकार्य है; संवेदनशील डेटा संप्रभुता वाले उद्यम परिदृश्य (निजी तैनाती समर्थित नहीं है); अल्ट्रा-लार्ज-स्केल अनुमान (हजारों क्यूपीएस स्तर), क्योंकि प्लेटफ़ॉर्म स्केल और एसएलए क्लाउड विक्रेताओं के समान अच्छे नहीं हैं; और ऐसे अनुमान परिदृश्य जिनके लिए विशेष हार्डवेयर की आवश्यकता होती है (जैसे आईपीयू, टीपीयू, हबाना गौडी)।

केला देव के लागू लोग

केले देव की स्थिति यह निर्धारित करती है कि यह केवल विशिष्ट समूहों के लोगों के लिए ही मूल्यवान है:

• एआई स्टार्ट-अप टीम के तकनीकी नेता: टीम का आकार 1-10 लोगों का है, जिसमें मॉडल प्रशिक्षण या फाइन-ट्यूनिंग क्षमताएं हैं लेकिन पूर्णकालिक DevOps की कमी है। बनाना देव का "अपलोड कोड एपीआई के रूप में" अनुभव एक सीटीओ या एल्गोरिदम इंजीनियर को इंफ्रास्ट्रक्चर टीम के समर्थन की प्रतीक्षा किए बिना घंटों में तैनात करने की अनुमति देता है। आवश्यकताएँ: टीम के पास पायथन विकास क्षमताएं और मॉडल एनकैप्सुलेशन अनुभव (पोटेशियम ढांचे में मॉडल लोड करना) होना चाहिए।
• स्वतंत्र एआई डेवलपर्स और फ्रीलांसर: स्वतंत्र डेवलपर्स जो एआई मॉडल परिनियोजन परियोजनाएं शुरू करते हैं या व्यक्तिगत एआई उत्पाद विकसित करते हैं। बनाना देव के मुफ्त क्रेडिट और कम परिचालन बोझ इसे प्रोटोटाइप चरण के लिए कम लागत वाला विकल्प बनाते हैं। पूर्वावश्यकता: आपको $1,200/माह की टीम भुगतान सीमा (या मुफ़्त कोटा समाप्त होने से पहले पूर्ण सत्यापन) का सामना करने में सक्षम होना चाहिए।
• हैकथॉन प्रतिभागी और एआई शिक्षार्थी: 48 घंटे के हैकथॉन में मॉडल विचारों को त्वरित रूप से प्रदर्शन योग्य एपीआई में बदलें। आधिकारिक टेम्प्लेट प्रवेश बाधा को काफी कम कर देते हैं। पूर्वावश्यकता: आपको हगिंगफेस मॉडल पारिस्थितिकी की एक निश्चित समझ होनी चाहिए।
• सर्वर रहित जीपीयू तुलना चाहने वाले मूल्यांकनकर्ता: जो टीमें मॉडल, रनपॉड सर्वरलेस, रेप्लिकेट आदि जैसे प्लेटफार्मों का मूल्यांकन कर रही हैं, केले देव एक नियंत्रण नमूने के रूप में "शून्य मार्कअप मूल्य निर्धारण + पूरी तरह से प्रबंधित" का एक संदर्भ बेंचमार्क प्रदान करता है।

भीड़ के लिए उपयुक्त नहीं: निम्नलिखित समूहों द्वारा उपयोग के लिए अनुशंसित नहीं - उद्यम ग्राहक जिन्हें निजी तैनाती की आवश्यकता होती है (केला इसका समर्थन नहीं करता है); अनुमान विलंबता पर सख्त आवश्यकताओं के साथ वास्तविक समय प्रणाली (<100ms P99); गैर-पायथन प्रौद्योगिकी स्टैक वाली टीमें (केवल पायथन रनटाइम का समर्थन करती हैं); और बजट-संवेदनशील व्यक्तिगत डेवलपर्स ($1,200/माह से शुरू होने वाले टीम पैकेज की सीमा अधिक है)।

सारांश और आउटलुक

मुख्य दक्षताओं की समीक्षा

केले देव ने अपने संचालन अवधि के दौरान सर्वर रहित जीपीयू अनुमान मंच के लिए एक न्यूनतम प्रतिमान को परिभाषित किया - पोटेशियम ढांचे के "दो फ़ंक्शन" अमूर्तता, स्क्रैच से स्वचालित स्केलिंग और शून्य-प्लस जीपीयू मूल्य निर्धारण के माध्यम से, मॉडल परिनियोजन के लिए इंजीनियरिंग सीमा को उस समय के निम्नतम स्तर तक कम कर दिया गया था। इसे वाई कॉम्बिनेटर इकोसिस्टम और एआई डेवलपर समुदाय में कुछ मान्यता प्राप्त हुई है, और इसके ओपन सोर्स फ्रेमवर्क पोटेशियम और फ्रुक्टोज तकनीकी विरासत के रूप में गिटहब पर बने हुए हैं।

वर्तमान प्रतिबंधों और बंद करने के कारणों की समीक्षा

• अपर्याप्त व्यावसायिक स्थिरता: बनाना देव का मुख्य विरोधाभास यह है कि सर्वर रहित जीपीयू प्लेटफॉर्म को उच्च जीपीयू उपयोग (लाभप्रदता) और शून्य (उपयोगकर्ता मूल्य) से स्केलिंग के बीच संतुलन बनाने की आवश्यकता है। यद्यपि शून्य-मार्कअप मूल्य निर्धारण ने डेवलपर्स के बीच समर्थन प्राप्त किया है, लेकिन प्लेटफ़ॉर्म में पर्याप्त लाभ बफर का अभाव है। संस्थापक एरिक डनटेमैन ने शटडाउन घोषणा में स्वीकार किया कि टीम वर्तमान रनवे, रिटेंशन और जीपीयू आपूर्ति श्रृंखला बाधाओं को देखते हुए उत्पाद-बाज़ार में फिट होने के लिए आवश्यक विशिष्टताओं को प्राप्त करने में असमर्थ थी।
• पैमाने की गुम अर्थव्यवस्था: क्लाउड विक्रेताओं (एडब्ल्यूएस, जीसीपी) और अच्छी तरह से वित्त पोषित प्रतिस्पर्धियों (मॉडल, रेप्लिकेट) से जीपीयू अनुमान सेवाओं की तुलना में, बनाना देव जीपीयू खरीद लागत, भौगोलिक वितरण और ब्रांड पहचान के मामले में नुकसान में है।
• सीमित तकनीकी बाधाएं: हालांकि पोटेशियम ढांचे का अनुभव उत्कृष्ट है, इसका मुख्य डिज़ाइन (HTTP सर्वर + इनिट/हैंडलर मोड) तकनीकी रूप से अप्राप्य नहीं है। रनपॉड सर्वरलेस और मोडल एक समान या उससे भी बेहतर डेवलपर अनुभव प्रदान करते हैं।

सर्वर रहित जीपीयू उद्योग के लिए निहितार्थ

बनाना देव का उत्थान और पतन सर्वर रहित जीपीयू रीजनिंग ट्रैक के लिए एक महत्वपूर्ण संदर्भ मामला प्रदान करता है: एक शुद्ध प्लेटफ़ॉर्म मध्य परत (क्लाउड विक्रेताओं के शीर्ष पर एक जीपीयू ऑर्केस्ट्रेशन परत का निर्माण) के लिए अलग-अलग प्रौद्योगिकियों और बिजनेस मॉडल मोट्स के अभाव में स्वतंत्र रूप से जीवित रहना मुश्किल है। सफल सर्वर रहित जीपीयू प्लेटफॉर्म के पास या तो अपना स्वयं का जीपीयू इंफ्रास्ट्रक्चर (जैसे कोरवीव) होता है, उपयोगकर्ताओं को मॉडल मार्केट इकोसिस्टम (जैसे रिप्लिकेट) के माध्यम से लॉक करता है, या एक व्यापक डेवलपर प्लेटफॉर्म (जैसे मॉडल के डेटा साइंस प्लेटफॉर्म पोजिशनिंग) से जुड़ा होता है।

विकल्प और प्रवासन सुझाव

अभी भी चल रही या सर्वर रहित जीपीयू अनुमान लगाने की योजना बना रही टीमों के लिए, निम्नलिखित विकल्प मूल्यांकन के लायक हैं:

• मॉडल: पायथन मूल अनुभव, उत्कृष्ट कोल्ड स्टार्ट प्रदर्शन (हाई-स्पीड स्नैपशॉट तकनीक), उन टीमों के लिए उपयुक्त है जिनके पास विलंबता और विकास अनुभव दोनों की आवश्यकताएं हैं। हालाँकि, यह ध्यान दिया जाना चाहिए कि मॉडल की एसडीके शैली अपेक्षाकृत अनुकूलित है, और कोड माइग्रेशन के लिए कुछ इंजीनियरिंग निवेश की आवश्यकता होती है।
• रनपॉड सर्वरलेस: बनाना डेव (कंटेनराइज्ड HTTP सर्वर + शून्य से स्केलिंग) के सबसे करीब आर्किटेक्चर, सबसे कम माइग्रेशन लागत है, और पूरक के रूप में ऑन-डिमांड वीएम प्रदान करता है। सर्वर रहित जीपीयू बाजार में कीमतें प्रतिस्पर्धी हैं।
• रेप्लिकेट: मुख्यधारा के ओपन सोर्स मॉडल का उपयोग करने वाली टीमों के लिए, इसका कॉग टूल डिजाइन दर्शन में बनाना देव के पोटेशियम के समान है। रेप्लिकेट का लाभ यह है कि इसमें बड़ी संख्या में पूर्व-अनुकूलित मॉडल हैं, और अनुमान वातावरण को स्वयं कॉन्फ़िगर करने की कोई आवश्यकता नहीं है।
• एडब्ल्यूएस सेजमेकर: उन एंटरप्राइज़ परिदृश्यों के लिए उपयुक्त है जिनके लिए अत्यधिक उच्च बुनियादी ढांचे की स्थिरता की आवश्यकता होती है, लेकिन डेवलपर अनुभव और कोल्ड स्टार्ट प्रदर्शन उपर्युक्त पेशेवर सर्वर रहित जीपीयू प्लेटफार्मों जितना अच्छा नहीं है।

खरीद/गोद लेने का जोखिम मूल्यांकन: किसी भी सर्वर रहित जीपीयू प्लेटफ़ॉर्म का मूल्यांकन करने से पहले, "प्लेटफ़ॉर्म शटडाउन/व्यवसाय समाप्ति" को मुख्य जोखिम कारक के रूप में निर्णय लेने में शामिल किया जाना चाहिए - बनाना देव का अनुभव साबित करता है कि वाईसी समर्थन और उत्पाद-बाज़ार फिट के संकेतों के साथ भी, जीपीयू अनुमान बुनियादी ढांचे स्टार्टअप का अस्तित्व अभी भी अत्यधिक अनिश्चित है। प्लेटफ़ॉर्म में परिवर्तन होने पर विकल्पों में अपेक्षाकृत सुचारू माइग्रेशन सुनिश्चित करने के लिए आर्किटेक्चर (मानक डॉकर कंटेनर HTTP इंटरफेस और ओपन सोर्स इंफ़ेक्शन फ्रेमवर्क का उपयोग करके) को डिज़ाइन करते समय प्लेटफ़ॉर्म युग्मन को न्यूनतम रखने की अनुशंसा की जाती है। व्यवसाय-महत्वपूर्ण अनुमान कार्यभार के लिए, मल्टी-प्लेटफ़ॉर्म परिनियोजन क्षमताओं को आरक्षित करें या क्लाउड विक्रेताओं से सीधे परिनियोजन पथों के साथ संगतता बनाए रखें। इसके अलावा, वाणिज्यिक अनुबंधों पर हस्ताक्षर करते समय सेवा समाप्ति खंड, डेटा माइग्रेशन विंडो और बैलेंस रिफंड नीतियों की समीक्षा की जानी चाहिए, जो विवरण केले शटडाउन मामले में प्रमुख जोखिम बिंदु साबित हुए हैं।

संबंधित टूल: <एक्सलिंक टाइप='टूल' स्लग='हगिंग-फेस'>, <एक्सलिंक टाइप='टूल' स्लग='रेप्लिकेट'>

बनाना देव का मॉडल और संस्करण विकास

निरंतर पुनरावृत्त अद्यतन, नवीनतम संस्करण प्रदर्शन अनुकूलन और नई सुविधाएँ पेश करता है। ऐतिहासिक संस्करण की जानकारी आधिकारिक रिलीज़ पृष्ठ के माध्यम से देखी जा सकती है। वर्तमान में कोई पूर्ण सार्वजनिक संस्करण विकास समयरेखा नहीं है।

केला देव कैसे करें उपयोग

• वेब क्लाइंट: आप आधिकारिक वेबसाइट पर जाकर और खाता पंजीकृत करके इसका उपयोग कर सकते हैं। अधिकांश फ़ंक्शनों को इंस्टॉलेशन की आवश्यकता नहीं होती है.
• एपीआई एक्सेस: रेस्टफुल एपीआई प्रदान करता है, डेवलपर्स एपीआई कुंजी प्राप्त कर सकते हैं और इसे अपने स्वयं के अनुप्रयोगों में एकीकृत कर सकते हैं।

संस्करण जानकारी

• केला प्लेटफार्म 2026 ：अभी तक कोई आधिकारिक सटीक तारीख नहीं है। कोल्ड स्टार्ट टाइम और मॉडल कैशिंग रणनीति को अनुकूलित करें। （~2026-02）
• केला प्लेटफार्म 2025 ：अभी तक कोई आधिकारिक सटीक तारीख नहीं है। अधिक मॉडल रनटाइम और स्वचालित स्केलिंग संवर्द्धन का समर्थन करता है। （~2025-08）