CodeQwen अलीबाबा टोंगी कियानवेन (Qwen) टीम द्वारा लॉन्च किया गया एक कोड-विशिष्ट बड़ा भाषा मॉडल है। यह Qwen1.5 आर्किटेक्चर पर आधारित है और लगभग 3 ट्रिलियन टोकन कोड डेटा पर पूर्व-प्रशिक्षित है। यह 92 प्रोग्रामिंग भाषाओं को सपोर्ट करता है और इसकी संदर्भ लंबाई 64K है। CodeQwen1.5-7B HumanEval पर 83.5% पास@1 (चैट संस्करण) तक पहुंचता है, और कोड जनरेशन, लंबे संदर्भ मॉडलिंग, कोड संपादन टेक्स्ट-टू-एसक्यूएल और अन्य कार्यों में अच्छा प्रदर्शन करता है, जिससे यह ओपन सोर्स कोड मॉडल में पहला सोपानक बन जाता है।

CodeQwen का टूल विश्लेषण

मुख्य पैरामीटर और आँकड़े

पैरामीटर	मूल्य
मॉडल का पूरा नाम	CodeQwen1.5-7B / CodeQwen1.5-7B-चैट
विकास दल	अलीबाबा क्लाउड टोंगी कियानवेन टीम (क्वेन टीम)
इंफ्रास्ट्रक्चर	Qwen1.5 (केवल ट्रांसफार्मर डिकोडर)
पैरामीटर स्केल	7बी
पूर्व-प्रशिक्षण डेटा की मात्रा	लगभग 3 ट्रिलियन टोकन (कोड-संबंधित डेटा)
समर्थित प्रोग्रामिंग भाषाएँ	92 प्रकार
संदर्भ लंबाई	64K टोकन
ध्यान तंत्र	समूह क्वेरी ध्यान (जीक्यूए)
लाइसेंस समझौता	टोंग्यि कियानवेन अनुसंधान लाइसेंस समझौता (अनुसंधान के लिए उपलब्ध, व्यावसायिक उपयोग के लिए आवेदन आवश्यक)
ओपन सोर्स रिपॉजिटरी	GitHub: QwenLM/Qwen1.5
मॉडल वजन प्लेटफार्म	आलिंगन चेहरा / मॉडलस्कोप

CodeQwen अलीबाबा टोंगी कियानवेन परिवार में एक बड़ा भाषा मॉडल है जिसे विशेष रूप से कोडिंग परिदृश्यों के लिए डिज़ाइन किया गया है। सामान्य क्वेन मॉडल से अलग, कोडक्यूवेन 92 प्रोग्रामिंग भाषाओं को कवर करते हुए, पूर्व-प्रशिक्षण चरण में विशेष प्रशिक्षण के लिए कोड डेटा के लगभग 3 ट्रिलियन टोकन का उपयोग करता है। इसका मुख्य लाभ डेटा वितरण की विशेषज्ञता से आता है - बड़े पैरामीटर स्केल से नहीं, बल्कि प्रशिक्षण डेटा में कोड की उच्च घनत्व और विविधता, जिससे मॉडल कोड पीढ़ी, समझ, मरम्मत और अन्य कार्यों में समान आकार के सामान्य मॉडल से काफी बेहतर हो जाता है।

उपयोगकर्ता और बाज़ार की पहचान

• GitHub इकोसिस्टम: CodeQwen1.5 श्रृंखला मॉडल QwenLM/Qwen1.5 वेयरहाउस में होस्ट किए गए हैं, और समग्र Qwen संगठन को GitHub पर 21.4k+ सितारे प्राप्त हुए हैं। CodeQwen1.5-7B के हगिंग फेस पर लगभग 3,154 मासिक डाउनलोड हैं (क्वेरी तिथि के अनुसार)।
• बेंचमार्क परिणाम: CodeQwen1.5-7B-चैट ह्यूमनएवल 0-शॉट पर 83.5% पास@1 तक पहुंच गया, और उसी आकार के डीपसीक-कोडर-इंस्ट्रक्ट 6.7B (78.6%) और CodeLlama-7B (33.5%) को पीछे छोड़ते हुए, ओपन सोर्स 7B लेवल कोड मॉडल में पहले स्थान पर रहा। एमबीपीपी 0-शॉट 77.7% तक पहुंच जाता है, जो समान आकार के प्रतिस्पर्धी उत्पादों से भी आगे है।
• लंबा संदर्भ मूल्यांकन: "कोड में सुई" सिंथेटिक मूल्यांकन में, CodeQwen1.5 64K लंबाई सीमा के भीतर सम्मिलित कस्टम फ़ंक्शन को सटीक रूप से पुन: पेश कर सकता है, जो दर्शाता है कि इसकी लंबी संदर्भ कोड समझने की क्षमता डिज़ाइन लक्ष्यों को पूरा करती है।
• एसडब्ल्यूई-बेंच प्रदर्शन: कोडक्यूवेन1.5-चैट ने एसडब्ल्यूई-बेंच पर 0.89 स्कोर किया, जो चैटजीपीटी-3.5 से आगे निकल गया, यह दर्शाता है कि वास्तविक वेयरहाउस-स्तरीय सॉफ्टवेयर विकास समस्याओं को हल करने की इसकी क्षमता शुरू में प्रतिस्पर्धी है।

लागत लाभ

CodeQwen को एक ओपन सोर्स कोड मॉडल के रूप में तैनात किया गया है, और इसकी लागत संरचना तीन स्तरों पर भिन्न है: व्यक्तिगत डेवलपर्स, अकादमिक शोधकर्ता और उद्यम।

• सी-साइड/व्यक्तिगत डेवलपर्स: मॉडल वेट पूरी तरह से स्वतंत्र और खुला स्रोत (रिसर्च लाइसेंस) हैं, और इन्हें हगिंग फेस ट्रांसफॉर्मर या ओलामा जैसे टूल के माध्यम से स्थानीय जीपीयू पर तैनात और चलाया जा सकता है। वीडियो मेमोरी आवश्यकताओं के संदर्भ में, BF16 सटीकता के लिए लगभग 16.99GB GPU वीडियो मेमोरी (7B मॉडल) की आवश्यकता होती है, जो Int4 परिमाणीकरण के बाद लगभग 8.21GB तक कम हो जाती है, और उपभोक्ता-ग्रेड ग्राफिक्स कार्ड (जैसे RTX 3090/4090) इसे चला सकते हैं। अनुमान गति के संदर्भ में, यह BF16 के अंतर्गत लगभग 40.93 टोकन/सेकेंड और Int4 के अंतर्गत लगभग 50.09 टोकन/सेकेंड है।
• डेवलपर/एपीआई कॉल: टोंगी कियानवेन श्रृंखला मॉडल (क्यूवेन-टर्बो/क्यूवेन-प्लस) को अलीबाबा क्लाउड डैशस्कोप एपीआई के माध्यम से कॉल किया जा सकता है, और बिलिंग टोकन पर आधारित है। विशिष्ट मूल्य निर्धारण आधिकारिक डैशस्कोप पृष्ठ के अधीन है। इसके अलावा, वीएलएलएम/एसजीलैंग सेवाओं को हगिंग फेस इंफ्रेंस एपीआई के माध्यम से या स्वयं द्वारा तैनात किया जा सकता है। परिनियोजन लागत GPU विनिर्देशों पर निर्भर करती है।
• उद्यम/निजी तैनाती: उद्यम ओपन सोर्स वेटेज के आधार पर निजीकृत तैनाती और फाइन-ट्यूनिंग कर सकते हैं। व्यावसायिक उपयोग के लिए, आपको अलीबाबा क्लाउड से व्यावसायिक प्राधिकरण के लिए आवेदन करना होगा (आवेदन पत्र भरें)। विशिष्ट प्राधिकरण शर्तें आधिकारिक उत्तर के अधीन होंगी। वित्त और सरकारी मामलों जैसे अनुपालन परिदृश्यों के लिए जिनमें कोड असिस्टेंट की निजीकृत तैनाती की आवश्यकता होती है, कोडक्यूवेन की ओपन सोर्स सुविधाएं डेटा आउटबाउंड और तीसरे पक्ष पर निर्भरता के जोखिम को कम करती हैं।

मुख्य कार्य

• कोड जनरेशन (टेक्स्ट-टू-कोड): प्राकृतिक भाषा विवरणों का निष्पादन योग्य कोड में अनुवाद करें। पायथन, सी++, जावा, जावास्क्रिप्ट, टाइपस्क्रिप्ट, गो और रस्ट सहित 92 भाषाओं को सपोर्ट करता है। ह्यूमनएवल और एमबीपीपी बेंचमार्क पर, चैट संस्करण पास@1 क्रमशः 83.5% और 77.7% तक पहुंच जाता है, जो जीपीटी-3.5 स्तर के करीब है।
• लंबी संदर्भ कोड समझ: 64K टोकन की एक संदर्भ विंडो इसे रिपॉजिटरी-स्तरीय कोड फ़ाइलों को संभालने में सक्षम बनाती है। एनटीके-अवेयर इंटरपोलेशन और लॉगएन अटेंशन स्केलिंग जैसी तकनीकों के आधार पर विस्तारित, यह वास्तविक परीक्षणों में 64K लंबाई सीमा के भीतर कोड अंशों को सटीक रूप से पुनर्प्राप्त और पुन: पेश कर सकता है।
• कोड संपादन और डिबगिंग: CodeEditorBench पर, CodeQwen1.5 ने डिबगिंग, अनुवाद, भाषा स्विचिंग और कोड पॉलिशिंग के चार आयामों में 7B मापदंडों का SOTA प्रभाव प्राप्त किया।
• टेक्स्ट-टू-एसक्यूएल: प्राकृतिक भाषा प्रश्नों को एसक्यूएल स्टेटमेंट में परिवर्तित करने का समर्थन करता है। दो टेक्स्ट-टू-एसक्यूएल बेंचमार्क स्पाइडर और बर्ड में, CodeQwen1.5-चैट GPT-4 (DIN-SQL प्रॉम्प्ट विधि) के बाद दूसरे स्थान पर है। यह क्षमता इसे गैर-प्रोग्रामर और डेटाबेस के बीच इंटरेक्शन गैप को पाटने में सक्षम बनाती है।
• टूल कॉलिंग और एजेंट क्षमताएं: क्वेन-चैट श्रृंखला रिएक्ट-शैली टूल कॉलिंग और फ़ंक्शन कॉलिंग का समर्थन करती है। चीनी टूल उपयोग मूल्यांकन में, CodeQwen1.5-7B-Chat की टूल चयन सटीकता 95.5% तक पहुंच गई, टूल इनपुट रूज-एल 0.900 तक पहुंच गई, और झूठी सकारात्मक दर केवल 11.6% थी।

मॉडल और संस्करण विकास

CodeQwen की वर्तमान में केवल एक प्रमुख रिलीज़ श्रृंखला है - CodeQwen1.5, 16 अप्रैल, 2024 को रिलीज़ हुई। श्रृंखला में दो मॉडल शामिल हैं:

CodeQwen1.5-7B (बेस)

कोड-आधारित मॉडल, कोड डेटा के लगभग 3 ट्रिलियन टोकन पर पूर्व-प्रशिक्षित। कोड पूर्णता और फ़ाइन-ट्यूनिंग जैसे डाउनस्ट्रीम कार्यों के लिए उपयुक्त। इसमें कोई अंतर्निहित संवाद क्षमता नहीं है, उपयोगकर्ताओं को प्रॉम्प्ट प्रारूप बनाने या स्वयं एसएफटी निष्पादित करने की आवश्यकता है।

CodeQwen1.5-7B-चैट (चैट)

बेस मॉडल के आधार पर एसएफटी और आरएलएचएफ के साथ संरेखित संवाद संस्करण मूल रूप से कोड संवाद, कोड जनरेशन, डिबगिंग और एसक्यूएल क्वेरीज़ जैसे इंटरैक्टिव परिदृश्यों का समर्थन करता है। समीक्षा मुख्य रूप से चैट संस्करण के इर्द-गिर्द घूमती है।

गौरतलब है कि CodeQwen का जन्म Qwen1.5 युग (2024 की शुरुआत) में हुआ था। Qwen2, Qwen2.5 और नवीनतम Qwen3 श्रृंखला की रिलीज के साथ, Tongyi Qwen3 टीम कोड क्षमताओं पर पुनरावृत्ति करना जारी रखती है - Qwen3 श्रृंखला में कोड पीढ़ी क्षमताओं को एकीकृत किया गया है, और Qwen3-Coder जैसे बाद के समर्पित मॉडल CodeQwen के आध्यात्मिक उत्तराधिकारी बन सकते हैं। लेकिन वर्तमान में CodeQwen1.5 अभी भी Qwen श्रृंखला में "कोड" नामक एकमात्र कोड-विशिष्ट ओपन सोर्स मॉडल है।

तकनीकी लाभ

• विशेषीकृत पूर्व-प्रशिक्षण डेटा: CodeQwen1.5 को सामान्य टेक्स्ट डेटा के बजाय लगभग 3 ट्रिलियन टोकन कोड डेटा पर पूर्व-प्रशिक्षित किया जाता है। ये कोड डेटा कई भाषाओं, कई फ्रेमवर्क और कई क्षेत्रों में वास्तविक कोड को कवर करते हैं, जिससे मॉडल की कोड सिंटैक्स, शब्दार्थ और प्रोग्रामिंग प्रतिमानों की समझ समान पैमाने के सामान्य मॉडल की तुलना में अधिक गहरी हो जाती है।
• ग्रुप क्वेरी अटेंशन (जीक्यूए): अनुमान के दौरान केवी कैश के उपयोग को कम करने और मल्टी-राउंड संवाद और लंबी अनुक्रम पीढ़ी की थ्रूपुट दक्षता में सुधार करने के लिए समूह क्वेरी अटेंशन तंत्र का उपयोग करता है। जीक्यूए कोड जनरेशन के निरंतर संपादन परिदृश्यों में विशेष रूप से महत्वपूर्ण है - जब डेवलपर्स अक्सर कोड स्निपेट देखते हैं और संशोधित करते हैं, तो जीक्यूए प्रभावी रूप से अनुमान विलंबता को कम कर सकता है।
• लंबी संदर्भ विस्तार तकनीक: एनटीके-जागरूक इंटरपोलेशन विंडो अटेंशन और लॉगएन अटेंशन स्केलिंग प्रौद्योगिकियों के संयोजन के माध्यम से संदर्भ लंबाई को पूर्व-प्रशिक्षित 8K से 64K तक बढ़ाएं। यह मॉडल को एक बार में संपूर्ण वेयरहाउस-स्तरीय कोड फ़ाइल को पढ़ने की अनुमति देता है, जिससे किसी फ़ंक्शन को संशोधित करते समय संपूर्ण फ़ाइल की प्रासंगिक निर्भरता को समझा जा सकता है।
• बहु-भाषा कवरेज: 92 प्रोग्रामिंग भाषाओं में कोड जनरेशन का समर्थन करता है, जिसमें मुख्यधारा की भाषाओं (पायथन, जावा, सी++, जावास्क्रिप्ट) से लेकर विशिष्ट भाषाओं (जैसे वेरिलॉग, रैकेट, कोबोल, आदि) तक सब कुछ शामिल है। मल्टीपीएल-ई मूल्यांकन में, प्रदर्शन आठ मुख्यधारा की भाषाओं पायथन, सी++, जावा, पीएचपी, टाइपस्क्रिप्ट, सी#, बैश और जावास्क्रिप्ट पर संतुलित था, और यह किसी एक भाषा के प्रति पक्षपाती नहीं था।
• क्वांटिफिकेशन फ्रेंडली: अधिकारी Int4 और Int8 क्वांटीकृत संस्करण प्रदान करता है। परिमाणीकरण के बाद, अनुमान की गति लगभग 20% -40% बढ़ जाती है, और वीडियो मेमोरी उपयोग लगभग 50% कम हो जाता है (7B BF16: 16.99GB → Int4: 8.21GB), जिससे उपभोक्ता-ग्रेड ग्राफिक्स कार्ड चलाना संभव हो जाता है। बेंचमार्क में मात्रात्मक प्रदर्शन हानि 2-3 प्रतिशत अंक से अधिक नहीं है।

कैसे उपयोग करें

CodeQwen में लचीली तैनाती और आह्वान विधियां हैं, जो स्थानीय प्रयोगों से लेकर उत्पादन तैनाती तक सभी परिदृश्यों को कवर करती हैं।

स्थानीय तर्क (ट्रांसफॉर्मर)

ट्रांसफार्मर से AutoModelForCausalLM, AutoTokenizer आयात करें

मॉडल_नाम = "क्वेन/कोडक्वेन1.5-7बी-चैट"
टोकननाइज़र = AutoTokenizer.from_pretrained(model_name, Trust_remote_code=True)
मॉडल = AutoModelForCausalLM.from_pretrained(
    मॉडल_नाम,
    डिवाइस_मैप = "ऑटो",
    Trust_remote_code=सत्य
.eval()

प्रतिक्रिया, इतिहास = मॉडल.चैट (टोकनाइज़र, "पायथन में एक त्वरित सॉर्ट फ़ंक्शन लिखें", इतिहास = कोई नहीं)
प्रिंट(प्रतिक्रिया)

ओपनएआई संगत एपीआई परिनियोजन (वीएलएलएम)

पिप इंस्टॉल वीएलएम
पायथन -एम vllm.entrypoints.openai.api_server \
    --मॉडल क्वेन/कोडक्यूवेन1.5-7बी-चैट \
    --ट्रस्ट-रिमोट-कोड \
    --dtype bfloat16

फिर OpenAI SDK के माध्यम से कॉल करें:

ओपनएआई से ओपनएआई आयात करें

क्लाइंट = ओपनएआई(
    api_key='<YOUR_API_KEY>',
    बेस_यूआरएल = "http://localhost:8000/v1"
)

चैट_प्रतिक्रिया = client.chat.completions.create(
    मॉडल = "क्यूवेन/कोडक्यूवेन1.5-7बी-चैट",
    messages=[{"भूमिका": "उपयोगकर्ता", "सामग्री": "C++ में LRU कैश लागू करना"}],
    max_tokens=2048,
    तापमान=0.2
)
प्रिंट(chat_response.choices[0].message.content)

स्थानीय हल्के वजन की तैनाती (Ollama/llama.cpp)

CodeQwen1.5 ओलामा के माध्यम से एक-क्लिक परिनियोजन का समर्थन करता है, और llama.cpp के माध्यम से सीपीयू अनुमान भी लगा सकता है। मॉडल वज़न हगिंग फेस पर अपलोड कर दिया गया है, और समुदाय ने जीजीयूएफ प्रारूप में एक मात्रात्मक संस्करण प्रदान किया है।

अलीबाबा क्लाउड डैशस्कोप एपीआई

टोंगी कियानवेन श्रृंखला मॉडल (कोडिंग क्षमताओं सहित) को अलीबाबा क्लाउड डैशस्कोप के माध्यम से ऑनलाइन बुलाया जा सकता है:

डैशस्कोप आयात करें
डैशस्कोप आयात जनरेशन से

Dashscope.api_key = "<YOUR_DASHSCOPE_API_KEY>"
प्रतिक्रिया = जनरेशन.कॉल(
    मॉडल = "क्वेन-टर्बो",
    messages=[{"भूमिका": "उपयोगकर्ता", "सामग्री": "फ़ंक्शन निष्पादन समय को मापने के लिए एक पायथन डेकोरेटर लिखें"}]
)
प्रिंट(प्रतिक्रिया.आउटपुट.पाठ)

उत्पाद का मूल्य निर्धारण

• ओपन सोर्स वेट: कोडक्यूवेन1.5-7बी और कोडक्यूवेन1.5-7बी-चैट के मॉडल वेट टोंगयी कियानवेन रिसर्च लाइसेंस एग्रीमेंट का उपयोग करके हगिंग फेस और मॉडलस्कोप पर डाउनलोड करने के लिए स्वतंत्र हैं (अनुसंधान के लिए इस्तेमाल किया जा सकता है, व्यावसायिक उपयोग के लिए अलीबाबा क्लाउड से प्राधिकरण की आवश्यकता होती है)।
• डैशस्कोप एपीआई: अलीबाबा क्लाउड डैशस्कोप के माध्यम से टोंगी कियानवेन श्रृंखला मॉडल को कॉल करें, टोकन द्वारा बिल किया गया। क्वेन-टर्बो और क्वेन-प्लस की विशिष्ट कीमतें आधिकारिक डैशस्कोप मूल्य निर्धारण पृष्ठ के अधीन हैं, जो आमतौर पर जीपीटी श्रृंखला मॉडल के एपीआई मूल्य से कम है।
• निजी परिनियोजन लागत: GPU हार्डवेयर चयन पर निर्भर करता है। Int4 परिमाणित संस्करण एकल RTX 3090/4090 (24GB वीडियो मेमोरी) पर चल सकता है, और BF16 संस्करण 24GB से अधिक वीडियो मेमोरी वाले GPU का उपयोग करने की अनुशंसा करता है। एंटरप्राइज़ परिनियोजन को अनुमान ढांचे (vLLM/SGLang), लोड संतुलन और संचालन और रखरखाव लागत पर भी विचार करने की आवश्यकता है।
• निःशुल्क कोटा: डैशस्कोप एपीआई नए उपयोगकर्ताओं के लिए मुफ्त कॉलिंग कोटा प्रदान करता है (नवीनतम आधिकारिक अलीबाबा क्लाउड नीति के अधीन)। ओपन सोर्स परिनियोजन की कोई उपयोग सीमा नहीं है।

अनुप्रयोग परिदृश्य

• एआई प्रोग्रामिंग असिस्टेंट प्राइवेट डिप्लॉयमेंट: उद्यम GitHub Copilot के ओपन सोर्स विकल्प के रूप में कोडक्यूवेन को आंतरिक सर्वर पर तैनात कर सकते हैं। यह विशेष रूप से वित्त, सरकारी मामलों और सैन्य उद्योग जैसे परिदृश्यों के लिए उपयुक्त है जिनमें कोड डेटा गोपनीयता के लिए सख्त आवश्यकताएं हैं। कोड पूर्णता, व्याख्या और समीक्षा प्राप्त करने के लिए VSCode एक्सटेंशन या JetBrains प्लग-इन के माध्यम से मॉडल API से कनेक्ट करें। परिनियोजन के लिए उद्यम के पास GPU अवसंरचना या क्लाउड एपीआई कॉल स्वीकार करने में सक्षम होना आवश्यक है।
• टेक्स्ट-टू-एसक्यूएल डेटा क्वेरी: गैर-तकनीकी व्यवसाय कर्मी प्राकृतिक भाषा के माध्यम से क्वेरी आवश्यकताओं का वर्णन करते हैं, और कोडक्यूवेन उन्हें निष्पादन योग्य एसक्यूएल स्टेटमेंट में परिवर्तित करता है। डेटा टीम पर निर्भरता कम करने के लिए डेटा विश्लेषकों, ऑपरेटरों और व्यवसाय प्रबंधकों के लिए उपयुक्त स्व-सेवा क्वेरी परिदृश्य। यह ध्यान दिया जाना चाहिए कि जटिल मल्टी-टेबल जॉइन क्वेरी की सटीकता GPT-4 से कम हो सकती है। प्रमुख प्रश्नों में मैन्युअल समीक्षा जोड़ने की अनुशंसा की जाती है।
• कोड शिक्षण और शिक्षण सहायता: कोडक्वेन-चैट एक प्रोग्रामिंग लर्निंग पार्टनर के रूप में काम कर सकता है, कोड स्निपेट समझा सकता है, उदाहरण प्रदान कर सकता है और त्रुटियों को इंगित कर सकता है। प्रोग्रामिंग में शुरुआती लोगों के लिए, यह कोडिंग प्रक्रिया के लिए एक संवादात्मक चरण-दर-चरण मार्गदर्शिका प्रदान करता है। हालाँकि, मॉडल सुरक्षा जोखिमों के साथ असुरक्षित कोड या लेखन विधियाँ उत्पन्न कर सकता है, इसलिए शिक्षण में सुरक्षित कोडिंग के बारे में जागरूकता पर जोर देने की आवश्यकता है।
• कोड माइग्रेशन और रिफैक्टरिंग: पुरानी भाषाओं (जैसे COBOL, फोरट्रान) से कोड को आधुनिक भाषाओं (जैसे पायथन, जावा) या विभिन्न फ्रेमवर्क के बीच रिफैक्टर कोड में माइग्रेट करें। कोडक्यूवेन की अंतर-भाषा अनुवाद क्षमताएं 92 भाषाओं पर इसके पूर्व-प्रशिक्षण कवरेज से आती हैं। माइग्रेट किए गए कोड पर पर्याप्त इकाई परीक्षण सत्यापन करने की अनुशंसा की जाती है।

लागू लोग

• सॉफ्टवेयर डेवलपर्स: कोडिंग प्रक्रिया के दौरान कोड जनरेशन, डिबगिंग और व्याख्या में सहायता के लिए कोडक्वेन का उपयोग करें। मुख्यधारा के आईडीई एकीकरण (ओलामा या वीएलएलएम के एपीआई इंटरफ़ेस के माध्यम से) का समर्थन करता है, जो व्यक्तिगत डेवलपर्स और मुफ्त ओपन सोर्स कोड सहायक की तलाश करने वाली छोटी टीमों के लिए उपयुक्त है। सर्वोत्तम अनुभव के लिए बुनियादी मॉडल स्थानीय परिनियोजन क्षमताओं की आवश्यकता होती है।
• डेटा इंजीनियर और विश्लेषक: डेटाबेस को त्वरित रूप से क्वेरी करने के लिए टेक्स्ट-टू-एसक्यूएल क्षमताओं का लाभ उठाएं, या डेटा प्रोसेसिंग कार्यों को स्वचालित करने के लिए पायथन स्क्रिप्ट का उपयोग करें। SQL पीढ़ी में CodeQwen का प्रदर्शन GPT-4 के करीब है और नियमित प्रश्नों के लिए पर्याप्त विश्वसनीय है। अति-जटिल प्रश्नों और उच्च-समवर्ती परिदृश्यों के लिए उपयुक्त नहीं है (यह वाणिज्यिक डेटाबेस एआई सहायकों का उपयोग करने के लिए अनुशंसित है)।
• एआई एप्लिकेशन डेवलपर्स: स्व-विकसित एआई एप्लिकेशन में बैक-एंड कोड जनरेशन मॉड्यूल के रूप में कोडक्यूवेन को एम्बेड करें, और तीसरे पक्ष के एपीआई के मूल्य निर्धारण और आवृत्ति नियंत्रण प्रतिबंधों पर भरोसा किए बिना, इसे ओपन सोर्स वेट के माध्यम से स्वयं तैनात करें। अनुसंधान लाइसेंस के व्यावसायिक उपयोग प्रतिबंधों का मूल्यांकन करना आवश्यक है, और आपको व्यावसायिक उपयोग से पहले अलीबाबा क्लाउड से प्राधिकरण के लिए आवेदन करना होगा।
• अकादमिक शोधकर्ता: बड़े कोड मॉडल के तकनीकी मार्ग, फाइन-ट्यूनिंग विधियों और मूल्यांकन बेंचमार्क पर शोध करें। CodeQwen1.5 का ओपन सोर्स वेट और पूर्ण तकनीकी रिपोर्ट कोड एलएलएम अनुसंधान के लिए एक प्रतिलिपि प्रस्तुत करने योग्य बेसलाइन मॉडल प्रदान करता है। कोड इंटेलिजेंस, सॉफ्टवेयर इंजीनियरिंग ऑटोमेशन और अन्य दिशाओं में अनुसंधान के लिए उपयुक्त।

सीमाओं के लिए उपयुक्त नहीं: CodeQwen सामान्य वार्तालाप परिदृश्यों के लिए उपयुक्त नहीं है (उसी अवधि के Qwen2 सामान्य मॉडल की तुलना में, इसकी चैटिंग और ओपन डोमेन निर्माण क्षमताएं अपर्याप्त हैं); यह उन परिदृश्यों के लिए उपयुक्त नहीं है जिनके लिए 80K+ अल्ट्रा-लॉन्ग संदर्भों की आवश्यकता होती है (संदर्भ विंडो की ऊपरी सीमा 64K है); यह उन ऑनलाइन सेवाओं के लिए उपयुक्त नहीं है जिनके लिए वास्तविक समय में कम विलंबता की आवश्यकता होती है (वीएलएलएम द्वारा अनुकूलित नहीं होने पर अनुमान की गति सीमित होती है); यह अत्यधिक उच्च कोड सुरक्षा आवश्यकताओं (मैन्युअल कोड समीक्षा आवश्यक है) के साथ उत्पादन संदर्भों में मॉडल आउटपुट के प्रत्यक्ष उपयोग के लिए उपयुक्त नहीं है।

सारांश और आउटलुक

CodeQwen1.5-7B कोड-विशिष्ट मॉडल की दिशा में अलीबाबा टोंगयी कियानवेन टीम का एक महत्वपूर्ण प्रयास है। यह उस समय 7बी पैरामीटर स्तर के साथ सबसे मजबूत ओपन सोर्स कोड मॉडल में से एक था। इसके मुख्य लाभ इस प्रकार हैं: 3 ट्रिलियन टोकन कोड डेटा पर पूर्व-प्रशिक्षण द्वारा लाई गई गहरी कोड समझ क्षमताएं, वेयरहाउस-स्तरीय कोड के लिए 64K संदर्भ विंडो प्रोसेसिंग क्षमताएं और 92 भाषाओं का व्यापक कवरेज। ह्यूमनएवल, एमबीपीपी और एसडब्ल्यूई-बेंच जैसे कई कोड बेंचमार्क पर इसके प्रदर्शन ने इसकी प्रतिस्पर्धात्मकता की पुष्टि की है।

वर्तमान सीमाएँ: CodeQwen वर्तमान में आकार में केवल 7B है और उच्च बेंचमार्क तक पहुंचने के लिए बड़े पैरामीटर स्केल वाले संस्करण का अभाव है; अनुसंधान लाइसेंस वाणिज्यिक-अनुकूल नहीं है, और कंपनियों को अतिरिक्त प्राधिकरण के लिए आवेदन करने की आवश्यकता है; मॉडल अपेक्षाकृत जल्दी (अप्रैल 2024) जारी किया गया था, और बाद की Qwen3 श्रृंखला में सामान्य मॉडल में अंतर्निहित कोड क्षमताएं हैं।

खरीद और गोद लेने का जोखिम मूल्यांकन: उन टीमों के लिए जो कोड सहायकों की तैनाती का निजीकरण करना चाहते हैं, CodeQwen1.5 एक कम जोखिम वाला शुरुआती समाधान है - ओपन सोर्स वजन 7B पर मुफ्त में प्राप्त किया जा सकता है, स्केल को उपभोक्ता-ग्रेड ग्राफिक्स कार्ड पर चलाया जा सकता है, और सामुदायिक पारिस्थितिकी तंत्र पूरा हो गया है। यह पुष्टि करने के लिए स्थानीय स्तर पर पीओसी सत्यापन करने के लिए ओलामा या ट्रांसफार्मर का उपयोग करने की सिफारिश की जाती है कि कोड पीढ़ी की गुणवत्ता व्यावसायिक आवश्यकताओं को पूरा करती है, और फिर वाणिज्यिक प्राधिकरण आवश्यकताओं का मूल्यांकन करें। नवीनतम कोडिंग क्षमताओं का अनुसरण करने वाली टीमों के लिए, Qwen3-कोडर श्रृंखला को उत्तराधिकारी समाधान के रूप में माना जा सकता है। सभी उत्पादन परिवेशों का उपयोग करने से पहले, मॉडल-जनरेटेड कोड पर आवश्यक सुरक्षा समीक्षा और परीक्षण कवरेज करने के लिए एक कोड सुरक्षा ऑडिट प्रक्रिया स्थापित की जानी चाहिए।

संबंधित उपकरण: github-copilot, कर्सर

संस्करण जानकारी

• CodeQwen1.5-7B-चैट ：पहला सार्वजनिक संस्करण Qwen1.5 आर्किटेक्चर, 7B मापदंडों पर आधारित है, 92 प्रोग्रामिंग भाषाओं और 64K संदर्भों का समर्थन करता है, और HumanEval पर 83.5% pass@1 तक पहुंचता है। （2024-04-16）
• कोडक्वेन1.5-7बी ：कोड बेस मॉडल (बेस) लगभग 3 ट्रिलियन टोकन कोड डेटा पर पूर्व-प्रशिक्षित है और कोड पूर्णता और फाइन-ट्यूनिंग का समर्थन करता है। अभी तक कोई आधिकारिक सटीक तारीख नहीं है, कृपया 2024-04-16 की ब्लॉग रिलीज़ तारीख देखें। （2024-04-16）