म्यू मुफ्त

-

म्यू माइक्रोसॉफ्ट द्वारा लॉन्च किया गया एक 330 मिलियन पैरामीटर एनकोडर-डिकोडर भाषा मॉडल है, जो विशेष रूप से एनपीयू और एज उपकरणों के लिए अनुकूलित है। यह कोपायलट+ पीसी पर विंडोज़ सेटिंग्स में एआई एजेंटों को संचालित करता है, प्राकृतिक भाषा निर्देशों को वास्तविक समय में सिस्टम क्रियाओं में परिवर्तित करता है, सर्फेस लैपटॉप 7 पर 200+ टोकन/सेकेंड की अनुमान गति प्राप्त करता है।

म्यू उत्पाद इंटरफेस

म्यू: माइक्रोसॉफ्ट का एंड-साइड छोटा पैरामीटर भाषा मॉडल विशेष रूप से एनपीयू के लिए बनाया गया है

म्यू के मुख्य पैरामीटर और आँकड़े

म्यू एक छोटा पैरामीटर भाषा मॉडल (एसएलएम) है जिसे आधिकारिक तौर पर जून 2025 में माइक्रोसॉफ्ट की विंडोज एप्लाइड साइंसेज टीम द्वारा जारी किया गया है। यह एनपीयू (न्यूरल प्रोसेसिंग यूनिट) और एज डिवाइसों पर कुशलतापूर्वक चलने पर केंद्रित है। यह कोपायलट+ पीसी की विंडोज़ सेटिंग्स में बनाया गया है और एआई एजेंट के लिए अनुमान इंजन के रूप में कार्य करता है, जो वास्तविक समय में उपयोगकर्ता के प्राकृतिक भाषा निर्देशों को सिस्टम सेटिंग्स संचालन में मैप करता है।

प्रोजेक्ट्स सार्वजनिक सूचना
डेवलपर माइक्रोसॉफ्ट (माइक्रोसॉफ्ट)
मॉडल वास्तुकला एनकोडर-डिकोडर ट्रांसफार्मर
पैरामीटर आकार 330 मिलियन (330M)
अनुमान गति 100+ टोकन/सेक (एनपीयू), 200+ टोकन/सेक (सरफेस लैपटॉप 7)
इनपुट प्रसंग हजारों टोकन
आउटपुट दर 100 से अधिक टोकन/सेक
परिनियोजन प्रपत्र डिवाइस-साइड अनुमान, पूरी तरह से एनपीयू पर अपलोड किया गया
परिमाणीकरण विधि पीटीक्यू (प्रशिक्षण के बाद परिमाणीकरण), 8-बिट/16-बिट पूर्णांक
प्रशिक्षण हार्डवेयर A100 GPU (Azure मशीन लर्निंग)
पूर्व-प्रशिक्षण डेटा सैकड़ों अरबों उच्च गुणवत्ता वाले शिक्षा टोकन
आसुत स्रोत माइक्रोसॉफ्ट फाई सीरीज मॉडल
फाइन-ट्यूनिंग विधि लोरा (निम्न-रैंक अनुकूलन)
समर्थित प्लेटफार्म विंडोज 11 (कोपायलट+ पीसी, डेव चैनल इनसाइडर प्रीव्यू)
प्रकाशन विधि विंडोज़ सेटिंग्स खोज बॉक्स में एकीकृत, कोई स्वतंत्र स्थापना की आवश्यकता नहीं

पोजीशनिंग अंतर: Phi-3.5-mini (Microsoft द्वारा निर्मित एक छोटा पैरामीटर मॉडल) की तुलना में, Mu पैरामीटर का आकार लगभग 10 गुना छोटा है (330M बनाम 3.3B), लेकिन विशिष्ट कार्यों (जैसे CodeXGlue कोड समझ) पर इसका प्रदर्शन करीब है। यह सामान्य संवाद क्षमताओं का पीछा नहीं करता है, बल्कि "इनपुट-आउटपुट मैपिंग" कार्यों पर ध्यान केंद्रित करता है - सबसे विशिष्ट परिदृश्य "उपयोगकर्ता के सिस्टम सेटिंग इरादों को समझना और उन्हें सटीक ऑपरेटिंग निर्देशों में परिवर्तित करना है।"

वास्तुकला चयन के निहितार्थ: म्यू शुद्ध डिकोडर वास्तुकला के बजाय एक एनकोडर-डिकोडर का उपयोग करता है। एनकोडर एक संभावित प्रतिनिधित्व उत्पन्न करने के लिए सभी इनपुट को एक साथ संसाधित करता है, और डिकोडर केवल इस प्रतिनिधित्व के आधार पर आउटपुट उत्पन्न करता है, हर बार डिकोडर मॉडल टोकन उत्पन्न करने पर सभी इनपुट को पुन: संसाधित करने की कम्प्यूटेशनल बर्बादी से बचता है। आधिकारिक आंकड़ों से पता चलता है कि एनपीयू के समान स्तर पर, एनकोडर-डिकोडर आर्किटेक्चर का पहला टोकन विलंब लगभग 47% कम हो जाता है, और डिकोडिंग गति लगभग 4.7 गुना बढ़ जाती है। यह उन इंटरैक्टिव परिदृश्यों के लिए महत्वपूर्ण है जिनके लिए उप-सेकेंड प्रतिक्रिया की आवश्यकता होती है, जैसे कि खोज बॉक्स सेट करना।

म्यू के उपयोगकर्ता और बाज़ार की पहचान

म्यू डाउनलोड के लिए जनता के लिए खुला उत्पाद नहीं है, लेकिन उपयोगकर्ताओं को विंडोज 11 सिस्टम क्षमताओं के हिस्से के रूप में वितरित किया जाता है, इसलिए इसकी "बाजार स्वीकृति" माइक्रोसॉफ्ट के आंतरिक अपनाने के निर्णयों और विंडोज इनसाइडर समुदाय की प्रतिक्रिया में परिलक्षित होती है।

Microsoft आंतरिक सत्यापन: Mu ने Microsoft की सटीकता और विलंबता की सख्त आंतरिक दोहरी स्वीकृति को पारित कर दिया। विंडोज़ सेटिंग एजेंट परिदृश्य में, म्यू के लोआरए फाइन-ट्यून किए गए संस्करण ने सैकड़ों सिस्टम सेटिंग्स पर 0.738 (एफ1) की व्यापक सटीकता हासिल की, और यूएक्स टीम की इंटरैक्शन डिज़ाइन आवश्यकताओं को पूरा करते हुए प्रतिक्रिया समय 500ms के भीतर नियंत्रित किया गया। इसके विपरीत, हालांकि फी लोरा में उच्च सटीकता (0.815) है, लेकिन यह पराजित हो गया क्योंकि मॉडल विलंबता लक्ष्य को पूरा करने के लिए बहुत बड़ा था - इससे पता चलता है कि म्यू की स्थिति "सबसे मजबूत" नहीं है, लेकिन "सीमित संसाधनों के तहत बिल्कुल सही" है।

Phi-3.5-मिनी के साथ कार्य स्तर की तुलना:

मूल्यांकन कार्य म्यू (330एम) को फाइन-ट्यूनिंग करने के बाद फाई-3.5-मिनी (3.3बी) को ठीक करने के बाद
दस्ता (पढ़ने की समझ) 0.692 0.846
CodeXGlue (कोड समझ) 0.934 0.930
विंडोज़ सेटिंग्स एजेंट 0.738 0.815

म्यू ने कोड समझने के कार्य (कोडएक्सग्लू) में मामूली लाभ से फाई-3.5-मिनी को भी पीछे छोड़ दिया, जिसमें 10 गुना बड़े पैरामीटर हैं, यह दर्शाता है कि एनकोडर-डिकोडर आर्किटेक्चर में "इनपुट-आउटपुट मैपिंग" कार्यों में प्राकृतिक पैरामीटर दक्षता लाभ है।

कवरेज का पैमाना: विंडोज सेटिंग्स एजेंट सैकड़ों सिस्टम सेटिंग्स का समर्थन करता है, जो स्क्रीन ब्राइटनेस, माउस पॉइंटर साइज, एक्सेसिबिलिटी, नेटवर्क कॉन्फ़िगरेशन और वैयक्तिकरण जैसे उच्च-आवृत्ति परिदृश्यों को कवर करता है। सिंथेटिक डेटा जेनरेशन, ऑटोमैटिक एनोटेशन, प्रॉम्प्ट वर्ड इंजीनियरिंग, नॉइज़ इंजेक्शन और इंटेलिजेंट सैंपलिंग जैसी विधियों के माध्यम से, माइक्रोसॉफ्ट ने प्रशिक्षण डेटा को मूल 50 से कम सेटिंग्स से सैकड़ों आइटम तक विस्तारित किया, जिसका नमूना आकार 3.6 मिलियन था।

पारिस्थितिकी स्थिति: म्यू एक उद्योग प्रवृत्ति का प्रतिनिधित्व करता है - क्लाउड से डिवाइस तक एआई क्षमताओं को कम करना, सामान्य प्रयोजन के बड़े मॉडल से कार्य-विशिष्ट छोटे मॉडल में परिवर्तित होना। यह Apple के ऑन-डिवाइस इंटेलिजेंस और Google के Tensor NPU मार्गों को बेंचमार्क करता है, लेकिन इसमें प्रवेश का एक संकीर्ण कोण (सिस्टम सेटिंग्स प्रॉक्सी) और एक गहरी डिलीवरी विधि (ऑपरेटिंग सिस्टम सर्च बॉक्स में एम्बेडेड) है।

म्यू की लागत का लाभ

म्यू की लागत संरचना पारंपरिक एपीआई मॉडल या क्लाउड एलएलएम से मौलिक रूप से अलग है: इसमें एक अलग मूल्य निर्धारण पृष्ठ नहीं है और टोकन द्वारा बिल नहीं किया जाता है।

सी-साइड/एंड यूजर: कोपायलट+ पीसी का उपयोग करने वाले विंडोज उपयोगकर्ताओं के लिए म्यू पूरी तरह से निःशुल्क है। यह विंडोज़ के हिस्से के रूप में योग्य डिवाइसों पर पहले से इंस्टॉल आता है, बिना किसी सदस्यता शुल्क या भुगतान के साथ। एकमात्र अग्रिम लागत हार्डवेयर है - जिसके लिए क्वालकॉम स्नैपड्रैगन एक्स, एएमडी रायज़ेन एआई, या इंटेल कोर अल्ट्रा जैसे एनपीयू के साथ एक कोपायलट+ पीसी की आवश्यकता होती है।

डेवलपर/इकोसिस्टम: म्यू के पास वर्तमान में कोई सार्वजनिक एपीआई या मॉडल वेट डाउनलोड चैनल नहीं है। तृतीय-पक्ष डेवलपर्स सीधे म्यू की अनुमान क्षमताओं को कॉल नहीं कर सकते हैं, न ही वे मॉडल को अपने स्वयं के अनुप्रयोगों में एम्बेड कर सकते हैं। यदि आप समान परिदृश्यों में म्यू के तकनीकी मार्ग का उपयोग करना चाहते हैं, तो आपको ब्लॉग में माइक्रोसॉफ्ट द्वारा बताए गए वास्तुशिल्प विचारों (एनकोडर-डिकोडर + एनपीयू अनुकूलन + पीटीक्यू क्वांटाइजेशन + लोआरए फाइन-ट्यूनिंग) को संदर्भित करना होगा, इसे स्वयं पुन: पेश करना होगा या माइक्रोसॉफ्ट द्वारा मॉडल वजन खोलने की प्रतीक्षा करनी होगी।

उद्यम/आईटी परिनियोजन: म्यू का उद्यम मूल्य आईटी समर्थन लागत को कम करने और कर्मचारी स्व-सेवा दक्षता में सुधार करने में परिलक्षित होता है। परंपरागत रूप से, सिस्टम सेटिंग्स को संशोधित करने के लिए उपयोगकर्ताओं को मेनू को मैन्युअल रूप से नेविगेट करने या आईटी विभाग से संपर्क करने की आवश्यकता होती है; म्यू ने इस प्रक्रिया को "प्राकृतिक भाषा दर्ज करें → स्वचालित निष्पादन" के लिए छोटा कर दिया है और उम्मीद है कि एकल सेटिंग ऑपरेशन पर लगने वाला समय औसतन 30-60 सेकंड से कम होकर 5-10 सेकंड हो जाएगा। हजारों कोपायलट+ पीसी वाले व्यवसायों के लिए, संचयी समय की बचत महत्वपूर्ण है। हालाँकि, यह लाभ पूरी तरह से हार्डवेयर अपग्रेड (कोपायलट + पीसी की खरीद) पर निर्भर है, जो एक छिपी हुई लागत है - उद्यमों को म्यू द्वारा लाए गए दक्षता लाभांश का आनंद लेने से पहले उपकरण अपग्रेड को पूरा करने की आवश्यकता है।

लागत तुलना (कटौती):

लागत आयाम क्लाउड एलएलएम समाधान (जैसे GPT-4o) म्यू क्लाइंट-साइड समाधान
एकल अनुमान लागत ~$0.01-0.03/समय (एपीआई कॉल) 0 (हार्डवेयर खरीदा गया)
विलंबता 500-2000ms (नेटवर्क + अनुमान) <500 एमएस (पूर्ण स्थानीय)
गोपनीयता देश छोड़ने वाले डेटा को अनुपालन समीक्षा की आवश्यकता है डेटा डिवाइस नहीं छोड़ता
ऑफ़लाइन उपलब्ध है नहीं हाँ
हार्डवेयर सीमा कोई नहीं (कोई भी इंटरनेट-सक्षम डिवाइस) कोपायलट+पीसी (एनपीयू) की आवश्यकता है

म्यू के मुख्य कार्य

म्यू की क्षमताओं को विंडोज़ सेटिंग्स एजेंट के माध्यम से अंतिम उपयोगकर्ताओं के सामने उजागर किया जाता है। इसका मूल उद्देश्य प्राकृतिक भाषा निर्देशों को सिस्टम संचालन में परिवर्तित करना है।

  • प्राकृतिक भाषा सेटिंग्स खोज: विंडोज़ सेटिंग्स खोज बॉक्स में दैनिक अभिव्यक्तियाँ जैसे "स्क्रीन को उज्ज्वल करें", "माउस पॉइंटर को बड़ा करें", "रात मोड चालू करें", "डार्क थीम पर स्विच करें" आदि दर्ज करें। म्यू के इरादे को समझने के बाद, वह सीधे संबंधित सेटिंग पेज पर पहुंच जाएगा या सेटिंग पथ को याद किए बिना कोई ऑपरेशन करेगा। यह पारंपरिक कीवर्ड खोजों से अलग है - पारंपरिक खोज केवल सेटिंग पृष्ठ का नाम लौटाती है, जबकि म्यू अर्थ संबंधी विविधताओं को समझता है, जैसे "स्क्रीन को कम चमकदार बनाएं" और चमक/रात मोड और अन्य संभावनाओं से मेल खा सकता है।

  • सैकड़ों सेटिंग्स शामिल: डिस्प्ले, ध्वनि, नेटवर्क और वैयक्तिकरण से लेकर पहुंच, गोपनीयता और सुरक्षा तक, म्यू का फाइन-ट्यून संस्करण विंडोज में सैकड़ों संशोधित सिस्टम सेटिंग्स को कवर करता है। कम-आवृत्ति सेटिंग्स पर सही प्रतिक्रिया सुनिश्चित करने के लिए Microsoft सिंथेटिक डेटा जेनरेशन और विविधता नमूनाकरण तकनीक का उपयोग करता है।

  • सब-सेकंड एंड-साइड अनुमान: एनकोडर-डिकोडर आर्किटेक्चर और एनपीयू हार्डवेयर त्वरण से लाभ उठाते हुए, म्यू का एंड-टू-एंड प्रतिक्रिया समय 500ms के भीतर स्थिर है, और सर्फेस लैपटॉप 7 पर मापी गई आउटपुट गति 200+ टोकन/सेकंड तक पहुंच सकती है। उपयोगकर्ताओं को टाइप करने के लगभग तुरंत बाद परिणाम दिखाई देते हैं—क्लाउड पर राउंड ट्रिप की प्रतीक्षा करने की कोई आवश्यकता नहीं है।

  • फ़ज़ी क्वेरी इंटेलिजेंट कवरेज: उन प्रश्नों के लिए जो बहुत छोटे हैं या अस्पष्ट इरादे हैं (जैसे कि केवल "चमक" शब्द दर्ज करना), म्यू स्वचालित रूप से पारंपरिक शाब्दिक और अर्थ संबंधी खोज में डाउनग्रेड कर देगा, और जबरन गलत संचालन देने के बजाय खोज बॉक्स में प्रासंगिक सेटिंग्स की एक उम्मीदवार सूची प्रदर्शित करेगा। "एआई-आधारित, खोज-आधारित" का यह हाइब्रिड तंत्र प्रभावी रूप से गलत संचालन के जोखिम से बचाता है।

  • बहु-भाषा समर्थन: म्यू का प्रशिक्षण डेटा विभिन्न प्रकार की प्राकृतिक भाषाओं को कवर करता है। उपयोगकर्ता अंग्रेजी, चीनी, जापानी, जर्मन और अन्य भाषाओं में निर्देश इनपुट कर सकते हैं, और मॉडल संबंधित संचालन को सटीक रूप से समझ और निष्पादित कर सकता है। यह बहुभाषी उपयोगकर्ताओं और उद्यम वैश्विक तैनाती के लिए एक महत्वपूर्ण बुनियादी क्षमता है।

म्यू का मॉडल और संस्करण विकास

म्यू के संस्करण का इतिहास विंडोज़ में इसकी डिलीवरी लय से निकटता से संबंधित है। वर्तमान ट्रेस करने योग्य नोड इस प्रकार हैं।

मेनलाइन रिलीज़

संस्करण दिनांक विवरण
प्रारंभिक प्रायोगिक संस्करण ~2025 Q1 (अभी तक कोई आधिकारिक सटीक तारीख नहीं) Phi श्रृंखला आसवन पर आधारित प्रोटोटाइप सत्यापन, NPU परिदृश्यों में एनकोडर-डिकोडर आर्किटेक्चर की व्यवहार्यता का मूल्यांकन करने के लिए उपयोग किया जाता है
आधिकारिक रिलीज़ संस्करण (v1.0) 2025-06-23 आधिकारिक तौर पर विंडोज ब्लॉग के माध्यम से जारी किया गया और विंडोज 11 इनसाइडर प्रीव्यू बिल्ड 26200.5651 (डेव चैनल) के कोपायलट+ पीसी सेटिंग्स एजेंट में एकीकृत किया गया

प्रमुख मील के पत्थर

  • मई 2025: माइक्रोसॉफ्ट ने पहली बार "न्यू जेनरेशन विंडोज एक्सपीरियंस" पूर्वावलोकन में एजेंटों की स्थापना की अवधारणा का उल्लेख किया, उस समय अंतर्निहित मॉडल विवरण का खुलासा किए बिना।
  • जून 13, 2025: विंडोज 11 इनसाइडर प्रीव्यू बिल्ड 26200.5651 (डेव चैनल) जारी किया गया है, कोपायलट+ पीसी उपयोगकर्ताओं को पहली बार एजेंट सेट करने की क्षमता मिलती है, और म्यू इनसाइडर उपयोगकर्ताओं के लिए ग्रेस्केल में उपलब्ध होना शुरू होता है।
  • 23 जून, 2025: माइक्रोसॉफ्ट का आधिकारिक ब्लॉग आधिकारिक तौर पर म्यू भाषा मॉडल के तकनीकी विवरणों का परिचय देता है, जिसमें आर्किटेक्चर चयन, प्रशिक्षण प्रक्रिया, परिमाणीकरण रणनीति और एजेंटों को स्थापित करने के लिए फाइन-ट्यूनिंग तरीके शामिल हैं।

अनुवर्ती योजना

माइक्रोसॉफ्ट ने एक ब्लॉग पोस्ट में कहा कि वह एजेंट स्थापित करने के अनुभव को अनुकूलित करने के लिए विंडोज इनसाइडर प्रोग्राम के माध्यम से फीडबैक एकत्र करना जारी रखेगा। तकनीकी दृष्टिकोण से, म्यू की बाद की पुनरावृत्तियाँ निम्नलिखित दिशाओं में आगे बढ़ सकती हैं:

  • अधिक सिस्टम सेटिंग आइटम कवर करें (सैकड़ों से हजारों तक विस्तारित)
  • कंपाउंड ऑपरेशंस का समर्थन करें (जैसे कि "स्क्रीन को मंद करें और नाइट मोड चालू करें" एक साथ कई कमांड)
  • अल्ट्रा-शॉर्ट प्रश्नों के लिए बेहतर पहचान सटीकता (1-2 शब्द)
  • विंडोज़ सेटिंग्स से परे अन्य सिस्टम इंटरैक्शन परिदृश्यों तक विस्तारित

वर्तमान में म्यू ने विंडोज़-स्वतंत्र मॉडल वेट या एपीआई जारी नहीं किया है, न ही इसने सार्वजनिक मॉडल कार्ड या हगिंग फेस रिपॉजिटरी बनाई है।

म्यू के तकनीकी फायदे

म्यू का तकनीकी लाभ पैरामीटर स्केल में नहीं है, बल्कि पूर्ण-लिंक डिज़ाइन और इंजीनियरिंग अनुकूलन में है जो "न्यूनतम कम्प्यूटेशनल लागत के साथ विशिष्ट कार्यों को पूरा करता है।"

एनकोडर-डिकोडर आर्किटेक्चर का विकल्प: म्यू वर्तमान मुख्यधारा के शुद्ध डिकोडर आर्किटेक्चर के बजाय एक एनकोडर-डिकोडर का उपयोग करता है। एजेंट के उपयोग मोड को सेट करने में, उपयोगकर्ता इनपुट आम तौर पर चरण-दर-चरण वार्तालाप के बजाय एक बार पूर्ण प्राकृतिक भाषा क्वेरी (जैसे "स्क्रीन की चमक को 50% तक चालू करें") होता है। एनकोडर एक बार इनपुट को एन्कोड करता है और डिकोडर आउटपुट उत्पन्न करता है, डिकोडर मॉडल में "हर बार टोकन उत्पन्न होने पर पूरे संदर्भ को पुन: संसाधित करने" की अनावश्यक गणना से बचता है। क्वालकॉम हेक्सागोन एनपीयू पर वास्तविक माप के अनुसार, यह विकल्प पहले टोकन विलंबता में 47% की कमी और डिकोडिंग गति में 4.7 गुना वृद्धि लाता है।

एनपीयू हार्डवेयर-जागरूक अनुकूलन: म्यू केवल मॉडल को एनपीयू में तैनात नहीं करता है, बल्कि इसे आर्किटेक्चर डिजाइन चरण से एनपीयू की समानांतर कंप्यूटिंग विशेषताओं और मेमोरी सीमाओं तक समायोजित करता है। विशिष्ट उपायों में शामिल हैं:

  • हार्डवेयर पर मैट्रिक्स संचालन के लिए चरम दक्षता सुनिश्चित करने के लिए छिपे हुए परत आयाम और फीडफॉरवर्ड नेटवर्क चौड़ाई चुनें जो एनपीयू के पसंदीदा टेंसर आयामों के साथ संरेखित हों।
  • एनकोडर और डिकोडर कार्य अनुकूलन क्षमताओं को अधिकतम करने के लिए लगभग 2:1 (जैसे 32-लेयर एनकोडर + 12-लेयर डिकोडर) के परत वितरण को अपनाते हैं, इस आधार पर कि मापदंडों की कुल संख्या तय है।
  • मापदंडों की संख्या को कम करने और एन्कोडिंग और डिकोडिंग शब्दावली स्थिरता में सुधार करने के लिए वेट शेयरिंग (इनपुट एम्बेडिंग और आउटपुट एम्बेडिंग वजन का एक ही सेट साझा करते हैं) का उपयोग करें।

तीन ट्रांसफार्मर उन्नयन:

  • डुअल लेयरनॉर्म: स्थिर सक्रियण मूल्य पैमाने, सुचारू प्रशिक्षण प्रक्रिया और तेज़ अभिसरण सुनिश्चित करने के लिए प्रत्येक उप-परत से पहले और बाद में सामान्यीकरण करें।
  • रोटेटेड पोजीशन एंबेडिंग (आरओपीई): जटिल डोमेन रोटेशन ऑपरेशंस के माध्यम से सापेक्ष स्थिति की जानकारी को एनकोड करता है, जिससे मॉडल को पारंपरिक निरपेक्ष स्थिति एन्कोडिंग की लंबाई सीमाओं से बचते हुए प्रशिक्षण लंबाई से परे अनुक्रमों को एक्सट्रपलेशन करने की क्षमता मिलती है।
  • ग्रुप क्वेरी अटेंशन (जीक्यूए): मल्टी-हेड अटेंशन की विविधता को बनाए रखते हुए, ध्यान प्रमुख समूहों के बीच कुंजी-मूल्य जोड़े साझा करें, ध्यान मापदंडों और मेमोरी उपयोग की कुल मात्रा को कम करें। एनपीयू की सीमित मेमोरी बैंडविड्थ के साथ यह विशेष रूप से महत्वपूर्ण है।

आसवन से निर्देश फाइन-ट्यूनिंग तक प्रशिक्षण लिंक:

  1. प्री-ट्रेनिंग चरण: वार्मअप-स्टेबल-डेके लर्निंग रेट शेड्यूलिंग और म्यूऑन ऑप्टिमाइज़र का उपयोग करके ए100 जीपीयू पर प्री-ट्रेनिंग के लिए सैकड़ों अरबों उच्च-गुणवत्ता वाले शिक्षा टोकन का उपयोग करें।
  2. ज्ञान आसवन चरण: बड़े Microsoft Phi मॉडल से ज्ञान आसवन, म्यू को 330M मापदंडों के साथ बड़े मॉडल की भाषा समझने की क्षमताओं को पकड़ने की अनुमति देता है।
  3. कार्य फाइन-ट्यूनिंग चरण: एजेंट दृश्य को विशेष रूप से फाइन-ट्यून करने के लिए LoRA (निम्न-रैंक अनुकूलन) विधि का उपयोग करें। प्रशिक्षण डेटा का निर्माण सिंथेटिक पीढ़ी, स्वचालित एनोटेशन, विविध पुनर्लेखन और शोर इंजेक्शन के माध्यम से किया जाता है, जिसमें सैकड़ों सिस्टम सेटिंग्स के विभिन्न अर्थ संबंधी वेरिएंट शामिल होते हैं।

पीटीक्यू परिमाणीकरण और हार्डवेयर संयुक्त अनुकूलन: प्रशिक्षण के बाद परिमाणीकरण (पीटीक्यू) मॉडल भार और सक्रियणों को फ्लोटिंग पॉइंट नंबरों से 8-बिट और 16-बिट पूर्णांक प्रतिनिधित्व में परिवर्तित करता है, जिससे मेमोरी उपयोग और कंप्यूटिंग आवश्यकताओं में काफी कमी आती है। माइक्रोसॉफ्ट ने अपने तीन चिप साझेदारों, एएमडी, इंटेल और क्वालकॉम के साथ गहन सहयोग किया है, ताकि यह सुनिश्चित किया जा सके कि परिमाणित संचालन पूरी तरह से अनुकूलित हो और प्रत्येक एनपीयू पर सर्वोत्तम प्रदर्शन प्राप्त हो। अंततः, सरफेस लैपटॉप 7 पर 200+ टोकन/सेकेंड का अनुमान थ्रूपुट हासिल किया गया।

म्यू का उपयोग कैसे करें

म्यू में कोई स्वतंत्र प्रवेश द्वार नहीं है, और इसके सभी कार्य विंडोज़ सेटिंग्स खोज बॉक्स के माध्यम से प्रदर्शित होते हैं।

आवश्यकताएँ:

  • एनपीयू के साथ एक कोपायलट+ पीसी (क्वालकॉम स्नैपड्रैगन एक्स/एएमडी राइजेन एआई/इंटेल कोर अल्ट्रा)
  • विंडोज 11 इनसाइडर प्रोग्राम के डेव चैनल से जुड़े और बिल्ड 26200.5651 या नया इंस्टॉल किया

परिचालन चरण:

  1. टास्कबार पर "स्टार्ट" बटन पर क्लिक करें या "सेटिंग्स" खोलने के लिए विन + आई दबाएं।
  2. सेटिंग्स विंडो के शीर्ष पर खोज बॉक्स में एक प्राकृतिक भाषा कमांड (जैसे "मंद स्क्रीन", "टेक्स्ट आकार बढ़ाएं", "ब्लूटूथ चालू करें") दर्ज करें।
  3. म्यू ग्राहक पक्ष पर वास्तविक समय में इरादे का विश्लेषण करता है - यदि निर्देश स्पष्ट है और स्वचालित रूप से निष्पादन योग्य सेटिंग्स शामिल है, तो सेटिंग्स पृष्ठ स्वचालित रूप से संबंधित आइटम पर जाता है और ऑपरेशन क्षेत्र को हाइलाइट करता है; यदि निर्देश अस्पष्ट है या इसमें कई सेटिंग्स शामिल हैं, तो खोज बॉक्स उपयोगकर्ता के चयन के लिए एक उम्मीदवार सूची प्रदर्शित करता है।

डेवलपर एक्सेस विधि: म्यू वर्तमान में सार्वजनिक एपीआई या एसडीके प्रदान नहीं करता है। जो डेवलपर्स समान क्षमताओं को अपने स्वयं के अनुप्रयोगों में एकीकृत करना चाहते हैं, वे माइक्रोसॉफ्ट के ब्लॉग (एनकोडर-डिकोडर आर्किटेक्चर + लोरा फाइन-ट्यूनिंग + पीटीक्यू क्वांटिज़ेशन) पर बताए गए तकनीकी समाधान का उल्लेख कर सकते हैं और फाई श्रृंखला या समकक्ष छोटे मॉडल के आधार पर अपनी स्वयं की अनुमान पाइपलाइन बना सकते हैं। माइक्रोसॉफ्ट ने यह घोषणा नहीं की है कि वह फाई सीरीज़ की तरह ही म्यू टू हगिंग फेस या एज़्योर एआई फाउंड्री जारी करेगा या नहीं।

म्यू के उत्पाद का मूल्य निर्धारण

विंडोज़ ऑपरेटिंग सिस्टम में निर्मित एआई क्षमता के रूप में, म्यू के पास स्वतंत्र मूल्य निर्धारण नहीं है।

  • अंतिम उपयोगकर्ता लागत: निःशुल्क। पात्र कोपायलट+ पीसी पर सुविधाएँ पहले से इंस्टॉल आती हैं और इसके लिए अलग से खरीदारी या सदस्यता की आवश्यकता नहीं होती है।
  • उद्यम लागत: निहित। कर्मचारियों द्वारा इस सुविधा का उपयोग करने से पहले उद्यमों को कोपायलट+ पीसी (आमतौर पर प्रति-डिवाइस के आधार पर खरीदा जाता है, प्रति यूनिट कई हजार से दस हजार युआन तक) के हार्डवेयर अपग्रेड को पूरा करने की आवश्यकता होती है। मौजूदा गैर-कोपायलट+ पीसी डिवाइस सॉफ़्टवेयर अद्यतन के माध्यम से म्यू क्षमताएं प्राप्त नहीं कर सकते हैं।
  • डेवलपर/तृतीय पक्ष लागत: वर्तमान में इसे सीधे खरीदा या एक्सेस नहीं किया जा सकता है। यदि आप अपने स्वयं के उत्पादों में समान क्षमताओं का उपयोग करना चाहते हैं, तो आपको इसे स्वयं विकसित करना होगा या Microsoft द्वारा मॉडल वेट खोलने की प्रतीक्षा करनी होगी।

इसकी तुलना में, क्लाउड एलएलएम समाधान में एपीआई कॉल परिदृश्य में स्पष्ट भुगतान जैसी लागत होती है, लेकिन म्यू का लाभ शून्य सीमांत अनुमान लागत और गोपनीयता गारंटी में निहित है कि डेटा डिवाइस को नहीं छोड़ता है। आईटी प्रबंधकों के लिए, म्यू को सक्षम करने या न करने का निर्णय शायद ही कभी एक अकेला निर्णय होता है - यह इस पर निर्भर करता है कि व्यवसाय पहले ही अपग्रेड हो चुका है या कोपायलट+ पीसी में अपग्रेड करने की योजना है।

म्यू एप्लिकेशन परिदृश्य

विंडोज सेटिंग्स एजेंट: यह एकमात्र परिदृश्य है जहां म्यू को वर्तमान में आधिकारिक तौर पर लागू किया गया है। उपयोगकर्ता दैनिक उपयोग में प्राकृतिक भाषा के माध्यम से सिस्टम सेटिंग्स को तुरंत समायोजित कर सकते हैं, जो विशेष रूप से निम्नलिखित उप-परिदृश्यों के लिए उपयुक्त है:

  • खराब दृष्टि या गतिशीलता संबंधी समस्याओं वाले उपयोगकर्ता आवाज/पाठ आदेशों के माध्यम से पहुंच सुविधाओं (आवर्धक लेंस, उच्च कंट्रास्ट, नैरेटर) को समायोजित कर सकते हैं।
  • विंडोज़ सेटिंग्स मेनू से अपरिचित नए उपयोगकर्ता प्राकृतिक भाषा का उपयोग करके लक्ष्य सेटिंग्स को तुरंत ढूंढ और संशोधित कर सकते हैं।
  • मल्टी-मॉनिटर उपयोगकर्ता किसी निश्चित स्क्रीन के लिए चमक/रिज़ॉल्यूशन परिवर्तन को तुरंत निर्दिष्ट करते हैं।
  • आईटी सहायता कर्मचारी दूर से सहायता करते समय सटीक निर्देशों के माध्यम से कॉन्फ़िगरेशन आइटम का तुरंत पता लगा सकते हैं।

डिवाइस-साइड रीयल-टाइम इंटरैक्शन: म्यू का वास्तुशिल्प डिज़ाइन इसे डिवाइस-साइड अनुमान कार्यों के लिए स्वाभाविक रूप से उपयुक्त बनाता है जिनके लिए कम विलंबता और उच्च थ्रूपुट की आवश्यकता होती है। एजेंट की स्थापना के अलावा, इसे सैद्धांतिक रूप से बढ़ाया जा सकता है:

  • विंडोज़ खोज संवर्द्धन: फ़ाइल खोज, एप्लिकेशन लॉन्च और सिस्टम नियंत्रण को एक एकीकृत प्राकृतिक भाषा प्रवेश द्वार में एकीकृत करें।
  • त्वरित संचालन सुझाव: उपयोगकर्ता के उपयोग पैटर्न को जानें और सक्रिय रूप से सेटिंग परिवर्तन की अनुशंसा करें (जैसे कि "यह पाया गया है कि आप अक्सर कॉन्फ्रेंस रूम में प्रोजेक्ट करते हैं। क्या आप विस्तारित मोड पर स्विच करना चाहते हैं?")।
  • अभिगम्यता सहायता: ध्वनि इनपुट के साथ संयुक्त, यह मोटर विकलांग उपयोगकर्ताओं के लिए पूर्ण ध्वनि नियंत्रण प्रणाली सेटअप क्षमताएं प्रदान करता है।

एज एआई प्रोटोटाइप संदर्भ: हार्डवेयर निर्माताओं और एआई डेवलपर्स के लिए, म्यू की सार्वजनिक तकनीकी रिपोर्ट को एंड-साइड मॉडल डिजाइन के लिए एक संदर्भ टेम्पलेट के रूप में इस्तेमाल किया जा सकता है - कंप्यूटिंग-बाधित उपकरणों पर "इनपुट-आउटपुट मैपिंग" प्रकार के कार्यों को संसाधित करने के लिए एनकोडर-डिकोडर अभी भी एक प्रभावी विकल्प है, और लोआरए + पीटीक्यू का संयोजन एक सप्ताह के भीतर नए कार्यों के अनुकूलन को पूरा कर सकता है।

परिदृश्यों के लिए उपयुक्त नहीं:

  • म्यू वार्तालाप संबंधी बातचीत, लंबे पाठ निर्माण, रचनात्मक लेखन या जटिल तर्क कार्यों के लिए उपयुक्त नहीं है - इसकी वास्तुकला और प्रशिक्षण डेटा "एकल इनपुट → सटीक आउटपुट" के लिए डिज़ाइन किए गए हैं।
  • गैर-विंडोज़ प्लेटफ़ॉर्म के लिए उपयुक्त नहीं: वर्तमान में म्यू पूरी तरह से विंडोज़ पारिस्थितिकी तंत्र से जुड़ा हुआ है और लिनक्स, मैकओएस या मोबाइल उपकरणों पर नहीं चल सकता है।
  • उन परिदृश्यों के लिए उपयुक्त नहीं है जिनके लिए अनुकूलित मॉडल व्यवहार की आवश्यकता होती है: उपयोगकर्ता म्यू के अनुमान मापदंडों (तापमान, टॉप_पी, आदि) को संशोधित नहीं कर सकते हैं, न ही वे अन्य ठीक-ठीक संस्करणों पर स्विच कर सकते हैं।

म्यू के लागू समूह

  • कोपायलट+ पीसी मालिक: यदि आप विंडोज 11 इनसाइडर हैं और आपके पास कोपायलट+ पीसी है, तो म्यू एक शून्य-लागत, आउट-ऑफ-द-बॉक्स सिस्टम सुविधा है। यह उन उपयोगकर्ताओं के लिए उपयुक्त है जो अक्सर सिस्टम सेटिंग्स को समायोजित करते हैं लेकिन मेनू पथ याद नहीं रख पाते हैं, साथ ही बहु-कार्य करने वाले उपयोगकर्ता जो ध्वनि/त्वरित पाठ संचालन के माध्यम से दक्षता में सुधार करना चाहते हैं।

  • आईटी प्रशासक और उपकरण खरीद निर्णय निर्माता: म्यू एंटरप्राइज आईटी-सक्षम स्वचालन के लिए एक वृद्धिशील मूल्य बिंदु है। यदि कोई टीम कोपायलट+ पीसी की खरीद का मूल्यांकन कर रही है, तो "स्वयं-सेवा सेटअप के कारण कम आईटी टिकट" को आरओआई गणना में शामिल किया जा सकता है। हालाँकि, यह ध्यान दिया जाना चाहिए कि इस लाभ का आधार यह है कि कर्मचारी अपनी परिचालन आदतों को "आईटी को कॉल करने" से "खुद को खोजने" में बदलने के इच्छुक हैं।

  • डिवाइस-साइड एआई डेवलपर्स और शोधकर्ता: म्यू की सार्वजनिक तकनीकी जानकारी (वास्तुकला चयन, एनपीयू अनुकूलन रणनीति, मात्रा का ठहराव और आसवन प्रक्रिया) एंड-साइड मॉडल इंजीनियरिंग के लिए एक महत्वपूर्ण संदर्भ है। हालाँकि, म्यू के पास वर्तमान में ओपन मॉडल वेट या एपीआई नहीं है, और सीधे पुन: प्रयोज्य संपत्ति सीमित हैं। इस बात पर ध्यान देने की अनुशंसा की जाती है कि क्या Microsoft Phi श्रृंखला या Azure AI फाउंड्री के माध्यम से समान क्षमताओं वाले मॉडल खोलेगा।

  • लोगों पर लागू नहीं:

    • ऐसे डेवलपर्स जिन्हें क्रॉस-प्लेटफॉर्म एंड-साइड मॉडल क्षमताओं की आवश्यकता है (एमयू विंडोज/एनपीयू से जुड़ा है)।
    • सामान्य बातचीत या सामग्री निर्माण क्षमताओं की तलाश करने वाले उपयोगकर्ताओं को (फी, जेम्मा या लामा जैसे सामान्य छोटे मॉडल चुनना चाहिए)।
    • टीमें आउट-ऑफ़-द-बॉक्स एपीआई सेवाओं की तलाश में हैं (एमयू में कोई सार्वजनिक एपीआई नहीं है और यह केवल विंडोज सेटिंग्स इंटरफ़ेस के माध्यम से उपलब्ध है)।
    • जिन उपयोगकर्ताओं को गैर-कोपायलट+ पीसी पर ऑन-डिवाइस एआई का उपयोग करने की आवश्यकता है (एमयू को एनपीयू हार्डवेयर समर्थन की आवश्यकता है)।

सारांश और आउटलुक

म्यू माइक्रोसॉफ्ट की "एआई को सिस्टम स्तर पर लाने" की रणनीति में एक विशिष्ट कदम है। यह कंप्यूटिंग-बाधित उपकरणों पर उप-सेकंड प्राकृतिक भाषा सेटिंग इंटरैक्शन प्राप्त करने के लिए 330 मिलियन पैरामीटर, एनकोडर-डिकोडर आर्किटेक्चर और एनपीयू पूर्ण ऑफलोडिंग तकनीक के संयोजन का उपयोग करता है। सामान्य-उद्देश्य वाले बड़े मॉडलों की तुलना में, म्यू व्यापक संवाद क्षमताओं का पीछा नहीं करता है, लेकिन "संकीर्ण कार्यों के लिए पर्याप्त और बेहद तेज़ है" - यह "कम अधिक है" डिज़ाइन दर्शन डिवाइस-साइड एआई के लिए एक व्यावहारिक पथ का प्रतिनिधित्व करता है।

वर्तमान सीमाएँ:

  • कार्यक्षमता का संकीर्ण दायरा: केवल विंडोज़ सेटिंग्स को कवर करता है और फ़ाइल प्रबंधन, ऐप लॉन्च, शेड्यूलिंग इत्यादि जैसे अधिक सामान्य सिस्टम इंटरैक्शन को संभाल नहीं सकता है।
  • हार्डवेयर बाइंडिंग: कोपायलट+ पीसी के एनपीयू पर निर्भर होना चाहिए, और मौजूदा पीसी उपयोगकर्ता सॉफ़्टवेयर अपडेट के माध्यम से समान अनुभव प्राप्त नहीं कर सकते हैं।
  • पारिस्थितिक समापन: मॉडल भार और एपीआई खुले नहीं हैं, और तीसरे पक्ष पुन: उपयोग या विस्तार नहीं कर सकते हैं।
  • अभी भी इनसाइडर चरण में: सुविधाओं को अभी तक विंडोज 11 जनरल अवेलेबिलिटी (जीए) चैनल पर नहीं भेजा गया है, और उत्पादन उपलब्धता की पुष्टि होनी बाकी है।

मुख्य अवलोकन बिंदु:

  • क्या माइक्रोसॉफ्ट बाद के विंडोज संस्करणों में सेटिंग्स (जैसे फ़ाइल खोज, नियंत्रण कक्ष) से परे अन्य सिस्टम इंटरैक्शन परिदृश्यों में म्यू का विस्तार करेगा।
  • क्या माइक्रोसॉफ्ट फाई सीरीज या हगिंग फेस के माध्यम से म्यू के मॉडल वेट को खोलेगा ताकि डेवलपर्स अपने डिवाइस-साइड मॉडल को पुन: पेश या फाइन-ट्यून कर सकें।
  • क्या अगली पीढ़ी के एनपीयू पर चिप भागीदारों (एएमडी, इंटेल, क्वालकॉम) के प्रदर्शन में सुधार म्यू की प्रतिक्रिया गति को और आगे बढ़ाने की अनुमति देगा?
  • डिवाइस-साइड AI (Apple Intelligence, Google Tensor) में Apple और Google की संबंधित गतिविधियां और म्यू रूट की विभेदित प्रतिस्पर्धा दिशा।

खरीद/गोद लेने का जोखिम मूल्यांकन: व्यक्तिगत उपयोगकर्ताओं के लिए, जब तक हार्डवेयर शर्तों को पूरा करता है, वे इसे शून्य लागत पर अनुभव कर सकते हैं और जोखिम बेहद कम है। उद्यमों के लिए, परिनियोजन लागत मुख्य रूप से कोपायलट+ पीसी हार्डवेयर अपग्रेड में परिलक्षित होती है। जब डिवाइस अपडेट चक्र स्वाभाविक रूप से आता है, तो व्यक्तिगत कार्यों को पहले से अपग्रेड करने के बजाय इसे धीरे-धीरे बढ़ावा देने की सिफारिश की जाती है। यह अनुशंसा की जाती है कि इनसाइडर संस्करण में अस्थिरता से बचने के लिए इस सुविधा को पूरी तरह से प्रचारित करने से पहले विंडोज 11 के आधिकारिक संस्करण में धकेल दिया जाए। डेवलपर्स के लिए, म्यू की वर्तमान तकनीकी रिपोर्ट के आधार पर सीधे उत्पाद विकास में निवेश करने की अनुशंसा नहीं की जाती है - इससे पहले कि माइक्रोसॉफ्ट अपनी खुली रणनीति को मंजूरी दे, फी श्रृंखला एक अधिक परिपक्व और सुलभ डिवाइस-साइड मॉडल विकल्प है।

संबंधित उपकरण: <एक्सलिंक प्रकार='टूल' स्लग='क्रूवाई'>, <एक्सलिंक प्रकार='टूल' स्लग='लैंगचेन'>

संस्करण जानकारी

  • म्यू आधिकारिक संस्करण :आधिकारिक तौर पर विंडोज ब्लॉग के माध्यम से जारी किया गया और विंडोज 11 इनसाइडर प्रीव्यू बिल्ड 26200.5651 (डेव चैनल) में कोपायलट+ पीसी सेटिंग्स एजेंट में एकीकृत किया गया।
  • प्रारंभिक विकास संस्करण :अभी तक कोई आधिकारिक सटीक तारीख नहीं है। फाई श्रृंखला आसवन और एनपीयू अनुकूलन पर आधारित एक प्रारंभिक प्रयोगात्मक संस्करण, अंत-पक्ष परिदृश्यों में एनकोडर-डिकोडर आर्किटेक्चर की व्यवहार्यता को सत्यापित करने के लिए उपयोग किया जाता है।

उपयोगकर्ता समीक्षाएं

  • समीक्षाएं लोड हो रही हैं...