Skip to content

Latest commit

 

History

History
697 lines (542 loc) · 66.6 KB

File metadata and controls

697 lines (542 loc) · 66.6 KB

EdgeAI शुरुआती लोगों के लिए: अध्ययन पथ और समय सारणी

केंद्रित अध्ययन पथ (1 सप्ताह)

दिन फोकस अनुमानित समय
दिन 0 मॉड्यूल 0: EdgeAI का परिचय 1-2 घंटे
दिन 1 मॉड्यूल 1: EdgeAI की मूल बातें 3 घंटे
दिन 2 मॉड्यूल 2: SLM की नींव 3 घंटे
दिन 3 मॉड्यूल 3: SLM तैनाती 2 घंटे
दिन 4-5 मॉड्यूल 4: मॉडल अनुकूलन (6 फ्रेमवर्क) 4 घंटे
दिन 6 मॉड्यूल 5: SLMOps 3 घंटे
दिन 7 मॉड्यूल 6-7: AI एजेंट्स और विकास उपकरण 4 घंटे
दिन 8 मॉड्यूल 8: Foundry Local Toolkit (आधुनिक कार्यान्वयन) 1 घंटा

केंद्रित अध्ययन पथ (2 सप्ताह)

दिन फोकस अनुमानित समय
दिन 1-2 मॉड्यूल 1: EdgeAI की मूल बातें 3 घंटे
दिन 3-4 मॉड्यूल 2: SLM की नींव 3 घंटे
दिन 5-6 मॉड्यूल 3: SLM तैनाती 2 घंटे
दिन 7-8 मॉड्यूल 4: मॉडल अनुकूलन 4 घंटे
दिन 9-10 मॉड्यूल 5: SLMOps 3 घंटे
दिन 11-12 मॉड्यूल 6: AI एजेंट्स 2 घंटे
दिन 13-14 मॉड्यूल 7: विकास उपकरण 3 घंटे

पार्ट-टाइम अध्ययन (4 सप्ताह)

सप्ताह फोकस अनुमानित समय
सप्ताह 1 मॉड्यूल 1-2: मूल बातें और SLM की नींव 6 घंटे
सप्ताह 2 मॉड्यूल 3-4: तैनाती और अनुकूलन 6 घंटे
सप्ताह 3 मॉड्यूल 5-6: SLMOps और AI एजेंट्स 5 घंटे
सप्ताह 4 मॉड्यूल 7: विकास उपकरण और एकीकरण 3 घंटे
दिन फोकस अनुमानित समय
दिन 0 मॉड्यूल 0: EdgeAI का परिचय 1-2 घंटे
दिन 1-2 मॉड्यूल 1: EdgeAI की मूल बातें 3 घंटे
दिन 3-4 मॉड्यूल 2: SLM की नींव 3 घंटे
दिन 5-6 मॉड्यूल 3: SLM तैनाती 2 घंटे
दिन 7-8 मॉड्यूल 4: मॉडल अनुकूलन 4 घंटे
दिन 9-10 मॉड्यूल 5: SLMOps 3 घंटे
दिन 11-12 मॉड्यूल 6: SLM एजेंटिक सिस्टम 2 घंटे
दिन 13-14 मॉड्यूल 7: EdgeAI कार्यान्वयन नमूने 2 घंटे
मॉड्यूल पूर्णता तिथि खर्च किए गए घंटे मुख्य निष्कर्ष
मॉड्यूल 0: EdgeAI का परिचय
मॉड्यूल 1: EdgeAI की मूल बातें
मॉड्यूल 2: SLM की नींव
मॉड्यूल 3: SLM तैनाती
मॉड्यूल 4: मॉडल अनुकूलन (6 फ्रेमवर्क)
मॉड्यूल 5: SLMOps
मॉड्यूल 6: SLM एजेंटिक सिस्टम
मॉड्यूल 7: EdgeAI कार्यान्वयन नमूने
हैंड्स-ऑन अभ्यास
मिनी-प्रोजेक्ट

पार्ट-टाइम अध्ययन (4 सप्ताह)

सप्ताह फोकस अनुमानित समय
सप्ताह 1 मॉड्यूल 1-2: मूल बातें और SLM की नींव 6 घंटे
सप्ताह 2 मॉड्यूल 3-4: तैनाती और अनुकूलन 6 घंटे
सप्ताह 3 मॉड्यूल 5-6: SLMOps और AI एजेंट्स 5 घंटे
सप्ताह 4 मॉड्यूल 7: विकास उपकरण और एकीकरण 3 घंटे

परिचय

EdgeAI शुरुआती लोगों के लिए अध्ययन गाइड में आपका स्वागत है! यह दस्तावेज़ आपको पाठ्यक्रम सामग्री को प्रभावी ढंग से नेविगेट करने और आपके सीखने के अनुभव को अधिकतम करने में मदद करने के लिए डिज़ाइन किया गया है। इसमें संरचित अध्ययन पथ, सुझाई गई अध्ययन समय सारणी, प्रमुख अवधारणाओं का सारांश, और Edge AI तकनीकों की गहरी समझ के लिए पूरक संसाधन शामिल हैं।

यह एक संक्षिप्त 20-घंटे का पाठ्यक्रम है जो EdgeAI के बारे में आवश्यक ज्ञान को समय-कुशल प्रारूप में प्रदान करता है, जो व्यस्त पेशेवरों और छात्रों के लिए आदर्श है जो इस उभरते क्षेत्र में व्यावहारिक कौशल जल्दी से प्राप्त करना चाहते हैं।

पाठ्यक्रम अवलोकन

यह पाठ्यक्रम आठ व्यापक मॉड्यूल में व्यवस्थित है:

  1. EdgeAI का परिचय - उद्योग अनुप्रयोगों और सीखने के उद्देश्यों के साथ नींव और संदर्भ सेटिंग
  2. EdgeAI की मूल बातें और परिवर्तन - मुख्य अवधारणाओं और तकनीकी बदलाव को समझना
  3. छोटे भाषा मॉडल की नींव - विभिन्न SLM परिवारों और उनकी आर्किटेक्चर का अन्वेषण
  4. छोटे भाषा मॉडल तैनाती - व्यावहारिक तैनाती रणनीतियों को लागू करना
  5. मॉडल प्रारूप रूपांतरण और क्वांटाइजेशन - OpenVINO सहित 6 फ्रेमवर्क के साथ उन्नत अनुकूलन
  6. SLMOps - छोटे भाषा मॉडल संचालन - उत्पादन जीवनचक्र प्रबंधन और तैनाती
  7. SLM एजेंटिक सिस्टम - AI एजेंट्स, फंक्शन कॉलिंग, और मॉडल संदर्भ प्रोटोकॉल
  8. EdgeAI कार्यान्वयन नमूने - AI टूलकिट, विंडोज विकास, और प्लेटफ़ॉर्म-विशिष्ट कार्यान्वयन
  9. Microsoft Foundry Local – पूर्ण डेवलपर टूलकिट - स्थानीय-प्रथम विकास के साथ हाइब्रिड Azure एकीकरण (मॉड्यूल 08)

इस अध्ययन गाइड का उपयोग कैसे करें

  • प्रगतिशील सीखना: सबसे सुसंगत सीखने के अनुभव के लिए मॉड्यूल को क्रम में पूरा करें
  • ज्ञान जांच बिंदु: प्रत्येक अनुभाग के बाद आत्म-मूल्यांकन प्रश्नों का उपयोग करें
  • हैंड्स-ऑन अभ्यास: सैद्धांतिक अवधारणाओं को मजबूत करने के लिए सुझाए गए अभ्यासों को पूरा करें
  • पूरक संसाधन: उन विषयों के लिए अतिरिक्त सामग्री का अन्वेषण करें जो आपको सबसे अधिक रुचिकर लगते हैं

अध्ययन समय सारणी की सिफारिशें

केंद्रित अध्ययन पथ (1 सप्ताह)

दिन फोकस अनुमानित समय
दिन 0 मॉड्यूल 0: EdgeAI का परिचय 1-2 घंटे
दिन 1-2 मॉड्यूल 1: EdgeAI की मूल बातें 6 घंटे
दिन 3-4 मॉड्यूल 2: SLM की नींव 8 घंटे
दिन 5 मॉड्यूल 3: SLM तैनाती 3 घंटे
दिन 6 मॉड्यूल 8: Foundry Local Toolkit 3 घंटे

पार्ट-टाइम अध्ययन (3 सप्ताह)

सप्ताह फोकस अनुमानित समय
सप्ताह 1 मॉड्यूल 0: परिचय + मॉड्यूल 1: EdgeAI की मूल बातें 7-9 घंटे
सप्ताह 2 मॉड्यूल 2: SLM की नींव 7-8 घंटे
सप्ताह 3 मॉड्यूल 3: SLM तैनाती (3 घंटे) + मॉड्यूल 8: Foundry Local Toolkit (2-3 घंटे) 5-6 घंटे

मॉड्यूल 0: EdgeAI का परिचय

मुख्य सीखने के उद्देश्य

  • समझें कि Edge AI क्या है और यह आज के तकनीकी परिदृश्य में क्यों महत्वपूर्ण है
  • Edge AI द्वारा परिवर्तित प्रमुख उद्योगों और उनके विशिष्ट उपयोग मामलों की पहचान करें
  • छोटे भाषा मॉडलों (SLMs) के लाभों को समझें जो किनारे पर तैनाती के लिए उपयुक्त हैं
  • पूरे पाठ्यक्रम के लिए स्पष्ट सीखने की अपेक्षाएं और परिणाम स्थापित करें
  • Edge AI क्षेत्र में करियर के अवसरों और कौशल आवश्यकताओं को पहचानें

अध्ययन फोकस क्षेत्र

अनुभाग 1: Edge AI का प्रतिमान और परिभाषा

  • प्राथमिक अवधारणाएं:
    • Edge AI बनाम पारंपरिक क्लाउड AI प्रोसेसिंग
    • हार्डवेयर, मॉडल अनुकूलन, और व्यावसायिक मांगों का संगम
    • वास्तविक समय, गोपनीयता-संरक्षण, और लागत-कुशल AI तैनाती

अनुभाग 2: उद्योग अनुप्रयोग

  • प्राथमिक अवधारणाएं:
    • विनिर्माण और उद्योग 4.0: भविष्यवाणी रखरखाव और गुणवत्ता नियंत्रण
    • स्वास्थ्य सेवा: नैदानिक इमेजिंग और रोगी निगरानी
    • स्वायत्त प्रणाली: स्व-चालित वाहन और परिवहन
    • स्मार्ट शहर: यातायात प्रबंधन और सार्वजनिक सुरक्षा
    • उपभोक्ता प्रौद्योगिकी: स्मार्टफोन, पहनने योग्य उपकरण, और स्मार्ट होम

अनुभाग 3: छोटे भाषा मॉडलों की नींव

  • प्राथमिक अवधारणाएं:
    • SLM की विशेषताएं और प्रदर्शन तुलना
    • पैरामीटर दक्षता बनाम क्षमता व्यापार-ऑफ
    • किनारे पर तैनाती की बाधाएं और अनुकूलन रणनीतियां

अनुभाग 4: सीखने का ढांचा और करियर पथ

  • प्राथमिक अवधारणाएं:
    • पाठ्यक्रम संरचना और प्रगतिशील महारत दृष्टिकोण
    • तकनीकी कौशल और व्यावहारिक कार्यान्वयन लक्ष्य
    • करियर उन्नति के अवसर और उद्योग अनुप्रयोग

आत्म-मूल्यांकन प्रश्न

  1. Edge AI को सक्षम करने वाले तीन मुख्य तकनीकी रुझान क्या हैं?
  2. Edge AI बनाम क्लाउड-आधारित AI के लाभ और चुनौतियों की तुलना करें।
  3. तीन उद्योगों का नाम बताएं जहां Edge AI महत्वपूर्ण व्यावसायिक मूल्य प्रदान करता है और क्यों।
  4. छोटे भाषा मॉडल वास्तविक दुनिया में तैनाती के लिए Edge AI को कैसे व्यावहारिक बनाते हैं?
  5. इस पाठ्यक्रम के दौरान आप कौन-कौन से प्रमुख तकनीकी कौशल विकसित करेंगे?
  6. इस पाठ्यक्रम में उपयोग किए गए चार-चरणीय सीखने के दृष्टिकोण का वर्णन करें।

हैंड्स-ऑन अभ्यास

  1. उद्योग अनुसंधान: एक उद्योग अनुप्रयोग चुनें और Edge AI के एक वास्तविक दुनिया कार्यान्वयन पर शोध करें (30 मिनट)
  2. मॉडल अन्वेषण: Hugging Face पर उपलब्ध छोटे भाषा मॉडलों को ब्राउज़ करें और उनके पैरामीटर गणना और क्षमताओं की तुलना करें (30 मिनट)
  3. अध्ययन योजना बनाना: पूरे पाठ्यक्रम की संरचना की समीक्षा करें और अपनी व्यक्तिगत अध्ययन समय सारणी बनाएं (15 मिनट)

पूरक सामग्री

मॉड्यूल 1: EdgeAI की मूल बातें और परिवर्तन

मुख्य सीखने के उद्देश्य

  • क्लाउड-आधारित और किनारे-आधारित AI के बीच अंतर को समझें
  • संसाधन-सीमित वातावरण के लिए मुख्य अनुकूलन तकनीकों में महारत हासिल करें
  • EdgeAI तकनीकों के वास्तविक दुनिया अनुप्रयोगों का विश्लेषण करें
  • EdgeAI परियोजनाओं के लिए विकास वातावरण सेट करें

अध्ययन फोकस क्षेत्र

अनुभाग 1: EdgeAI की मूल बातें

  • **प्राथ
  1. Windows के साथ Mu मॉडल के एकीकरण के अनूठे फायदे क्या हैं?
  2. Phi-Silica NPU हार्डवेयर का उपयोग प्रदर्शन अनुकूलन के लिए कैसे करता है?
  3. सीमित कनेक्टिविटी वाले मोबाइल एप्लिकेशन के लिए कौन सा मॉडल परिवार सबसे उपयुक्त होगा और क्यों?

व्यावहारिक अभ्यास

  1. मॉडल तुलना: दो अलग-अलग SLM मॉडलों का त्वरित बेंचमार्क (1 घंटा)
  2. सरल टेक्स्ट जनरेशन: छोटे मॉडल के साथ टेक्स्ट जनरेशन का बुनियादी कार्यान्वयन (1 घंटा)
  3. तेज़ अनुकूलन: अनुमान गति सुधारने के लिए एक अनुकूलन तकनीक लागू करें (1 घंटा)

मॉड्यूल 3: छोटे भाषा मॉडल का परिनियोजन

मुख्य सीखने के उद्देश्य

  • परिनियोजन सीमाओं के आधार पर उपयुक्त मॉडल का चयन करें
  • विभिन्न परिनियोजन परिदृश्यों के लिए अनुकूलन तकनीकों में महारत हासिल करें
  • स्थानीय और क्लाउड वातावरण में SLMs को लागू करें
  • EdgeAI अनुप्रयोगों के लिए उत्पादन-तैयार कॉन्फ़िगरेशन डिज़ाइन करें

अध्ययन के मुख्य क्षेत्र

अनुभाग 1: SLM उन्नत सीखना

  • प्राथमिक अवधारणाएं:
    • पैरामीटर वर्गीकरण ढांचा
    • उन्नत अनुकूलन तकनीकें
    • मॉडल अधिग्रहण रणनीतियां

अनुभाग 2: स्थानीय वातावरण परिनियोजन

  • प्राथमिक अवधारणाएं:
    • Ollama प्लेटफ़ॉर्म परिनियोजन
    • Microsoft Foundry स्थानीय समाधान
    • फ्रेमवर्क तुलनात्मक विश्लेषण

अनुभाग 3: कंटेनरीकृत क्लाउड परिनियोजन

  • प्राथमिक अवधारणाएं:
    • vLLM उच्च-प्रदर्शन अनुमान
    • कंटेनर ऑर्केस्ट्रेशन
    • ONNX Runtime कार्यान्वयन

आत्म-मूल्यांकन प्रश्न

  1. स्थानीय परिनियोजन और क्लाउड परिनियोजन के बीच चयन करते समय किन कारकों पर विचार किया जाना चाहिए?
  2. Ollama और Microsoft Foundry Local को परिनियोजन विकल्पों के रूप में तुलना करें।
  3. SLM परिनियोजन के लिए कंटेनरीकरण के लाभों को समझाएं।
  4. किन प्रमुख प्रदर्शन मेट्रिक्स को Edge पर परिनियोजित SLM के लिए मॉनिटर करना चाहिए?
  5. मॉडल चयन से लेकर उत्पादन कार्यान्वयन तक एक पूर्ण परिनियोजन वर्कफ़्लो का वर्णन करें।

व्यावहारिक अभ्यास

  1. बुनियादी स्थानीय परिनियोजन: Ollama का उपयोग करके एक सरल SLM परिनियोजित करें (1 घंटा)
  2. प्रदर्शन जांच: अपने परिनियोजित मॉडल पर त्वरित बेंचमार्क चलाएं (30 मिनट)
  3. सरल एकीकरण: अपने परिनियोजित मॉडल का उपयोग करने वाला एक न्यूनतम एप्लिकेशन बनाएं (1 घंटा)

मॉड्यूल 4: मॉडल प्रारूप रूपांतरण और क्वांटाइजेशन

मुख्य सीखने के उद्देश्य

  • 1-बिट से 8-बिट सटीकता तक उन्नत क्वांटाइजेशन तकनीकों में महारत हासिल करें
  • प्रारूप रूपांतरण रणनीतियों (GGUF, ONNX) को समझें
  • छह फ्रेमवर्क्स (Llama.cpp, Olive, OpenVINO, MLX, वर्कफ़्लो संश्लेषण) में अनुकूलन लागू करें
  • Intel, Apple और क्रॉस-प्लेटफ़ॉर्म हार्डवेयर पर उत्पादन Edge वातावरण के लिए अनुकूलित मॉडल परिनियोजित करें

अध्ययन के मुख्य क्षेत्र

अनुभाग 1: क्वांटाइजेशन की नींव

  • प्राथमिक अवधारणाएं:
    • सटीकता वर्गीकरण ढांचा
    • प्रदर्शन बनाम सटीकता व्यापार-ऑफ
    • मेमोरी फुटप्रिंट अनुकूलन

अनुभाग 2: Llama.cpp कार्यान्वयन

  • प्राथमिक अवधारणाएं:
    • क्रॉस-प्लेटफ़ॉर्म परिनियोजन
    • GGUF प्रारूप अनुकूलन
    • हार्डवेयर त्वरण तकनीकें

अनुभाग 3: Microsoft Olive Suite

  • प्राथमिक अवधारणाएं:
    • हार्डवेयर-अवेयर अनुकूलन
    • एंटरप्राइज़-ग्रेड परिनियोजन
    • स्वचालित अनुकूलन वर्कफ़्लो

अनुभाग 4: OpenVINO टूलकिट

  • प्राथमिक अवधारणाएं:
    • Intel हार्डवेयर अनुकूलन
    • न्यूरल नेटवर्क संपीड़न फ्रेमवर्क (NNCF)
    • क्रॉस-प्लेटफ़ॉर्म अनुमान परिनियोजन
    • OpenVINO GenAI के लिए LLM परिनियोजन

अनुभाग 5: Apple MLX फ्रेमवर्क

  • प्राथमिक अवधारणाएं:
    • Apple Silicon अनुकूलन
    • एकीकृत मेमोरी आर्किटेक्चर
    • LoRA फाइन-ट्यूनिंग क्षमताएं

अनुभाग 6: Edge AI विकास वर्कफ़्लो संश्लेषण

  • प्राथमिक अवधारणाएं:
    • एकीकृत वर्कफ़्लो आर्किटेक्चर
    • फ्रेमवर्क चयन निर्णय वृक्ष
    • उत्पादन तत्परता मान्यता
    • भविष्य-प्रूफिंग रणनीतियां

आत्म-मूल्यांकन प्रश्न

  1. विभिन्न सटीकता स्तरों (1-बिट से 8-बिट) में क्वांटाइजेशन रणनीतियों की तुलना करें।
  2. Edge परिनियोजन के लिए GGUF प्रारूप के लाभों को समझाएं।
  3. Microsoft Olive में हार्डवेयर-अवेयर अनुकूलन परिनियोजन दक्षता को कैसे सुधारता है?
  4. मॉडल संपीड़न के लिए OpenVINO के NNCF के प्रमुख लाभ क्या हैं?
  5. Apple MLX एकीकृत मेमोरी आर्किटेक्चर का उपयोग अनुकूलन के लिए कैसे करता है?
  6. वर्कफ़्लो संश्लेषण अनुकूलन फ्रेमवर्क का चयन करने में कैसे मदद करता है?

व्यावहारिक अभ्यास

  1. मॉडल क्वांटाइजेशन: मॉडल पर विभिन्न क्वांटाइजेशन स्तर लागू करें और परिणामों की तुलना करें (1 घंटा)
  2. OpenVINO अनुकूलन: Intel हार्डवेयर के लिए NNCF का उपयोग करके मॉडल को संपीड़ित करें (1 घंटा)
  3. फ्रेमवर्क तुलना: तीन अलग-अलग अनुकूलन फ्रेमवर्क पर एक ही मॉडल का परीक्षण करें (1 घंटा)
  4. प्रदर्शन बेंचमार्किंग: अनुमान गति और मेमोरी उपयोग पर अनुकूलन प्रभाव को मापें (1 घंटा)

मॉड्यूल 5: SLMOps - छोटे भाषा मॉडल संचालन

मुख्य सीखने के उद्देश्य

  • SLMOps जीवनचक्र प्रबंधन सिद्धांतों को समझें
  • Edge परिनियोजन के लिए डिस्टिलेशन और फाइन-ट्यूनिंग तकनीकों में महारत हासिल करें
  • मॉनिटरिंग के साथ उत्पादन परिनियोजन रणनीतियों को लागू करें
  • एंटरप्राइज़-ग्रेड SLM संचालन और रखरखाव वर्कफ़्लो बनाएं

अध्ययन के मुख्य क्षेत्र

अनुभाग 1: SLMOps का परिचय

  • प्राथमिक अवधारणाएं:
    • AI संचालन में SLMOps का दृष्टिकोण परिवर्तन
    • लागत दक्षता और गोपनीयता-प्रथम आर्किटेक्चर
    • रणनीतिक व्यावसायिक प्रभाव और प्रतिस्पर्धात्मक लाभ

अनुभाग 2: मॉडल डिस्टिलेशन

  • प्राथमिक अवधारणाएं:
    • ज्ञान हस्तांतरण तकनीकें
    • दो-चरणीय डिस्टिलेशन प्रक्रिया कार्यान्वयन
    • Azure ML डिस्टिलेशन वर्कफ़्लो

अनुभाग 3: फाइन-ट्यूनिंग रणनीतियां

  • प्राथमिक अवधारणाएं:
    • पैरामीटर-कुशल फाइन-ट्यूनिंग (PEFT)
    • LoRA और QLoRA उन्नत विधियां
    • मल्टी-अडैप्टर प्रशिक्षण और हाइपरपैरामीटर अनुकूलन

अनुभाग 4: उत्पादन परिनियोजन

  • प्राथमिक अवधारणाएं:
    • उत्पादन के लिए मॉडल रूपांतरण और क्वांटाइजेशन
    • Foundry Local परिनियोजन कॉन्फ़िगरेशन
    • प्रदर्शन बेंचमार्किंग और गुणवत्ता मान्यता

आत्म-मूल्यांकन प्रश्न

  1. SLMOps पारंपरिक MLOps से कैसे अलग है?
  2. Edge परिनियोजन के लिए मॉडल डिस्टिलेशन के लाभों को समझाएं।
  3. संसाधन-सीमित वातावरण में SLMs को फाइन-ट्यून करने के लिए प्रमुख विचार क्या हैं?
  4. Edge AI अनुप्रयोगों के लिए एक पूर्ण उत्पादन परिनियोजन पाइपलाइन का वर्णन करें।

व्यावहारिक अभ्यास

  1. बुनियादी डिस्टिलेशन: एक बड़े शिक्षक मॉडल से एक छोटा मॉडल बनाएं (1 घंटा)
  2. फाइन-ट्यूनिंग प्रयोग: एक विशिष्ट डोमेन के लिए मॉडल को फाइन-ट्यून करें (1 घंटा)
  3. परिनियोजन पाइपलाइन: मॉडल परिनियोजन के लिए एक बुनियादी CI/CD पाइपलाइन सेट करें (1 घंटा)

मॉड्यूल 6: SLM एजेंटिक सिस्टम - AI एजेंट और फंक्शन कॉलिंग

मुख्य सीखने के उद्देश्य

  • छोटे भाषा मॉडलों का उपयोग करके Edge वातावरण के लिए बुद्धिमान AI एजेंट बनाएं
  • व्यवस्थित वर्कफ़्लो के साथ फंक्शन कॉलिंग क्षमताओं को लागू करें
  • मानकीकृत टूल इंटरैक्शन के लिए Model Context Protocol (MCP) एकीकरण में महारत हासिल करें
  • न्यूनतम मानव हस्तक्षेप के साथ परिष्कृत एजेंटिक सिस्टम बनाएं

अध्ययन के मुख्य क्षेत्र

अनुभाग 1: AI एजेंट और SLM की नींव

  • प्राथमिक अवधारणाएं:
    • एजेंट वर्गीकरण ढांचा (रिफ्लेक्स, मॉडल-आधारित, लक्ष्य-आधारित, सीखने वाले एजेंट)
    • SLM बनाम LLM व्यापार-ऑफ विश्लेषण
    • Edge-विशिष्ट एजेंट डिज़ाइन पैटर्न
    • एजेंटों के लिए संसाधन अनुकूलन

अनुभाग 2: छोटे भाषा मॉडलों में फंक्शन कॉलिंग

  • प्राथमिक अवधारणाएं:
    • व्यवस्थित वर्कफ़्लो कार्यान्वयन (इरादा पहचान, JSON आउटपुट, बाहरी निष्पादन)
    • प्लेटफ़ॉर्म-विशिष्ट कार्यान्वयन (Phi-4-mini, चयनित Qwen मॉडल, Microsoft Foundry Local)
    • उन्नत उदाहरण (मल्टी-एजेंट सहयोग, गतिशील टूल चयन)
    • उत्पादन विचार (रेट लिमिटिंग, ऑडिट लॉगिंग, सुरक्षा उपाय)

अनुभाग 3: Model Context Protocol (MCP) एकीकरण

  • प्राथमिक अवधारणाएं:
    • प्रोटोकॉल आर्किटेक्चर और स्तरित सिस्टम डिज़ाइन
    • मल्टी-बैकएंड समर्थन (विकास के लिए Ollama, उत्पादन के लिए vLLM)
    • कनेक्शन प्रोटोकॉल (STDIO और SSE मोड)
    • वास्तविक दुनिया के अनुप्रयोग (वेब ऑटोमेशन, डेटा प्रोसेसिंग, API एकीकरण)

आत्म-मूल्यांकन प्रश्न

  1. Edge AI एजेंटों के लिए प्रमुख वास्तुशिल्प विचार क्या हैं?
  2. फंक्शन कॉलिंग एजेंट क्षमताओं को कैसे बढ़ाता है?
  3. एजेंट संचार में Model Context Protocol की भूमिका को समझाएं।

व्यावहारिक अभ्यास

  1. सरल एजेंट: फंक्शन कॉलिंग के साथ एक बुनियादी AI एजेंट बनाएं (1 घंटा)
  2. MCP एकीकरण: एजेंट एप्लिकेशन में MCP लागू करें (30 मिनट)

कार्यशाला: व्यावहारिक सीखने का मार्ग

मुख्य सीखने के उद्देश्य

  • Foundry Local SDK और सर्वोत्तम प्रथाओं का उपयोग करके उत्पादन-तैयार AI अनुप्रयोग बनाएं
  • व्यापक त्रुटि हैंडलिंग और उपयोगकर्ता प्रतिक्रिया पैटर्न लागू करें
  • गुणवत्ता मूल्यांकन और प्रदर्शन मॉनिटरिंग के साथ RAG पाइपलाइन बनाएं
  • समन्वयक पैटर्न के साथ मल्टी-एजेंट सिस्टम विकसित करें
  • कार्य-आधारित मॉडल चयन के लिए बुद्धिमान मॉडल रूटिंग में महारत हासिल करें
  • गोपनीयता-संरक्षण आर्किटेक्चर के साथ स्थानीय-प्रथम AI समाधान परिनियोजित करें

अध्ययन के मुख्य क्षेत्र

सत्र 01: Foundry Local के साथ शुरुआत

  • प्राथमिक अवधारणाएं:
    • FoundryLocalManager SDK एकीकरण और स्वचालित सेवा खोज
    • बुनियादी और स्ट्रीमिंग चैट कार्यान्वयन
    • त्रुटि हैंडलिंग पैटर्न और उपयोगकर्ता प्रतिक्रिया
    • वातावरण-आधारित कॉन्फ़िगरेशन

सत्र 02: RAG के साथ AI समाधान बनाना

  • प्राथमिक अवधारणाएं:
    • वाक्य-ट्रांसफॉर्मर्स के साथ इन-मेमोरी वेक्टर एम्बेडिंग
    • RAG पाइपलाइन कार्यान्वयन (पुनः प्राप्त करें → उत्पन्न करें)
    • RAGAS मेट्रिक्स के साथ गुणवत्ता मूल्यांकन
    • वैकल्पिक निर्भरताओं के लिए आयात सुरक्षा

सत्र 03: ओपन सोर्स मॉडल

  • प्राथमिक अवधारणाएं:
    • मल्टी-मॉडल बेंचमार्किंग रणनीतियां
    • विलंबता और थ्रूपुट माप
    • ग्रेसफुल डिग्रेडेशन और त्रुटि पुनर्प्राप्ति
    • मॉडल परिवारों के बीच प्रदर्शन तुलना

सत्र 04: अत्याधुनिक मॉडल

  • प्राथमिक अवधारणाएं:
    • SLM बनाम LLM तुलना पद्धति
    • प्रकार संकेत और व्यापक आउटपुट स्वरूपण
    • प्रति-मॉडल त्रुटि हैंडलिंग
    • विश्लेषण के लिए संरचित परिणाम

सत्र 05: AI-संचालित एजेंट

  • प्राथमिक अवधारणाएं:
    • समन्वयक पैटर्न के साथ मल्टी-एजेंट ऑर्केस्ट्रेशन
    • एजेंट मेमोरी प्रबंधन और राज्य ट्रैकिंग
    • पाइपलाइन त्रुटि हैंडलिंग और चरण लॉगिंग
    • प्रदर्शन मॉनिटरिंग और सांख्यिकी

सत्र 06: टूल के रूप में मॉडल

  • प्राथमिक अवधारणाएं:
    • इरादा पहचान और पैटर्न मिलान
    • कीवर्ड-आधारित मॉडल रूटिंग एल्गोरिदम
    • मल्टी-स्टेप पाइपलाइन (योजना → निष्पादित करें → परिष्कृत करें)
    • व्यापक फंक्शन प्रलेखन

आत्म-मूल्यांकन प्रश्न

  1. FoundryLocalManager मैनुअल REST कॉल की तुलना में सेवा प्रबंधन को कैसे सरल बनाता है?
  2. वाक्य-ट्रांसफॉर्मर्स जैसे वैकल्पिक निर्भरताओं के लिए आयात गार्ड का महत्व समझाएं।
  3. मल्टी-मॉडल बेंचमार्किंग में ग्रेसफुल डिग्रेडेशन सुनिश्चित करने के लिए कौन सी रणनीतियां हैं?
  4. समन्वयक पैटर्न कई विशेषज्ञ एजेंटों को कैसे ऑर्केस्ट्रेट करता है?
  5. एक बुद्धिमान मॉडल राउटर के घटकों का वर्णन करें।
  6. उत्पादन-तैयार त्रुटि हैंडलिंग के प्रमुख तत्व क्या हैं?

व्यावहारिक अभ्यास

  1. चैट एप्लिकेशन: त्रुटि हैंडलिंग के साथ स्ट्रीमिंग चैट लागू करें (45 मिनट)
  2. RAG पाइपलाइन: गुणवत्ता मूल्यांकन के साथ न्यूनतम RAG बनाएं (1 घंटा)
  3. मॉडल बेंचमार्किंग: प्रदर्शन पर 3+ मॉडलों की तुलना करें (1 घंटा)
  4. मल्टी-एजेंट सिस्टम: 2 विशेषज्ञ एजेंटों के साथ समन्वयक बनाएं (1.5 घंटा)
  5. बुद्धिमान राउटर: कार्य-आधारित मॉडल चयन बनाएं (1 घंटा)
  6. उत्पादन परिनियोजन: मॉनिटरिंग और व्यापक त्रुटि हैंडलिंग जोड़ें (45 मिनट)

समय आवंटन

सघन अध्ययन (1 सप्ताह):

  • दिन 1: सत्र 01-02 (चैट + RAG) - 3 घंटे
  • दिन 2: सत्र 03-04 (बेंचमार्किंग + तुलना) - 3 घंटे
  • दिन 3: सत्र 05-06 (एजेंट + रूटिंग) - 3 घंटे
  • दिन 4: व्यावहारिक अभ्यास और मान्यता - 2 घंटे

आंशिक अध्ययन (2 सप्ताह):

  • सप्ताह 1: सत्र 01-03 (कुल 6 घंटे)
  • सप्ताह 2: सत्र 04-06 + अभ्यास (कुल 5 घंटे)

मॉड्यूल 7: EdgeAI कार्यान्वयन नमूने

मुख्य सीखने के उद्देश्य

  • व्यापक EdgeAI विकास वर्कफ़्लो के लिए Visual Studio Code के लिए AI Toolkit में महारत हासिल करें
  • Windows AI Foundry प्लेटफ़ॉर्म और NPU अनुकूलन रणनीतियों में विशेषज्ञता प्राप्त करें
  • कई हार्डवेयर प्लेटफ़ॉर्म और परिनियोजन परिदृश्यों में EdgeAI लागू करें
  • प्लेटफ़ॉर्म-विशिष्ट अनुकूलन
  1. आधुनिक एज एआई अनुप्रयोगों में NPU ऑप्टिमाइजेशन की भूमिका को समझाएं।
  2. Phi Silica API प्रदर्शन को बेहतर बनाने के लिए NPU हार्डवेयर का कैसे उपयोग करता है?
  3. गोपनीयता-संवेदनशील अनुप्रयोगों के लिए स्थानीय बनाम क्लाउड परिनियोजन के लाभों की तुलना करें।

प्रैक्टिकल अभ्यास

  1. AI टूलकिट सेटअप: AI टूलकिट को कॉन्फ़िगर करें और एक मॉडल को ऑप्टिमाइज़ करें (1 घंटा)
  2. Windows AI Foundry: Phi Silica API का उपयोग करके एक साधारण Windows AI एप्लिकेशन बनाएं (1 घंटा)
  3. क्रॉस-प्लेटफ़ॉर्म परिनियोजन: एक ही मॉडल को दो अलग-अलग प्लेटफ़ॉर्म पर परिनियोजित करें (1 घंटा)
  4. NPU ऑप्टिमाइजेशन: Windows AI Foundry टूल्स के साथ NPU प्रदर्शन का परीक्षण करें (30 मिनट)

मॉड्यूल 8: Microsoft Foundry Local – संपूर्ण डेवलपर टूलकिट (आधुनिकीकरण)

प्रमुख सीखने के उद्देश्य

  • आधुनिक SDK इंटीग्रेशन के साथ Foundry Local को इंस्टॉल और कॉन्फ़िगर करें
  • समन्वयक पैटर्न के साथ उन्नत मल्टी-एजेंट सिस्टम लागू करें
  • स्वचालित टास्क-आधारित चयन के साथ बुद्धिमान मॉडल राउटर बनाएं
  • व्यापक निगरानी के साथ उत्पादन-तैयार AI समाधान परिनियोजित करें
  • हाइब्रिड परिनियोजन परिदृश्यों के लिए Azure AI Foundry के साथ इंटीग्रेट करें
  • FoundryLocalManager और OpenAI क्लाइंट के साथ आधुनिक SDK पैटर्न में महारत हासिल करें

अध्ययन के फोकस क्षेत्र

सेक्शन 1: आधुनिक इंस्टॉलेशन और कॉन्फ़िगरेशन

  • प्राथमिकता वाले विषय:
    • FoundryLocalManager SDK इंटीग्रेशन
    • स्वचालित सेवा खोज और स्वास्थ्य निगरानी
    • पर्यावरण-आधारित कॉन्फ़िगरेशन पैटर्न
    • उत्पादन परिनियोजन विचार

सेक्शन 2: उन्नत मल्टी-एजेंट सिस्टम

  • प्राथमिकता वाले विषय:
    • विशेषज्ञ एजेंटों के साथ समन्वयक पैटर्न
    • पुनर्प्राप्ति, तर्क और निष्पादन एजेंट विशेषज्ञता
    • परिष्करण के लिए फीडबैक लूप तंत्र
    • प्रदर्शन निगरानी और सांख्यिकी ट्रैकिंग

सेक्शन 3: बुद्धिमान मॉडल राउटिंग

  • प्राथमिकता वाले विषय:
    • कीवर्ड-आधारित मॉडल चयन एल्गोरिदम
    • कई मॉडल समर्थन (सामान्य, तर्क, कोड, रचनात्मक)
    • लचीलापन के लिए पर्यावरण चर कॉन्फ़िगरेशन
    • सेवा स्वास्थ्य जांच और त्रुटि हैंडलिंग

सेक्शन 4: उत्पादन-तैयार कार्यान्वयन

  • प्राथमिकता वाले विषय:
    • व्यापक त्रुटि हैंडलिंग और फॉलबैक तंत्र
    • अनुरोध निगरानी और प्रदर्शन ट्रैकिंग
    • बेंचमार्क के साथ इंटरैक्टिव Jupyter नोटबुक उदाहरण
    • मौजूदा अनुप्रयोगों के साथ इंटीग्रेशन पैटर्न

आत्म-मूल्यांकन प्रश्न

  1. आधुनिक FoundryLocalManager दृष्टिकोण मैनुअल REST कॉल्स से कैसे अलग है?
  2. समन्वयक पैटर्न को समझाएं और यह विशेषज्ञ एजेंटों को कैसे व्यवस्थित करता है।
  3. बुद्धिमान राउटर क्वेरी सामग्री के आधार पर उपयुक्त मॉडल का चयन कैसे करता है?
  4. उत्पादन-तैयार AI एजेंट सिस्टम के प्रमुख घटक क्या हैं?
  5. Foundry Local सेवाओं के लिए व्यापक स्वास्थ्य निगरानी कैसे लागू करें?
  6. आधुनिक दृष्टिकोण बनाम पारंपरिक कार्यान्वयन पैटर्न के लाभों की तुलना करें।

प्रैक्टिकल अभ्यास

  1. आधुनिक SDK सेटअप: स्वचालित सेवा खोज के साथ FoundryLocalManager को कॉन्फ़िगर करें (30 मिनट)
  2. मल्टी-एजेंट सिस्टम: विशेषज्ञ एजेंटों के साथ उन्नत समन्वयक चलाएं (30 मिनट)
  3. बुद्धिमान राउटिंग: विभिन्न क्वेरी प्रकारों के साथ मॉडल राउटर का परीक्षण करें (30 मिनट)
  4. इंटरैक्टिव एक्सप्लोरेशन: उन्नत सुविधाओं का पता लगाने के लिए Jupyter नोटबुक का उपयोग करें (45 मिनट)
  5. उत्पादन परिनियोजन: निगरानी और त्रुटि हैंडलिंग पैटर्न लागू करें (30 मिनट)
  6. हाइब्रिड इंटीग्रेशन: Azure AI Foundry फॉलबैक परिदृश्यों को कॉन्फ़िगर करें (30 मिनट)

समय आवंटन गाइड

30 घंटे के विस्तारित कोर्स टाइमलाइन (वर्कशॉप सहित) का अधिकतम लाभ उठाने के लिए, यहां समय आवंटन का सुझाव दिया गया है:

गतिविधि समय आवंटन विवरण
मुख्य सामग्री पढ़ना 12 घंटे प्रत्येक मॉड्यूल में आवश्यक अवधारणाओं पर ध्यान केंद्रित करना
प्रैक्टिकल अभ्यास 10 घंटे प्रमुख तकनीकों का व्यावहारिक कार्यान्वयन (वर्कशॉप सहित)
आत्म-मूल्यांकन 3 घंटे प्रश्नों और चिंतन के माध्यम से अपनी समझ का परीक्षण करना
मिनी-प्रोजेक्ट 5 घंटे छोटे व्यावहारिक कार्यान्वयन में ज्ञान लागू करना

समय सीमा के अनुसार प्रमुख फोकस क्षेत्र

यदि आपके पास केवल 10 घंटे हैं:

  • मॉड्यूल 0 (परिचय) और मॉड्यूल 1, 2, और 3 (मुख्य EdgeAI अवधारणाएं) पूरा करें
  • प्रत्येक मॉड्यूल से कम से कम एक प्रैक्टिकल अभ्यास करें
  • कार्यान्वयन विवरण के बजाय मुख्य अवधारणाओं को समझने पर ध्यान दें

यदि आप पूरे 20 घंटे समर्पित कर सकते हैं:

  • सभी आठ मॉड्यूल (परिचय सहित) पूरा करें
  • प्रत्येक मॉड्यूल से प्रमुख प्रैक्टिकल अभ्यास करें
  • मॉड्यूल 7 से एक मिनी-प्रोजेक्ट पूरा करें
  • कम से कम 2-3 पूरक संसाधनों का पता लगाएं

यदि आपके पास 20 घंटे से अधिक हैं:

  • सभी मॉड्यूल (परिचय सहित) को विस्तृत अभ्यासों के साथ पूरा करें
  • कई मिनी-प्रोजेक्ट बनाएं
  • मॉड्यूल 4 में उन्नत ऑप्टिमाइजेशन तकनीकों का पता लगाएं
  • मॉड्यूल 5 से उत्पादन परिनियोजन लागू करें

आवश्यक संसाधन

ये सावधानीपूर्वक चुने गए संसाधन आपके सीमित अध्ययन समय के लिए सबसे अधिक मूल्य प्रदान करते हैं:

अनिवार्य दस्तावेज़

  • ONNX Runtime Getting Started - सबसे कुशल मॉडल ऑप्टिमाइजेशन टूल
  • Ollama Quick Start - SLMs को स्थानीय रूप से परिनियोजित करने का सबसे तेज़ तरीका
  • Microsoft Phi Model Card - एक प्रमुख एज-ऑप्टिमाइज्ड मॉडल के लिए संदर्भ
  • OpenVINO Documentation - Intel का व्यापक ऑप्टिमाइजेशन टूलकिट
  • AI Toolkit for VS Code - इंटीग्रेटेड EdgeAI डेवलपमेंट एनवायरनमेंट
  • Windows AI Foundry - Windows-विशिष्ट EdgeAI डेवलपमेंट प्लेटफ़ॉर्म

समय बचाने वाले टूल

  • Hugging Face Transformers - त्वरित मॉडल एक्सेस और परिनियोजन
  • Gradio - AI डेमो के लिए तेज़ UI विकास
  • Microsoft Olive - सरलीकृत मॉडल ऑप्टिमाइजेशन
  • Llama.cpp - कुशल CPU इंफरेंस
  • OpenVINO NNCF - न्यूरल नेटवर्क कंप्रेशन फ्रेमवर्क
  • OpenVINO GenAI - बड़े भाषा मॉडल परिनियोजन टूलकिट

प्रगति ट्रैकिंग टेम्पलेट

20 घंटे के कोर्स के माध्यम से अपनी सीखने की प्रगति को ट्रैक करने के लिए इस सरलीकृत टेम्पलेट का उपयोग करें:

मॉड्यूल पूर्णता तिथि खर्च किए गए घंटे प्रमुख निष्कर्ष
मॉड्यूल 0: EdgeAI का परिचय
मॉड्यूल 1: EdgeAI मूल बातें
मॉड्यूल 2: SLM नींव
मॉड्यूल 3: SLM परिनियोजन
मॉड्यूल 4: मॉडल ऑप्टिमाइजेशन
मॉड्यूल 5: SLMOps
मॉड्यूल 6: AI एजेंट्स
मॉड्यूल 7: डेवलपमेंट टूल्स
वर्कशॉप: प्रैक्टिकल लर्निंग
मॉड्यूल 8: Foundry Local टूलकिट
प्रैक्टिकल अभ्यास
मिनी-प्रोजेक्ट

मिनी प्रोजेक्ट आइडिया

EdgeAI अवधारणाओं का अभ्यास करने के लिए इनमें से एक प्रोजेक्ट पूरा करने पर विचार करें (प्रत्येक को 2-4 घंटे में डिज़ाइन किया गया है):

शुरुआती प्रोजेक्ट (2-3 घंटे प्रत्येक)

  1. एज टेक्स्ट असिस्टेंट: एक साधारण ऑफलाइन टेक्स्ट कंप्लीशन टूल बनाएं जो छोटे भाषा मॉडल का उपयोग करता है
  2. मॉडल तुलना डैशबोर्ड: विभिन्न SLMs के प्रदर्शन मेट्रिक्स का एक बुनियादी विज़ुअलाइज़ेशन बनाएं
  3. ऑप्टिमाइजेशन प्रयोग: एक ही बेस मॉडल पर विभिन्न क्वांटाइजेशन स्तरों के प्रभाव को मापें

मध्यम प्रोजेक्ट (3-4 घंटे प्रत्येक)

  1. AI टूलकिट वर्कफ़्लो: VS Code AI टूलकिट का उपयोग करके एक मॉडल को शुरू से अंत तक ऑप्टिमाइज़ और परिनियोजित करें
  2. Windows AI Foundry एप्लिकेशन: Phi Silica API और NPU ऑप्टिमाइजेशन का उपयोग करके एक Windows ऐप बनाएं
  3. क्रॉस-प्लेटफ़ॉर्म परिनियोजन: एक ही ऑप्टिमाइज़्ड मॉडल को Windows (OpenVINO) और मोबाइल (.NET MAUI) पर परिनियोजित करें
  4. फंक्शन कॉलिंग एजेंट: एज परिदृश्यों के लिए फंक्शन कॉलिंग क्षमताओं के साथ एक AI एजेंट बनाएं

उन्नत इंटीग्रेशन प्रोजेक्ट (4-5 घंटे प्रत्येक)

  1. OpenVINO ऑप्टिमाइजेशन पाइपलाइन: NNCF और GenAI टूलकिट का उपयोग करके संपूर्ण मॉडल ऑप्टिमाइजेशन लागू करें
  2. SLMOps पाइपलाइन: प्रशिक्षण से लेकर एज परिनियोजन तक संपूर्ण मॉडल जीवनचक्र लागू करें
  3. मल्टी-मॉडल एज सिस्टम: एज हार्डवेयर पर एक साथ काम करने वाले कई विशेषज्ञ मॉडल परिनियोजित करें
  4. MCP इंटीग्रेशन सिस्टम: टूल इंटरेक्शन के लिए Model Context Protocol का उपयोग करके एक एजेंटिक सिस्टम बनाएं

संदर्भ

लर्निंग कम्युनिटी

चर्चा में शामिल हों और साथी शिक्षार्थियों से जुड़ें:

निष्कर्ष

EdgeAI कृत्रिम बुद्धिमत्ता कार्यान्वयन की सीमाओं का प्रतिनिधित्व करता है, जो गोपनीयता, विलंबता और कनेक्टिविटी से संबंधित महत्वपूर्ण चिंताओं को संबोधित करते हुए शक्तिशाली क्षमताओं को सीधे उपकरणों तक लाता है। यह 20 घंटे का कोर्स आपको EdgeAI तकनीकों के साथ तुरंत काम शुरू करने के लिए आवश्यक ज्ञान और व्यावहारिक कौशल प्रदान करता है।

कोर्स जानबूझकर संक्षिप्त और सबसे महत्वपूर्ण अवधारणाओं पर केंद्रित है, जिससे आप बिना किसी भारी समय प्रतिबद्धता के जल्दी से मूल्यवान विशेषज्ञता प्राप्त कर सकते हैं। याद रखें कि सरल उदाहरणों के साथ भी व्यावहारिक अभ्यास आपके द्वारा सीखी गई चीजों को मजबूत करने की कुंजी है।

शुभकामनाएं!


अस्वीकरण:
यह दस्तावेज़ AI अनुवाद सेवा Co-op Translator का उपयोग करके अनुवादित किया गया है। जबकि हम सटीकता सुनिश्चित करने का प्रयास करते हैं, कृपया ध्यान दें कि स्वचालित अनुवाद में त्रुटियां या अशुद्धियां हो सकती हैं। मूल भाषा में उपलब्ध मूल दस्तावेज़ को प्रामाणिक स्रोत माना जाना चाहिए। महत्वपूर्ण जानकारी के लिए, पेशेवर मानव अनुवाद की सिफारिश की जाती है। इस अनुवाद के उपयोग से उत्पन्न किसी भी गलतफहमी या गलत व्याख्या के लिए हम उत्तरदायी नहीं हैं।