Skip to content

STUDY_GUIDE.md

Latest commit

 

History

History
722 lines (561 loc) · 37 KB

STUDY_GUIDE.md

File metadata and controls

722 lines (561 loc) · 37 KB

EdgeAI kezdőknek: Tanulási útvonalak és tanulási ütemterv

Intenzív tanulási útvonal (1 hét)

Nap Téma Becsült időtartam
0. nap 0. modul: Bevezetés az EdgeAI-ba 1-2 óra
1. nap 1. modul: EdgeAI alapok 3 óra
2. nap 2. modul: SLM alapok 3 óra
3. nap 3. modul: SLM telepítés 2 óra
4-5. nap 4. modul: Modell optimalizálás (6 keretrendszer) 4 óra
6. nap 5. modul: SLMOps 3 óra
7. nap 6-7. modul: AI ügynökök és fejlesztői eszközök 4 óra
8. nap 8. modul: Foundry Local Toolkit (modern megvalósítás) 1 óra

Intenzív tanulási útvonal (2 hét)

Nap Téma Becsült időtartam
1-2. nap 1. modul: EdgeAI alapok 3 óra
3-4. nap 2. modul: SLM alapok 3 óra
5-6. nap 3. modul: SLM telepítés 2 óra
7-8. nap 4. modul: Modell optimalizálás 4 óra
9-10. nap 5. modul: SLMOps 3 óra
11-12. nap 6. modul: AI ügynökök 2 óra
13-14. nap 7. modul: Fejlesztői eszközök 3 óra

Részidős tanulás (4 hét)

Hét Téma Becsült időtartam
1. hét 1-2. modul: Alapok és SLM alapok 6 óra
2. hét 3-4. modul: Telepítés és optimalizálás 6 óra
3. hét 5-6. modul: SLMOps és AI ügynökök 5 óra
4. hét 7. modul: Fejlesztői eszközök és integráció 3 óra
Nap Téma Becsült időtartam
0. nap 0. modul: Bevezetés az EdgeAI-ba 1-2 óra
1-2. nap 1. modul: EdgeAI alapok 3 óra
3-4. nap 2. modul: SLM alapok 3 óra
5-6. nap 3. modul: SLM telepítés 2 óra
7-8. nap 4. modul: Modell optimalizálás 4 óra
9-10. nap 5. modul: SLMOps 3 óra
11-12. nap 6. modul: SLM ügynöki rendszerek 2 óra
13-14. nap 7. modul: EdgeAI megvalósítási minták 2 óra
Modul Befejezés dátuma Eltöltött órák Főbb tanulságok
0. modul: Bevezetés az EdgeAI-ba
1. modul: EdgeAI alapok
2. modul: SLM alapok
3. modul: SLM telepítés
4. modul: Modell optimalizálás (6 keretrendszer)
5. modul: SLMOps
6. modul: SLM ügynöki rendszerek
7. modul: EdgeAI megvalósítási minták
Gyakorlati feladatok
Mini-projekt

Részidős tanulás (4 hét)

Hét Téma Becsült időtartam
1. hét 1-2. modul: Alapok és SLM alapok 6 óra
2. hét 3-4. modul: Telepítés és optimalizálás 6 óra
3. hét 5-6. modul: SLMOps és AI ügynökök 5 óra
4. hét 7. modul: Fejlesztői eszközök és integráció 3 óra

Bevezetés

Üdvözlünk az EdgeAI kezdőknek szóló tanulási útmutatójában! Ez a dokumentum segít eligazodni a tananyagok között, hogy hatékonyan tanulhass, és a legtöbbet hozd ki a tanulási élményből. Strukturált tanulási útvonalakat, javasolt tanulási ütemterveket, kulcsfontosságú fogalmak összefoglalóit és kiegészítő forrásokat kínál, hogy mélyebb megértést szerezz az Edge AI technológiákról.

Ez egy tömör, 20 órás tanfolyam, amely az EdgeAI alapvető ismereteit nyújtja időhatékony formátumban, ideális elfoglalt szakemberek és diákok számára, akik gyorsan szeretnének gyakorlati készségeket szerezni ebben a feltörekvő területen.

Tanfolyam áttekintése

A tanfolyam nyolc átfogó modulból áll:

  1. Bevezetés az EdgeAI-ba - Alapok és kontextus ipari alkalmazásokkal és tanulási célokkal
  2. EdgeAI alapok és átalakulás - Az alapfogalmak és a technológiai váltás megértése
  3. Kis nyelvi modellek alapjai - Különböző SLM családok és architektúráik felfedezése
  4. Kis nyelvi modellek telepítése - Gyakorlati telepítési stratégiák megvalósítása
  5. Modellformátum átalakítás és kvantálás - Fejlett optimalizálás 6 keretrendszerrel, beleértve az OpenVINO-t
  6. SLMOps - Kis nyelvi modellek működtetése - Gyártási életciklus-kezelés és telepítés
  7. SLM ügynöki rendszerek - AI ügynökök, funkcióhívások és Model Context Protocol
  8. EdgeAI megvalósítási minták - AI eszközkészlet, Windows fejlesztés és platformspecifikus megvalósítások
  9. Microsoft Foundry Local – Teljes fejlesztői eszközkészlet - Helyi fejlesztés hibrid Azure integrációval (08. modul)

Hogyan használd ezt a tanulási útmutatót

  • Fokozatos tanulás: Kövesd a modulokat sorrendben a legkoherensebb tanulási élmény érdekében
  • Tudásellenőrző pontok: Használd az egyes szakaszok utáni önellenőrző kérdéseket
  • Gyakorlati tapasztalat: Végezd el az ajánlott gyakorlatokat az elméleti fogalmak megerősítésére
  • Kiegészítő források: Fedezd fel a további anyagokat az érdeklődésednek megfelelő témákban

Tanulási ütemterv ajánlások

Intenzív tanulási útvonal (1 hét)

Nap Téma Becsült időtartam
0. nap 0. modul: Bevezetés az EdgeAI-ba 1-2 óra
1-2. nap 1. modul: EdgeAI alapok 6 óra
3-4. nap 2. modul: SLM alapok 8 óra
5. nap 3. modul: SLM telepítés 3 óra
6. nap 8. modul: Foundry Local Toolkit 3 óra

Részidős tanulás (3 hét)

Hét Téma Becsült időtartam
1. hét 0. modul: Bevezetés + 1. modul: EdgeAI alapok 7-9 óra
2. hét 2. modul: SLM alapok 7-8 óra
3. hét 3. modul: SLM telepítés (3 óra) + 8. modul: Foundry Local Toolkit (2-3 óra) 5-6 óra

0. modul: Bevezetés az EdgeAI-ba

Fő tanulási célok

  • Értsd meg, mi az az Edge AI, és miért fontos a mai technológiai környezetben
  • Azonosítsd azokat a főbb iparágakat, amelyeket az Edge AI átalakított, és ismerd meg azok konkrét felhasználási eseteit
  • Értsd meg, hogy a kis nyelvi modellek (SLM-ek) milyen előnyöket nyújtanak az edge telepítésekhez
  • Határozd meg a tanfolyam tanulási elvárásait és céljait
  • Ismerd meg az Edge AI területén elérhető karrierlehetőségeket és a szükséges készségeket

Tanulmányi fókuszterületek

1. szakasz: Az Edge AI paradigmája és meghatározása

  • Elsődleges fogalmak:
    • Edge AI vs. hagyományos felhőalapú AI feldolgozás
    • A hardver, a modell optimalizálás és az üzleti igények konvergenciája
    • Valós idejű, adatvédelmet biztosító és költséghatékony AI telepítés

2. szakasz: Ipari alkalmazások

  • Elsődleges fogalmak:
    • Gyártás és Ipar 4.0: Prediktív karbantartás és minőségellenőrzés
    • Egészségügy: Diagnosztikai képalkotás és betegmegfigyelés
    • Autonóm rendszerek: Önjáró járművek és közlekedés
    • Okos városok: Forgalomirányítás és közbiztonság
    • Fogyasztói technológia: Okostelefonok, viselhető eszközök és okos otthonok

3. szakasz: Kis nyelvi modellek alapjai

  • Elsődleges fogalmak:
    • SLM jellemzők és teljesítmény-összehasonlítások
    • Paraméterhatékonyság és képességek közötti kompromisszumok
    • Edge telepítési korlátok és optimalizálási stratégiák

4. szakasz: Tanulási keretrendszer és karrierút

  • Elsődleges fogalmak:
    • A tanfolyam felépítése és a fokozatos elsajátítás megközelítése
    • Technikai készségek és gyakorlati megvalósítási célok
    • Karrierlehetőségek és ipari alkalmazások

Önellenőrző kérdések

  1. Melyek azok a fő technológiai trendek, amelyek lehetővé tették az Edge AI-t?
  2. Hasonlítsd össze az Edge AI és a felhőalapú AI előnyeit és kihívásait.
  3. Nevezz meg három iparágat, ahol az Edge AI kritikus üzleti értéket nyújt, és magyarázd el, miért.
  4. Hogyan teszik a kis nyelvi modellek az Edge AI-t gyakorlati megoldássá a valós telepítésekhez?
  5. Melyek azok a kulcsfontosságú technikai készségek, amelyeket a tanfolyam során fejlesztesz?
  6. Írd le a tanfolyam négyfázisú tanulási megközelítését.

Gyakorlati feladatok

  1. Ipari kutatás: Válassz egy ipari alkalmazást, és kutass egy valós Edge AI megvalósítást (30 perc)
  2. Modell felfedezése: Böngéssz elérhető kis nyelvi modelleket a Hugging Face-en, és hasonlítsd össze a paraméterszámukat és képességeiket (30 perc)
  3. Tanulási terv készítése: Tekintsd át a teljes tanfolyam felépítését, és készítsd el saját tanulási ütemtervedet (15 perc)

Kiegészítő anyagok

1. modul: EdgeAI alapok és átalakulás

Fő tanulási célok

  • Értsd meg a különbségeket a felhőalapú és az edge-alapú AI között
  • Sajátítsd el az erőforrás-korlátozott környezetekhez szükséges alapvető optimalizálási technikákat
  • Elemezd az EdgeAI technológiák valós alkalmazásait
  • Állítsd be az EdgeAI projektek fejlesztési környezetét

Tanulmányi fókuszterületek

1. szakasz: EdgeAI alapok

2. szakasz: Valós esettanulmányok

  • Elsődleges fogalmak:
    • Microsoft Phi & Mu modell ökoszisztéma
    • Gyakorlati megvalósítások különböző iparágakban
    • Telepítési szempontok

3. szakasz: Gyakorlati megvalósítási útmutató

  • Elsődleges fogalmak:
    • Fejlesztési környezet beállítása
    • Kvantálási és optimalizálási eszközök
    • Értékelési módszerek az EdgeAI megvalósításokhoz

4. szakasz: Edge telepítési hardver

  • Elsődleges fogalmak:
    • Hardverplatform összehasonlítások
    • Optimalizálási stratégiák specifikus hardverekhez
    • Telepítési szempontok

Önellenőrző kérdések

  1. Hasonlítsd össze a felhőalapú AI-t az edge-alapú AI megvalósításokkal.
  2. Magyarázd el három kulcsfontosságú technikát a modellek edge telepítésre való optimalizálásához.
  3. Melyek az AI modellek edge-en történő futtatásának elsődleges előnyei?
  4. Írd le a modell kvantálásának folyamatát, és hogy ez hogyan befolyásolja a teljesítményt.
  5. Magyarázd el, hogyan befolyásolják a különböző hardvergyorsítók (NPU-k, GPU-k, CPU-k) az EdgeAI telepítést.

Gyakorlati feladatok

  1. Gyors környezetbeállítás: Állíts be egy minimális fejlesztési környezetet az alapvető csomagokkal (30 perc)
  2. Modell felfedezése: Tölts le és vizsgálj meg egy előre betanított kis nyelvi modellt (1 óra)
  3. Alapvető kvantálás: Próbálj ki egyszerű kvantálást egy kis modellen (1 óra)

2. modul: Kis nyelvi modellek alapjai

Fő tanulási célok

  • Értsd meg a különböző SLM családok architekturális alapelveit
  1. Melyek a Mu modell egyedi előnyei a Windows integrációban?
  2. Írja le, hogyan használja a Phi-Silica az NPU hardvert a teljesítmény optimalizálására.
  3. Egy korlátozott kapcsolattal rendelkező mobilalkalmazás esetén melyik modellcsalád lenne a legmegfelelőbb, és miért?

Gyakorlati Feladatok

  1. Modellek Összehasonlítása: Két különböző SLM modell gyors összehasonlító tesztje (1 óra)
  2. Egyszerű Szöveg Generálás: Alapvető szöveg generálási implementáció egy kis modellel (1 óra)
  3. Gyors Optimalizálás: Egy optimalizálási technika alkalmazása az inferencia sebességének javítására (1 óra)

3. Modul: Kis Nyelvi Modellek Telepítése

Fő Tanulási Célok

  • Megfelelő modellek kiválasztása telepítési korlátok alapján
  • Optimalizálási technikák elsajátítása különböző telepítési forgatókönyvekhez
  • SLM-ek implementálása helyi és felhő alapú környezetekben
  • EdgeAI alkalmazásokhoz gyártásra kész konfigurációk tervezése

Tanulmányi Fókuszterületek

1. Szekció: SLM Haladó Tanulás

  • Prioritási Fogalmak:
    • Paraméterek osztályozási keretrendszere
    • Haladó optimalizálási technikák
    • Modell beszerzési stratégiák

2. Szekció: Helyi Környezet Telepítése

  • Prioritási Fogalmak:
    • Ollama platform telepítése
    • Microsoft Foundry helyi megoldások
    • Keretrendszerek összehasonlító elemzése

3. Szekció: Konténerizált Felhő Telepítés

  • Prioritási Fogalmak:
    • vLLM nagy teljesítményű inferencia
    • Konténer orchestration
    • ONNX Runtime implementáció

Önértékelési Kérdések

  1. Milyen tényezőket kell figyelembe venni a helyi telepítés és a felhő telepítés közötti választáskor?
  2. Hasonlítsa össze az Ollama és a Microsoft Foundry Local telepítési lehetőségeket.
  3. Magyarázza el a konténerizáció előnyeit az SLM telepítésben.
  4. Melyek a kulcsfontosságú teljesítménymutatók egy edge-re telepített SLM esetében?
  5. Írjon le egy teljes telepítési munkafolyamatot a modell kiválasztásától a gyártási implementációig.

Gyakorlati Feladatok

  1. Alapvető Helyi Telepítés: Egyszerű SLM telepítése Ollama segítségével (1 óra)
  2. Teljesítmény Ellenőrzés: Gyors benchmark futtatása a telepített modellen (30 perc)
  3. Egyszerű Integráció: Minimalista alkalmazás létrehozása, amely használja a telepített modellt (1 óra)

4. Modul: Modell Formátum Konverzió és Kvantálás

Fő Tanulási Célok

  • Haladó kvantálási technikák elsajátítása 1-bites és 8-bites pontosság között
  • Formátum konverziós stratégiák megértése (GGUF, ONNX)
  • Optimalizálás implementálása hat keretrendszeren keresztül (Llama.cpp, Olive, OpenVINO, MLX, workflow szintézis)
  • Optimalizált modellek telepítése gyártási edge környezetekben Intel, Apple és többplatformos hardvereken

Tanulmányi Fókuszterületek

1. Szekció: Kvantálás Alapjai

  • Prioritási Fogalmak:
    • Pontosság osztályozási keretrendszere
    • Teljesítmény és pontosság közötti kompromisszumok
    • Memória lábnyom optimalizálás

2. Szekció: Llama.cpp Implementáció

  • Prioritási Fogalmak:
    • Többplatformos telepítés
    • GGUF formátum optimalizálás
    • Hardver gyorsítási technikák

3. Szekció: Microsoft Olive Suite

  • Prioritási Fogalmak:
    • Hardver-tudatos optimalizálás
    • Vállalati szintű telepítés
    • Automatikus optimalizálási munkafolyamatok

4. Szekció: OpenVINO Toolkit

  • Prioritási Fogalmak:
    • Intel hardver optimalizálás
    • Neurális Háló Kompressziós Keretrendszer (NNCF)
    • Többplatformos inferencia telepítés
    • OpenVINO GenAI LLM telepítéshez

5. Szekció: Apple MLX Keretrendszer

  • Prioritási Fogalmak:
    • Apple Silicon optimalizálás
    • Egységes memória architektúra
    • LoRA finomhangolási képességek

6. Szekció: Edge AI Fejlesztési Workflow Szintézis

  • Prioritási Fogalmak:
    • Egységes workflow architektúra
    • Keretrendszer kiválasztási döntési fák
    • Gyártásra való alkalmasság validálása
    • Jövőbiztosítási stratégiák

Önértékelési Kérdések

  1. Hasonlítsa össze a kvantálási stratégiákat különböző pontossági szintek között (1-bites és 8-bites).
  2. Magyarázza el a GGUF formátum előnyeit az edge telepítéshez.
  3. Hogyan javítja a Microsoft Olive hardver-tudatos optimalizálása a telepítési hatékonyságot?
  4. Melyek az OpenVINO NNCF modell kompressziójának kulcsfontosságú előnyei?
  5. Írja le, hogyan használja az Apple MLX az egységes memória architektúrát az optimalizáláshoz.
  6. Hogyan segíti a workflow szintézis az optimális optimalizálási keretrendszerek kiválasztását?

Gyakorlati Feladatok

  1. Modell Kvantálás: Különböző kvantálási szintek alkalmazása egy modellen és az eredmények összehasonlítása (1 óra)
  2. OpenVINO Optimalizálás: NNCF használata egy modell kompressziójához Intel hardveren (1 óra)
  3. Keretrendszer Összehasonlítás: Ugyanazon modell tesztelése három különböző optimalizálási keretrendszeren (1 óra)
  4. Teljesítmény Benchmarking: Az optimalizálás hatásának mérése az inferencia sebességére és memóriahasználatra (1 óra)

5. Modul: SLMOps - Kis Nyelvi Modellek Műveletei

Fő Tanulási Célok

  • SLMOps életciklus-kezelési elvek megértése
  • Distillációs és finomhangolási technikák elsajátítása edge telepítéshez
  • Gyártási telepítési stratégiák implementálása monitorozással
  • Vállalati szintű SLM műveletek és karbantartási munkafolyamatok létrehozása

Tanulmányi Fókuszterületek

1. Szekció: Bevezetés az SLMOps-ba

  • Prioritási Fogalmak:
    • SLMOps paradigmaváltás az AI műveletekben
    • Költséghatékonyság és adatvédelem-központú architektúra
    • Stratégiai üzleti hatás és versenyelőnyök

2. Szekció: Modell Distilláció

  • Prioritási Fogalmak:
    • Tudásátadási technikák
    • Kétlépcsős distillációs folyamat implementációja
    • Azure ML distillációs munkafolyamatok

3. Szekció: Finomhangolási Stratégiák

  • Prioritási Fogalmak:
    • Paraméter-hatékony finomhangolás (PEFT)
    • LoRA és QLoRA haladó módszerek
    • Többadapteres tréning és hiperparaméter optimalizálás

4. Szekció: Gyártási Telepítés

  • Prioritási Fogalmak:
    • Modell konverzió és kvantálás gyártásra
    • Foundry Local telepítési konfiguráció
    • Teljesítmény benchmarking és minőség validálás

Önértékelési Kérdések

  1. Hogyan különbözik az SLMOps a hagyományos MLOps-tól?
  2. Magyarázza el a modell distilláció előnyeit az edge telepítéshez.
  3. Melyek a kulcsfontosságú szempontok az SLM-ek finomhangolásához erőforrás-korlátozott környezetekben?
  4. Írjon le egy teljes gyártási telepítési csővezeték munkafolyamatot edge AI alkalmazásokhoz.

Gyakorlati Feladatok

  1. Alapvető Distilláció: Kisebb modell létrehozása egy nagyobb tanármodellből (1 óra)
  2. Finomhangolási Kísérlet: Modell finomhangolása egy adott területre (1 óra)
  3. Telepítési Csővezeték: Alapvető CI/CD csővezeték létrehozása modell telepítéshez (1 óra)

6. Modul: SLM Agentikus Rendszerek - AI Ügynökök és Funkcióhívás

Fő Tanulási Célok

  • Intelligens AI ügynökök létrehozása edge környezetekhez Kis Nyelvi Modellek használatával
  • Funkcióhívási képességek implementálása szisztematikus munkafolyamatokkal
  • Model Context Protocol (MCP) integráció elsajátítása szabványosított eszközinterakcióhoz
  • Összetett agentikus rendszerek létrehozása minimális emberi beavatkozással

Tanulmányi Fókuszterületek

1. Szekció: AI Ügynökök és SLM Alapok

  • Prioritási Fogalmak:
    • Ügynök osztályozási keretrendszer (reflex, modell-alapú, cél-alapú, tanuló ügynökök)
    • SLM vs LLM kompromisszumok elemzése
    • Edge-specifikus ügynök tervezési minták
    • Erőforrás optimalizálás ügynökökhöz

2. Szekció: Funkcióhívás Kis Nyelvi Modellekben

  • Prioritási Fogalmak:
    • Szisztematikus munkafolyamat implementáció (szándék felismerés, JSON kimenet, külső végrehajtás)
    • Platform-specifikus implementációk (Phi-4-mini, kiválasztott Qwen modellek, Microsoft Foundry Local)
    • Haladó példák (többügynök együttműködés, dinamikus eszközválasztás)
    • Gyártási szempontok (sebességkorlátozás, audit naplózás, biztonsági intézkedések)

3. Szekció: Model Context Protocol (MCP) Integráció

  • Prioritási Fogalmak:
    • Protokoll architektúra és rétegzett rendszertervezés
    • Több backend támogatás (Ollama fejlesztéshez, vLLM gyártáshoz)
    • Kapcsolódási protokollok (STDIO és SSE módok)
    • Valós alkalmazások (web automatizálás, adatfeldolgozás, API integráció)

Önértékelési Kérdések

  1. Melyek a kulcsfontosságú architekturális szempontok edge AI ügynökökhöz?
  2. Hogyan növeli a funkcióhívás az ügynökök képességeit?
  3. Magyarázza el a Model Context Protocol szerepét az ügynökök kommunikációjában.

Gyakorlati Feladatok

  1. Egyszerű Ügynök: Alapvető AI ügynök létrehozása funkcióhívással (1 óra)
  2. MCP Integráció: MCP implementálása egy ügynök alkalmazásban (30 perc)

Workshop: Gyakorlati Tanulási Útvonal

Fő Tanulási Célok

  • Gyártásra kész AI alkalmazások létrehozása Foundry Local SDK és legjobb gyakorlatok használatával
  • Átfogó hibakezelési és felhasználói visszajelzési minták implementálása
  • RAG csővezetékek létrehozása minőségértékeléssel és teljesítmény monitorozással
  • Többügynökös rendszerek fejlesztése koordinátor mintával
  • Intelligens modellirányítás elsajátítása feladat-alapú modell kiválasztáshoz
  • Helyi-első AI megoldások telepítése adatvédelmet biztosító architektúrákkal

Tanulmányi Fókuszterületek

01. Szekció: Kezdés a Foundry Local-lal

  • Prioritási Fogalmak:
    • FoundryLocalManager SDK integráció és automatikus szolgáltatás felfedezés
    • Alapvető és streaming chat implementációk
    • Hibakezelési minták és felhasználói visszajelzés
    • Környezet-alapú konfiguráció

02. Szekció: AI Megoldások Építése RAG-gal

  • Prioritási Fogalmak:
    • Memóriában lévő vektor beágyazások mondat-transzformerekkel
    • RAG csővezeték implementáció (keresés → generálás)
    • Minőségértékelés RAGAS metrikákkal
    • Import biztonság opcionális függőségekhez

03. Szekció: Nyílt Forráskódú Modellek

  • Prioritási Fogalmak:
    • Többmodell benchmarking stratégiák
    • Késleltetés és áteresztőképesség mérések
    • Kegyes degradáció és hiba helyreállítás
    • Teljesítmény összehasonlítás modellcsaládok között

04. Szekció: Legújabb Modellek

  • Prioritási Fogalmak:
    • SLM vs LLM összehasonlítási módszertan
    • Típusjelzések és átfogó kimeneti formázás
    • Modell-specifikus hibakezelés
    • Strukturált eredmények elemzéshez

05. Szekció: AI-vezérelt Ügynökök

  • Prioritási Fogalmak:
    • Többügynökös koordináció koordinátor mintával
    • Ügynök memória kezelés és állapotkövetés
    • Csővezeték hibakezelés és szakasz naplózás
    • Teljesítmény monitorozás és statisztikák

06. Szekció: Modellek Mint Eszközök

  • Prioritási Fogalmak:
    • Szándék felismerés és mintázat egyezés
    • Kulcsszó-alapú modellirányítási algoritmusok
    • Többlépcsős csővezetékek (tervezés → végrehajtás → finomítás)
    • Átfogó funkció dokumentáció

Önértékelési Kérdések

  1. Hogyan egyszerűsíti a FoundryLocalManager a szolgáltatáskezelést a manuális REST hívásokhoz képest?
  2. Magyarázza el az importőrök fontosságát opcionális függőségekhez, mint például a mondat-transzformerek.
  3. Milyen stratégiák biztosítják a kegyes degradációt többmodell benchmarking során?
  4. Hogyan koordinálja a koordinátor minta több specialista ügynököt?
  5. Írja le egy intelligens modellirányító összetevőit.
  6. Melyek a gyártásra kész hibakezelés kulcselemei?

Gyakorlati Feladatok

  1. Chat Alkalmazás: Streaming chat implementálása hibakezeléssel (45 perc)
  2. RAG Csővezeték: Minimalista RAG építése minőségértékeléssel (1 óra)
  3. Modell Benchmarking: 3+ modell összehasonlítása teljesítmény alapján (1 óra)
  4. **Többüg
  5. Magyarázza el az NPU optimalizálás szerepét a modern edge AI alkalmazásokban.
  6. Hogyan használja a Phi Silica API az NPU hardvert a teljesítmény optimalizálására?
  7. Hasonlítsa össze a helyi és a felhőalapú telepítés előnyeit adatvédelmi szempontból érzékeny alkalmazások esetén.

Gyakorlati feladatok

  1. AI Toolkit beállítása: Konfigurálja az AI Toolkit-et és optimalizáljon egy modellt (1 óra)
  2. Windows AI Foundry: Készítsen egy egyszerű Windows AI alkalmazást a Phi Silica API használatával (1 óra)
  3. Keresztplatformos telepítés: Telepítse ugyanazt a modellt két különböző platformon (1 óra)
  4. NPU optimalizálás: Tesztelje az NPU teljesítményét a Windows AI Foundry eszközökkel (30 perc)

Modul 8: Microsoft Foundry Local – Teljes fejlesztői eszköztár (modernizált)

Fő tanulási célok

  • Foundry Local telepítése és konfigurálása modern SDK integrációval
  • Fejlett többügynökös rendszerek megvalósítása koordinátor mintázatokkal
  • Intelligens modellirányítók készítése automatikus feladat-alapú kiválasztással
  • Termelésre kész AI megoldások telepítése átfogó monitorozással
  • Integráció az Azure AI Foundry-val hibrid telepítési forgatókönyvekhez
  • Modern SDK mintázatok elsajátítása FoundryLocalManager és OpenAI kliens használatával

Tanulmányi fókuszterületek

1. szakasz: Modern telepítés és konfiguráció

  • Prioritási fogalmak:
    • FoundryLocalManager SDK integráció
    • Automatikus szolgáltatás-felfedezés és állapotfigyelés
    • Környezet-alapú konfigurációs mintázatok
    • Termelési telepítési szempontok

2. szakasz: Fejlett többügynökös rendszerek

  • Prioritási fogalmak:
    • Koordinátor mintázat specialistákból álló ügynökökkel
    • Visszakeresés, érvelés és végrehajtás ügynöki specializáció
    • Visszacsatolási mechanizmusok finomításhoz
    • Teljesítményfigyelés és statisztikai nyomon követés

3. szakasz: Intelligens modellirányítás

  • Prioritási fogalmak:
    • Kulcsszó-alapú modellválasztási algoritmusok
    • Több modell támogatása (általános, érvelés, kód, kreatív)
    • Környezeti változók konfigurációja rugalmasság érdekében
    • Szolgáltatás állapotellenőrzés és hibakezelés

4. szakasz: Termelésre kész megvalósítás

  • Prioritási fogalmak:
    • Átfogó hibakezelés és tartalék mechanizmusok
    • Kérések monitorozása és teljesítménykövetés
    • Interaktív Jupyter notebook példák benchmarkokkal
    • Integrációs mintázatok meglévő alkalmazásokkal

Önértékelési kérdések

  1. Hogyan különbözik a modern FoundryLocalManager megközelítés a manuális REST hívásoktól?
  2. Magyarázza el a koordinátor mintázatot és hogyan irányítja a specialistákból álló ügynököket.
  3. Hogyan választja ki az intelligens irányító a megfelelő modelleket a lekérdezés tartalma alapján?
  4. Melyek egy termelésre kész AI ügynökrendszer kulcselemei?
  5. Hogyan valósítja meg az átfogó állapotfigyelést a Foundry Local szolgáltatásokhoz?
  6. Hasonlítsa össze a modernizált megközelítés előnyeit a hagyományos megvalósítási mintázatokkal.

Gyakorlati feladatok

  1. Modern SDK beállítása: Konfigurálja a FoundryLocalManager-t automatikus szolgáltatás-felfedezéssel (30 perc)
  2. Többügynökös rendszer: Futtassa a fejlett koordinátort specialistákból álló ügynökökkel (30 perc)
  3. Intelligens irányítás: Tesztelje a modellirányítót különböző lekérdezéstípusokkal (30 perc)
  4. Interaktív felfedezés: Használja a Jupyter notebookokat a fejlett funkciók felfedezéséhez (45 perc)
  5. Termelési telepítés: Valósítson meg monitorozási és hibakezelési mintázatokat (30 perc)
  6. Hibrid integráció: Konfigurálja az Azure AI Foundry tartalék forgatókönyveit (30 perc)

Időbeosztási útmutató

Hogy a 30 órás kurzus időkeretét (beleértve a workshopot) a lehető legjobban kihasználja, itt egy javasolt időbeosztás:

Tevékenység Időbeosztás Leírás
Alapanyagok olvasása 12 óra A lényeges fogalmakra összpontosítva minden modulban
Gyakorlati feladatok 10 óra Kulcstechnikák gyakorlati megvalósítása (beleértve a workshopot)
Önértékelés 3 óra Kérdések és reflexiók segítségével tesztelje megértését
Mini-projekt 5 óra Tudás alkalmazása egy kis gyakorlati megvalósításban

Fő fókuszterületek időkorlát szerint

Ha csak 10 órája van:

  • Fejezze be a 0. modult (Bevezetés) és az 1., 2., 3. modulokat (alapvető EdgeAI fogalmak)
  • Végezzen el legalább egy gyakorlati feladatot modulonként
  • A lényeges fogalmak megértésére összpontosítson, ne a megvalósítás részleteire

Ha 20 órát tud szánni:

  • Fejezze be mind a nyolc modult (beleértve a Bevezetést)
  • Végezze el minden modul kulcsfontosságú gyakorlati feladatait
  • Fejezzen be egy mini-projektet a 7. modulból
  • Fedezzen fel legalább 2-3 kiegészítő forrást

Ha több mint 20 órája van:

  • Fejezze be az összes modult (beleértve a Bevezetést) részletes gyakorlatokkal
  • Készítsen több mini-projektet
  • Fedezze fel a 4. modul fejlett optimalizálási technikáit
  • Valósítson meg termelési telepítést az 5. modulból

Alapvető források

Ezek a gondosan kiválasztott források biztosítják a legnagyobb értéket a korlátozott tanulási idő alatt:

Kötelező dokumentáció

Időtakarékos eszközök

Haladáskövetési sablon

Használja ezt az egyszerűsített sablont, hogy nyomon kövesse tanulási haladását a 20 órás kurzus során:

Modul Befejezés dátuma Eltöltött órák Fő tanulságok
Modul 0: Bevezetés az EdgeAI-ba
Modul 1: EdgeAI alapok
Modul 2: SLM alapok
Modul 3: SLM telepítés
Modul 4: Modelloptimalizálás
Modul 5: SLMOps
Modul 6: AI ügynökök
Modul 7: Fejlesztői eszközök
Workshop: Gyakorlati tanulás
Modul 8: Foundry Local eszköztár
Gyakorlati feladatok
Mini-projekt

Mini-projekt ötletek

Fontolja meg, hogy befejezzen egyet ezek közül a projekteket az EdgeAI fogalmak gyakorlására (mindegyik 2-4 órára tervezve):

Kezdő projektek (2-3 óra)

  1. Edge szövegasszisztens: Készítsen egy egyszerű offline szövegkiegészítő eszközt egy kis nyelvi modell használatával
  2. Modell összehasonlító műszerfal: Készítsen egy alapvető vizualizációt különböző SLM-ek teljesítménymutatóiról
  3. Optimalizálási kísérlet: Mérje meg a különböző kvantálási szintek hatását ugyanazon alapmodellre

Középhaladó projektek (3-4 óra)

  1. AI Toolkit munkafolyamat: Használja a VS Code AI Toolkit-et egy modell optimalizálására és telepítésére elejétől a végéig
  2. Windows AI Foundry alkalmazás: Készítsen egy Windows alkalmazást a Phi Silica API és NPU optimalizálás használatával
  3. Keresztplatformos telepítés: Telepítse ugyanazt az optimalizált modellt Windows (OpenVINO) és mobil (.NET MAUI) platformon
  4. Funkcióhívó ügynök: Készítsen egy AI ügynököt funkcióhívási képességekkel edge forgatókönyvekhez

Haladó integrációs projektek (4-5 óra)

  1. OpenVINO optimalizálási folyamat: Valósítson meg teljes modelloptimalizálást NNCF és GenAI eszköztár használatával
  2. SLMOps folyamat: Valósítson meg egy teljes modell életciklust a tréningtől az edge telepítésig
  3. Többmodellű edge rendszer: Telepítsen több specializált modellt, amelyek együtt dolgoznak edge hardveren
  4. MCP integrációs rendszer: Készítsen egy ügynöki rendszert Model Context Protocol használatával eszközinterakcióhoz

Referenciák

Tanulási közösség

Csatlakozzon a beszélgetéshez és kapcsolódjon más tanulókhoz:

Összegzés

Az EdgeAI az mesterséges intelligencia megvalósításának határterületét képviseli, amely erőteljes képességeket hoz közvetlenül az eszközökre, miközben kritikus kérdéseket kezel az adatvédelem, késleltetés és csatlakoztathatóság terén. Ez a 20 órás kurzus biztosítja az alapvető ismereteket és gyakorlati készségeket, hogy azonnal elkezdhesse az EdgeAI technológiák használatát.

A kurzus szándékosan tömör és a legfontosabb fogalmakra összpontosít, lehetővé téve, hogy gyorsan értékes szakértelmet szerezzen túlzott időráfordítás nélkül. Ne feledje, hogy a gyakorlati példák, még ha egyszerűek is, kulcsfontosságúak a tanultak megerősítéséhez.

Jó tanulást!

Felelősség kizárása:
Ezt a dokumentumot az Co-op Translator AI fordítási szolgáltatás segítségével fordították le. Bár törekszünk a pontosságra, kérjük, vegye figyelembe, hogy az automatikus fordítások hibákat vagy pontatlanságokat tartalmazhatnak. Az eredeti dokumentum az eredeti nyelvén tekintendő hiteles forrásnak. Kritikus információk esetén javasolt a professzionális emberi fordítás igénybevétele. Nem vállalunk felelősséget a fordítás használatából eredő félreértésekért vagy téves értelmezésekért.