Skip to content

README.md

Latest commit

 

History

History
460 lines (325 loc) · 21.8 KB

README.md

File metadata and controls

460 lines (325 loc) · 21.8 KB

ماژول ۰۸: کار عملی با Microsoft Foundry Local - ابزار کامل توسعه‌دهنده

مرور کلی

Microsoft Foundry Local نسل بعدی توسعه هوش مصنوعی در لبه را ارائه می‌دهد و ابزارهای قدرتمندی برای توسعه‌دهندگان فراهم می‌کند تا برنامه‌های هوش مصنوعی را به صورت محلی بسازند، اجرا کنند و مقیاس دهند، در حالی که یکپارچگی بی‌نقصی با Azure AI Foundry حفظ می‌شود. این ماژول پوشش کاملی از Foundry Local، از نصب تا توسعه پیشرفته عامل‌ها، ارائه می‌دهد.

فناوری‌های کلیدی:

  • CLI و SDK Microsoft Foundry Local
  • یکپارچگی با Azure AI Foundry
  • استنتاج مدل روی دستگاه
  • ذخیره‌سازی و بهینه‌سازی مدل به صورت محلی
  • معماری‌های مبتنی بر عامل

اهداف یادگیری

با تکمیل این ماژول، شما:

  • تسلط بر Foundry Local: نصب، پیکربندی و بهینه‌سازی برای توسعه در ویندوز ۱۱
  • استقرار مدل‌های متنوع: اجرای مدل‌های phi، qwen، deepseek و GPT به صورت محلی با دستورات CLI
  • ساخت راه‌حل‌های تولیدی: ایجاد برنامه‌های هوش مصنوعی با مهندسی پیشرفته پرامپت و یکپارچگی داده‌ها
  • استفاده از اکوسیستم متن‌باز: یکپارچگی مدل‌های Hugging Face و مشارکت‌های جامعه
  • توسعه عامل‌های هوش مصنوعی: ساخت عامل‌های هوشمند با قابلیت‌های پایه‌گذاری و ارکستراسیون
  • اجرای الگوهای سازمانی: ایجاد راه‌حل‌های هوش مصنوعی ماژولار و مقیاس‌پذیر برای استقرار تولیدی

ساختار جلسات

۱: شروع کار با Foundry Local

تمرکز: نصب، تنظیم CLI، استقرار مدل و بهینه‌سازی سخت‌افزار

موضوعات کلیدی: نصب کامل • دستورات CLI • ذخیره‌سازی مدل • شتاب‌دهی سخت‌افزار • استقرار چندمدلی

نمونه‌ها: شروع سریع چت REST • یکپارچگی SDK OpenAI • کشف و ارزیابی مدل

مدت زمان: ۲-۳ ساعت | سطح: مبتدی

۲: ساخت راه‌حل‌های هوش مصنوعی با Azure AI Foundry

تمرکز: مهندسی پیشرفته پرامپت، یکپارچگی داده‌ها و اتصال به ابر

موضوعات کلیدی: مهندسی پرامپت • یکپارچگی داده‌ها • جریان‌های کاری Azure • بهینه‌سازی عملکرد • نظارت

نمونه‌ها: برنامه Chainlit RAG

مدت زمان: ۲-۳ ساعت | سطح: متوسط

۳: مدل‌های متن‌باز Foundry Local

تمرکز: یکپارچگی Hugging Face، استراتژی‌های BYOM و مدل‌های جامعه

موضوعات کلیدی: یکپارچگی HuggingFace • مدل‌های خودتان را بیاورید • بینش‌های Model Mondays • مشارکت‌های جامعه • انتخاب مدل

نمونه‌ها: ارکستراسیون چندعاملی

مدت زمان: ۲-۳ ساعت | سطح: متوسط

۴: کشف مدل‌های پیشرفته

تمرکز: مقایسه LLMها و SLMها، پیاده‌سازی EdgeAI و دموهای پیشرفته

موضوعات کلیدی: مقایسه مدل‌ها • استنتاج در لبه در مقابل ابر • Phi + ONNX Runtime • برنامه Chainlit RAG • بهینه‌سازی WebGPU

نمونه‌ها: روتر مدل‌ها به عنوان ابزار

مدت زمان: ۳-۴ ساعت | سطح: پیشرفته

۵: ساخت سریع عامل‌های هوش مصنوعی

تمرکز: معماری‌های عامل، پرامپت‌های سیستمی، پایه‌گذاری و ارکستراسیون

موضوعات کلیدی: الگوهای طراحی عامل • مهندسی پرامپت سیستمی • تکنیک‌های پایه‌گذاری • سیستم‌های چندعاملی • استقرار تولیدی

نمونه‌ها: ارکستراسیون چندعاملی • سیستم چندعاملی پیشرفته

مدت زمان: ۳-۴ ساعت | سطح: پیشرفته

۶: Foundry Local - مدل‌ها به عنوان ابزار

تمرکز: راه‌حل‌های هوش مصنوعی ماژولار، مقیاس‌پذیری سازمانی و الگوهای تولیدی

موضوعات کلیدی: مدل‌ها به عنوان ابزار • استقرار روی دستگاه • یکپارچگی SDK/API • معماری‌های سازمانی • استراتژی‌های مقیاس‌پذیری

نمونه‌ها: روتر مدل‌ها به عنوان ابزار • چارچوب ابزارهای Foundry

مدت زمان: ۳-۴ ساعت | سطح: متخصص

۷: الگوهای یکپارچگی مستقیم API

تمرکز: یکپارچگی خالص REST API بدون وابستگی به SDK برای کنترل حداکثری

موضوعات کلیدی: پیاده‌سازی کلاینت HTTP • احراز هویت سفارشی • نظارت بر سلامت مدل • پاسخ‌های استریمینگ • مدیریت خطاهای تولیدی

نمونه‌ها: کلاینت مستقیم API

مدت زمان: ۲-۳ ساعت | سطح: متوسط

۸: برنامه چت بومی ویندوز ۱۱

تمرکز: ساخت برنامه‌های چت مدرن بومی با یکپارچگی Foundry Local

موضوعات کلیدی: توسعه Electron • سیستم طراحی Fluent • یکپارچگی بومی ویندوز • استریمینگ بلادرنگ • طراحی رابط چت

نمونه‌ها: برنامه چت ویندوز ۱۱

مدت زمان: ۳-۴ ساعت | سطح: پیشرفته

۹: ارکستراسیون چندعاملی پیشرفته

تمرکز: هماهنگی عامل‌های پیچیده، تفویض وظایف تخصصی و جریان‌های کاری هوش مصنوعی مشارکتی

موضوعات کلیدی: هماهنگی عامل‌های هوشمند • الگوهای فراخوانی توابع • ارتباط بین عامل‌ها • ارکستراسیون جریان‌های کاری • مکانیزم‌های تضمین کیفیت

نمونه‌ها: سیستم چندعاملی پیشرفته

مدت زمان: ۴-۵ ساعت | سطح: متخصص

۱۰: Foundry Local به عنوان چارچوب ابزارها

تمرکز: معماری مبتنی بر ابزار برای یکپارچگی Foundry Local در برنامه‌ها و چارچوب‌های موجود

موضوعات کلیدی: یکپارچگی LangChain • توابع Semantic Kernel • چارچوب‌های REST API • ابزارهای CLI • یکپارچگی Jupyter • الگوهای استقرار تولیدی

نمونه‌ها: چارچوب ابزارهای Foundry

مدت زمان: ۴-۵ ساعت | سطح: متخصص

پیش‌نیازها

الزامات سیستم

  • سیستم عامل: ویندوز ۱۱ (۲۲H۲ یا بالاتر)
  • حافظه: ۱۶ گیگابایت رم (۳۲ گیگابایت برای مدل‌های بزرگ توصیه می‌شود)
  • فضای ذخیره‌سازی: ۵۰ گیگابایت فضای آزاد برای ذخیره‌سازی مدل
  • سخت‌افزار: دستگاه مجهز به NPU توصیه می‌شود (Copilot+ PC)، GPU اختیاری
  • شبکه: اینترنت پرسرعت برای دانلود اولیه مدل‌ها

محیط توسعه

  • Visual Studio Code با افزونه AI Toolkit
  • Python 3.10+ و pip
  • Git برای کنترل نسخه
  • PowerShell یا Command Prompt
  • Azure CLI (اختیاری برای یکپارچگی با ابر)

دانش پیش‌نیاز

  • درک پایه‌ای از مفاهیم هوش مصنوعی/یادگیری ماشین
  • آشنایی با خط فرمان
  • اصول برنامه‌نویسی پایتون
  • مفاهیم REST API
  • دانش پایه‌ای از پرامپتینگ و استنتاج مدل

جدول زمانی ماژول

زمان تخمینی کل: ۳۰-۳۸ ساعت

جلسه حوزه تمرکز نمونه‌ها زمان پیچیدگی
۱ تنظیمات و اصول ۰۱، ۰۲، ۰۳ ۲-۳ ساعت مبتدی
۲ راه‌حل‌های هوش مصنوعی ۰۴ ۲-۳ ساعت متوسط
۳ متن‌باز ۰۵ ۲-۳ ساعت متوسط
۴ مدل‌های پیشرفته ۰۶ ۳-۴ ساعت پیشرفته
۵ عامل‌های هوش مصنوعی ۰۵، ۰۹ ۳-۴ ساعت پیشرفته
۶ ابزارهای سازمانی ۰۶، ۱۰ ۳-۴ ساعت متخصص
۷ یکپارچگی مستقیم API ۰۷ ۲-۳ ساعت متوسط
۸ برنامه چت ویندوز ۱۱ ۰۸ ۳-۴ ساعت پیشرفته
۹ ارکستراسیون چندعاملی پیشرفته ۰۹ ۴-۵ ساعت متخصص
۱۰ چارچوب ابزارها ۱۰ ۴-۵ ساعت متخصص

منابع کلیدی

مستندات رسمی:

جامعه و پشتیبانی:

نتایج یادگیری

با تکمیل این ماژول، شما مجهز خواهید شد تا:

تسلط فنی

  • استقرار و مدیریت: نصب‌های Foundry Local در محیط‌های توسعه و تولید
  • یکپارچگی مدل‌ها: کار بی‌نقص با خانواده‌های مدل متنوع از Microsoft، Hugging Face و منابع جامعه
  • ساخت برنامه‌ها: ایجاد برنامه‌های هوش مصنوعی آماده تولید با ویژگی‌ها و بهینه‌سازی‌های پیشرفته
  • توسعه عامل‌ها: پیاده‌سازی عامل‌های هوش مصنوعی پیچیده با پایه‌گذاری، استدلال و یکپارچگی ابزارها

درک استراتژیک

  • تصمیمات معماری: انتخاب‌های آگاهانه بین استقرار محلی و ابری
  • بهینه‌سازی عملکرد: بهینه‌سازی عملکرد استنتاج در پیکربندی‌های سخت‌افزاری مختلف
  • مقیاس‌پذیری سازمانی: طراحی برنامه‌هایی که از نمونه‌های اولیه محلی به استقرارهای سازمانی مقیاس می‌گیرند
  • حریم خصوصی و امنیت: پیاده‌سازی راه‌حل‌های هوش مصنوعی حفظ‌کننده حریم خصوصی با استنتاج محلی

قابلیت‌های نوآوری

  • نمونه‌سازی سریع: ساخت و آزمایش سریع مفاهیم برنامه‌های هوش مصنوعی در تمام ۱۰ الگوی نمونه
  • یکپارچگی جامعه: استفاده از مدل‌های متن‌باز و مشارکت در اکوسیستم
  • الگوهای پیشرفته: پیاده‌سازی الگوهای هوش مصنوعی پیشرفته شامل RAG، عامل‌ها و یکپارچگی ابزارها
  • تسلط بر چارچوب‌ها: یکپارچگی در سطح متخصص با LangChain، Semantic Kernel، Chainlit و Electron
  • استقرار تولیدی: استقرار راه‌حل‌های هوش مصنوعی مقیاس‌پذیر از نمونه‌های اولیه محلی تا سیستم‌های سازمانی
  • توسعه آماده آینده: ساخت برنامه‌هایی آماده برای فناوری‌ها و الگوهای نوظهور هوش مصنوعی

شروع کار

۱. تنظیم محیط: اطمینان حاصل کنید که ویندوز ۱۱ با سخت‌افزار توصیه‌شده (به پیش‌نیازها مراجعه کنید) ۲. نصب Foundry Local: جلسه ۱ را برای نصب و پیکربندی کامل دنبال کنید ۳. اجرای نمونه ۰۱: با یکپارچگی اولیه REST API شروع کنید تا تنظیمات را تأیید کنید ۴. پیشرفت در نمونه‌ها: نمونه‌های ۰۱-۱۰ را برای تسلط جامع تکمیل کنید

معیارهای موفقیت

پیشرفت خود را در تمام ۱۰ نمونه جامع دنبال کنید:

سطح پایه (نمونه‌های ۰۱-۰۳)

  • نصب و پیکربندی موفق Foundry Local
  • تکمیل یکپارچگی REST API (نمونه ۰۱)
  • پیاده‌سازی سازگاری SDK OpenAI (نمونه ۰۲)
  • انجام کشف و ارزیابی مدل (نمونه ۰۳)

سطح کاربردی (نمونه‌های ۰۴-۰۶)

  • استقرار و اجرای حداقل ۴ خانواده مدل مختلف
  • ساخت یک برنامه چت RAG کاربردی (نمونه ۰۴)
  • ایجاد سیستم ارکستراسیون چندعاملی (نمونه ۰۵)
  • پیاده‌سازی روتر مدل هوشمند (نمونه ۰۶)

سطح یکپارچگی پیشرفته (نمونه‌های ۰۷-۱۰)

  • ساخت کلاینت API آماده تولید (نمونه ۰۷)
  • توسعه برنامه چت بومی ویندوز ۱۱ (نمونه ۰۸)
  • پیاده‌سازی سیستم چندعاملی پیشرفته (نمونه ۰۹)
  • ایجاد چارچوب ابزارهای جامع (نمونه ۱۰)

شاخص‌های تسلط

  • اجرای موفقیت‌آمیز تمام ۱۰ نمونه بدون خطا
  • سفارشی‌سازی حداقل ۳ نمونه برای موارد استفاده خاص
  • استقرار ۲+ نمونه در محیط‌های مشابه تولید
  • مشارکت در بهبود یا گسترش کد نمونه
  • یکپارچگی الگوهای Foundry Local در پروژه‌های شخصی/حرفه‌ای

راهنمای شروع سریع - تمام ۱۰ نمونه

تنظیم محیط (مورد نیاز برای تمام نمونه‌ها)

# 1. Clone and navigate to Module08
cd Module08

# 2. Create Python virtual environment
py -m venv .venv
.\.venv\Scripts\activate

# 3. Install base dependencies
pip install -r requirements.txt

# 4. Install Foundry Local (if not already installed)
winget install Microsoft.FoundryLocal

# 5. Verify Foundry Local installation
foundry --version
foundry model list

نمونه‌های پایه اصلی (۰۱-۰۶)

نمونه ۰۱: شروع سریع چت REST

# Start Foundry Local service
foundry model run phi-4-mini

# Run REST chat demo
python samples/01/chat_quickstart.py

نمونه ۰۲: یکپارچگی SDK OpenAI

# Ensure model is running
foundry status

# Run SDK demo
python samples/02/sdk_quickstart.py

نمونه ۰۳: کشف و ارزیابی مدل

# Run comprehensive model testing
samples/03/list_and_bench.cmd

# Or run individual components
foundry model list --available
foundry model download qwen2.5-0.5b
foundry model benchmark phi-4-mini

نمونه ۰۴: برنامه Chainlit RAG

# Install Chainlit dependencies
pip install chainlit langchain chromadb

# Start RAG chat application
chainlit run samples/04/app.py -w
# Opens browser at http://localhost:8000

نمونه ۰۵: ارکستراسیون چندعاملی

# Run agent coordinator demo
python -m samples.05.agents.coordinator

# Run specific agent examples
python samples/05/examples/specialists_demo.py

نمونه ۰۶: روتر مدل‌ها به عنوان ابزار

# Configure environment
set BASE_URL=http://localhost:8000
set GENERAL_MODEL=phi-4-mini
set CODE_MODEL=qwen2.5-7b

# Run intelligent router
python samples/06/router.py "Analyze this Python code for performance issues"

نمونه‌های یکپارچگی پیشرفته (۰۷-۱۰)

نمونه ۰۷: کلاینت مستقیم API

# Navigate to sample directory
cd samples/07

# Install additional dependencies
pip install -r requirements.txt

# Run basic API examples
python examples/basic_usage.py

# Try streaming responses
python examples/streaming.py

# Test production patterns
python examples/production.py

نمونه ۰۸: برنامه چت ویندوز ۱۱

# Navigate to sample directory
cd samples/08

# Install Node.js dependencies
npm install

# Start Electron application
npm start

# Or build for production
npm run build

نمونه ۰۹: سیستم چندعاملی پیشرفته

# Navigate to sample directory
cd samples/09

# Install agent system dependencies
pip install -r requirements.txt

# Run basic coordination example
python examples/basic_coordination.py

# Try complex workflow
python examples/complex_workflow.py

# Interactive agent demo
python examples/interactive_demo.py

نمونه ۱۰: چارچوب ابزارهای Foundry

# Navigate to sample directory
cd samples/10

# Install framework dependencies
pip install -r requirements.txt

# Run basic tools demo
python examples/basic_tools.py

# Start REST API server
python examples/rest_api_server.py
# API available at http://localhost:8080

# Try CLI application
python examples/cli_application.py --help

# Launch Jupyter notebook
jupyter notebook examples/jupyter_notebook.ipynb

# Test LangChain integration
python examples/langchain_demo.py

رفع مشکلات رایج

خطاهای اتصال Foundry Local

# Check service status
foundry status

# Restart if needed
foundry restart

# Verify endpoint accessibility
curl http://localhost:5273/v1/models

مشکلات بارگذاری مدل

# Check available models
foundry model list --cached

# Download missing models
foundry model download phi-4-mini
foundry model download qwen2.5-0.5b

# Force reload if needed
foundry model unload --all
foundry model run phi-4-mini

مشکلات وابستگی

# Upgrade pip and reinstall
python -m pip install --upgrade pip
pip install -r requirements.txt --force-reinstall

# For Node.js samples
npm cache clean --force
npm install

خلاصه

این ماژول نمایانگر پیشرفته‌ترین سطح توسعه هوش مصنوعی لبه است که ابزارهای درجه‌یک سازمانی مایکروسافت را با انعطاف‌پذیری و نوآوری اکوسیستم متن‌باز ترکیب می‌کند. با تسلط بر Foundry Local از طریق تمام ۱۰ نمونه جامع، شما در خط مقدم توسعه کاربردهای هوش مصنوعی قرار خواهید گرفت.

مسیر کامل یادگیری:

  • پایه (نمونه‌های ۰۱-۰۳): یکپارچه‌سازی API و مدیریت مدل
  • کاربردها (نمونه‌های ۰۴-۰۶): RAG، عوامل و مسیریابی هوشمند
  • پیشرفته (نمونه‌های ۰۷-۱۰): چارچوب‌های تولید و یکپارچه‌سازی سازمانی

برای یکپارچه‌سازی Azure OpenAI (جلسه ۲)، به فایل‌های README نمونه‌های جداگانه مراجعه کنید تا متغیرهای محیطی مورد نیاز و تنظیمات نسخه API را مشاهده کنید.

سلب مسئولیت:
این سند با استفاده از سرویس ترجمه هوش مصنوعی Co-op Translator ترجمه شده است. در حالی که ما تلاش می‌کنیم ترجمه‌ها دقیق باشند، لطفاً توجه داشته باشید که ترجمه‌های خودکار ممکن است شامل خطاها یا نادرستی‌ها باشند. سند اصلی به زبان اصلی آن باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حساس، توصیه می‌شود از ترجمه انسانی حرفه‌ای استفاده کنید. ما مسئولیتی در قبال سوء تفاهم‌ها یا تفسیرهای نادرست ناشی از استفاده از این ترجمه نداریم.