Skip to content

Latest commit

 

History

History
57 lines (37 loc) · 12.5 KB

File metadata and controls

57 lines (37 loc) · 12.5 KB

ਚੈਪਟਰ 06 : SLM ਏਜੰਟਿਕ ਸਿਸਟਮ: ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਝਲਕ

ਕ੍ਰਿਤਰਿਮ ਬੁੱਧੀ ਦਾ ਖੇਤਰ ਇੱਕ ਮੂਲਭੂਤ ਬਦਲਾਅ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਿਹਾ ਹੈ ਜਦੋਂ ਅਸੀਂ ਸਧਾਰਨ ਚੈਟਬੋਟਸ ਤੋਂ ਛੋਟੇ ਭਾਸ਼ਾ ਮਾਡਲ (SLMs) ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਉੱਚ-ਤਕਨੀਕੀ AI ਏਜੰਟਾਂ ਵੱਲ ਵਧ ਰਹੇ ਹਾਂ। ਇਹ ਵਿਸਤ੍ਰਿਤ ਗਾਈਡ ਆਧੁਨਿਕ SLM ਏਜੰਟਿਕ ਸਿਸਟਮ ਦੇ ਤਿੰਨ ਮਹੱਤਵਪੂਰਨ ਪਹਲੂਆਂ ਦੀ ਜਾਂਚ ਕਰਦੀ ਹੈ: ਮੂਲ ਧਾਰਨਾਵਾਂ ਅਤੇ ਤੈਨਾਤੀ ਰਣਨੀਤੀਆਂ, ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਸਮਰੱਥਾਵਾਂ, ਅਤੇ ਕ੍ਰਾਂਤੀਕਾਰੀ ਮਾਡਲ ਕਾਂਟੈਕਸਟ ਪ੍ਰੋਟੋਕੋਲ (MCP) ਇੰਟੀਗ੍ਰੇਸ਼ਨ।

ਪਹਿਲਾ ਸੈਕਸ਼ਨ AI ਏਜੰਟ ਅਤੇ ਛੋਟੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੀ ਬੁਨਿਆਦੀ ਸਮਝ ਸਥਾਪਿਤ ਕਰਦਾ ਹੈ, 2025 ਨੂੰ AI ਏਜੰਟਾਂ ਦਾ ਸਾਲ ਬਣਾਉਂਦਾ ਹੈ, 2023 ਦੇ ਚੈਟਬੋਟ ਯੁੱਗ ਅਤੇ 2024 ਦੇ ਕੋਪਾਇਲਟ ਬੂਮ ਦੇ ਬਾਅਦ। ਇਹ ਸੈਕਸ਼ਨ ਏਜੰਟਿਕ AI ਸਿਸਟਮ ਪੇਸ਼ ਕਰਦਾ ਹੈ ਜੋ ਸੋਚਦੇ ਹਨ, ਤਰਕ ਕਰਦੇ ਹਨ, ਯੋਜਨਾ ਬਣਾਉਂਦੇ ਹਨ, ਸੰਦਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਅਤੇ ਘੱਟ ਤੋਂ ਘੱਟ ਮਨੁੱਖੀ ਦਖਲ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਨ।

ਕਵਰ ਕੀਤੇ ਮੁੱਖ ਧਾਰਨਾਵਾਂ:

  • ਏਜੰਟ ਵਰਗੀਕਰਨ ਫਰੇਮਵਰਕ: ਸਧਾਰਨ ਰਿਫਲੈਕਸ ਏਜੰਟ ਤੋਂ ਸਿੱਖਣ ਵਾਲੇ ਏਜੰਟਾਂ ਤੱਕ, ਵੱਖ-ਵੱਖ ਕੰਪਿਊਟਿੰਗ ਸਥਿਤੀਆਂ ਲਈ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਵਰਗੀਕਰਨ ਪ੍ਰਦਾਨ ਕਰਨਾ
  • SLM ਬੁਨਿਆਦੀਆਂ: ਛੋਟੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨਾ ਜਿਨ੍ਹਾਂ ਵਿੱਚ 10 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਤੋਂ ਘੱਟ ਹੁੰਦੇ ਹਨ ਅਤੇ ਜੋ ਉਪਭੋਗਤਾ ਡਿਵਾਈਸਾਂ 'ਤੇ ਪ੍ਰਯੋਗਤਮਕ ਅਨੁਮਾਨ ਕਰ ਸਕਦੇ ਹਨ
  • ਉੱਚ-ਤਕਨੀਕੀ ਅਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਰਣਨੀਤੀਆਂ: GGUF ਫਾਰਮੈਟ ਤੈਨਾਤੀ, ਕੁਆਂਟੀਜ਼ੇਸ਼ਨ ਤਕਨੀਕਾਂ (Q4_K_M, Q5_K_S, Q8_0), ਅਤੇ Llama.cpp ਅਤੇ Apple MLX ਵਰਗੇ ਐਜ-ਅਪਟੀਮਾਈਜ਼ਡ ਫਰੇਮਵਰਕ ਕਵਰ ਕਰਨਾ
  • SLM ਅਤੇ LLM ਦੇ ਲਾਭ-ਹਾਨੀ: SLMs ਨਾਲ 10-30× ਲਾਗਤ ਘਟਾਉਣਾ ਦਿਖਾਉਣਾ ਜਦੋਂ ਕਿ 70-80% ਆਮ ਏਜੰਟ ਕੰਮਾਂ ਲਈ ਪ੍ਰਭਾਵਸ਼ਾਲੀਤਾ ਬਰਕਰਾਰ ਰੱਖਣਾ

ਇਹ ਸੈਕਸ਼ਨ Ollama, VLLM, ਅਤੇ Microsoft ਦੇ ਐਜ ਹੱਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਵਿਹੰਗਮ ਤੈਨਾਤੀ ਰਣਨੀਤੀਆਂ ਨਾਲ ਖਤਮ ਹੁੰਦਾ ਹੈ, SLMs ਨੂੰ ਲਾਗਤ-ਪ੍ਰਭਾਵਸ਼ਾਲੀ, ਗੋਪਨੀਯਤਾ-ਸੰਰਕਸ਼ਣ ਵਾਲੇ ਏਜੰਟਿਕ AI ਤੈਨਾਤੀ ਦਾ ਭਵਿੱਖ ਸਥਾਪਿਤ ਕਰਦਾ ਹੈ।

ਦੂਜਾ ਸੈਕਸ਼ਨ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਸਮਰੱਥਾਵਾਂ ਵਿੱਚ ਗਹਿਰਾਈ ਨਾਲ ਜਾਂਚ ਕਰਦਾ ਹੈ, ਉਹ ਮਕੈਨਿਜ਼ਮ ਜੋ ਸਥਿਰ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਗਤੀਸ਼ੀਲ AI ਏਜੰਟਾਂ ਵਿੱਚ ਬਦਲਦਾ ਹੈ ਜੋ ਅਸਲ ਦੁਨੀਆ ਨਾਲ ਸੰਚਾਰ ਕਰਨ ਦੇ ਯੋਗ ਹੁੰਦੇ ਹਨ। ਇਹ ਤਕਨੀਕੀ ਵਿਸਤ੍ਰਿਤ ਵਿਵਰਣ ਇਰਾਦਾ ਪਛਾਣ ਤੋਂ ਲੈ ਕੇ ਜਵਾਬ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਤੱਕ ਪੂਰੇ ਵਰਕਫਲੋ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ।

ਮੁੱਖ ਕਾਰਜਨਵਾਈ ਖੇਤਰ:

  • ਸਿਸਟਮੈਟਿਕ ਵਰਕਫਲੋ: ਸੰਦ ਇੰਟੀਗ੍ਰੇਸ਼ਨ, ਫੰਕਸ਼ਨ ਪਰਿਭਾਸ਼ਾ, ਇਰਾਦਾ ਪਛਾਣ, JSON ਆਉਟਪੁੱਟ ਜਨਰੇਸ਼ਨ, ਅਤੇ ਬਾਹਰੀ ਕਾਰਜਨਵਾਈ ਦੀ ਵਿਸਤ੍ਰਿਤ ਜਾਂਚ
  • ਪਲੇਟਫਾਰਮ-ਵਿਸ਼ੇਸ਼ ਕਾਰਜਨਵਾਈ: Phi-4-mini Ollama ਨਾਲ, Qwen3 ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ, ਅਤੇ Microsoft Foundry Local ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਲਈ ਵਿਸਤ੍ਰਿਤ ਗਾਈਡ
  • ਉੱਚ-ਤਕਨੀਕੀ ਉਦਾਹਰਨ: ਬਹੁ-ਏਜੰਟ ਸਹਿਯੋਗ ਸਿਸਟਮ, ਗਤੀਸ਼ੀਲ ਸੰਦ ਚੋਣ, ਅਤੇ ਵਿਸਤ੍ਰਿਤ ਗਲਤੀ ਸੰਭਾਲ ਨਾਲ ਉਦਯੋਗਿਕ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਪੈਟਰਨ
  • ਉਤਪਾਦਨ ਵਿਚਾਰ: ਦਰ ਸੀਮਿਤ ਕਰਨਾ, ਆਡਿਟ ਲੌਗਿੰਗ, ਸੁਰੱਖਿਆ ਉਪਾਅ, ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਅਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਰਣਨੀਤੀਆਂ

ਇਹ ਸੈਕਸ਼ਨ ਸਿਧਾਂਤਕ ਸਮਝ ਅਤੇ ਕਾਰਜਨਵਾਈ ਪੈਟਰਨ ਦੋਵੇਂ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਵਿਕਾਸਕਾਰਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਫੰਕਸ਼ਨ-ਕਾਲਿੰਗ ਸਿਸਟਮ ਬਣਾਉਣ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ ਜੋ ਸਧਾਰਨ API ਕਾਲਾਂ ਤੋਂ ਲੈ ਕੇ ਜਟਿਲ ਬਹੁ-ਕਦਮ ਉਦਯੋਗਿਕ ਵਰਕਫਲੋਜ਼ ਤੱਕ ਸਭ ਕੁਝ ਸੰਭਾਲ ਸਕਦੇ ਹਨ।

ਅੰਤਮ ਸੈਕਸ਼ਨ ਮਾਡਲ ਕਾਂਟੈਕਸਟ ਪ੍ਰੋਟੋਕੋਲ (MCP) ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਇੱਕ ਕ੍ਰਾਂਤੀਕਾਰੀ ਫਰੇਮਵਰਕ ਜੋ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਬਾਹਰੀ ਸੰਦਾਂ ਅਤੇ ਸਿਸਟਮਾਂ ਨਾਲ ਸੰਚਾਰ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਮਿਆਰੀ ਬਣਾਉਂਦਾ ਹੈ। ਇਹ ਸੈਕਸ਼ਨ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ MCP ਕਿਵੇਂ ਚੰਗੀ ਤਰੀਕੇ ਨਾਲ ਪਰਿਭਾਸ਼ਿਤ ਪ੍ਰੋਟੋਕੋਲਾਂ ਦੁਆਰਾ AI ਮਾਡਲਾਂ ਅਤੇ ਅਸਲ ਦੁਨੀਆ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਪੁਲ ਬਣਾਉਂਦਾ ਹੈ।

ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਹਾਈਲਾਈਟਸ:

  • ਪ੍ਰੋਟੋਕੋਲ ਆਰਕੀਟੈਕਚਰ: ਐਪਲੀਕੇਸ਼ਨ, LLM ਕਲਾਇੰਟ, MCP ਕਲਾਇੰਟ, ਅਤੇ ਸੰਦ ਪ੍ਰੋਸੈਸਿੰਗ ਲੇਅਰਾਂ ਨੂੰ ਕਵਰ ਕਰਨ ਵਾਲਾ ਪਰਤਦਾਰ ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ
  • ਮਲਟੀ-ਬੈਕਐਂਡ ਸਹਾਇਤਾ: Ollama (ਲੋਕਲ ਵਿਕਾਸ) ਅਤੇ vLLM (ਉਤਪਾਦਨ) ਬੈਕਐਂਡ ਦੋਵਾਂ ਲਈ ਲਚਕਦਾਰ ਕਾਰਜਨਵਾਈ
  • ਕਨੈਕਸ਼ਨ ਪ੍ਰੋਟੋਕੋਲ: ਸਿੱਧੇ ਪ੍ਰੋਸੈਸ ਸੰਚਾਰ ਲਈ STDIO ਮੋਡ ਅਤੇ HTTP-ਅਧਾਰਿਤ ਸਟ੍ਰੀਮਿੰਗ ਲਈ SSE ਮੋਡ
  • ਅਸਲ ਦੁਨੀਆ ਦੇ ਅਰਜ਼ੀਅਨ: ਵੈੱਬ ਆਟੋਮੇਸ਼ਨ, ਡਾਟਾ ਪ੍ਰੋਸੈਸਿੰਗ, ਅਤੇ API ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਦੇ ਉਦਾਹਰਨ ਵਿਸਤ੍ਰਿਤ ਗਲਤੀ ਸੰਭਾਲ ਨਾਲ

MCP ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ SLMs ਨੂੰ ਬਾਹਰੀ ਸਮਰੱਥਾਵਾਂ ਨਾਲ ਕਿਵੇਂ ਵਧਾਇਆ ਜਾ ਸਕਦਾ ਹੈ, ਛੋਟੇ ਪੈਰਾਮੀਟਰ ਗਿਣਤੀ ਦੇ ਨਾਲ-ਨਾਲ ਉੱਚਤਮ ਕਾਰਜਸ਼ੀਲਤਾ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਦੇ ਹੋਏ ਸਥਾਨਕ ਤੈਨਾਤੀ ਅਤੇ ਸਰੋਤ ਕੁਸ਼ਲਤਾ ਦੇ ਲਾਭ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।

ਰਣਨੀਤਕ ਪ੍ਰਭਾਵ

ਇਹ ਤਿੰਨ ਸੈਕਸ਼ਨ ਮਿਲ ਕੇ SLM ਏਜੰਟਿਕ ਸਿਸਟਮਾਂ ਨੂੰ ਸਮਝਣ ਅਤੇ ਕਾਰਜਨਵਾਈ ਕਰਨ ਲਈ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਫਰੇਮਵਰਕ ਪੇਸ਼ ਕਰਦੇ ਹਨ। ਬੁਨਿਆਦੀ ਧਾਰਨਾਵਾਂ ਤੋਂ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਤੱਕ ਅਤੇ MCP ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਤੱਕ ਵਿਕਾਸ ਦਾ ਇਹ ਸਾਫ਼ ਰਾਹ ਦਿਖਾਉਂਦਾ ਹੈ:

  • ਕੁਸ਼ਲਤਾ ਅਤੇ ਸਮਰੱਥਾ ਛੋਟੇ ਮਾਡਲਾਂ ਦੇ ਅਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਦੁਆਰਾ ਮਿਲਦੀ ਹੈ
  • ਲਾਗਤ-ਪ੍ਰਭਾਵਸ਼ਾਲਤਾ ਵਿਆਪਕ ਅਪਨਾਵ ਨੂੰ ਯੋਗ ਬਣਾਉਂਦੀ ਹੈ
  • ਮਿਆਰੀ ਪ੍ਰੋਟੋਕੋਲ ਅੰਤਰ-ਸੰਚਾਲਨ ਯਕੀਨੀ ਬਣਾਉਂਦੇ ਹਨ
  • ਸਥਾਨਕ ਤੈਨਾਤੀ ਗੋਪਨੀਯਤਾ ਸੁਰੱਖਿਅਤ ਕਰਦੀ ਹੈ ਅਤੇ ਡਿੱਲੇ ਨੂੰ ਘਟਾਉਂਦੀ ਹੈ

ਇਹ ਤਰੱਕੀ ਸਿਰਫ਼ ਤਕਨੀਕੀ ਉੱਨਤੀ ਨਹੀਂ ਹੈ, ਬਲਕਿ ਵਧੇਰੇ ਪਹੁੰਚਯੋਗ, ਕੁਸ਼ਲ, ਅਤੇ ਪ੍ਰਯੋਗਤਮਕ AI ਸਿਸਟਮਾਂ ਵੱਲ ਇੱਕ ਪੈਰਾਡਾਇਮ ਸ਼ਿਫਟ ਹੈ ਜੋ ਸਰੋਤ-ਸੀਮਿਤ ਵਾਤਾਵਰਣਾਂ ਵਿੱਚ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤਰੀਕੇ ਨਾਲ ਕੰਮ ਕਰ ਸਕਦੇ ਹਨ ਜਦੋਂ ਕਿ ਉਦਯੋਗਾਂ ਅਤੇ ਅਰਜ਼ੀਅਨਾਂ ਵਿੱਚ ਉੱਚਤਮ ਏਜੰਟਿਕ ਸਮਰੱਥਾਵਾਂ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।

ਛੋਟੇ ਮਾਡਲਾਂ ਨੂੰ ਉੱਚਤਮ ਤੈਨਾਤੀ ਰਣਨੀਤੀਆਂ, ਮਜ਼ਬੂਤ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ, ਅਤੇ ਮਿਆਰੀ ਸੰਦ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਪ੍ਰੋਟੋਕੋਲਾਂ ਨਾਲ ਜੋੜ ਕੇ, ਇਹ ਸਿਸਟਮ AI ਏਜੰਟਾਂ ਦੀ ਅਗਲੀ ਪੀੜ੍ਹੀ ਲਈ ਬੁਨਿਆਦ ਬਣਾਉਂਦੇ ਹਨ ਜੋ ਉਦਯੋਗਾਂ ਅਤੇ ਅਰਜ਼ੀਅਨਾਂ ਵਿੱਚ ਕ੍ਰਿਤਰਿਮ ਬੁੱਧੀ ਨਾਲ ਸਾਡੇ ਸੰਚਾਰ ਅਤੇ ਲਾਭਾਂ ਨੂੰ ਬਦਲਣਗੇ।


ਅਸਵੀਕਾਰਨਾ:
ਇਹ ਦਸਤਾਵੇਜ਼ AI ਅਨੁਵਾਦ ਸੇਵਾ Co-op Translator ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ ਹੈ। ਹਾਲਾਂਕਿ ਅਸੀਂ ਸਹੀ ਹੋਣ ਦਾ ਯਤਨ ਕਰਦੇ ਹਾਂ, ਕਿਰਪਾ ਕਰਕੇ ਧਿਆਨ ਦਿਓ ਕਿ ਸਵੈਚਾਲਿਤ ਅਨੁਵਾਦਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਜਾਂ ਅਸੁੱਤੀਆਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਮੂਲ ਦਸਤਾਵੇਜ਼, ਜੋ ਇਸਦੀ ਮੂਲ ਭਾਸ਼ਾ ਵਿੱਚ ਹੈ, ਨੂੰ ਅਧਿਕਾਰਤ ਸਰੋਤ ਮੰਨਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਮਹੱਤਵਪੂਰਨ ਜਾਣਕਾਰੀ ਲਈ, ਪੇਸ਼ੇਵਰ ਮਨੁੱਖੀ ਅਨੁਵਾਦ ਦੀ ਸਿਫਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਇਸ ਅਨੁਵਾਦ ਦੀ ਵਰਤੋਂ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਕਿਸੇ ਵੀ ਗਲਤਫਹਿਮੀ ਜਾਂ ਗਲਤ ਵਿਆਖਿਆ ਲਈ ਅਸੀਂ ਜ਼ਿੰਮੇਵਾਰ ਨਹੀਂ ਹਾਂ।