מבוא לאקוסיסטם: מה יש מסביב ל-LLM
מ-LLM גולמי לאפליקציית AI
LLMרשת נוירונים ענקית, עם מיליארדי פרמטרים, שאומנה לחזות מהו הטוקן הבא ברצף טקסט. מתוך LLM, יסודות ה-AI. גולמי, כפי שנלמד בנושא ה-LLM, עושה דבר אחד: מקבל טקסט ומחזיר את ההמשך שלו. הוא לא יכול לקרוא קובץ, להריץ פקודה, לזכור משהו משיחה קודמת או לבצע כמה פעולות ברצף כדי להשיג מטרה. כל אלה דורשים שכבת תשתית שעוטפת את המודל.
עוזר תכנות שעורך קבצים בפרויקט, בוט שירות שבודק סטטוס הזמנה במסד נתונים, סוכןLLM שמופעל בלולאה, עם מטרה וסט כלים, ובכל סיבוב מחליט אם להפעיל כלי נוסף או לסיים ולהחזיר תשובה. מתוך AI Agents, Agents והלולאה האגנטית. מחקר שקורא כמה מקורות ומסכם אותם — כולם בנויים על אותו סוג של מודל. מה שמבדיל ביניהם הוא השכבה שמסביב: אילו פעולות הם יכולים לבצע, מי מאשר אותן, ומה נשמר בין צעד לצעד.
הנושא הזה מפרק את השכבה הזו למרכיבים שלה. הפרק הנוכחי נותן את המפה, וכל אחד מהפרקים הבאים צולל לעומק לחלק אחד ממנה.
Agent — מודל בתוך לולאה
AgentLLM שמופעל בלולאה, עם מטרה וסט כלים, ובכל סיבוב מחליט אם להפעיל כלי נוסף או לסיים ולהחזיר תשובה. מתוך AI Agents, Agents והלולאה האגנטית. (סוכן) הוא LLMרשת נוירונים ענקית, עם מיליארדי פרמטרים, שאומנה לחזות מהו הטוקן הבא ברצף טקסט. מתוך LLM, יסודות ה-AI. שרץ בתוך לולאה: במקום לענות פעם אחת, הוא מבקש לבצע פעולה, רואה את התוצאה ומחליט מה הצעד הבא — עד שהמטרה הושגה. את סדר הצעדים קובע המודל תוך כדי עבודה, לא קוד שנכתב מראש. זה ההבדל בין סוכן לבין פונקציה שקוראת למודל.
Subagentסוכן שהסוכן הראשי מפעיל לחלק מוגדר מהמשימה, עם קונטקסט נפרד משלו; מבחינת ההורה זו עוד קריאת כלי. מתוך AI Agents, Subagents — האצלת משימות. הוא סוכן שסוכן אחר מפעיל כדי לבצע חלק ממוקד מהמשימה, בקונטקסט נפרד משלו, ומחזיר רק את התוצאה. כך הסוכן הראשי לא מוצף בפרטים שלא נוגעים לו.
Harness — מי שמבצע בפועל
המודל לא נוגע בשום דבר בעצמו. כשהוא "קורא קובץ", הוא בעצם מייצר טקסט שמבקש לקרוא קובץ. ה-Harness הוא התוכנה שמריצה את הלולאה: שולחת את הקונטקסט למודל, מפרשת את הבקשה שחזרה, מבצעת אותה (או מסרבת לבצע), ומחזירה את התוצאה למודל.
מכאן העיקרון שילווה את כל הנושא: המודל מציע, וה-harness מחליט. הרשאות, אישורים, sandboxingהגבלה מראש של מה שהסוכן יכול לעשות, למשל סביבה מבודדת בלי גישה לרשת, כך שפעולות מסוימות בלתי אפשריות מלכתחילה. מתוך AI Agents, The Harness — מי בפועל מריץ את הסוכן. ומגבלות תקציב נאכפים כולם ב-harness, מחוץ למודל — ולכן הם עובדים גם כשהמודל טועה.
Tools ו-Skills — מאיפה מגיעות היכולות
Tool (כלי) הוא פעולה בודדת עם שם, תיאור וסכמת פרמטרים — "קרא קובץ", "הרץ שאילתת SQL", "שלח הודעה". המודל מבקש להפעיל כלי, וה-harnessהתוכנה שמריצה את הלולאה: שולחת את הקונטקסט למודל, מבצעת (או מסרבת לבצע) את מה שביקש, ומחזירה את התוצאה. מתוך AI Agents, מבוא לאקוסיסטם: מה יש מסביב ל-LLM. מבצע אותו ומחזיר את התוצאה כטקסט, כפי שראינו בפרק ה-Tool Useמנגנון שבו המודל מחליט בעצמו אם ומתי להפעיל פונקציה בקוד שלכם, מקבל את התוצאה כ-context ועונה על בסיסה. מתוך LLM, יסודות ה-AI. בנושא ה-LLMרשת נוירונים ענקית, עם מיליארדי פרמטרים, שאומנה לחזות מהו הטוקן הבא ברצף טקסט. מתוך LLM, יסודות ה-AI.. MCPפרוטוקול פתוח לחשיפת יכולות ל-LLM בפורמט אחיד: כלים, משאבי מידע ותבניות פרומפט, שנכתבים פעם אחת כשרת MCP. מתוך AI Agents, Tools ו-MCP. הוא פרוטוקול סטנדרטי שמאפשר לחבר כלים לכל סוכןLLM שמופעל בלולאה, עם מטרה וסט כלים, ובכל סיבוב מחליט אם להפעיל כלי נוסף או לסיים ולהחזיר תשובה. מתוך AI Agents, Agents והלולאה האגנטית. בלי לכתוב אינטגרציה ייעודית לכל אחד מהם.
Skillחבילת הוראות עבודה למשימה מסוג ידוע: לא פעולה בודדת כמו tool, אלא תהליך שלם עם שלבים וכללים. מתוך AI Agents, Skills — יכולות ארוזות מראש. הוא נוהל עבודה ארוז למשימה שלמה — למשל סקירת קוד או כתיבת דוח שבועי — שהסוכן טוען רק כשהוא צריך אותו. בקצרה: כלי עונה על "מה אפשר לעשות", ו-skill עונה על "איך עושים את זה נכון".
המפה המלאה — מה מחכה בהמשך
הנושא בנוי מ-14 פרקים, בארבעה חלקים:
הלולאה (פרקים 2–3): איך עובדת הלולאה האגנטיתהמחזור של סוכן: תצפית, תכנון ופעולה, כשה-harness מבצע את הכלי ומוסיף את התוצאה לקונטקסט לפני הסיבוב הבא. מתוך AI Agents, Agents והלולאה האגנטית., ומתי עדיף בכלל workflow עם מסלול קבוע בקוד על פני סוכןLLM שמופעל בלולאה, עם מטרה וסט כלים, ובכל סיבוב מחליט אם להפעיל כלי נוסף או לסיים ולהחזיר תשובה. מתוך AI Agents, Agents והלולאה האגנטית. שמחליט בעצמו.
התשתית (פרקים 4–8): Subagentsסוכן שהסוכן הראשי מפעיל לחלק מוגדר מהמשימה, עם קונטקסט נפרד משלו; מבחינת ההורה זו עוד קריאת כלי. מתוך AI Agents, Subagents — האצלת משימות., ה-Harnessהתוכנה שמריצה את הלולאה: שולחת את הקונטקסט למודל, מבצעת (או מסרבת לבצע) את מה שביקש, ומחזירה את התוצאה. מתוך AI Agents, מבוא לאקוסיסטם: מה יש מסביב ל-LLM., Skillsחבילת הוראות עבודה למשימה מסוג ידוע: לא פעולה בודדת כמו tool, אלא תהליך שלם עם שלבים וכללים. מתוך AI Agents, Skills — יכולות ארוזות מראש., Tools ו-MCPפרוטוקול פתוח לחשיפת יכולות ל-LLM בפורמט אחיד: כלים, משאבי מידע ותבניות פרומפט, שנכתבים פעם אחת כשרת MCP. מתוך AI Agents, Tools ו-MCP., ואיך מתכננים כלים שהמודל יודע להשתמש בהם היטב.
משימות ארוכות (פרקים 9–11): ניהול הקונטקסט תוך כדי עבודה, זיכרון שנשמר בין sessions, ותזמור של כמה סוכנים יחד.
אמינות ובטיחות (פרקים 12–14): איך מודדים אם סוכן באמת עובד, מה זה prompt injectionהתקפה שבה מישהו מכניס הוראות לטקסט שהמודל קורא, כדי לגרום לסוכן לעשות משהו שהמשתמש לא ביקש. מתוך AI Agents, Prompt Injection ואבטחת סוכנים. ולמה הוא הסיכון המרכזי בסוכנים, ואיך בונים הגנה בכמה שכבות.
שאלות נפוצות
האם כל צ'טבוט הוא סוכן?
לא. צ'טבוט שעונה בקריאה אחת למודל, גם עם System Prompt מצוין, הוא לא סוכן. סוכן מתחיל כשיש לולאה: המודל מבקש פעולה, רואה את התוצאה ומחליט על הצעד הבא. מוצרים רבים משלבים את שניהם — צ'אט רגיל שעובר להתנהגות של סוכן רק כשהמשימה דורשת פעולות.
האם צריך framework כדי לבנות סוכן?
לא בהכרח. הלולאה הבסיסית היא כמה עשרות שורות קוד: קריאה ל-API, ביצוע הכלי שהתבקש והחזרת התוצאה, כמו בדוגמה בפרק 2. frameworks מוסיפים ניהול קונטקסט, streaming וחיבור לכלים מוכנים, והם משתלמים כשהמערכת גדלה. כדאי להבין קודם את הלולאה עצמה, כדי לדעת מה ה-framework עושה בשבילכם.
אם המודלים משתפרים כל הזמן, האם עדיין צריך harness שאוכף גבולות?
כן. מודל חזק יותר טועה פחות, אבל הוא עדיין רק מציע פעולות, ויכול גם להיות מתומרן. הרשאות, אישורים ו-sandboxing נאכפים מחוץ למודל בדיוק כדי שיעבדו גם כשהוא טועה. ככל שהמודל מסוגל יותר נותנים לו בדרך כלל יותר גישה, ולכן הגבולות החיצוניים נעשים חשובים יותר, לא פחות.