מבוא לאקוסיסטם: מה יש מסביב ל-LLM

מ-LLM גולמי לאפליקציית AI

LLM גולמי, כפי שנלמד בנושא הקודם, יודע לעשות דבר אחד: לקבל טקסט (כולל היסטוריית שיחה) ולהחזיר טקסט המשך. הוא לא יכול לקרוא קובץ בעצמו, להריץ פקודה, לזכור משהו בין שתי שיחות נפרדות, או להחליט בעצמו לבצע כמה פעולות ברצף כדי להשיג מטרה — כל אלה דורשים שכבת תשתית שעוטפת את המודל.

כלי כמו עוזר תכנות אגנטי, בוט שירות לקוחות שבודק הזמנות במסד נתונים, או סוכן מחקר שגולש בין כמה מקורות — כולם בנויים מאותו LLM גולמי, עטוף בשכבת תשתית שמוסיפה לו יכולת לפעול בעולם, לא רק לענות.

הנושא הזה מפרק את השכבה הזו למרכיבים שלה: Agent (מי מקבל את ההחלטות), Subagent (מי מבצע חלק מהעבודה בנפרד), Harness (מי בפועל מריץ הכול), Skill ו-Tool (מאיפה מגיעות היכולות עצמן). כל פרק בהמשך הנושא צולל לעומק לאחד מהמושגים האלה.

Agent ו-Subagent — מי מקבל החלטות, ומי מבצע בשבילו

Agent (סוכן) הוא LLM שרץ בתוך לולאה: במקום לענות פעם אחת ולסיים, הוא יכול לבחון תוצאה, להחליט שדרושה פעולה נוספת, לבצע אותה, ולחזור על התהליך עד שהמטרה הושגה. ההחלטה מתי ואיך לפעול היא של המודל עצמו, לא של קוד קשיח שכתב מפתח מראש — זה מה שהופך אותו ל"סוכן" ולא סתם לפונקציה.

לפעמים משימה כוללת חלק שכדאי להריץ בנפרד — למשל חיפוש מעמיק בקוד, או ריצה על רשימת קבצים ארוכה — בלי להציף את השיחה הראשית בכל הפרטים של איך זה נעשה. Subagent הוא בדיוק זה: agent "ילד" שה-agent הראשי מפעיל עם משימה ממוקדת, קונטקסט משלו, ולרוב סט כלים מצומצם יותר; כשהוא מסיים, הוא מחזיר תמצית לסוכן ההורה וממשיכים משם.

Harness — מי בפועל מריץ את כל זה

המודל עצמו יודע רק לחזות טקסט — הוא לא "נוגע" בקבצים, לא פותח חיבור לרשת ולא מריץ פקודות. ה-Harness הוא התוכנה שמריצה את הלולאה האגנטית בפועל: היא שולחת את הפרומפט למודל, מפרשת מה הוא ביקש לעשות, מבצעת בפועל את הפעולה המבוקשת (למשל קריאת קובץ אמיתית), ומזינה את התוצאה בחזרה למודל כטקסט.

דוגמאות להארנס: כלי שורת פקודה שמריץ עוזר תכנות אגנטי על המחשב שלכם, שרת שמפעיל בוט שירות לקוחות, או תשתית ענן שמריצה סוכן אוטומטי בלי משתמש אנושי בכלל. בכל המקרים האלה ה-harness הוא זה שאחראי גם על הרשאות ובטיחות — למשל לבקש אישור לפני מחיקת קובץ, או להגביל אילו פקודות מותר להריץ כלל.

חשוב להבחין: המודל מחליט *מה* הוא רוצה לעשות, וה-harness מחליט *אם ואיך* מותר לבצע את זה בפועל. ההפרדה הזו היא הבסיס לכל דיון על בטיחות בסוכני AI, ונחזור אליה בפירוט בפרק העוסק בהרשאות ובטיחות בהמשך הנושא.

Skills ו-Tools — היכולות שהסוכן שולף מהמדף

Tool (כלי) הוא היחידה הבסיסית ביותר: פעולה בודדת, ממוקדת וברורה שהמודל יכול לבקש להפעיל — לדוגמה "קרא קובץ", "הרץ שאילתת SQL" או "שלח הודעה". תוצאת הכלי חוזרת למודל כטקסט, כפי שראינו כבר בפרק העוסק ב-Tool Use בנושא ה-LLM.

Skill (יכולת ארוזה) הוא רמה מעל לכך: הוראות עבודה מוכנות מראש למשימה שלמה, שיכולות להשתמש בכמה כלים שונים ברצף מסוים ולפי כללים ידועים מראש — למשל "סקירת קוד" או "כתיבת דוח שבועי" — במקום שהמודל יצטרך להמציא את התהליך מאפס בכל פעם.

ההבדל בקצרה: tool הוא "מה אפשר לעשות" — פעולה בודדת; skill הוא "איך עושים דבר שלם נכון" — מתכון שמרכיב כמה פעולות (ולעיתים גם כמה כלים) יחד. שני הפרקים בהמשך הנושא עוסקים בכל אחד מהם בנפרד.

המפה המלאה — מה מחכה בהמשך הנושא

אחרי שני הפרקים הבאים (Subagents ו-Harness) יעמיקו את המושגים שהוצגו כאן, הנושא ימשיך ל-Skills ו-Tools (כולל MCP — פרוטוקול סטנדרטי לחיבור כלים), ניהול קונטקסט וזיכרון בין sessions, תזמור של כמה agents יחד, ולבסוף הרשאות ובטיחות — איך שומרים על שליטה כשה-AI פועל בעולם האמיתי ולא רק עונה בצ'אט.