מדוע צוותי סוכנים נכשלים מעבר לגבולות: 20 דפוסי כשל במערכות סוכן-אל-סוכן

סוכני AI מתחילים לדבר עם סוכנים אחרים שמייצגים צדדים שונים, למשל הסוכן האישי של קונה שמנהל משא ומתן עם סוכן המכירות של חברה. מאמר בשם "Why Do Agent Teams Fail Across Boundaries? A Failure Taxonomy for Agent-to-Agent Systems with Private States" (arXiv 2610.19342) בודק איך מערכות כאלה נכשלות.

למה זה שונה ממערכות רב-סוכניות רגילות

לפי התקציר, במערכת סוכן-אל-סוכן (A2A) לכל סוכן סביבה משלו, מידע וסמכויות שהצד השני לא רואה. האינטרסים יכולים להיות משותפים, חלקיים או מנוגדים. מחקרי כשל קודמים הניחו מתזמר אחד, סביבת עבודה משותפת או ממונה אחד, והמאמר שואל מה קורה כשמורידים את ההנחות האלה.

איך נבנה טקסונומיית הכשלים

החוקרים למדו יותר מ-2,500 ריצות מתועדות של מערכות A2A שנבנו ממסגרות וממודלים שונים, על פני 488 תרחישים משמונה משפחות (משפטים, CRM, אבטחה, מסחר ועוד). מהרישומים הם גזרו טקסונומיה בשם A2-Failures עם 20 דפוסי כשל בארבע קטגוריות: גילוי והאצלה, עיגון ועקביות רשומות, אימות, והתנהגות ונאמנות.

שלוש תצפיות שחוזרות

1. סוכנים מתאימים משימות לשמות של עמיתים שהוזכרו בהנחיה, במקום לחפש בעצמם אילו עמיתים זמינים.
2. סוכנים אף פעם לא בודקים עובדות זה אצל זה בלי שאומרים להם.
3. ניקוד של התוצר הסופי בלבד מתגמל את הסוכן המוביל ומסתיר כשלי תיאום, אימות והתנהגות בפנים.

המחברים ממליצים להעריך כל סוכן בנפרד מול המטרות שלו, בנוסף לתוצאת המשימה. רישומי הריצות פורסמו.

מה צוות שבונה סוכנים לוקח מכאן

במערכת עם כמה סוכנים, אל תסתפקו בציון על התוצאה הסופית. נסו את כל סוכן בנפרד ובדקו שהוא מאמת טענות של עמיתים במקום להאמין להן.

מאמר זה נכתב על ידי Yethikrishna R, מייסד ומהנדס ראשי של Mynd Labs ורכז וחבר מייסד ב-Compyle (YC F25). הוא בונה מערכות סוכני בינה מלאכותית וכלים למפתחים מטריסור שבהודו.

מקור: "Why Do Agent Teams Fail Across Boundaries? A Failure Taxonomy for Agent-to-Agent Systems with Private States", https://arxiv.org/abs/2610.19342