मल्टी-एजेंट एआई में गलती कहां हुई: A2P कारण-विश्लेषण ढांचा
मल्टी-एजेंट एआई सिस्टम में जब कोई काम बीच में फेल हो जाता है, तो सबसे कठिन सवाल यह होता है कि गलती किस कदम पर हुई। arXiv पर प्रकाशित शोधपत्र "Abduct, Act, Predict: Scaffolding Causal Inference for Automated Failure Attribution in Multi-Agent Systems" (arXiv 2509.10401) इसी सवाल का एक नया तरीका पेश करता है।
समस्या क्या है
लेखकों के अनुसार, मौजूदा तरीके फेल्योर एट्रिब्यूशन को लंबे बातचीत-लॉग में पैटर्न पहचानने का काम मानते हैं। इस वजह से कदम-स्तर की सटीकता 17% से भी कम रहती है, और जटिल सिस्टम को डीबग करना व्यावहारिक नहीं रह जाता। असली कमजोरी यह है कि ये तरीके "काउंटरफैक्चुअल" सोच नहीं कर पाते, यानी यह तय नहीं कर पाते कि अगर एक कदम सुधार दिया जाता तो क्या पूरा काम सफल हो जाता।
A2P: तीन चरणों वाला ढांचा
शोधकर्ताओं (वेस्टलेक यूनिवर्सिटी के Yixuan Weng, Minjun Zhu, Zhen Lin, Zhiyuan Ning और Yue Zhang) ने Abduct-Act-Predict (A2P) नाम का ढांचा बनाया है। यह एक ही इन्फरेंस में भाषा मॉडल को तीन चरणों से गुजारता है:
- Abduction (अपहरण): एजेंट की कार्रवाइयों के पीछे छिपे मूल कारण का अनुमान लगाना।
- Action (कार्रवाई): न्यूनतम सुधारात्मक हस्तक्षेप तय करना।
- Prediction (पूर्वानुमान): आगे की प्रक्रिया का अनुकरण करके जांचना कि क्या इस सुधार से फेल्योर ठीक हो जाता है।
नतीजे
Who&When बेंचमार्क पर परिणाम इस प्रकार हैं:
- एल्गोरिदम-जनित डेटासेट पर कदम-स्तर की सटीकता 47.46% रही, जो 16.67% की बेसलाइन से 2.85 गुना बेहतर है।
- हाथ से बनाए गए (Hand-Crafted) डेटासेट पर यह 29.31% रही, जो 12.07% की बेसलाइन से 2.43 गुना बेहतर है।
लेखकों ने कोड सार्वजनिक किया है: https://github.com/ResearAI/A2P
डेवलपर्स के लिए सीख
यह शोध दिखाता है कि एजेंट के लॉग में गलती खोजने के लिए सिर्फ पैटर्न पहचानना काफी नहीं है। "क्या एक कदम बदलने से नतीजा बदलता?" जैसा संरचित कारण-विश्लेषण कहीं बेहतर काम करता है। जो टीमें एजेंट सिस्टम बनाती हैं, वे अपने ट्रेस में हर कदम के इनपुट और आउटपुट सुरक्षित रखें, ताकि बाद में एक कदम बदलकर नतीजे का अनुमान लगाया जा सके।
यह लेख Yethikrishna R ने लिखा है। वे Mynd Labs के संस्थापक और लीड इंजीनियर हैं और Compyle (YC F25) के कोऑर्डिनेटर और संस्थापक सदस्य हैं। वे केरल के त्रिशूर से एआई एजेंट सिस्टम और डेवलपर टूल बनाते हैं।
स्रोत: Weng et al., "Abduct, Act, Predict", https://arxiv.org/abs/2509.10401