WASP: قياس أمان وكلاء الويب ضد هجمات حقن الأوامر

تَعِد وكلاء واجهات المستخدم المدعومون بالذكاء الاصطناعي برفع الإنتاجية عبر أتمتة المهام الروتينية، مثل تقديم الإقرارات الضريبية ودفع الفواتير. لكن الأمان يظل التحدي الأكبر، لأن هؤلاء الوكلاء يستطيعون التصرف نيابة عن المستخدم. تقدم ورقة arXiv بعنوان "WASP: Benchmarking Web Agent Security Against Prompt Injection Attacks" (arXiv 2504.18575) معيارًا لقياس هذا الأمان.

ما المشكلة في الاختبارات السابقة؟

يرى المؤلفون، وهم باحثون من FAIR في Meta (ومنهم Ivan Evtimov وArman Zharmagambetov وChuan Guo وKamalika Chaudhuri)، أن الاختبارات الحالية لهجمات حقن الأوامر (prompt injection) ضد وكلاء الويب تقع في أحد ثلاثة عيوب:

• تختبر سيناريوهات غير واقعية.
• تمنح المهاجم قوة أكبر من اللازم.
• تنظر إلى مهام منفردة من خطوة واحدة.

ما الذي يقدمه WASP؟

WASP معيار متاح للعامة لتقييم أمان وكلاء الويب ضد هجمات حقن الأوامر من البداية إلى النهاية. يعتمد على سيناريوهات واقعية جدًا وعلى حقن كتبها بشر بجهد بسيط.

النتائج

أظهر التقييم أن حتى النماذج المتقدمة، بما فيها ذات قدرات الاستدلال المتطورة، يمكن خداعها بحقن بسيطة في سيناريوهات واقعية. تنجح الهجمات جزئيًا في ما يصل إلى 86% من الحالات. ومع ذلك، يواجه الوكلاء المتقدمون صعوبة في إكمال أهداف المهاجم بالكامل. يصف المؤلفون هذه الحالة بأنها "أمان بسبب عدم الكفاءة"، أي أن الحماية الحالية تعتمد على ضعف قدرة الوكلاء على تنفيذ الهجوم لا على متانة الدفاعات.

ماذا يعني هذا لمن يبني الوكلاء؟

لا ينبغي الاعتماد على أن الوكيل "لن ينجح في تنفيذ" تعليمات مخادعة. مع تحسن قدرات الوكلاء، ستصبح هذه الفجوة أضيق. يفيد اختبار الوكيل من البداية إلى النهاية ضد حقن بسيطة في صفحات واقعية، ومعاملة أي نص قادم من صفحة ويب على أنه بيانات لا أوامر.

كتب هذا المقال Yethikrishna R، مؤسس Mynd Labs ومهندسها الرئيسي، ومنسق Compyle (YC F25) وعضوها المؤسس. يبني أنظمة وكلاء الذكاء الاصطناعي وأدوات المطورين من ثريسور في الهند.

المصدر: Evtimov وآخرون، "WASP: Benchmarking Web Agent Security Against Prompt Injection Attacks"، https://arxiv.org/abs/2504.18575