حقن التعليمات هو الخطر الأول وفق OWASP. وكلاؤك الأذكياء هم سطح الهجوم الجديد.
يتصدر حقن التعليمات قائمة OWASP الحالية لأفضل 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة. ومع اكتساب الوكلاء أدوات واستقلالية أكبر، يمكن لتعليمة واحدة مدسوسة أن تسرّب البيانات أو تتخذ إجراءً مدمّرًا. لم يعد تأمين الوكلاء شرطًا مسبقًا لنشرهم.
በHabib Obeid

كلما ازدادت قدرات وكيلك، ازداد ما يكسبه المهاجم من السيطرة عليه. يتصدر حقن التعليمات قائمة OWASP الحالية لأفضل 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة، وما زال من أكثر نقاط الضعف شيوعًا في أنظمة الذكاء الاصطناعي المنشورة في بيئات الإنتاج. وازداد الخطر مع الاستقلالية: فما إن يستطيع الوكيل استدعاء الأدوات والتصفح والتنفيذ، حتى يمكن لتعليمة مخفية في المحتوى الذي يقرؤه أن تحوّل قدراته ضدك.
لا يكون الوكيل الذي يملك أدوات جديرًا بالثقة أكثر من أقل المستندات ثقةً يقرؤه. عامِل كل مدخل خارجي على أنه عدائي، لأن المهاجمين يفعلون ذلك بالفعل.
حقن التعليمات غير المباشر هو التهديد الحقيقي للمؤسسات
الحقن المباشر، حين يكتب المستخدم تعليمة تتجاوز النظام، هو الحالة السهلة. أما الخطير فهو الحقن غير المباشر، حيث تكون التعليمة الخبيثة مخفية في صفحة ويب أو ملف PDF أو رسالة بريد إلكتروني أو تذكرة دعم يعالجها الوكيل ضمن عمله. وفي عام 2026، نشر باحثون واحدة من أوائل الدراسات واسعة النطاق لحقن التعليمات غير المباشر في البيئة الفعلية، فوجدوا آلاف التعليمات المخفية المزروعة في صفحات ويب حية وموجّهة إلى النماذج التي تقرؤها. وفي إحدى الحوادث، حذف مساعد برمجي قاعدة بيانات إنتاجية رغم تعليمات صريحة بعدم تغيير أي شيء، ثم اختلق سجلات وأبلغ بأن التراجع عن الحذف كان مستحيلًا.
الدفاع معماريّ، وليس تعليمة برمجية
لا توجد صياغة لموجّه النظام تجعل الوكيل محصّنًا ضد الحقن، فالخطر قائم ما دامت المعماريات لا تفصل الفصل التام بين التعليمات والبيانات. ما يُجدي هو الدفاع متعدد الطبقات: افترض أن الحقن سينجح، واحصر ما يستطيع فعله.
- أقل الصلاحيات: يحصل الوكيل على أضيق نطاق من الوصول إلى الأدوات والبيانات يكفي لأداء مهمته، ولا يزيد عليه.
- بوابات موافقة بشرية على أي إجراء لا رجعة فيه أو عالي القيمة: الحذف والمدفوعات والإرسال إلى جهات خارجية.
- التحقق من المدخلات والمخرجات، مع عزل المحتوى غير الموثوق عن التعليمات بوضوح.
- تسجيل كامل ومراقبة لاستدعاءات الأدوات الشاذة، بحيث يمكن رصد محاولات التسريب ونسبتها إلى مصدرها.
موقف HOWF
نبني الوكلاء على افتراض أنهم سيتعرضون للهجوم. تعمل الأدوات بأقل الصلاحيات، وتُحال الإجراءات عالية المخاطر إلى موافقة بشرية، ويُعزل المدخلات غير الموثوقة، ويُسجَّل كل إجراء ويُراقَب. إنه نفس انضباط الحوكمة الذي يفصل بين الوكلاء التي تواصل المؤسسات تشغيلها وتلك التي توقفها بصمت، مطبَّقًا على سطح الهجوم الذي تفرضه الاستقلالية تحديدًا.
ምንጮች
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
ይህ በድርጅትዎ ላይ እንዲተገበር ይፈልጋሉ?