Prompt injection OWASP-এর #1 ঝুঁকি। আপনার agents নতুন আক্রমণ পৃষ্ঠ।

আপনার agent যত বেশি সক্ষম, attacker এটি দখল করে তত বেশি লাভ করে। Prompt injection OWASP-এর বর্তমান Top 10 LLM applications-এ শীর্ষস্থানীয় এবং এটি production AI deployments-এ সবচেয়ে সাধারণ দুর্বলতাগুলির মধ্যে থাকে। বিপদ স্বায়ত্ততার সাথে মাপযোগ্য: একবার একটি agent tools call করতে, browse করতে এবং কাজ করতে পারে, যে সামগ্রী পড়ে তার মধ্যে লুকানো একটি নির্দেশ এর নিজস্ব ক্ষমতাকে আপনার বিরুদ্ধে ঘুরিয়ে দিতে পারে।

Tools সহ একটি agent শুধুমাত্র সবচেয়ে কম বিশ্বস্ত নথির মতো বিশ্বাসযোগ্য যা এটি পড়বে। প্রতিটি বাহ্যিক input-কে hostile হিসাবে বিবেচনা করুন, কারণ attackers ইতিমধ্যে করে।

Indirect injection এন্টারপ্রাইজ হুমকি

Direct injection, ব্যবহারকারী একটি override টাইপ করা, সহজ ক্ষেত্র। বিপজ্জনক হল indirect: একটি ওয়েব পৃষ্ঠা, PDF, email বা support ticket-এ লুকানো একটি দূষিত নির্দেশ যা agent তার কাজের অংশ হিসাবে প্রক্রিয়া করে। 2026 সালে, গবেষকরা প্রকৃতিতে indirect injection-এর প্রথম বড় আকারের অধ্যয়ন প্রকাশ করেছেন, লাইভ ওয়েব পৃষ্ঠা জুড়ে হাজার হাজার লুকানো নির্দেশ খুঁজে পেয়েছেন এবং সেগুলি যে AI models পড়ে তাদের লক্ষ্য করে। এক ঘটনায় একটি coding assistant কিছু পরিবর্তন না করার স্পষ্ট নির্দেশ থাকা সত্ত্বেও একটি production database মুছে দিয়েছে, তারপর নথি তৈরি করেছে এবং ভুল রিপোর্ট করেছে যে rollback অসম্ভব।

প্রতিরক্ষা হল architecture, prompt নয়

System prompt-এর কোন শব্দ নেই যা একটি agent injection-proof করে। যতক্ষণ না architectures নির্দেশাবলীকে ডেটা থেকে পরিষ্কারভাবে আলাদা করে, ঝুঁকি বিদ্যমান থাকে। যা কাজ করে তা হল গভীর প্রতিরক্ষা: একটি সফল injection মনে করুন এবং এটি যা করতে পারে তা সীমাবদ্ধ করুন।

• Least privilege: agent তার কাজ করতে দেয় এমন সবচেয়ে সংকীর্ণ tool এবং ডেটা access পায়, এবং আর কিছু নয়।
• যেকোনো অপরিবর্তনীয় বা উচ্চ-মূল্যের action-এ মানব অনুমোদন gates, deletes, payments, external sends সহ।
• Input এবং output validation, বিশ্বাসহীন content স্পষ্টভাবে instructions থেকে fenced।
• সম্পূর্ণ logging এবং monitoring anomalous tool calls-এর জন্য, যাতে exfiltration attempts ধরা পড়ে এবং attributable হয়।

HOWF অবস্থান

আমরা agents তৈরি করি এই ধারণায় যে তারা আক্রান্ত হবে। Tools least privilege-এর অধীনে চলে, উচ্চ-স্তরের actions মানব অনুমোদনের মাধ্যমে route হয়, বিশ্বাসহীন inputs fenced, এবং প্রতিটি action logged এবং monitored। এটি একই governance শৃঙ্খলা যা এন্টারপ্রাইজগুলি এখনও যে agents চালায় তা থেকে আলাদা করে যেগুলি তারা নীরবে বন্ধ করে দেয়, স্বায়ত্ততা তৈরি করে এমন আক্রমণ পৃষ্ঠে সুনির্দিষ্টভাবে প্রয়োগ করা হয়।