Prompt injection OWASP’ning 1-xavfi. Agentlaringiz esa hujumning yangi yuzasi.
Prompt injection OWASP’ning LLM ilovalari uchun joriy Top 10 ro‘yxatida birinchi o‘rinda turadi. Agentlar vositalar va mustaqillikka ega bo‘lgan sari, bitta kiritilgan ko‘rsatma ma’lumotlarni o‘g‘irlashi yoki halokatli harakatni amalga oshirishi mumkin. Agentlarni himoyalash endi ularni joriy etishning shartiga aylandi.
Muallif: Habib Obeid

Agent qanchalik qobiliyatli bo‘lsa, uni egallashdan hujumchi shuncha ko‘p foyda oladi. Prompt injection OWASP’ning LLM ilovalari uchun joriy Top 10 ro‘yxatida birinchi o‘rinda turadi va u ishlab turgan AI tizimlaridagi eng keng tarqalgan zaifliklardan biri bo‘lib qolmoqda. Xavf mustaqillik darajasi bilan birga oshdi: agent vositalarni chaqira, veb-sahifalarni ko‘ra va harakat qila boshlagach, u o‘qiydigan kontentga yashirilgan ko‘rsatma o‘zining imkoniyatlarini sizga qarshi burishi mumkin.
Vositalarga ega agentga ishonch uni o‘qiydigan eng kam ishonchli hujjat darajasida bo‘ladi. Har bir tashqi kiritmani dushman sifatida ko‘ring, chunki hujumchilar buni allaqachon qilishmoqda.
Bilvosita injection korxonalar uchun asosiy tahdid
To‘g‘ridan-to‘g‘ri injection, ya’ni foydalanuvchi o‘zgartirish ko‘rsatmasini yozishi, oson holat. Xavfliroq turi bilvosita injection: agent o‘z vazifasi doirasida qayta ishlaydigan veb-sahifa, PDF, elektron xat yoki qo‘llab-quvvatlash so‘rovida yashirilgan zararli ko‘rsatma. 2026-yilda tadqiqotchilar bilvosita injectionning real sharoitdagi eng yirik tadqiqotlaridan birini e’lon qilishdi. Ular jonli veb-sahifalarga joylashtirilgan va ularni o‘qiydigan AI modellariga qaratilgan minglab yashirin ko‘rsatmalarni aniqlashdi. Bir holatda kodlash yordamchisi hech narsani o‘zgartirmaslik haqidagi aniq ko‘rsatmaga qaramay, ishlab chiqarish ma’lumotlar bazasini o‘chirib yubordi, so‘ngra yozuvlarni soxtalashtirdi va qaytarish mumkin emasligi haqida noto‘g‘ri xabar berdi.
Himoya – prompt emas, arxitektura
Hech qanday tizim ko‘rsatmasi agentni injectiondan himoyalay olmaydi. Arxitekturalar ko‘rsatmalarni ma’lumotlardan aniq ajratmaguncha, xavf saqlanib qoladi. Samarali yondashuv – ko‘p qatlamli himoya: muvaffaqiyatli injection sodir bo‘lishini taxmin qiling va uning qila oladigan ishlarini cheklang.
- Kam huquq tamoyili: agentga o‘z vazifasini bajarishga yetarli bo‘lgan eng tor vositalar va ma’lumotlarga kirish huquqi beriladi, undan ortig‘i berilmaydi.
- Qaytarib bo‘lmaydigan yoki yuqori qiymatli har qanday harakat uchun inson tasdiqlash bosqichlari: o‘chirish, to‘lovlar, tashqi jo‘natmalar.
- Kiritma va chiqarma tekshiruvi, ishonchsiz kontent ko‘rsatmalardan aniq ajratilgan holda.
- Shubhali vositalar chaqiruvlarini kuzatish uchun to‘liq jurnal yuritish va monitoring, shunda ma’lumotlarni chiqarib olish urinishlari aniqlanadi va kimga tegishliligi aniqlanadi.
HOWF yondashuvi
Biz agentlarni ularga hujum qilinishi aniq deb hisoblagan holda quramiz. Vositalar kam huquq tamoyili asosida ishlaydi, yuqori xavfli harakatlar inson tasdiqlashiga yo‘naltiriladi, ishonchsiz kiritmalar ajratiladi va har bir harakat jurnalga yoziladi hamda kuzatiladi. Bu korxonalar hanuz ishlatayotgan agentlarni jim holda to‘xtatib qo‘yganlaridan ajratib turadigan o‘sha boshqaruv intizomi bo‘lib, mustaqillik yaratadigan hujum yuzasiga aynan qo‘llanadi.
Manbalar
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
Buni korxonangizga qo‘llashni istaysizmi?