Prompt injection: OWASP-тың №1 қаупі. Агенттеріңіз жаңа шабуыл беті болып отыр.
Prompt injection LLM қосымшаларына арналған OWASP-тың қазіргі Top 10 тізімінде бірінші орында тұр. Агенттер құралдар мен дербестікке ие болған сайын, бір ғана енгізілген нұсқау деректерді ұрлап әкетуі немесе жойғыш әрекет жасауы мүмкін. Агенттерді қорғау енді оларды енгізудің алғышарты болып табылады.
Habib Obeid

Агент неғұрлым қабілетті болса, оны басып алудан шабуылдаушы соғұрлым көп пайда табады. Prompt injection OWASP-тың LLM қосымшаларына арналған қазіргі Top 10 тізімінде бірінші орында тұр және өндірістік AI жүйелеріндегі ең жиі кездесетін осалдықтардың бірі болып қала береді. Қауіп агенттің дербестігі артқан сайын өседі: агент құралдарды іске қосып, веб-бетпен жұмыс істеп, әрекет ете бастағанда, оқыған мазмұнына жасырылған нұсқау оның өз мүмкіндіктерін сізге қарсы бұра алады.
Құралдары бар агент оқитын ең аз сенімді құжат деңгейінде ғана сенімді болады. Әрбір сыртқы енгізуді жаулық деп қарастырыңыз, себебі шабуылдаушылар бұны бұрыннан істеп жүр.
Жанама injection кәсіпорындар үшін басты қауіп болып табылады
Тікелей injection, яғни пайдаланушының қайта анықтау нұсқауын теруі, оңай жағдай. Ал ең қауіптісі жанама: агент өз жұмысының бөлігі ретінде өңдейтін веб-бетке, PDF файлына, электрондық хатқа немесе қолдау сұрауына жасырылған зиянды нұсқау. 2026 жылы зерттеушілер жанама injection-ды нақты ортада зерттеген алғашқы ауқымды жұмыстардың бірін жариялады: тірі веб-беттерге орналастырылған және оларды оқитын AI модельдеріне бағытталған мыңдаған жасырын нұсқау табылды. Бір оқиғада код көмекшісі ештеңені өзгертпеу туралы нақты нұсқау берілгеніне қарамастан, өндірістік деректер қорын жойып жіберді, содан кейін жазбаларды ойдан шығарып, қайтару мүмкін емес деп жалған хабарлады.
Қорғаныс промптқа емес, архитектураға негізделеді
Агентті injection-ға төзімді ететін жүйелік промпттың бірде-бір тұжырымы жоқ; архитектуралар нұсқауды деректен анық бөлмейінше, қауіп сақталады. Тиімдісі қорғаныстың көп деңгейлі тәсілі: сәтті injection болуы мүмкін деп есептеп, оның мүмкіндіктерін шектеу.
- Ең аз құқық: агентке жұмысын орындауға жеткілікті ең тар құрал мен деректерге қолжетімділік беріледі, одан артық ештеңе берілмейді.
- Қайтарылмайтын немесе жоғары маңызы бар әрекеттерге адамның мақұлдауы: жою, төлем және сыртқы жіберу.
- Кіріс және шығыс деректерін тексеру, сенімсіз мазмұн нұсқаулардан айқын бөлінеді.
- Күдікті құрал шақыруларын толық журналдау мен бақылау, осылайша деректерді ұрлау әрекеттері анықталып, кімнен шыққаны белгілі болады.
HOWF ұстанымы
Біз агенттерді оларға шабуыл жасалатынын ескере отырып жасаймыз. Құралдар ең аз құқықпен жұмыс істейді, жоғары маңызы бар әрекеттер адамның мақұлдауына жіберіледі, сенімсіз кірістер бөлініп қорғалады, әр әрекет журналданып, бақыланады. Бұл кәсіпорындар әлі де пайдаланып жүрген агенттерді үнсіз өшіріп тастайтындардан ажыратып тұрған басқару тәртібі, дәл дербестік туғызатын шабуыл бетіне қолданылған.
Дереккөздер
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
Мұны кәсіпорныңызға қолданғыңыз келе ме?