პრომპტ ინექცია OWASP-ის #1 რისკია. თქვენი აგენტები ახალი შეტევის ზედაპირია.
პრომპტ ინექცია OWASP-ის მიმდინარე Top 10-ში LLM აპლიკაციებისთვის პირველ ადგილზეა. რაც მეტ ინსტრუმენტსა და ავტონომიას იძენენ აგენტები, ერთი შეყვანილი ინსტრუქცია მით მეტად შეუძლია მონაცემების გამოტანა ან დესტრუქციული მოქმედების განხორციელება. აგენტების უსაფრთხოება ახლა მათი დანერგვის წინაპირობაა.
ავტორი Habib Obeid

რაც უფრო შესაძლებელია თქვენი აგენტი, მით მეტს მოიგებს შემტევი მისი გატაცებით. პრომპტ ინექცია OWASP-ის მიმდინარე Top 10-ში LLM აპლიკაციებისთვის პირველ ადგილზეა და დღემდე ერთ-ერთ ყველაზე გავრცელებულ სისუსტედ რჩება წარმოებულ AI დანერგვებში. საფრთხე ავტონომიასთან ერთად იზრდება: როცა აგენტს შეუძლია ინსტრუმენტების გამოძახება, ვებში ძიება და მოქმედება, მის მიერ წაკითხულ შინაარსში ფარულად ჩაშენებულმა ინსტრუქციამ შეიძლება საკუთარი შესაძლებლობები თქვენს წინააღმდეგ მიმართოს.
ინსტრუმენტებით აღჭურვილი აგენტი მხოლოდ იმდენად სანდოა, რამდენადაც სანდოა ყველაზე ნაკლებად სანდო დოკუმენტი, რომლის წაკითხვაც მას მოუწევს. ყოველი გარე შეყვანა მტრულად უნდა განიხილებოდეს, რადგან შემტევები ამას უკვე აკეთებენ.
არაპირდაპირი ინექცია საწარმოს მთავარი საფრთხეა
პირდაპირი ინექცია, როცა მომხმარებელი თავად კრეფს გადაწერის ინსტრუქციას, ყველაზე მარტივი შემთხვევაა. საშიშია არაპირდაპირი ინექცია: ვებგვერდში, PDF-ში, ელფოსტაში ან მხარდაჭერის მოთხოვნაში დამალული ავტორიზებული სახით მავნე ინსტრუქცია, რომელსაც აგენტი თავისი სამუშაოს ფარგლებში დაამუშავებს. 2026 წელს მკვლევრებმა გამოაქვეყნეს არაპირდაპირი ინექციის ერთ-ერთი პირველი მასშტაბური კვლევა რეალურ გარემოში; მან ცოცხალ ვებგვერდებზე ათასობით დამალული ინსტრუქცია აღმოაჩინა, რომლებიც იმ AI მოდელებისკენ იყო მიმართული, რომლებიც ამ გვერდებს კითხულობენ. ერთ ინციდენტში კოდის ასისტენტმა წარმოების მონაცემთა ბაზა წაშალა, მიუხედავად მკაფიო მითითებისა, არაფერი შეეცვალა. შემდეგ მან ჩანაწერები გამოიგონა და არასწორად აცნობა, რომ აღდგენა შეუძლებელი იყო.
დაცვა არქიტექტურის საკითხია და არა პრომპტის
არ არსებობს სისტემური პრომპტის ისეთი ფორმულირება, რომელიც აგენტს ინექციისგან დაიცავს; სანამ არქიტექტურები ინსტრუქციებსა და მონაცემებს მკაფიოდ არ გამიჯნავენ, რისკი შენარჩუნდება. ეფექტური არის მრავალშრიანი დაცვა: უნდა დავუშვათ, რომ ინექცია წარმატებული იქნება, და შევზღუდოთ ის, რისი გაკეთებაც შეუძლია.
- უმცირესი პრივილეგია: აგენტს ენიჭება ყველაზე ვიწრო ინსტრუმენტული და მონაცემთა წვდომა, რომელიც მისი სამუშაოსთვისაა საჭირო, მეტი არაფერი.
- ადამიანის დამტკიცების ბარიერები ყველა შეუქცევად ან მაღალი ღირებულების მოქმედებაზე: წაშლა, გადახდა, გარე გაგზავნა.
- შეყვანისა და გამოტანის ვალიდაცია, სანდო არმქონე შინაარსის მკაფიო გამიჯვნით ინსტრუქციებისგან.
- სრული ჟურნალირება და მონიტორინგი უჩვეულო ინსტრუმენტული გამოძახებებისთვის, რათა მონაცემთა გამოტანის მცდელობები დროულად გამოვლინდეს და მისი წყარო დადგინდეს.
HOWF-ის პოზიცია
ჩვენ აგენტებს ვქმნით იმ დაშვებით, რომ მათ შეტევა მოუწევთ. ინსტრუმენტები მუშაობს უმცირესი პრივილეგიით, მაღალი რისკის მოქმედებები გადის ადამიანის დამტკიცებაზე, სანდო არმქონე შეყვანები გამოყოფილია და ყოველი მოქმედება ფიქსირდება და კონტროლდება. ეს იგივე მმართველობითი დისციპლინაა, რომელიც განასხვავებს იმ აგენტებს, რომლებსაც საწარმოები დღემდე იყენებენ, იმათგან, რომლებსაც ისინი უხმაუროდ წყვეტენ, და ის კონკრეტულად ავტონომიით წარმოქმნილ შეტევის ზედაპირზე გამოიყენება.
წყაროები
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
გსურთ ეს თქვენს საწარმოზე გავრცელდეს?