Prompt injection нь OWASP-ын нэг дүгээр эрсдэл юм. Таны agents нь шинэ халдлагын гадаргуу байна.

Agent нь илүү чадалтай байх тусам, халдагч түүг эзлүүлэхээс илүү ашиг авна. Prompt injection нь OWASP-ын одоогийн LLM хэрэглээний Top 10-т үндсэн байна, мөн энэ нь үйлдвэрлэлийн AI системүүдийн хамгийн нийтлэг сулруулалтуудын нэг хэвээр байна. Эрсдэл autonomy-тай пропорциональ өсдөг: agent нь хэрэгслүүдийг дуудах, сүлжээгээр сурвалжлах, үйл ажиллагаа явуулах чадалтай болсон үед, түүний уншиж буй контентод нуулагдсан зааварлага түүний өөрийн чадалуудыг таны эсрэг ашиглуулж болно.

Хэрэгслүүдтэй agent нь зөвхөн энэ уншихаар буй хамгийн эргэлзээтэй баримт бичигтэй адил найдвартай байна. Гадны оруулалт бүрийг сөрөг гэж үзнэ, халдагчид аль хэдий нь ийм хийж байна.

Шууд бус injection нь байгууллагын үндсэн аль эрсдэл юм

Шууд injection нь үйлэхүүлэгчийн гарас ирдэг үг, энэ хялбар юм. Үнэндээ эрсдэлтэй нь шууд бус injection юм: вэб хуудас, PDF, и-мэйл, эсвэл дэмжлэгийн асуулгад нуулагдсан хортой зааварлага, agent нь үүнийг ажилын явцад боловсруулдаг. 2026 онд судлаачид шууд бус injection-ийн явлага дээрх анхны томоохон судалгаа нэгийг нийтэвлүүлсэн, идэвхитэй вэб сайтуудад нуулагдсан мянган зааварлагыг мэдрүүлсэн. Нэг жишээн дээр кодлогч асистант "юу ч солихгүй" гэх сургаалт байсан үед ч үйлдвэрлэлийн өгөгдлийн сан устгасан, бүртгэлүүдийг хуурамчилсан, буцаалт боломжгүй гэж буруу мэдээлсэн.

Хамгаалалт нь архитектура, сургаалт биш юм

Систем сургаалтын ямар нэг үгээр agent-ыг injection-аас хамгаалж чадахгүй; архитектурууд сургаалтуудыг өгөгдлөөс тод тусгаарлах хүртэл эрсдэл үргэлжилнэ. Үр дүнтэй нь гүнийн хамгаалалт: амжилтжсан injection-ыг таамаглаж, энэ хийх чадалыг хязгаарла.

• Хамгийн сул эрх: agent нь түүний ажилдаа шаардлагатай хамгийн нарийн хэрэгсэл болон өгөгдлийн хандалтыг авдаг.
• Хүний батламжны хаалга ямар ч буцаах боломжгүй, үнэ цэнэтэй үйлдлүүдэд: устгалт, төлөлт, гадны илгээлт.
• Оруулалт болон гаралтын баталгаажуулалт, итгэмжүүлэгдээгүй контент сургаалтуудаас цэнгэлэн тусгаарлагдсан.
• Бүрэн бүртгээлэл болон ажиглалт сөргүүлэгдэх tool дуудлагуудын хувьд, ингэснээр өгөгдлийн сугалалтын оролдлогуудыг барьж, үүлэгдэлийг тогтоож болно.

HOWF-ын байр суурь

Agents-ыг бид халдлагатай болно гэж таамагла үед баригдаж байна. Хэрэгслүүд хамгийн сул эрхийн доор ажилладаг, өндөр үнэ цэнэтэй үйлдлүүд хүний батламж хүлээж явдаг, итгэмжүүлэгдээгүй мэдээллэл тусгаарлагдсан байна, бүх үйлдлүүд бүртгээлэгдэж ажиглагдаж байна. Энэ нь байгууллагуудыг үргэлжүүлэн ажилласгадаг agents-ыг цүхэлдэн хаадаг agents-ыг салгаж өгдөг ижил удирдамжийн сахилга бөгөөд autonomy үүсгэдэг халдлагын гадаргуу дээр ашиглагдаж байна.