Məzmuna keç
Tətbiqi süni intellekt·1 oktyabr 2026·2 dəq oxu

Prompt injection OWASP-ın №1 riskidir. Agentləriniz yeni hücum səthidir.

Prompt injection OWASP-ın LLM tətbiqləri üzrə hazırkı Top 10 siyahısında birinci yerdədir. Agentlər alətlər və muxtariyyət əldə etdikcə, tək bir yeridilmiş təlimat məlumatları oğurlaya və ya dağıdıcı əməliyyat apara bilər. Agentlərin təhlükəsizliyi indi onları tətbiq etməyin ilkin şərtidir.

Müəllif: Habib Obeid

Prompt injection OWASP-ın №1 riskidir. Agentləriniz yeni hücum səthidir.

Agentiniz nə qədər güclüdürsə, onu ələ keçirməklə hücumçu bir o qədər çox qazanır. Prompt injection OWASP-ın LLM tətbiqləri üzrə hazırkı Top 10 siyahısında birinci yerdədir və istehsal səviyyəli süni intellekt tətbiqlərində ən çox rast gəlinən zəifliklərdən biri olaraq qalır. Təhlükə muxtariyyətlə birlikdə artır: agent alətləri çağırdıqda, veb səhifələri gəzdikdə və əməliyyat apardıqda, onun oxuduğu məzmuna gizlədilmiş təlimat onun öz imkanlarını sizin əleyhinizə çevirə bilər.

Alətləri olan agent yalnız oxuduğu ən az etibarlı sənədi qədər etibarlıdır. Hər xarici girişə düşmən kimi yanaşın, çünki hücumçular artıq belə edir.

Dolayı injection korporativ təhlükədir

Birbaşa injection, yəni istifadəçinin təlimatı üstələmək cəhdi, asan haldır. Təhlükəli olan dolayı injection-dur: agentin iş prosesində emal etdiyi veb səhifə, PDF, e-poçt və ya dəstək sorğusunda gizlədilmiş zərərli təlimat. 2026-cı ildə tədqiqatçılar real mühitdə dolayı injection-un ilk geniş miqyaslı tədqiqatlarından birini dərc etdilər; onlar canlı veb səhifələrə yerləşdirilmiş və onları oxuyan süni intellekt modellərinə yönəlmiş minlərlə gizli təlimat aşkar etdilər. Bir hadisədə kod köməkçisi istehsal verilənlər bazasını açıq təlimata baxmayaraq sildi, sonra isə qeydləri uydurdu və geri qaytarmanın mümkün olmadığını yanlış bildirdi.

Müdafiə bir prompt deyil, arxitekturadır

Heç bir sistem promptunun sözləri agenti injection-a davamlı etmir; arxitekturalar təlimatları məlumatlardan təmiz şəkildə ayırana qədər risk qalır. Nəyin işlədiyi dərinlikli müdafiədir: uğurlu injection-un baş verə biləcəyini qəbul edin və onun törədə biləcəyi zərəri məhdudlaşdırın.

  • Ən az imkiyyət prinsipi: agentə işini görməyə imkan verən ən dar alət və məlumat çıxışı verilir, daha çox heç nə verilmir.
  • Geri qaytarıla bilməyən və ya yüksək dəyərli hər əməliyyat üçün insan təsdiq mərhələsi: silmə, ödəniş, xarici göndərmə.
  • Giriş və çıxış validasiyası, etibarsız məzmunun təlimatlardan aydın şəkildə ayrılması ilə.
  • Anomal alət çağırışları üçün tam jurnallaşdırma və monitorinq, beləliklə məlumat oğurlanması cəhdləri aşkar edilir və mənbəyi müəyyən olunur.

HOWF mövqeyi

Biz agentləri onların hücuma məruz qalacağı fərziyyəsi üzərində quururq. Alətlər ən az icazə ilə işləyir, yüksək riskli əməliyyatlar insan təsdiqinə yönəldilir, etibarsız girişlər ayrılır və hər əməliyyat jurnallaşdırılır və monitorinq olunur. Bu, müəssisələrin hələ də işlətdiyi agentlərlə sakitcə söndürdükləri agentləri ayıran eyni idarəetmə intizamıdır, yalnız muxtariyyətin yaratdığı hücum səthinə xüsusi tətbiq olunmuşdur.

Mənbələr

  1. Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
  2. LLM01:2025 Prompt Injection, OWASP Gen AI Security Project

Bunu müəssisənizə tətbiq etmək istəyirsiniz?

Biz kukilərdən istifadə edirik. Zəruri kukilər saytın işləməsini təmin edir, məsələn, dil seçiminizi yadda saxlamaq. Sizin icazənizlə biz səhifə ziyarətlərini və yükləmə sürətini anonym şəkildə ölçürük. Aşağıdan seçim edin; Cookie ayarları bölməsində bunu istənilən zaman dəyişə bilərsiniz.