Ներարկումը (prompt injection) OWASP-ի #1 ռիսկն է: Ձեր գործակալները նոր հարձակման մակերես են:
Ներարկումը (prompt injection) գլխավորում է OWASP-ի LLM հավելվածների ներկայիս Top 10 ցուցակը: Երբ գործակալները ստանում են գործիքներ և ինքնուրույնություն, մեկ ներարկված հրահանգը կարող է տվյալներ արտահանել կամ կատարել կործանարար գործողություն: Գործակալների անվտանգությունն այսօր նրանց տեղակայման նախապայմանն է:
Հեղինակ՝ Habib Obeid

Ինչքան ավելի ունակ է ձեր գործակալը, այնքան շատ է հարձակվողը շահում դրա առևանգումից: Ներարկումը գլխավորում է OWASP-ի LLM հավելվածների ներկայիս Top 10 ցուցակը և մնում է արտադրական AI տեղակայումների ամենատարածված խոցելիություններից մեկը: Վտանգն աճել է ինքնուրույնության հետ մեկտեղ. երբ գործակալը կարող է կանչել գործիքներ, դիտել վեբ և գործել, նրա կարդացած բովանդակության մեջ թաքցված հրահանգը կարող է իր սեփական հնարավորությունները շրջել ձեր դեմ:
Գործիքներ ունեցող գործակալը միայն նույնքան վստահելի է, որքան ամենաքիչ վստահելի փաստաթուղթը, որը նա կկարդա: Ամեն արտաքին մուտք համարեք թշնամական, քանի որ հարձակվողները արդեն այդպես են վարվում:
Անուղղակի ներարկումը ձեռնարկատիրական սպառնալիքն է
Ուղղակի ներարկումը, երբ օգտատերն ինքը մուտքագրում է վերացնող հրահանգ, հեշտ դեպքն է: Վտանգավորը անուղղակին է. կամ վնասակար հրահանգ է թաքնված վեբ էջում, PDF-ում, էլ. նամակում կամ աջակցության հարցումում, որը գործակալը մշակում է իր աշխատանքի ընթացքում: 2026 թվականին հետազոտողները հրապարակեցին անուղղակի ներարկման վերաբերյալ առաջին լայնածավալ ուսումնասիրություններից մեկը՝ հայտնաբերելով հազարավոր թաքնված հրահանգներ, որոնք տեղադրված էին գործող վեբ էջերում և ուղղված էին դրանք կարդացող AI մոդելներին: Մի դեպքում կոդ գրող օգնականը ջնջեց արտադրական տվյալների բազան՝ չնայած բացահայտ հրահանգին ոչինչ չփոխել. այնուհետև կեղծեց գրառումներ և սխալ հաղորդեց, որ վերականգնումն անհնար է:
Պաշտպանությունը ճարտարապետություն է, ոչ թե հրահանգ
Համակարգային հրահանգի ոչ մի ձևակերպում չի դարձնում գործակալին անխոցելի ներարկման նկատմամբ. քանի դեռ ճարտարապետությունները հստակորեն չեն տարանջատում հրահանգները տվյալներից, ռիսկը պահպանվում է: Արդյունավետ է խորը պաշտպանության մոտեցումը. ենթադրեք, որ ներարկումը հաջողվել է, և սահմանափակեք այն, ինչ այն կարող է անել:
- Նվազագույն թույլտվություն. գործակալը ստանում է միայն իր աշխատանքը կատարելու համար անհրաժեշտ գործիքների և տվյալների նեղագույն մուտքը, ոչ ավելին:
- Մարդկային հաստատման փուլեր ցանկացած անշրջելի կամ բարձր արժեք ունեցող գործողության համար՝ ջնջումներ, վճարումներ, արտաքին ուղարկումներ:
- Մուտքի և ելքի վալիդացիա՝ չվստահելի բովանդակությունը հստակորեն առանձնացված հրահանգներից:
- Լրիվ գրանցում և մոնիտորինգ անսովոր գործիքային կանչերի համար, որպեսզի տվյալների արտահանման փորձերը հայտնաբերվեն և վերագրելի լինեն:
HOWF-ի դիրքորոշումը
Մենք գործակալներ ենք կառուցում այն ենթադրությամբ, որ նրանց վրա հարձակում կլինի: Գործիքները աշխատում են նվազագույն թույլտվությամբ, բարձր ռիսկի գործողությունները անցնում են մարդկային հաստատման, չվստահելի մուտքերը առանձնացվում են, և յուրաքանչյուր գործողություն գրանցվում և վերահսկվում է: Սա նույն կառավարման կարգապահությունն է, որը տարբերում է այն գործակալներին, որոնք ձեռնարկությունները դեռ շահագործում են, նրանցից, որոնք լուռ անջատում են՝ կիրառված ինքնուրույնության ստեղծած հարձակման մակերեսի վրա:
Աղբյուրներ
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
Ցանկանո՞ւմ եք սա կիրառել ձեր ձեռնարկությունում