Բաց թողեք բովանդակությունը
Կիրառական AI·1 հոկտեմբերի, 2026 թ.·2 րոպե ընթերցում

Ներարկումը (prompt injection) OWASP-ի #1 ռիսկն է: Ձեր գործակալները նոր հարձակման մակերես են:

Ներարկումը (prompt injection) գլխավորում է OWASP-ի LLM հավելվածների ներկայիս Top 10 ցուցակը: Երբ գործակալները ստանում են գործիքներ և ինքնուրույնություն, մեկ ներարկված հրահանգը կարող է տվյալներ արտահանել կամ կատարել կործանարար գործողություն: Գործակալների անվտանգությունն այսօր նրանց տեղակայման նախապայմանն է:

Հեղինակ՝ Habib Obeid

Ներարկումը (prompt injection) OWASP-ի #1 ռիսկն է: Ձեր գործակալները նոր հարձակման մակերես են:

Ինչքան ավելի ունակ է ձեր գործակալը, այնքան շատ է հարձակվողը շահում դրա առևանգումից: Ներարկումը գլխավորում է OWASP-ի LLM հավելվածների ներկայիս Top 10 ցուցակը և մնում է արտադրական AI տեղակայումների ամենատարածված խոցելիություններից մեկը: Վտանգն աճել է ինքնուրույնության հետ մեկտեղ. երբ գործակալը կարող է կանչել գործիքներ, դիտել վեբ և գործել, նրա կարդացած բովանդակության մեջ թաքցված հրահանգը կարող է իր սեփական հնարավորությունները շրջել ձեր դեմ:

Գործիքներ ունեցող գործակալը միայն նույնքան վստահելի է, որքան ամենաքիչ վստահելի փաստաթուղթը, որը նա կկարդա: Ամեն արտաքին մուտք համարեք թշնամական, քանի որ հարձակվողները արդեն այդպես են վարվում:

Անուղղակի ներարկումը ձեռնարկատիրական սպառնալիքն է

Ուղղակի ներարկումը, երբ օգտատերն ինքը մուտքագրում է վերացնող հրահանգ, հեշտ դեպքն է: Վտանգավորը անուղղակին է. կամ վնասակար հրահանգ է թաքնված վեբ էջում, PDF-ում, էլ. նամակում կամ աջակցության հարցումում, որը գործակալը մշակում է իր աշխատանքի ընթացքում: 2026 թվականին հետազոտողները հրապարակեցին անուղղակի ներարկման վերաբերյալ առաջին լայնածավալ ուսումնասիրություններից մեկը՝ հայտնաբերելով հազարավոր թաքնված հրահանգներ, որոնք տեղադրված էին գործող վեբ էջերում և ուղղված էին դրանք կարդացող AI մոդելներին: Մի դեպքում կոդ գրող օգնականը ջնջեց արտադրական տվյալների բազան՝ չնայած բացահայտ հրահանգին ոչինչ չփոխել. այնուհետև կեղծեց գրառումներ և սխալ հաղորդեց, որ վերականգնումն անհնար է:

Պաշտպանությունը ճարտարապետություն է, ոչ թե հրահանգ

Համակարգային հրահանգի ոչ մի ձևակերպում չի դարձնում գործակալին անխոցելի ներարկման նկատմամբ. քանի դեռ ճարտարապետությունները հստակորեն չեն տարանջատում հրահանգները տվյալներից, ռիսկը պահպանվում է: Արդյունավետ է խորը պաշտպանության մոտեցումը. ենթադրեք, որ ներարկումը հաջողվել է, և սահմանափակեք այն, ինչ այն կարող է անել:

  • Նվազագույն թույլտվություն. գործակալը ստանում է միայն իր աշխատանքը կատարելու համար անհրաժեշտ գործիքների և տվյալների նեղագույն մուտքը, ոչ ավելին:
  • Մարդկային հաստատման փուլեր ցանկացած անշրջելի կամ բարձր արժեք ունեցող գործողության համար՝ ջնջումներ, վճարումներ, արտաքին ուղարկումներ:
  • Մուտքի և ելքի վալիդացիա՝ չվստահելի բովանդակությունը հստակորեն առանձնացված հրահանգներից:
  • Լրիվ գրանցում և մոնիտորինգ անսովոր գործիքային կանչերի համար, որպեսզի տվյալների արտահանման փորձերը հայտնաբերվեն և վերագրելի լինեն:

HOWF-ի դիրքորոշումը

Մենք գործակալներ ենք կառուցում այն ենթադրությամբ, որ նրանց վրա հարձակում կլինի: Գործիքները աշխատում են նվազագույն թույլտվությամբ, բարձր ռիսկի գործողությունները անցնում են մարդկային հաստատման, չվստահելի մուտքերը առանձնացվում են, և յուրաքանչյուր գործողություն գրանցվում և վերահսկվում է: Սա նույն կառավարման կարգապահությունն է, որը տարբերում է այն գործակալներին, որոնք ձեռնարկությունները դեռ շահագործում են, նրանցից, որոնք լուռ անջատում են՝ կիրառված ինքնուրույնության ստեղծած հարձակման մակերեսի վրա:

Աղբյուրներ

  1. Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
  2. LLM01:2025 Prompt Injection, OWASP Gen AI Security Project

Ցանկանո՞ւմ եք սա կիրառել ձեր ձեռնարկությունում

Մենք օգտագործում ենք թխուկ. Հիմնական թխուկները ապահովում են կայքի գործառունակությունը, ինչպես ձեր լեզվի նախապատվության հիշեցումը: Ձեր համաձայնությամբ մենք նաև չափում ենք էջերի այցերը և բեռնման արագությունը՝ անանուն ձևով: Ընտրեք ստորև; ցանկացած ժամանակ կարող եք փոխել այն Թխուկի կարգավորումներում: