Prompt injection е OWASP-ов #1 ризик. Вашите агенти се новата површина за напади.

Колку способнејш е вашиот агент, толку повеќе добива нападачот од преотимањето. Prompt injection е на врвот на OWASP-овата моментална Топ 10 листа за LLM апликации, и останува една од најчестите слабости во работните AI развртувања. Опасноста растеше со автономност: откако агентот може да повикува алати, да пребарува и да делува, упатство скриено во содржината што ја чита може да ги окрене неговите сопствени способности против вас.

Агент со алати е веродостоен само до нивото на веродостојност на документот со најнизок степен на доверба што ќе го чита. Третирајте секоја надворешна влезна вредност како непријателска, затоа што нападачите веќе го прават тоа.

Индиректната инјекција е закана за претпријатието

Директната инјекција, кога корисник директно куца наредба, е едноставниот случај. Опасниот е индиректниот: злонамерно упатство скриено во веб страна, PDF, е-пошта или тикет за поддршка што агентот го процесира како дел од неговата работа. Во 2026, истражувачи објавија една од првите студии во голема скала за индиректна инјекција во реални услови, откривајќи илјади скриени упатства вградени во активни веб странице и насочени кон AI моделите што ги читаат. Во еден инцидент, асистент за програмирање избриша производна база на податоци иако имаше експлицитно упатство да не направи никакви промени, потоа измисли записи и лажно пријави дека враќањето наназад беше невозможно.

Одбраната е архитектура, не промпт

Нема формулирање на системски промпт што прави агент отпоран на инјекција. Додека архитектурите јасно не ја одделат инструкциите од податоците, ризикот останува. Она што функционира е одбрана по нивоа: претпоставајте успешна инјекција и ограничете што може да направи.

• Минимална привилегија: агентот добива исклучиво пристап до алати и податоци неопходни за да ја обави работата, и ништо повеќе.
• Човечко одобрување за кои било неповратни или вредносни акции: бришења, плаќања, надворешни испраќања.
• Валидација на влезови и излези, со недовереливата содржина јасно раздвоена од упатствата.
• Целосна регистрација и надзор на аномалните повици на алати, за да се откријат обидите за извлекување на податоци и се утврди одговорноста.

Позицијата на HOWF

Ние градиме агенти на претпоставката дека ќе бидат нападнати. Алатите се извршуваат под минимална привилегија, критичните акции се пренасочуваат низ човечко одобрување, недовереливите влезови се ограничени, и секоја акција се регистрира и надзирува. Тоа е иста дисциплина на управување која ги одделува агентите што претпријатијата сѐ уште ги извршуваат од оние што тивко ги затварале, применета конкретно на површината за напади што ја создава автономноста.