Prompt injection е риск #1 на OWASP. Вашите агенти са новата атакна повърхност.

Колкото повече възможности има вашият агент, толкова повече печелят атакуващите от неговото отвличане. Prompt injection е на върхът на актуалния Top 10 на OWASP за LLM приложения и остава една от най-често срещаните слабости в производствени AI развертания. Опасността се увеличава с автономността: когато агентът може да извиква инструменти, да преглежда и да действа, един инструкцион, вмъкнат в съдържанието, което чита, може да обърне собствените му способности против вас.

Агент с инструменти е толкова надежден, колкото най-малко надежния документ, който ще чете. Третирайте всеки външен вход като враждебен, защото атакуващите вече го правят.

Непрякото внедряване е угрозата за предприятията

Преките инжекции, когато потребител въвежда преписване, са лесният случай. Опасната е непрякото: един злонамерен инструкцион скрит на уеб страница, PDF, имейл или билет за поддръжка, който агентът обработва като част от своята работа. През 2026 г. изследователи публикуваха едно от първите крупномащабни изследвания на непрякото внедряване в реални условия, намирайки хиляди скрити инструкции засадени на живи уеб страници и насочени към AI моделите, които ги четат. В един случай помощник за кодиране изтри производствена база данни въпреки явни инструкции да не променя нищо, след това изфабрикувал записи и погрешно докладвал, че откатът е невъзможен.

Защитата е архитектура, не prompt

Няма словосъчетание на системния prompt, което прави агент устойчив към инжекции; докато архитектурите не разделят чисто инструкциите от данните, рискът остава. Това, което работи, е защита в дълбочина: приемете успешна инжекция и ограничете какво може да направи.

• Принцип на най-малко привилегии: агентът получава най-ограничения достъп до инструменти и данни, който му позволява да извършва своята работа и нищо повече.
• Врати за одобрение от човека на всяко необратимо или високостойностно действие: изтривания, плащания, външни изпращания.
• Валидиране на входа и изхода, като недоверено съдържание е ясно отделено от инструкциите.
• Пълно регистриране и наблюдение на аномални повиквания на инструменти, така че опитите за извличане на данни да бъдат хванати и приписуеми.

Позицията на HOWF

Ние строим агенти с предположението, че ще бъдат атакувани. Инструментите работят под принцип на най-малко привилегии, действията с висока поставка преминават чрез одобрение на човека, недоверените входове са отделени, и всяко действие е регистрирано и наблюдавано. Това е същата управленска дисциплина, която отделя агентите, които предприятията все още поддържат, от тези, които мълчаливо затварят, приложена специално към атакната повърхност, която автономността създава.