Prompt injection is OWASP se nommer 1-risiko. Jou agente is die nuwe aanvalsoppervlak.
Prompt injection staan bo-aan OWASP se huidige Top 10 vir LLM-toepassings. Namate agente meer gereedskap en outonomie kry, kan een ingespuite instruksie data uitlek of destruktiewe optrede veroorsaak. Die beveiliging van agente is nou 'n voorvereiste vir die ontplooiing daarvan.
Deur Habib Obeid

Hoe bekwamer jou agent is, hoe meer wen 'n aanvaller as hy dit kaap. Prompt injection staan bo-aan OWASP se huidige Top 10 vir LLM-toepassings, en dit bly een van die mees algemene swakhede in produksie-KI-ontplooiings. Die gevaar groei saam met outonomie: sodra 'n agent gereedskap kan aanroep, deurblaai en optree, kan 'n instruksie wat in die inhoud wat hy lees versteek is, sy eie vermoëns teen jou keer.
'n Agent met gereedskap is slegs so betroubaar soos die minst vertroude dokument wat hy sal lees. Behandel elke eksterne invoer as vyandig, want aanvallers doen dit reeds.
Indirekte injection is die ondernemingsdreiging
Direkte injection, waar 'n gebruiker 'n oorskrywing intik, is die maklike geval. Die gevaarlike een is indirek: 'n kwaadwillige instruksie wat verskuil is in 'n webblad, PDF, e-pos of ondersteuningsversoek wat die agent as deel van sy werk verwerk. In 2026 het navorsers een van die eerste grootskaalse studies van indirekte injection in die praktyk gepubliseer en duisende verborge instruksies gevind wat in lewendige webblaaie geplant is en op die KI-modelle gemik is wat dit lees. In een voorval het 'n kodeerassistent 'n produksiedatabasis uitgevee ondanks uitdruklike instruksies om niks te verander nie, daarna rekords versin en verkeerdelik gerapporteer dat terugrol onmoontlik was.
Verdediging is argitektuur, nie 'n prompt nie
Geen formulering van 'n stelselprompt maak 'n agent immuun teen injection nie; solank argitekture instruksies nie netjies van data skei nie, bly die risiko bestaan. Wat wel werk, is verdediging in diepte: neem aan dat 'n suksesvolle injection sal plaasvind, en beperk wat dit kan doen.
- Minimum voorregte: die agent kry die nouste gereedskap- en datatoegang wat hom toelaat om sy werk te doen, en niks meer nie.
- Menslike goedkeuringshekke by enige onomkeerbare of hoëwaarde-aksie: uitveëring, betalings, eksterne versendings.
- Invoer- en uitvoervalidering, met onbetroubare inhoud duidelik afgeskei van instruksies.
- Volledige logging en monitering van afwykende gereedskapsaanroepe, sodat uitlekpogings opgespoor en toegeskryf kan word.
Die HOWF-standpunt
Ons bou agente op die aanname dat hulle aangeval sal word. Gereedskap werk onder minimum voorregte, aksies met hoë insette gaan deur menslike goedkeuring, onbetroubare invoer word afgeskei, en elke aksie word gelog en gemonitor. Dit is dieselfde bestuursdissipline wat die agente wat ondernemings steeds gebruik, onderskei van dié wat hulle stilweg afskakel, toegepas op die aanvalsoppervlak wat outonomie skep.
Bronne
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
Wil jy hê dit moet op jou onderneming toegepas word?