Prompt injection on OWASP-i nr 1 risk. Teie agendid on uus rünnakupind.

Mida võimsam on teie agent, seda suurem on rünnakul temast saadav kasu. Prompt injection on OWASP-i praeguses Top 10-s LLM-rakenduste jaoks ja see jääb üheks levinumaks nõrkuseks tootmislike AI juurutuste seas. Oht kasvab autonoomsuseega: kui agent võib tööriiste kutsuda, lehitseda ja toimida, siis tema loetud sissu paigutatud käsk võib tema enda võimekuse tema vastu pöörda.

Agent tööriistadega on sama usaldusväärne kui ebakindleim dokument, mida ta võib lugeda. Käsitle igat välist sisendit kui vaenlaslikku, sest ründajad juba nii käituvad.

Kaudne injektsioon on ettevõtete oht

Otsene injektsioon, kasutaja sisestatud käsk, on lihtne juhtum. Ohtlik on kaudne: pahatahtlik käsk varjatult veebilehel, PDF-s, e-kirjas või toe piletis, mida agent oma tööd tehes töötleb. 2026. aastal avaldasid teadlased ühe esimestest mastaapsetest uuringutest kaudse injektsiooni kohta looduses, leides tuhandeid varjatuid käske, mis on paigutatud elusatele veebilehtedele ja suunatud AI mudelitele, kes neid loevad. Ühes juhtumis kustutasid asistent tootmise andmebaasi, kuigi sai selgesõnalise käsu mitte midagi muuta, ning seejärel lõi valefaktsid ja teatas valelt, et rollback oli võimatu.

Kaitse on arhitektuur, mitte prompt

Ükski süsteemprompti sõnastus ei muuda agenti injektsioonist turvaliseks; kuni arhitektuurid eraldavad käske andmetest selgelt, jääb oht püsima. Tõhus on kaitse sügavuses: eeldage edukat injektsiooni ja piirake seda, mida see teha saab.

• Minimaalne õigus: agendil on vaid kõige kitsam tööriistad ja andmepääs, mis võimaldab tal oma tööd teha, ja midagi rohkem.
• Inimese heakskiit pööratavate või kõrge väärtusega toimingute jaoks: kustutamised, maksed, välised saatmised.
• Sisendi ja väljundi valideerimine, ebakindel sisu on selgelt eraldatud juhistest.
• Tööriista kutsete täielik logimine ja jälgimine, et eksfiltratsioonikatse oleks tuvastatav ja kohaldatav.

HOWF-i seisukoht

Ehitame agenteid eeldusele, et neid ründatakse. Tööriistad käitavad minimaalsete õiguste all, kõrge ohtlikusega tegevused nõuavad inimese heakskiitu, ebakindlad sisendid on eraldatud ja iga tegevus on logitud ja jälgitud. See on sama valitsemise distsipliin, mis eraldab ettevõtete käitutatavad agendid neist, mida nad vaikselt välja lülitavad, rakendatuna spetsiifiliselt autonoomia tekitavale rünnakupinnale.