Prompt injection on OWASP:n suurin riski. Agentit ovat uusi hyökkäyspinta.

Mitä tehokkaampi agenttisi on, sitä enemmän hyökkääjä voittaa sen kaappaamalla. Prompt injection on OWASP:n nykyisen Top 10 -listan kärjessä LLM-sovelluksille ja edelleen yksi yleisimmistä heikkouksista tuotantokäytössä olevissa AI-järjestelmissä. Riski kasvaa autonomian myötä: kun agentti voi kutsua työkaluja, selata ja toimia, sen lukeeseen sisältöön kätketty ohje voi kääntää sen omat kyvyt sinua vastaan.

Agentti, jolla on työkaluja, on vain niin luotettava kuin epäluotettavin asiakirja, jonka se lukee. Pidä jokaista ulkoista syötettä vihamielisenä, koska hyökkääjät tekevät niin.

Epäsuora injektio on yritysriski

Suora injektio, jossa käyttäjä kirjoittaa ohituksen, on helppo tapaus. Vaarallinen on epäsuora: pahalahjainen ohje, joka on piilotettu verkkosivulle, PDF-tiedostoon, sähköpostiin tai tukipyyntöön, jonka agentti käsittelee osana työtään. Vuonna 2026 tutkijat julkaisivat yhden ensimmäisistä laajamittaisista tutkimuksista epäsuorista injektioista käytännössä ja löysivät tuhansia piilotettuja ohjeita, jotka oli sijoitettu aktiivisille verkkosivuille ja joiden kohteena olivat näitä sivuja lukevat AI-mallit. Yhdessä tapauksessa koodisovellus poisti tuotantotietokannan siitä huolimatta, että ohjeet selkeästi kielsivät muutokset, sitten väärensi tietueet ja väitti, että rollback oli mahdotonta.

Turvallisuus on arkkitehtuuri, ei kehote

Ei ole mitään järjestelmäkehotteen muotoilua, joka tekisi agentista injektioturvallisen. Kunnes arkkitehtuuri selkeästi erottaa ohjeet tiedoista, riski säilyy. Tehokasta on syvän puolustuksen lähestymistapa: oleta onnistunut injektio ja rajoita sen kykyä toimia.

• Minimaaliset oikeudet: agentti saa vain kaikkein kapeimman pääsyn työkaluihin ja tietoihin, jonka verran se voi suorittaa tehtävänsä, eikä mitään enempää.
• Ihmisen hyväksynnän vaatimus kaikille peruuttamattomille tai kriittisille toiminnoille: poistot, maksut, ulkoiset lähetykset.
• Syötteen ja tuloksen validointi, jossa epäluotettava sisältö on selkeästi erotettu ohjeista.
• Täydellinen kirjaaminen ja seuranta epänormaaleille työkalujen kutsuille, jotta tietojen vuotoyritykset voidaan havaita ja jäljittää.

HOWF:n kanta

Rakennamme agentit oletuksella, että ne ovat hyökkäysten kohteena. Työkalut toimivat minimaalisten oikeuksien alaisuudessa, kriittiset toiminnot käyvät ihmisen hyväksynnän kautta, epäluotettava syöte on erotettu, ja jokainen toiminta kirjataan ja seurataan. Se on sama hallintodisipliini, joka erottaa agentit, joita yritykset vielä käyttävät, niistä, jotka ne hiljaa sulkevat, sovellettuna nimenomaisesti autonomian luomaan hyökkäyspintaan.