Prompt injection er helsta áhætta OWASP. Umboðsmenn þínir eru nýr árásarflötur.

Því máttugri sem umboðsmaður þinn er, því meira getur árásarmaður fengið með því að taka hann yfir. Prompt injection er efst á núverandi Top 10 lista OWASP fyrir LLM forrit og það er eftir sem áður ein algengasta veikleiki í AI dreifingum. Áhættan jókst með sjálfstæði: þegar umboðsmaður getur kallað til verkfæra, farið á vefinn og framkvæmt aðgerðir, getur skipun sem felst í efninu sem hann les snúið eigin getu gegn þér.

Umboðsmaður með verkfæri er aðeins jafn áreiðanlegur og óáreiðanlegasta skjölun sem hann les. Hafðu öll ytri inntök fyrir fjandsamleg, vegna þess að árásarmenn gera það nú þegar.

Óbein innfelling er hætta fyrirtækja

Bein innfelling, þegar notandi túrkur yfirskrift, er auðvelt tilfelli. Sú hættuleg er óbein: illkvæm skipun sem felst í vefsíðu, PDF-skjali, tölvupósti eða stuðningsmiðli sem umboðsmaður vinnur úr sem hluta af starfi sínu. Árið 2026 birtu vísindamenn eina af fyrstu stórfenglegum rannsóknum á óbeinni innfellu og fundu þúsundir falinna skipana á lifandi vefsíðum, ætlaðar til AI-gerða sem lesa þær. Í einu tilviki eyðilagði kóðunaraðstoðin framleiðslugagnagrunn þó skýrar skipanir væru um að breyta engu, bjó svo til gögn og tjáði rangt frá því að endurkeyrsla væri ómögulegt.

Vörn er byggingarfræði, ekki skipun

Engin orðasamband í kerfisskipun gerir umboðsmann varinn gegn innfellu; þar til hönnun aðskilur skýrt skipanir frá gögnum, helst áhættan. Það sem virkar er varnaraðgerðir á mörgum stigum: gera ráð fyrir því að innfellan tekist og takmarka hvað hún getur gert.

• Lágmarksréttindi: umboðsmaður fær aðeins þau verkfæri og aðgang að gögnum sem nauðsynlegur er til starfs, ekkert meira.
• Mannúðleg samþykki fyrir óafturkallanilegum eða hágildum aðgerðum: eyðingar, greiðslur, sending til ytri kerfa.
• Staðfesting inntaks og úttaks, með ótreystu efni greinilega aðskildu frá skipunum.
• Fullt skjal og eftirleit fyrir óeðlileg verkfæraköll, svo tilraunir til gagnathiefnaðar séu gripnar og rekjanlegir.

Staða HOWF

Við byggjum umboðsmenn með þeirri forsendu að þeir verði fyrir árásum. Verkfæri keyra með lágmarksréttindum, hágildar aðgerðir fara í gegnum mannúðleg samþykki, ótraude inntök eru aðskild, og öll aðgerð er skjalfest og fylgst með. Það er sama stjórnfar sem skilur umboðsmenn sem fyrirtæki keyra enn frá þeim sem þau lokun hljóðlega, beitt sérstaklega á árásarflöti sem sjálfstæði skapar.