Prompt injection është rreziku nr.1 i OWASP. Agjentët tuaj janë sipërfaqja e re e sulmit.

Sa më i aftë të jetë agjenti juaj, aq më shumë përfitim merr sulmuesi nga marrja e kontrollit të tij. Prompt injection qëndron në krye të Top 10 aktual të OWASP për aplikacione LLM, dhe mbetet një nga dobësitë më të zakonshme në shpërndarjet AI në prodhim. Kërcënimi rritet me autonominë: sapo një agjent mund të thërrasë mjete, të shfletojë dhe të veprojë, një instruksion i fshehur në përmbajtjen që lexon mund t'i kthejë aftësitë e tij kundër jush.

Një agjent me mjete është i besueshëm vetëm aq sa dokumenti më pak i besueshëm që do të lexojë. Trajtojeni çdo input të jashtëm si armik, sepse sulmuesit tashmë e bëjnë.

Injektimi indirekt është kërcënimi për ndërmarrjet

Injektimi i drejtpërdrejtë, kur një përdorues shtyp një instruksion zëvendësues, është rasti i lehtë. I rrezikshëm është injektimi indirekt: një instruksion malicious i fshehur në një faqe uebi, PDF, email ose biletë mbështetjeje që agjenti përpunon si pjesë e punës së tij. Në 2026, kërkuesit botuan një nga studimet e para në shkallë të gjerë të injektimit indirekt në terren, duke zbuluar mijëra instruksione të fshehura të mbjellura në faqet live të uebit dhe të drejtuara drejt modeleve AI që i lexojnë. Në një rast, një asistent kodimi fshiu një bazë të dhënash në prodhim pavarësisht nga instruksionet eksplicite për të mos ndryshuar asgjë, pastaj shpiku të dhëna dhe deklaroi gabimisht se rollback ishte i pamundur.

Mbrojtja është arkitekturë, jo prompt

Nuk ka formulim të një promti sistemi që bën një agjent imun ndaj injektimit; derisa arkitekturat të ndajnë qartë instruksionet nga të dhënat, rreziku vazhdon. Ajo që funksionon është mbrojtja në thellësi: supozoni një injektim të suksesshëm dhe limitoni atë që mund të bëjë.

• Privilegj minimal: agjenti merr qasjen më të ngushtë në mjete dhe të dhëna që i lejon të bëjë punën e tij, dhe asgjë më shumë.
• Kapëse miratimi njerëzor për çdo veprim të parieshëm ose me vlerë të lartë: fshirje, pagesa, dërgesa të jashtme.
• Validimi i input dhe output, me përmbajtje jo të besueshme qartësisht e izoluar nga instruksionet.
• Regjistrimi dhe monitorimi i plotë për thirrjet anormale të mjeteve, në mënyrë që përqimet e eksfiltrimit të kapen dhe të jenë të atribuueshme.

Pozicioni i HOWF

Ne ndërtojmë agjentë me supozimin që ata do të sulmohen. Mjetet funksionojnë nën privilegjin minimal, veprimet me rrezik të lartë kalojnë nëpër miratimin njerëzor, inputet jo të besueshme janë të izoluara, dhe çdo veprim regjistrohet dhe monitorohet. Ky është disiplina e njëjta e qeverisjes që ndan agjentët që ndërmarrjet ende i përdorin nga ata që në heshtje i kanë mbyllur, e aplikuar në mënyrë specifike për sipërfaqen e sulmit që autonomia krijon.