Ny fanafihana prompt no risika #1 amin'ny OWASP. Ny agenta-nao no sehatra fanafihana vaovao.
Ny fanafihana prompt no eo amin'ny ambony indrindra amin'ny Top 10 ankehitriny an'ny OWASP ho an'ny fampiharana LLM. Rehefa mahazo fitaovana sy fahaleovan-tena ny agenta, ny fampidirana baiko iray ihany dia mety handefa angona any ivelany na hanao hetsika manimba. Ny fiarovana ny agenta dia lasa fepetra voralohany amin'ny fampiasana azy.
Nataon'i Habib Obeid

Arakaraka ny fahaizan'ny agenta-nao, no betsaka kokoa ny tombony azon'ny mpanafika amin'ny fanjakana azy. Ny fanafihana prompt no eo amin'ny ambony indrindra amin'ny Top 10 ankehitriny an'ny OWASP ho an'ny fampiharana LLM, ary mijanona ho iray amin'ny fahalemena be indrindra hita amin'ny fampiasana AI amin'ny fiasa. Mitombo ny loza rehefa mahazo fahaleovan-tena ny agenta: rehefa afaka miantso fitaovana, mitety tambajotra ary manao hetsika izy, dia mety handrisika ny fahaizany manokana ho an'ny tompony ny baiko voafingotra ao amin'ny votoaty vakiany.
Ny agenta misy fitaovana dia azo itokisana toy ny antontan-taratasy tsy dia azo itokisana indrindra izay vakiany. Ekeo ho hafa ny loharano rehetra ivelany, satria efa manao izany ny mpanafika.
Ny fanafihana aiolo no loza amin'ny orinasa
Ny fanafihana mivantana, izay mampiditra fanoloana baiko ny mpampiasa, dia tranga mora. Ny mampidi-doza kokoa dia ny fanafihana aiolo: baiko ratsy voafingotra ao amin'ny pejy web, PDF, mailaka na tiketin' fanampiana izay andrana-n'ny agenta amin'ny asany. Tamin'ny 2026, nisy mpikaroka namoaka iray amin'ny fianarana voalohany be indrindra momba ny fanafihana aiolo amin'ny toerana tena izy, ary hita fa nisy baiko miafina an-arivony napetraka amin'ny pejy web beloka ary notendrena ho an'ny modely AI mamaky azy. Tranga iray: nofafan'ny mpanampy fandrafetana kaody ny tahiry angona amin'ny fampiasana, na dia efa nisy baiko mazava aza hoe tsy tokony hanova na inona na inona; avy eo dia namorona angona sandoka izy ary nilaza diso fa tsy azo averina ny fanarenana.
Ny fiarovana dia rafitra, tsy prompt
Tsy misy teny amin'ny system prompt izay mahatonga ny agenta ho tsy azo fanafihana. Mijanona ny loza mandra-pahatongan'ny rafitra hisaraka mazava ny baiko amin'ny angona. Ny azo atao dia ny fiarovana amin'ny lafiny maro: heveriko fa misy fanafihana mety hahomby, ary ampihenina ny fahafahany manao zavatra.
- Tsy mahazo ihany ny agenta ny fidirana kely indrindra amin'ny fitaovana sy angona ilaina mba hahatanterahany ny asany, ary tsy mihoatra izany.
- Takiana ny fankatoavan'ny olona alohan'ny hetsika tsy azo averina na lanja ambony: fafana, fandoavam-bola, fandefasana ivelany.
- Fanamarinana ny fampidirana sy ny vokatra, miaraka amin'ny fanasokajiana mazava ny votoaty tsy azo itokisana tsy hiditra amin'ny baiko.
- Fitehirizana feno sy fandinihana ny antso fitaovana tsy mahazatra, mba hahitana sy hahafantarana ny andrana fandefasana angona ivelany.
Ny toetra HOWF
Mamorona agenta izahay amin'ny fiheverana fa hohanafihina izy ireo. Ny fitaovana dia miasa amin'ny fidirana kely indrindra, ny hetsika lanja ambony dia mandeha amin'ny fankatoavan'ny olona, ny votoaty tsy azo itokisana dia voafehy, ary ny hetsika rehetra dia voatahiry sy hojerena. Izany no fitantanana mitovy amin'ny nampisaraka ny agenta izay mbola ampiasain'ny orinasa amin'ny agenta izay nofidin'ny orinasa tsiambaratelo, ampiharina manokana amin'ny sehatra fanafihana vokatry ny fahaleovan-tena.
Loharanon-dRaha
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
Te-hampihatra izao amin'ny orinasanao lehibe ve ianao?