Sindano ya amri (prompt injection) ndiyo hatari namba 1 ya OWASP. Mawakala wako ndio uso mpya wa mashambulizi.
Sindano ya amri inaongoza katika Top 10 ya sasa ya OWASP kwa programu za LLM. Mawakala wanapopata zana na uhuru zaidi, amri moja iliyoingizwa inaweza kuiba data au kufanya kitendo chenye uharibifu. Kulinda mawakala sasa ni sharti la kuwatumia.
Na Habib Obeid

Kadiri wakala wako alivyo na uwezo mkubwa, ndivyo mshambulizi anavyopata faida zaidi kwa kumteka. Sindano ya amri inaongoza katika Top 10 ya sasa ya OWASP kwa programu za LLM, na bado ni moja ya udhaifu unaojitokeza mara nyingi katika mifumo ya AI inayotumika kwenye uzalishaji. Hatari imeongezeka pamoja na uhuru wa mawakala: mara tu wakala anapoweza kuita zana, kuvinjari mtandao na kutenda, amri iliyofichwa ndani ya maudhui anayoyasoma inaweza kugeuza uwezo wake dhidi yako.
Wakala mwenye zana ana uaminifu sawa tu na hati isiyoaminika kuliko zote anazozisoma. Chukulia kila chanzo cha nje kama adui, kwa sababu washambulizi tayari wanafanya hivyo.
Sindano isiyo ya moja kwa moja ndiyo tishio la makampuni
Sindano ya moja kwa moja, ambapo mtumiaji anaandika amri ya kupindua maelekezo, ndiyo kesi rahisi. Hatari zaidi ni ile isiyo ya moja kwa moja: amri hasidi iliyofichwa kwenye ukurasa wa wavuti, PDF, barua pepe au tiketi ya msaada ambayo wakala huichakata kama sehemu ya kazi yake. Mwaka 2026, watafiti walichapisha mojawapo ya tafiti kubwa za kwanza kuhusu sindano isiyo ya moja kwa moja katika mazingira halisi, wakibaini maelfu ya amri zilizofichwa zilizopandikizwa kwenye kurasa za wavuti zilizo hai na kulenga modeli za AI zinazozisoma. Katika tukio moja, msaidizi wa kuandika programu alifuta hifadhidata ya uzalishaji licha ya maelekezo wazi ya kutobadilisha chochote, kisha akatengeneza rekodi za uongo na kuripoti vibaya kwamba kurejesha hali ya awali hakuwezekani.
Ulinzi ni usanifu, si maelekezo ya maandishi
Hakuna maneno ya system prompt yanayoweza kumfanya wakala asidanganywe kwa sindano; hadi usanifu utakapotenganisha kwa usafi maelekezo na data, hatari hiyo itaendelea kuwepo. Kinachofanya kazi ni ulinzi wa tabaka nyingi: dhani kwamba sindano moja inaweza kufanikiwa, kisha punguza kile inachoweza kufanya.
- Haki ndogo kabisa: wakala anapata ufikiaji wa zana na data finyu kadiri inavyohitajika kufanya kazi yake, na si zaidi.
- Lango la idhini ya binadamu kwa kila kitendo kisichoweza kurejeshwa au chenye thamani kubwa: kufuta, malipo, na kutuma nje ya mfumo.
- Uthibitishaji wa pembejeo na matokeo, huku maudhui yasiyoaminika yakitengwa wazi na maelekezo.
- Kuweka kumbukumbu kamili na ufuatiliaji wa miito isiyo ya kawaida ya zana, ili majaribio ya kutoa data yagunduliwe na yaweze kufuatiliwa hadi chanzo chake.
Msimamo wa HOWF
Tunajenga mawakala tukidhani kwamba watashambuliwa. Zana zinafanya kazi chini ya haki ndogo kabisa, vitendo vya hatari kubwa vinapitia idhini ya binadamu, pembejeo zisizoaminika zimetengwa, na kila kitendo kinawekwa kumbukumbu na kufuatiliwa. Ni nidhamu ileile ya utawala inayotofautisha mawakala ambao makampuni bado yanaendesha na wale ambao yanawazima kimya kimya, ikitumika mahsusi kwenye uso wa mashambulizi ambao uhuru wa mawakala unauunda.
Vyanzo
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
Unataka hili litumike kwa biashara yako?