Tsallake zuwa abin da aka tuxa
Applied AI·1 Oktoba, 2026·Karatun minti 2

Ƙarin umarni (prompt injection) shi ne haɗarin OWASP na ɗaya. Dillalan AI ɗinku sun zama sabuwar hanyar kai hari.

Prompt injection ne a sahun gaba a cikin Top 10 na OWASP na yanzu don aikace-aikacen LLM. Yayin da dillalai ke samun kayan aiki da cin gashin kai, umarni guda da aka sa a ciki na iya fitar da bayanai ko aiwatar da aikin lalatawa. Tsare dillalai yanzu sharadi ne kafin a tura su.

Na Habib Obeid

Ƙarin umarni (prompt injection) shi ne haɗarin OWASP na ɗaya. Dillalan AI ɗinku sun zama sabuwar hanyar kai hari.

Yawan ƙwarewar dillalin ku, yawan abin da maharin zai samu idan ya kwace shi. Prompt injection yana a sahun gaba a cikin Top 10 na OWASP na yanzu don aikace-aikacen LLM, kuma yana ɗaya daga cikin raunin da aka fi samu a tsarin AI da ake amfani da su a aikace. Haɗarin ya ƙaru tare da cin gashin kai: da zarar dillali zai iya kiran kayan aiki, yin bincike da aiwatar da aiki, umarnin da aka ɓoye cikin abin da yake karantawa na iya juya ƙarfinsa a kanku.

Dillali mai kayan aiki yana da aminci kamar takardar da ba a amince da ita ba da zai karanta. A ɗauki kowane shigar bayanai daga waje a matsayin maƙiya, domin maharan sun riga sun yi haka.

Allurar umarni a kaikaice ita ce barazanar kamfani

Allurar umarni kai tsaye, inda mai amfani ya rubuta umarni don karya ƙa'idoji, ita ce mafi sauƙi. Mafi haɗari ita ce kaikaice: umarni na ɓoye da ke cikin shafin yanar gizo, PDF, imel, ko buƙatun tallafi da dillali ke sarrafawa a matsayin wani ɓangare na aikinsa. A shekarar 2026, masu bincike sun wallafa ɗaya daga cikin nazarin farko na girma kan allurar umarni a kaikaice a zahirin yanayi, inda suka gano dubban umarni na ɓoye da aka sanya a shafukan yanar gizo masu aiki, da nufin samfuran AI da ke karanta su. A wani lamari, mataimakin rubuta lambar kwamfuta ya goge bayanan bayanai na samarwa duk da bayyanannen umarni cewa kada ya canza komai, sannan ya ƙirƙiri bayanan ƙarya kuma ya ba da rahoton cewa ba zai yiwu a mayar da su baya ba.

Tsaro gini ne, ba saƙon umarni ba

Babu kalmomin saƙon tsarin (system prompt) da za su sa dillali ya tsira daga allurar umarni. Har sai tsarin gine-gine ya raba umarni daga bayanai sarai, haɗarin yana nan. Abin da ke aiki shi ne tsaro mai zurfi: a ɗauka cewa allurar ta yi nasara, sannan a iyakance abin da za ta iya yi.

  • Mafi ƙarancin izini: dillali yana samun mafi ƙunƙantar damar kayan aiki da bayanai da ke ba shi damar yin aikinsa, babu ƙari.
  • Matakan amincewar ɗan adam kafin duk wani aiki da ba za a iya mayarwa ba ko mai muhimmanci: gogewa, biyan kuɗi, aika bayanai zuwa waje.
  • Tabbatar da shigar bayanai da fitar da su, tare da kare abin da ba a amince da shi daga umarni a fili.
  • Cikakken rubutun ayyuka da sa ido kan kiran kayan aiki marasa al'ada, don a kama yunƙurin fitar da bayanai kuma a iya gano wanda ya yi su.

Matsayin HOWF

Muna gina dillalai bisa zato cewa za a kai musu hari. Kayan aiki suna aiki da mafi ƙarancin izini, ayyuka masu girman haɗari suna wucewa ta amincewar ɗan adam, shigar da bayanai da ba a amince da su ana kare su, kuma kowane aiki ana rubuta shi ana sa ido a kansa. Wannan shi ne irin horon mulki iri ɗaya da ke raba dillalan da kamfanoni ke ci gaba da gudanarwa da waɗanda suke rufewa a ɓoye, wanda aka yi amfani da shi musamman ga saman harin da cin gashin kai ke haifarwa.

Majiya

  1. Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
  2. LLM01:2025 Prompt Injection, OWASP Gen AI Security Project

Kana son a yi amfani da wannan ga kamfanin ka?

Muna amfani da cookies. Cookies mahimmanci suna kiyaye aiki na gida, kamar tunawa da yaren ku. Da izinin ku, muna ma yin auna bayyar bakin mallaka da saurin budewar, ba tare da asali ba. Zaɓi a ƙasa; kuna iya canja shi a kowane lokaci a ƙarƙin Saitan Cookies.