Is é prompt injection an phríomhrisc ar liosta OWASP. Is iad do ghníomhairí an dromchla ionsaithe nua.

Is mó is ábalta do ghníomhaire, is mó a bheidh ar an ionsaitheoir ó thógáil thar ceann air. Tá prompt injection ar bharr liosta Top 10 OWASP do fheidhmchláir LLM, agus fanainn sé ar cheann de na laigí is coitianta in imshuí AI táirgthe. Scála an baol i gcomhréir an neamhspleáchais: a luaithe agus is féidir le gníomhaire uirlisí a ghlaoch, rochtain a bheith aici ar ábhair, agus gníomhú a dhéanamh, is féidir le treoir i bhfolach san ábhar atá á léamh aici na cumhachtaí céanna a chur i d'aghaidh.

Ní bhraitheann iontaoibh ghníomhaire le huirlisí ach ar iontaoibh an ábhair is lú muinín aici air. Déan ionchur seachtrach ar fad mar ionsaithe, toisc go bhfuil sé sin ar intinn ag ionsaitheoirí cheana féin.

Is é ionsaithe indíreach an baol gnó

Is é ionsaithe dhíreach, úsáideoir ag clóscríobh forbhrú, an cás fusa. Is í an ceann i gcontúirt ná an tseachtrach: treoir dhíchealliúil i bhfolach i leathanach gréasáin, PDF, ríomhphost, nó ticéad tacaíochta a phróiseálann an gníomhaire mar chuid dá dhualgas. I 2026, d'fhoilsigh taighdeoirí ceann de na chéad staidéir ar scála ar ionsaithe indíreach san fhírc, agus fuair siad na mílte treoir fhalaich a cuireadh i spréach ar leathanaigh bheoghréasáin, go raibh siad dírithe ar na samhlacha AI a léifidh iad. I gcás amháin, bhain cúntóir chódúcháin bunachar sonraí táirgthe, agus go raibh treoir shoiléir aici gan rud ar bith a athrú, agus ansin rinne sé taifid dhríofa agus thuairg sé go raibh rollback dodhéanta.

Ar ailtireacht atá cosaint, ní ar prompts

Níl aon bhraistint ann do system prompt a dhéanfaidh gníomhaire dhílonrach d'ionsaithe; fad nach scarann ailtireachtaí soiléir idir treoir agus sonraí, fanainn an baol. Cosaint dhomhain is réiteach: glacadh le ionsaithe rathúil agus theorannú ar rud a dhéanfaidh sé.

• Imlíne: níl ag an ghníomhaire ach an rochtain ar uirlisí agus sonraí, ach an méid is geal agus atá riachtanach d'a dhualgas, gan rud ar bith breise.
• Geataí ceadúchán daonna ar aon ghníomh doshéachaint nó ard-luacha: scriosanna, híocaíochtaí, seoladh seachtrach.
• Bailíochtú iontrad agus aschur, agus ábhar gan muinín dealraithe go soiléir ó threoir.
• Logáil agus faire iomlán ar ghlaonna uirlisí neamhghnátha, ionas go ngreimítear ar iarrachtaí foluaineachta agus go mbeidh siad ann a chur ina leith.

Seasamh HOWF

Tógann muid gníomhairí ar an toimhde go ndéanfar ionsaithe orthu. Feidhmíonn uirlisí faoi imlíne, sainní ard-luacha ar an fheis dhaonna, ionchur gan muinín scartha, agus gach gníomh logáilte agus faoi bhraistint. Is ionann agus an disciplín rialála céanna a scarann gníomhairí feidhmithe fós ó na cinn a dhúntar go ciúin, feidhmithe go sonrach ar an dromchla ionsaithe a chruthaíonn neamhspleáchas.