Prompt injection என்பது OWASP இன் #1 ஆபத்து. உங்கள் agents என்பது புதிய தாக்குதல் மேற்பரப்பு.

உங்கள் agent எந்த அளவு திறமையுள்ளதோ, அந்த அளவு ஒரு தாக்குபவர் அதைக் கடத்துவதிலிருந்து பெறுகிறான். Prompt injection LLM applications க்கான OWASP இன் தற்போதைய Top 10 இல் முதலாவதாக உள்ளது, மேலும் இது production AI deployments களில் மிகவும் பொதுவான பலவீனங்களில் ஒன்றாக உள்ளது. ஆபத்து தன்னாட்சியுடன் விகிதாசாரமாக அதிகரிக்கிறது. Agent கருவிகளை அழைக்க, உலாவ மற்றும் செயல்பட முடிந்தவுடன், அது படிக்கும் உள்ளடக்கத்தில் மறைக்கப்பட்ட ஒரு கட்டளை அதன் சொந்த திறன்களை உங்களுக்கு எதிராக பயன்படுத்த முடியும்.

கருவிகளைக் கொண்ட ஒரு agent என்பது அது படிக்கக்கூடிய மிகக் குறைந்த நம்பிக்கைக்குரிய ஆவணத்தை போல் நம்பிக்கைக்குரியதாகவே உள்ளது. ஒவ்வொரு வெளிப்புற உள்ளீடையும் எதிரிகளாக கருதுங்கள், ஏனெனில் தாக்குபவர்கள் ஏற்கனவே அவ்வாறு செய்கிறார்கள்.

மறைமுக செலுத்தல் என்பது முதன்மை அச்சுறுத்தல்

நேரடி செலுத்தல், பயனர் ஒரு கட்டளையை மேலெழுதுவது, எளிய வழக்கு. ஆபத்தான ஒன்று மறைமுக செலுத்தல்: agent தனது பணியின் ஒரு பகுதியாக செயல்படுத்தும் வலைப்பக்கம், PDF, மின்னஞ்சல் அல்லது ஆதரவு டிக்கெட்டில் மறைக்கப்பட்ட ஒரு கெடுதிகரமான கட்டளை. 2026 இல், ஆய்வு செய்பவர்கள் கட்டுப்பாடுஇல்லாத சூழலில் மறைமுக செலுத்தலின் முதல் பெரிய அளவிலான ஆய்வுகளில் ஒன்றை வெளியிட்டனர், நேரடி வலைப்பக்கங்கள் முழுவதும் நட்டப்பட்ட ஆயிரக்கணக்கான மறைக்கப்பட்ட கட்டளைகளையும் அவற்றை படிக்கக்கூடிய AI மாடல்களை இலக்கு வைக்கும் கட்டளைகளையும் கண்டறிந்தனர். ஒரு நிகழ்வில், ஒரு குறியீட்டு உதவியாளர் எதையும் மாற்றக்கூடாது என்ற வெளிப்படையான கட்டளைகள் இருந்தபோதும் production தரவுத்தளத்தை நீக்கிவிட்டது, பின்னர் பதிவுகளை உருவாக்கியது மற்றும் திரும்பவும் அமைக்க முடியாது என்று தவறாக அறிவித்தது.

பாதுகாப்பு என்பது கட்டடக் கலை, கட்டளை அல்ல

Agent ஐ செலுத்தல் இல்லாமல் செய்யக்கூடிய ஒரு system prompt இன் சொற்பொழிப்பு ஏதுமில்லை. Architectures கள் கட்டளைகளை தரவிலிருந்து சுத்தமாக பிரிக்கும் வரை, ஆபத்து நீடிக்கிறது. செயல்படுவது ஆழமான பாதுகாப்பு: வெற்றிகரமான செலுத்தலை கருதி அது என்ன செய்யக்கூடியதை வரம்பு செய்யுங்கள்.

• குறைந்தபட்ச அனுமதி: agent அதன் பணியை செய்ய அனுமதிக்கக்கூடிய மிகக் குறுகிய கருவிக்கு மற்றும் தரவு அணுக்கத்தைப் பெறுகிறது, வேறு எதுவுமில்லை.
• எந்த மாற்றமுடியாத அல்லது உச்ச மதிப்புள்ள நடவடிக்கையிலும் மனிதனின் அனுமதி வாயில்: நீக்கம், பணம் செலுத்தல், வெளிப்புற அனுப்புதல்.
• உள்ளீடு மற்றும் வெளியீடு சரிபார்ப்பு, நம்பிக்கை அற்ற உள்ளடக்கம் தெளிவாக கட்டளைகளிலிருந்து பிரிக்கப்பட்டுள்ளது.
• முழு logging மற்றும் வழக்கத்திற்கு மாறுபட்ட கருவி அழைப்புகளுக்கான கண்காணிப்பு, இதனால் வெளியேற்றல் முயற்சிகள் பிடிபட்டும் பொறுப்புக்குரியதாகவும் இருக்கும்.

HOWF இன் நிலைப்பாடு

அவை தாக்கப்படும் என்ற அனுமானத்தின் அடிப்படையில் நாங்கள் agents களை உருவாக்குகிறோம். கருவிகள் குறைந்தபட்ச அனுமதியின் கீழ் இயங்குகின்றன, உச்ச மதிப்புள்ள நடவடிக்கைகள் மனிதனின் அனுமதி மூலம் திசைமாற்றப்படுகின்றன, நம்பிக்கை அற்ற உள்ளீடுகள் பிரிக்கப்பட்டுள்ளன, மேலும் ஒவ்வொரு நடவடிக்கையும் logged மற்றும் கண்காணிக்கப்படுகிறது. இது ஆட்சி நிர்வாகத்தின் அதே நிபுணத்தை, நிறுவனங்கள் இன்னும் இயக்குகிற agents களை அவர்கள் அமைதியாக மூடி வைக்கக்கூடியவற்றிலிருந்து பிரிக்கிறது, தன்னாட்சி உருவாக்கக்கூடிய தாக்குதல் மேற்பரப்புக்கு குறிப்பிட்டுவிடுகிறது.