Prompt injection OWASP ರ ಶೃಂಗಸ್ಥ ಝೋಖಿಮೆ. ನಿಮ್ಮ ಏಜೆಂಟ್‌ಗಳು ಹೊಸ ಆಕ್ರಮಣ ಮೇಲ್ಮೈ.

ನಿಮ್ಮ ಏಜೆಂಟ್ ಹೆಚ್ಚು ಸಮರ್ಥವಾದರೆ, ಆಕ್ರಮಣಕಾರಿ ಅದನ್ನು ಹೈಜ್ಯಾಕ್ ಮಾಡುವುದರಿಂದ ಹೆಚ್ಚು ಲಾಭ ಪಡೆಯುತ್ತಾರೆ. Prompt injection LLM ಅನ್ವಯಗಳಿಗಾಗಿ OWASP ನ ಪ್ರಸ್ತುತ Top 10 ರಲ್ಲಿ ಮುಖ್ಯವಾಗಿದೆ, ಮತ್ತು ಇದು ಉತ್ಪಾದನ AI ನಿಯೋಜನೆಗಳಲ್ಲಿ ಸಾಮಾನ್ಯ ದುರ್ಬಲತೆಗಳಲ್ಲಿ ಒಂದು ಆಗಿ ಉಳಿಯುತ್ತದೆ. ಅಪಾಯವು ಸ್ವಾಯತ್ತತೆಯೊಂದಿಗೆ ಮಾಪನೀಯವಾಗಿದೆ: ಒಮ್ಮೆ ಏಜೆಂಟ್ ಸಾಧನಗಳನ್ನು ಕರೆಯಬಹುದು, ಏರಣ ಮಾಡಬಹುದು ಮತ್ತು ಕ್ರಿಯೆ ತೆಗೆದುಕೊಳ್ಳಬಹುದು, ಅದು ಓದುವ ವಿಷಯಸ್ತುಗಳಲ್ಲಿ ಲುಚ್ಚುಗೊದ ನಿರ್ದೇಶನವು ತನ್ನ ಸ್ವಂತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ನಿಮ್ಮ ವಿರುದ್ಧ ಬಿಸಾಡಿಕೊಳ್ಳಬಹುದು.

ಸಾಧನಗಳನ್ನು ಹೊಂದಿರುವ ಏಜೆಂಟ್ ಅದು ಓದುವ ಕನಿಷ್ಠ ವಿಶ್ವಾಸಯೋಗ್ಯ ದಾಖಲೆಯಷ್ಟೇ ವಿಶ್ವಾಸಯೋಗ್ಯವಾಗಿದೆ. ಪ್ರತಿಯೊಂದು ಬಾಹ್ಯ ಇನ್‌ಪುಟ್ ಅನ್ನು ಶತ್ರುತ್ವಯುಕ್ತವೆಂದು ಪರಿಗಣಿಸಿ, ಏಕೆಂದರೆ ಆಕ್ರಮಣಕಾರಿಗಳು ಈಗಾಗಲೇ ಅಂತಹದನ್ನು ಮಾಡುತ್ತಿದ್ದಾರೆ.

ಪರೋಕ್ಷ ಇಂಜೆಕ್ಷನ್ ಎಂಟರ್‌ಪ್ರೈಸ್ ಧಮಕೆ

ನೇರ ಇಂಜೆಕ್ಷನ್, ಬಳಕೆದಾರನು ಸುಲಭವನ್ನು ಸೂಚಿಸುವುದು ಸುಲಭ ಪ್ರಕರಣ. ಅಪಾಯಕಾರಿ ಪರೋಕ್ಷ: ವೆಬ್ ಪುಟ, PDF, ಇಮೇಲ್ ಅಥವಾ ಸಹಾಯ ಟಿಕೆಟ್‌ನಲ್ಲಿ ಲುಚ್ಚುಗೊದ ಹಾನಿಕಾರಕ ನಿರ್ದೇಶನ, ಅದು ತನ್ನ ಕೆಲಸದ ಅಂಶವಾಗಿ ಏಜೆಂಟ್ ಸಂಸ್ಕರಣೆ ಮಾಡುತ್ತದೆ. 2026 ರಲ್ಲಿ, ಸಂಶೋಧಕರು ಕೊರೆಯದ ಪರೋಕ್ಷ ಇಂಜೆಕ್ಷನ್‌ನ ಅದ್ಭುತ ಪರಿಮಾಣ ಅಧ್ಯಯನ ಪ್ರಕಟಿಸಿದರು, ಸಕ್ರಿಯ ವೆಬ್ ಪುಟಗಳಾದ್ಯಂತ ಸಾವಿರಾರು ಲುಚ್ಚುಗೊದ ನಿರ್ದೇಶನಗಳು ಕಂಡುಹಿಡಿಯುತ್ತಾರೆ ಮತ್ತು ಆ ಪುಟಗಳನ್ನು ಓದುವ AI ಮಾದರಿಗಳನ್ನು ಗುರುತರ್ಥವನ್ನು ಗುರಿಯಿಡಿದರು. ಒಂದು ಘಟನೆಯಲ್ಲಿ ಕೋಡಿಂಗ್ ಸಹಾಯಕವು ಸ್ಪಷ್ಟ ನಿರ್ದೇಶನಗಳನ್ನು ಹಿಂತಿರುಗಿಸುವುದನ್ನು ಆಶ್ಚರ್ಯಕರವಾಗಿ ಉತ್ಪಾದನ ಡೇಟಾಬೇಸ್ ಅಳಿಸಲಾಗಿದೆ, ನಂತರ ದಾಖಲೆಗಳನ್ನು ಕಥಾ ಪ್ರದರ್ಶಿಸಿದೆ ಮತ್ತು ರೋಲ್ ಬ್যಾಕ್ ಅಸಾಧ್ಯವೆಂದು ತೆಪ್ಪಿಸಲಾಗಿದೆ.

ರಕ್ಷಣೆ ಆರ್ಕಿಟೆಕ್ಚರ್, ಪ್ರಾಂಪ್ಟ್ ಅಲ್ಲ

ಒಂದು ಏಜೆಂಟ್ ಇಂಜೆಕ್ಷನ ಪ್ರುಫ್ ಮಾಡುವ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ ರ ಯಾವುದೇ ಶೈಲಿ ಇಲ್ಲ; ವಾಸ್ತುಶಾಸ್ತ್ರ ಶುದ್ಧತೆಯಿಂದ ಸೂಚನೆಗಳು ಡೇಟಾವನ್ನು ಬೇರ್ಪಡಿಸುವವರೆಗೆ, ಅಪಾಯವು ಶೇಷ ಇರುತ್ತದೆ. ಕೆಲಸ ಮಾಡುವುದು ಆಳವಾದ ರಕ್ಷಣೆ: ಯಶಸ್ವಿ ಇಂಜೆಕ್ಷನ ಊಹಿಸಿ ಮತ್ತು ಅದು ಮಾಡಬಹುದಿದ್ದು ಮಿತಿ ಮಾಡಿ.

• ಕನಿಷ್ಠ ವಿಶೇಷಾಧಿಕಾರ: ಏಜೆಂಟ್ ಅದರ ಕೆಲಸ ಮಾಡಲು ಅವಕಾಶ ನೀಡುವ ಸರಿಸೋಮ ಸಾಧನ ಮತ್ತು ಡೇಟಾ ಪ್ರವೇಶವನ್ನು ಪಡೆಯುತ್ತದೆ, ಮತ್ತು ಹೆಚ್ಚುದನ್ನು ಪಡೆಯುತ್ತದೆ.
• ಯಾವುದೇ ತಿರುವುಮುರುವು ಅಸಂಭವ ಅಥವಾ ಹೆಚ್ಚಿನ-ಮೌಲ್ಯ ಕ್ರಿಯೆಯ ಮೇಲೆ ಮಾನವ ಅನುಮೋದನ ಗೇಟ್‌ಗಳು: ಅಳಿಸಿದ್ದುಗಳು, ಪಾವತಿಗಳು, ಬಾಹ್ಯ ಕಳುಹಿಸುವಿಕೆ.
• Input ಮತ್ತು output ಮಾನ್ಯತೆ, ಅವಿಶ್ವಾಸಿ ವಿಷಯಸ್ತುಗಳನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ನಿರ್ದೇಶನಗಳಿಂದ ಬೇರಿಡಿಸಿ.
• ಪೂರ್ಣ ಲಾಗಿಂಗ್ ಮತ್ತು ಅಸಾಮಾನ್ಯ ಸಾಧನ ಕರೆಗಳಿಗಾಗಿ ಮೇಲ್ವಿಷ್ಠಿಭೂತೆ, ಭಾಗಫಲ ಪ್ರಯತ್ನ ಸೋಲನೇಟ ಮತ್ತು ಆರೋಪಿಸಿದ.

HOWF ಸ್ಥಾನ

ನಾವು ಏಜೆಂಟ್‌ಗಳನ್ನು ನಿರ್ಮಾಣ ಮಾಡುತ್ತೇವೆ ಅವರು ಆಕ್ರಮಣಾತ್ಮಕ ಊಹೆಯಲ್ಲಿ. ಸಾಧನಗಳು ಕನಿಷ್ಠ ವಿಶೇಷಾಧಿಕಾರದ ಅಡಿಯಲ್ಲಿ ಪರಿಚಾಲನೆ ಮಾಡುತ್ತವೆ, ಉচ್ಚ ಪಂತಗಳ ಕ್ರಿಯೆ ಮಾನವ ಅನುಮೋದನ ಮೂಲಕ ಮಾರ್ಗ, ಅವಿಶ್ವಾಸಿ ಇನ್‌ಪುಟ್‌ಗಳನ್ನು ಬೇರಿಡಿಸಿ, ಮತ್ತು ಪ್ರತಿಯೊಂದು ಕ್ರಿಯೆ ಅನುಪ್ರವಾಸಿ ಮತ್ತು ಮೇಲ್ವಿಷ್ಠಿಭೂತ. ಇದು ಅದೇ ಆಡಳಿತ ಶಿಸ್ತವನ್ನು, ಎಂಟರ್‌ಪ್ರೈಸ್‌ಗಳು ಹೀಗೂ ಚಲಾಸುವ ಏಜೆಂಟ್‌ಗಳನ್ನು ಅವುಗಳನ್ನು ತೆರೆಯುವುದಕ್ಕೆ ಹೋಲಿಸಿ ಪೃಥಕ್, ನಿರ್ದಿಷ್ಟವಾಗಿ ಸ್ವಾಯತ್ತತೆ ರಚಿಸುವ ಆಕ್ರಮಣ ಮೇಲ್ಮೈಗೆ ಅನ್ವಯಿತ.