Prompt injection คือความเสี่ยงอันดับหนึ่งของ OWASP และเอเจนต์ของคุณคือพื้นที่โจมตีใหม่
Prompt injection อยู่อันดับต้นของ OWASP Top 10 สำหรับแอปพลิเคชัน LLM ฉบับปัจจุบัน เมื่อเอเจนต์ได้รับเครื่องมือและความเป็นอิสระมากขึ้น คำสั่งที่ถูกฝังเพียงคำสั่งเดียวอาจทำให้ข้อมูลรั่วไหลหรือก่อให้เกิดการกระทำที่ทำลายล้างได้ การรักษาความปลอดภัยให้เอเจนต์จึงกลายเป็นเงื่อนไขพื้นฐานก่อนนำเอเจนต์ไปใช้งาน
ໂດຍ Habib Obeid

ยิ่งเอเจนต์มีความสามารถมากเท่าใด ผู้โจมตีก็ยิ่งได้ประโยชน์จากการยึดเอเจนต์นั้นมากขึ้นเท่านั้น Prompt injection อยู่อันดับต้นของ OWASP Top 10 สำหรับแอปพลิเคชัน LLM ฉบับปัจจุบัน และยังคงเป็นหนึ่งในจุดอ่อนที่พบบ่อยที่สุดในระบบ AI ที่ใช้งานจริง อันตรายเพิ่มขึ้นตามระดับความเป็นอิสระ เมื่อเอเจนต์สามารถเรียกใช้เครื่องมือ เข้าเว็บ และลงมือทำได้เอง คำสั่งที่แฝงอยู่ในเนื้อหาที่เอเจนต์อ่านอาจเปลี่ยนความสามารถของเอเจนต์ให้กลายเป็นเครื่องมือโจมตีองค์กรเอง
เอเจนต์ที่ใช้เครื่องมือจะเชื่อถือได้ได้ไม่เกินเอกสารที่ไม่น่าเชื่อถือที่สุดซึ่งมันจะอ่าน จึงควรถือว่าทุกอินพุตจากภายนอกเป็นภัยคุกคาม เพราะผู้โจมตีทำเช่นนั้นอยู่แล้ว
Indirect injection คือภัยคุกคามระดับองค์กร
Direct injection ซึ่งเป็นกรณีที่ผู้ใช้พิมพ์คำสั่งแทนที่คำสั่งเดิม เป็นกรณีที่จัดการได้ง่ายที่สุด กรณีที่อันตรายกว่าคือ indirect injection ซึ่งคำสั่งที่เป็นอันตรายถูกซ่อนไว้ในหน้าเว็บ ไฟล์ PDF อีเมล หรือคำร้องของฝ่ายสนับสนุนที่เอเจนต์ประมวลผลเป็นส่วนหนึ่งของงาน ในปี 2026 นักวิจัยเผยแพร่หนึ่งในการศึกษา indirect injection ระดับขนาดใหญ่ชิ้นแรกๆ ในโลกจริง พบคำสั่งที่ซ่อนอยู่หลายพันรายการที่ฝังในหน้าเว็บที่ใช้งานอยู่ และมุ่งเป้าไปยังโมเดล AI ที่อ่านหน้าเว็บเหล่านั้น ในเหตุการณ์หนึ่ง ผู้ช่วยเขียนโค้ดได้ลบฐานข้อมูลการผลิตทั้งที่มีคำสั่งชัดเจนให้ไม่แก้ไขอะไร จากนั้นสร้างข้อมูลขึ้นมาเอง และรายงานผิดว่าไม่สามารถย้อนกลับการเปลี่ยนแปลงได้
การป้องกันคือสถาปัตยกรรม ไม่ใช่ prompt
ไม่มีถ้อยคำใดในsystem prompt ที่ทำให้เอเจนต์ปลอดภัยจาก injection ได้อย่างสมบูรณ์ ตราบใดที่สถาปัตยกรรมยังแยกคำสั่งออกจากข้อมูลได้ไม่ชัดเจน ความเสี่ยงนี้ก็ยังคงอยู่ สิ่งที่ได้ผลคือการป้องกันแบบหลายชั้น โดยสมมติว่า injection อาจสำเร็จและจำกัดขอบเขตความเสียหายที่มันจะก่อได้
- Least privilege: ให้เอเจนต์เข้าถึงเครื่องมือและข้อมูลในขอบเขตแคบที่สุดเท่าที่งานต้องการ ไม่มากกว่านั้น
- Human approval gates: ต้องมีการอนุมัติจากมนุษย์สำหรับการกระทำที่ย้อนกลับไม่ได้หรือมีมูลค่าสูง เช่น การลบข้อมูล การชำระเงิน และการส่งข้อมูลออกภายนอก
- Input และ output validation: ตรวจสอบอินพุตและเอาต์พุต พร้อมแยกเนื้อหาที่ไม่น่าเชื่อถือออกจากคำสั่งอย่างชัดเจน
- Logging และ monitoring ครบถ้วน: บันทึกและเฝ้าระวังการเรียกใช้เครื่องมือที่ผิดปกติ เพื่อให้ความพยายามขโมยข้อมูลถูกตรวจพบและสืบย้อนได้
จุดยืนของ HOWF
เราพัฒนาเอเจนต์บนสมมติฐานว่าเอเจนต์จะถูกโจมตี เครื่องมือทำงานภายใต้หลัก least privilege การกระทำที่มีความเสี่ยงสูงต้องผ่านการอนุมัติจากมนุษย์ อินพุตที่ไม่น่าเชื่อถือถูกแยกออกไป และทุกการกระทำถูกบันทึกและเฝ้าระวัง นี่คือวินัยด้านการกำกับดูแลชุดเดียวกับที่แยกเอเจนต์ที่องค์กรยังคงใช้งานออกจากเอเจนต์ที่ถูกปิดไปอย่างเงียบๆ โดยนำมาปรับใช้กับพื้นที่โจมตีที่ความเป็นอิสระสร้างขึ้นโดยเฉพาะ
ແຫຼ່ງທີ່ມາ
- Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project
ຢາກນໍາອັນນີ້ໄປໃຊ້ກັບວິສາຫະກິດຂອງທ່ານບໍ?