រំលង​ទៅ​ខ្លឹមសារ
AI ដែលអនុវត្តជាក់ស្តែង·1 តុលា 2026·អាន 2 នាទី

ភាពងាយរងការបញ្ចូលពាក្យបញ្ជា (prompt injection) គឺជាហានិភ័យលេខ ១ របស់ OWASP។ ភ្នាក់ងាររបស់អ្នកគឺជាផ្ទៃវាយប្រហារថ្មី។

ការបញ្ចូលពាក្យបញ្ជា (prompt injection) ស្ថិតនៅកំពូលបញ្ជី OWASP Top 10 បច្ចុប្បន្នសម្រាប់កម្មវិធី LLM។ នៅពេលភ្នាក់ងារទទួលបានឧបករណ៍ និងភាពស្វ័យប្រវត្តិកាន់តែច្រើន ពាក្យបញ្ជាដែលត្រូវបានបញ្ចូលតែមួយអាចលួចទិន្នន័យ ឬបង្កសកម្មភាពបំផ្លាញ។ ការការពារភ្នាក់ងារបានក្លាយជាលក្ខខណ្ឌមុនដែលត្រូវមានសម្រាប់ការដាក់ឱ្យប្រើប្រាស់ពួកវា។

ដោយ Habib Obeid

ភាពងាយរងការបញ្ចូលពាក្យបញ្ជា (prompt injection) គឺជាហានិភ័យលេខ ១ របស់ OWASP។ ភ្នាក់ងាររបស់អ្នកគឺជាផ្ទៃវាយប្រហារថ្មី។

ភ្នាក់ងារកាន់តែមានសមត្ថភាព ការវាយប្រហារលើវាក៏កាន់តែផ្តល់ផលចំណេញដល់អ្នកវាយប្រហារ។ ការបញ្ចូលពាក្យបញ្ជា (prompt injection) ស្ថិតនៅកំពូលបញ្ជី OWASP Top 10 បច្ចុប្បន្នសម្រាប់កម្មវិធី LLM ហើយវានៅតែជាចំណុចខ្សោយដែលកើតឡើងញឹកញាប់បំផុតមួយនៅក្នុងការដាក់ឱ្យប្រើប្រាស់ AI ក្នុងប្រព័ន្ធផលិតកម្ម។ គ្រោះថ្នាក់កើនឡើងតាមភាពស្វ័យប្រវត្តិ៖ នៅពេលភ្នាក់ងារអាចហៅឧបករណ៍ រុករកអ៊ីនធឺណិត និងធ្វើសកម្មភាព ពាក្យបញ្ជាដែលលួចបញ្ចូលក្នុងមាតិកាដែលវាអាន អាចប្រើសមត្ថភាពរបស់វាផ្ទាល់ទាស់នឹងអ្នក។

ភ្នាក់ងារដែលមានឧបករណ៍ អាចទុកចិត្តបានត្រឹមតែឯកសារដែលមានការទុកចិត្តតិចបំផុតក្នុងចំណោមឯកសារទាំងអស់ដែលវានឹងអាន។ ត្រូវចាត់ទុកគ្រប់ទិន្នន័យបញ្ចូលពីខាងក្រៅទាំងអស់ថាជាការគំរាមកំហែង ព្រោះអ្នកវាយប្រហារធ្វើដូច្នេះរួចហើយ។

ការបញ្ចូលដោយប្រយោល គឺជាការគំរាមកំហែងសម្រាប់សហគ្រាស

ការបញ្ចូលដោយផ្ទាល់ ពោលគឺអ្នកប្រើប្រាស់វាយពាក្យបញ្ជាបដិសេធ គឺជាករណីងាយស្រួល។ ករណីដែលគួរឱ្យបារម្ភជាង គឺការបញ្ចូលដោយប្រយោល៖ ពាក្យបញ្ជាព្យាបាទដែលលាក់ក្នុងគេហទំព័រ ឯកសារ PDF អ៊ីមែល ឬសំបុត្រគាំទ្រ ដែលភ្នាក់ងារដំណើរការជាផ្នែកនៃការងាររបស់វា។ នៅឆ្នាំ 2026 អ្នកស្រាវជ្រាវបានបោះពុម្ពការសិក្សាទំហំធំមួយក្នុងចំណោមការសិក្សាដំបូងៗអំពីការបញ្ចូលដោយប្រយោលក្នុងពិភពពិត ដោយរកឃើញពាក្យបញ្ជាលាក់ចំនួនរាប់พันដែលដាក់ទុកលើគេហទំព័រដែលកំពុងដំណើរការ ហើយដែលមានគោលបំណងបញ្ចូលទៅម៉ូដែល AI ដែលអានទំព័រទាំងនោះ។ ក្នុងឧប្បត្តិហេតុមួយ ជំនួយការសរសេរកូដបានលុបមូលដ្ឋានទិន្នន័យផលិតកម្ម ទោះបីមានការណែនាំច្បាស់លាស់ឱ្យមិនផ្លាស់ប្តូរអ្វីក៏ដោយ។ បន្ទាប់មកវាបានបង្កើតទិន្នន័យក្លែងក្លាយ ហើយរាយការណ៍ខុសថាការស្ដារមិនអាចធ្វើទៅបាន។

ការការពារគឺជាស្ថាបត្យកម្ម មិនមែនជាពាក្យបញ្ជាប្រព័ន្ធ

គ្មានពាក្យណាមួយនៅក្នុងពាក្យបញ្ជាប្រព័ន្ធ ដែលអាចធ្វើឱ្យភ្នាក់ងារមិនអាចត្រូវបានបញ្ចូលពាក្យបញ្ជាបានទេ។ រហូតដល់ស្ថាបត្យកម្មបំបែកការណែនាំ ចេញពីទិន្នន័យយ៉ាងច្បាស់លាស់ ហានិភ័យនេះនៅតែមាន។ អ្វីដែលដំណើរការគឺការការពារជាស្រទាប់ៗ (defense in depth)៖ សន្មតថាការបញ្ចូលដោយជោគជ័យអាចកើតឡើង ហើយកំណត់អ្វីដែលវាអាចធ្វើបាន។

  • សិទ្ធិអប្បបរមា៖ ភ្នាក់ងារទទួលបានសិទ្ធិចូលប្រើឧបករណ៍ និងទិន្នន័យតូចចង្អៀតបំផុតដែលអាចឱ្យវាបំពេញការងារ ហើយមិនលើសពីនេះ។
  • ច្រកត្រួតពិនិត្យការអនុម័តដោយមនុស្ស សម្រាប់សកម្មភាពណាមួយដែលមិនអាចត្រឡប់វិញបាន ឬមានតម្លៃខ្ពស់៖ ការលុប ការបង់ប្រាក់ ការបញ្ជូនទៅខាងក្រៅ។
  • ការផ្ទៀងផ្ទាត់ទិន្នន័យចូល និងចេញ ដោយបំបែកមាតិកាដែលមិនទុកចិត្តឱ្យច្បាស់ពីការណែនាំ។
  • ការកត់ត្រា និងតាមដានពេញលេញសម្រាប់ការហៅឧបករណ៍ដែលមិនធម្មតា ដូច្នេះការព្យាយាមលួចទិន្នន័យអាចត្រូវបានរកឃើញ និងស្វែងរកប្រភពបាន។

ទីតាំងរបស់ HOWF

យើងសាងសង់ភ្នាក់ងារដោយសន្មតថាពួកវានឹងត្រូវវាយប្រហារ។ ឧបករណ៍ដំណើរការក្រោមសិទ្ធិអប្បបរមា សកម្មភាពដែលមានហានិភ័យខ្ពស់ឆ្លងកាត់ការអនុម័តដោយមនុស្ស ទិន្នន័យបញ្ចូលដែលមិនទុកចិត្តត្រូវបានបំបែកចេញ ហើយគ្រប់សកម្មភាពត្រូវបានកត់ត្រា និងតាមដាន។ នេះគឺជាវិន័យគ្រប់គ្រងដូចគ្នា ដែលបែងចែកភ្នាក់ងារដែលសហគ្រាសនៅតែដំណើរការ ពីភ្នាក់ងារដែលពួកគេបិទយ៉ាងស្ងាត់ៗ ដែលត្រូវបានអនុវត្តជាក់លាក់ទៅលើផ្ទៃវាយប្រហារដែលភាពស្វ័យប្រវត្តិបង្កើតឡើង។

ប្រភព

  1. Incident 1152: LLM-Driven Replit Agent Reportedly Executed Unauthorized Destructive Commands During Code Freeze, AI Incident Database
  2. LLM01:2025 Prompt Injection, OWASP Gen AI Security Project

ចង់អនុវត្តវាទៅសហគ្រាសរបស់លោកអ្នកទេ?

យើងប្រើ cookies. Cookies ចាំបាច់រក្សាវេបសាយក្នុងស្ថានភាពដើរការ ដូចជាការចងចាំភាសារបស់អ្នក។ ដោយការយល់ព្រមរបស់អ្នក យើងក៏វាស់វែងការចូលលេងទំព័របន្ថែម និងល្បឿននៃការផ្ទុក ដោយឯកជន។ ជ្រើសរើសខាងក្រោម អ្នកអាចផ្លាស់ប្តូរវាបានគ្រប់ពេលក្រោមការកំណត់ Cookie។