Prompt Injection: เมื่อคนร้ายสั่งงาน AI ของคุณ ผ่านข้อความที่มันอ่าน

จุดอ่อนสำคัญของผู้ช่วย AI คือมันแยกไม่ออกเด็ดขาดว่าข้อความไหนคือคำสั่งจากเจ้าของ และข้อความไหนคือข้อมูลที่แค่ให้อ่าน Prompt Injection คือการโจมตีที่อาศัยช่องนี้ คนร้ายฝังคำสั่งไว้ในเนื้อหาที่ AI จะไปอ่าน เช่น ในอีเมล ในเอกสารแนบ หรือในหน้าเว็บ เมื่อผู้ช่วย AI ของคุณอ่านเนื้อหานั้นเพื่อสรุปหรือตอบคำถาม มันอาจหลงทำตามคำสั่งที่ซ่อนอยู่ เช่น ส่งข้อมูลภายในออกไปข้างนอก คล้ายการหลอกพนักงานใหม่ที่เชื่อทุกข้อความที่อ่าน

ป้องกันที่ขอบเขตอำนาจ ไม่ใช่แค่ที่คำสั่ง

การเขียนกำชับในคำสั่งว่าอย่าเชื่อเนื้อหาที่อ่าน ช่วยได้ระดับหนึ่งแต่ไม่พอ เพราะยังไม่มีวิธีกันการโจมตีแบบนี้ได้ร้อยเปอร์เซ็นต์ แนวป้องกันที่ได้ผลจริงคือจำกัดความเสียหายที่เป็นไปได้ ให้ AI มีสิทธิ์น้อยที่สุดเท่าที่งานต้องใช้ ปฏิบัติต่อเนื้อหาภายนอกที่มันอ่านเป็นของไม่น่าเชื่อถือเสมอ และเมื่อ AI จะทำสิ่งที่มีผลจริง เช่น ส่งอีเมลออก หรือแก้ข้อมูล ให้ต้องผ่านการยืนยันจากคน หลักคิดเดียวกับการไม่ให้พนักงานใหม่มีอำนาจอนุมัติเงินตั้งแต่วันแรก

• ให้สิทธิ์ AI น้อยที่สุดเท่าที่งานต้องใช้ โดยเฉพาะสิทธิ์เขียนและส่งออก
• ปฏิบัติต่อเนื้อหาภายนอกที่ AI อ่านเป็นของไม่น่าเชื่อถือเสมอ
• การกระทำที่มีผลจริง ต้องผ่านการยืนยันจากคนก่อน

Prompt Injection เป็นความเสี่ยงประเภทใหม่ที่มาพร้อมผู้ช่วย AI ที่อ่านข้อมูลภายนอกและลงมือทำแทนเราได้ ธุรกิจไม่จำเป็นต้องกลัวจนไม่ใช้ แต่ต้องออกแบบขอบเขตอำนาจอย่างระมัดระวังเหมือนรับพนักงานใหม่ที่ยังหลอกง่าย เมื่อจำกัดสิทธิ์ ตรวจการกระทำสำคัญ และเฝ้าดูพฤติกรรมแปลก ๆ ไว้ ประโยชน์ของ AI ก็ยังได้เต็มที่ โดยความเสียหายที่แย่ที่สุดถูกกดให้เล็กพอที่จะรับได้