Hallucination ใน LLM: ทำไม AI ตอบผิดอย่างมั่นใจ และจะลดได้อย่างไร
LLM ถูกออกแบบให้ตอบให้ฟังดูน่าเชื่อ ไม่ใช่ให้ถูกต้องเสมอ จึงบางครั้งแต่งคำตอบขึ้นมาอย่างมั่นใจ เข้าใจว่าทำไม Hallucination ถึงเกิด และวิธีลดความเสี่ยงก่อนนำ AI ไปใช้กับงานจริง
Hallucination คือเมื่อ AI ตอบสิ่งที่ฟังดูสมเหตุสมผลแต่ไม่เป็นความจริง เช่น อ้างกฎหมายที่ไม่มีอยู่ หรือสร้างตัวเลขขึ้นมาเอง ที่อันตรายคือมันตอบด้วยน้ำเสียงมั่นใจเหมือนคำตอบที่ถูก ทำให้คนเชื่อ สาเหตุไม่ใช่ AI โกหก แต่เพราะโมเดลถูกฝึกให้ทำนายคำถัดไปที่น่าจะตามมา ไม่ใช่ให้ตรวจสอบว่าจริงหรือไม่
ทำไมความมั่นใจไม่เท่ากับความถูกต้อง
โมเดลภาษาไม่มีแนวคิดเรื่องความจริงในตัวเอง มันเห็นรูปแบบของภาษาจำนวนมหาศาลแล้วเดาว่าอะไรควรตามมา เมื่อไม่รู้คำตอบจริง มันก็เดาด้วยความลื่นไหลเท่าเดิม จึงไม่มีสัญญาณบอกผู้ใช้ว่าตรงไหนมั่นใจจริง ตรงไหนเดา นี่คือเหตุผลที่ห้ามใช้คำตอบจาก AI ในงานสำคัญโดยไม่ตรวจสอบ
วิธีลด Hallucination ในการใช้งานจริง
- ให้ AI อ้างอิงจากเอกสารจริงที่เราป้อนให้ แทนที่จะตอบจากความจำของโมเดล
- ขอให้ AI แสดงแหล่งที่มา เพื่อให้คนตรวจสอบได้ก่อนเชื่อ
- ออกแบบให้ AI ตอบว่าไม่รู้ได้ ดีกว่าบังคับให้ต้องมีคำตอบเสมอ
- ใส่คนตรวจในจุดที่ความผิดพลาดมีราคาแพง เช่น กฎหมาย การเงิน การแพทย์
Hallucination ไม่ได้แปลว่า AI ใช้ไม่ได้ แต่แปลว่าต้องใช้ให้ถูกที่ งานที่ตรวจคำตอบได้ง่ายหรือมีคนคอยกำกับ เหมาะกับ AI ส่วนงานที่ความผิดพลาดมีราคาสูงและตรวจยาก ต้องวางระบบป้องกันให้รัดกุมก่อน นั่นคือความต่างระหว่างการใช้ AI อย่างฉลาดกับการใช้อย่างเสี่ยง
บริการที่เกี่ยวข้อง
รับพัฒนาระบบและซอฟต์แวร์เฉพาะทาง
ออกแบบและวางระบบตามความต้องการเฉพาะของธุรกิจคุณ ตั้งแต่ต้นจนใช้งานจริง
WhaleScope
ดูโครงสร้างตลาดของทุกหมวดธุรกิจไทย บน WhaleScope
รายชื่อบริษัท ผู้เล่นรายใหญ่ และอัตราคงอยู่ของแต่ละหมวด — จากข้อมูลจดทะเบียน 2 ล้านนิติบุคคล
อ่านต่อ
เมื่อ LLM เป็นส่วนหนึ่งของระบบ: ออกแบบ Guardrails, Evaluation และ Fallback ให้พึ่งพาได้
การต่อ LLM เข้ากับระบบจริงไม่ใช่แค่เรียก API แต่คือการออกแบบขอบเขต การวัดผล และทางหนีทีไล่ เมื่อโมเดลตอบผิด บทความนี้สรุปสามชั้นที่ทำให้ฟีเจอร์ AI พึ่งพาได้
Few-shot: สอน AI ด้วยตัวอย่างในคำสั่ง โดยไม่ต้องเทรนใหม่
อยากให้ AI ตอบในรูปแบบเฉพาะของเรา ไม่จำเป็นต้องเทรนโมเดลใหม่ แค่ใส่ตัวอย่างที่ดีลงในคำสั่ง AI ก็เลียนแบบได้ Few-shot คือเทคนิคง่ายแต่ทรงพลัง เข้าใจว่าใช้เมื่อไรและมีขีดจำกัดแค่ไหน
Chain-of-Thought: ทำไมการให้ AI คิดเป็นขั้นตอน ช่วยลดคำตอบผิด
เมื่อถาม AI โจทย์ที่ต้องคิดหลายขั้น การบังคับให้มันแสดงเหตุผลทีละขั้นก่อนตอบ มักได้คำตอบที่ถูกต้องกว่า เข้าใจหลัก Chain-of-Thought และข้อจำกัดที่ต้องระวัง
Context Window: ขีดจำกัดความจำของ AI ที่ต้องออกแบบรับมือ
AI อ่านข้อมูลได้จำกัดต่อครั้ง ยัดเอกสารทั้งบริษัทเข้าไปไม่ได้ และยิ่งใส่มากยิ่งแพงและยิ่งเบลอ เข้าใจ Context Window แล้วจะรู้ว่าทำไมระบบ AI ที่ดีต้องคัดข้อมูลก่อนส่ง ไม่ใช่ส่งทั้งหมด