AI Explainability: ทำไมต้องอธิบายได้ว่า AI ตัดสินใจอย่างไร

AI หลายแบบให้คำตอบที่แม่นยำ แต่บอกไม่ได้ว่าทำไมถึงตอบแบบนั้น เหมือนกล่องดำที่รับข้อมูลเข้าแล้วให้ผลออกมาโดยไม่มีเหตุผลให้ตรวจ ในงานที่ผลกระทบต่ำ เช่น แนะนำเพลง อาจไม่เป็นไร แต่ในงานที่กระทบชีวิตคน เช่น ปฏิเสธสินเชื่อ คัดใบสมัคร หรือวินิจฉัย การอธิบายไม่ได้ว่าทำไม คือปัญหาใหญ่ทั้งด้านความไว้วางใจและความรับผิดชอบ

ทำไม อธิบายได้ ถึงสำคัญ

ถ้าอธิบายเหตุผลของ AI ไม่ได้ เราจะตรวจไม่ได้ว่ามันตัดสินบนพื้นฐานที่ถูกต้องและเป็นธรรมหรือไม่ ลูกค้าที่ถูกปฏิเสธก็มีสิทธิ์รู้เหตุผล และในหลายประเทศ กฎหมายก็เริ่มกำหนดให้การตัดสินใจอัตโนมัติที่กระทบคนต้องอธิบายได้ Explainability จึงไม่ใช่แค่เรื่องเทคนิค แต่เป็นเรื่องของความไว้วางใจ ความเป็นธรรม และการปฏิบัติตามกฎหมาย

• งานที่กระทบสิทธิ์คน ควรเลือกวิธีที่อธิบายได้ แม้แม่นน้อยลงเล็กน้อย
• เก็บบันทึกว่าปัจจัยใดมีผลต่อคำตอบ เพื่อตอบคำถามภายหลังได้
• ให้คนตรวจในกรณีที่คำอธิบายฟังไม่สมเหตุสมผล

AI Explainability ไม่ได้แปลว่าต้องเข้าใจคณิตศาสตร์เบื้องหลังทุกอย่าง แต่คือการมีเหตุผลที่ตรวจสอบและสื่อสารได้ในระดับที่เหมาะกับความเสี่ยงของงาน ธุรกิจที่ใช้ AI อย่างมีความรับผิดชอบ จะให้ความสำคัญกับเรื่องนี้ในงานที่กระทบคน เพราะความไว้วางใจของลูกค้าและสังคม สร้างจากความโปร่งใส ไม่ใช่จากคำตอบที่ดูแม่นแต่อธิบายไม่ได้