เมื่อบริษัทพึ่ง AI มากกว่าความเข้าใจระบบ

บริษัทบริการการเงินแห่งหนึ่งภูมิใจที่ได้นำ AI มาดูแลกระบวนการอนุมัติเกือบทั้งหมด ทุกอย่างเร็วขึ้น พนักงานน้อยลง ต้นทุนลดลง จนวันหนึ่งหน่วยงานกำกับดูแลขอให้อธิบายว่าทำไมลูกค้ากลุ่มหนึ่งถึงถูกปฏิเสธมากกว่ากลุ่มอื่น ไม่มีใครในบริษัทตอบได้ พวกเขาไว้ใจระบบมานานจนลืมไปว่าตัวเองไม่เคยเข้าใจว่ามันตัดสินใจอย่างไร

นี่ไม่ใช่เรื่องของ AI ที่ทำงานผิด ในกรณีนี้ AI อาจทำงานได้ดีตามที่ออกแบบมาด้วยซ้ำ ปัญหาคือบริษัทได้ค่อย ๆ ยกความเข้าใจในธุรกิจของตัวเองให้กับเครื่องมือ โดยไม่รู้ตัวว่ากำลังทำเช่นนั้น และความเข้าใจที่เคยอยู่ในตัวคนก็ค่อย ๆ หายไป จนเหลือเพียงผลลัพธ์ที่เชื่อถือโดยไม่ตั้งคำถาม

ทำไมการมอบความเข้าใจถึงเกิดขึ้นเงียบ ๆ

ไม่มีใครตัดสินใจในวันใดวันหนึ่งว่าจะเลิกเข้าใจระบบของตัวเอง มันเกิดขึ้นทีละน้อยจากการตัดสินใจที่สมเหตุสมผลทุกครั้ง เมื่อ AI ตอบได้เร็วกว่าและถูกกว่า การหยุดถามว่าทำไมจึงดูเหมือนเสียเวลา เมื่อผลลัพธ์ดูดีติดต่อกันหลายเดือน การตรวจสอบทุกครั้งก็ดูเกินจำเป็น ความไว้ใจที่สมเหตุสมผลในวันนี้กลายเป็นการพึ่งพาที่มองไม่เห็นในวันหน้า

และความเข้าใจนั้นเป็นทักษะที่ฝ่อได้เหมือนกล้ามเนื้อ เมื่อทีมไม่ต้องคิดเองอีกต่อไป ความสามารถในการคิดก็ลดลง คนที่เคยรู้ว่าตัวเลขผิดปกติเมื่อใดจะค่อย ๆ สูญเสียสัญชาตญาณนั้น และเมื่อถึงวันที่ระบบให้คำตอบที่ผิด จะไม่มีใครรู้สึกว่ามีอะไรผิดปกติเลย

เหมือนหนี้ทุกชนิด การมอบความเข้าใจให้เครื่องมือไม่มีต้นทุนในวันที่ทุกอย่างราบรื่น ต้นทุนของมันมาถึงเฉพาะในวันที่เกิดเรื่อง วันที่ลูกค้ารายใหญ่ถามคำถามที่ตอบไม่ได้ วันที่กฎหมายเปลี่ยนและต้องอธิบายตรรกะของระบบ วันที่เกิดข้อผิดพลาดและต้องรู้ว่าทำไม ในวันเหล่านั้น บริษัทที่ยังเข้าใจระบบของตัวเองจะฟื้นตัวได้ ส่วนบริษัทที่มอบความเข้าใจไปแล้วจะพบว่าตัวเองยืนอยู่บนพื้นที่ไม่มีอยู่จริง

ผลกระทบที่ลึกที่สุดไม่ใช่เหตุการณ์ครั้งเดียว แต่คือการสูญเสียอำนาจในการกำกับธุรกิจของตัวเอง เมื่อผู้นำไม่เข้าใจว่าระบบตัดสินใจอย่างไร พวกเขาก็ตัดสินใจเชิงกลยุทธ์ไม่ได้อย่างมั่นใจ พวกเขาต้องเดาว่าเครื่องมือจะทำอะไร แทนที่จะกำหนดทิศทางให้มัน นี่คือการกลับด้านของความสัมพันธ์ที่อันตราย เครื่องมือที่ควรรับใช้กลายเป็นสิ่งที่เรารับใช้

คำถามที่เจ้าของควรถามตัวเอง

• ถ้ามีคนถามว่าทำไมระบบของเราตัดสินใจแบบนี้ เราตอบได้หรือไม่
• เรากำลังใช้ AI เพื่อเสริมความเข้าใจของเรา หรือเพื่อแทนที่มัน
• ยังมีคนในองค์กรที่จะรู้สึกว่ามีบางอย่างผิดปกติ ก่อนที่ตัวเลขจะบอกหรือไม่
• ถ้าเครื่องมือนี้หยุดทำงานพรุ่งนี้ เราจะยังเข้าใจธุรกิจของตัวเองมากพอที่จะเดินต่อหรือไม่

คำถามที่ดีกว่าจึงไม่ใช่ AI ทำงานนี้แทนเราได้ไหม แต่คือเราจะใช้ AI อย่างไรโดยไม่สูญเสียความเข้าใจที่ทำให้เราตัดสินใจได้เอง การพึ่งพาที่ดีต่อสุขภาพคือการให้ AI ทำงานหนัก ในขณะที่คนยังคงเข้าใจว่ามันทำอะไรและทำไม เพราะในที่สุดแล้ว สิ่งที่ทำให้บริษัทอยู่รอดในวิกฤตไม่ใช่เครื่องมือที่ดีที่สุด แต่คือความเข้าใจที่ไม่เคยถูกมอบให้ใครไป