เมื่อ AI สร้าง Bug ที่ไม่มีใครสังเกต

ทีมพัฒนาเล็ก ๆ ทีมหนึ่งดีใจมากที่งานเสร็จเร็วขึ้นเป็นเท่าตัวหลังเริ่มใช้ AI ช่วยเขียนโค้ด ฟีเจอร์ที่เคยใช้เวลาสัปดาห์กลายเป็นไม่กี่ชั่วโมง โค้ดที่ออกมาดูสะอาด อ่านง่าย และทำงานได้ในการทดสอบเบื้องต้น ทุกอย่างดูดีไปหมด จนกระทั่งสามสัปดาห์ต่อมา ลูกค้าโทรมาแจ้งว่ายอดเงินในรายงานไม่ตรงกับความจริง และเมื่อไล่หาสาเหตุก็พบว่ามีการปัดเศษทศนิยมผิดในจุดหนึ่งที่ AI เขียนไว้ จุดที่ไม่มีใครเคยสงสัยเพราะมันดูถูกต้องเหลือเกิน

นี่คือความแตกต่างที่ลึกซึ้งระหว่างบั๊กที่มนุษย์มักสร้างกับบั๊กที่ AI สร้าง บั๊กของมนุษย์มักมาพร้อมร่องรอย โค้ดที่งง ตัวแปรที่ตั้งชื่อมั่ว ส่วนที่เขียนรีบ ๆ เป็นสัญญาณให้เราระวัง แต่บั๊กของ AI มักมาในรูปของโค้ดที่ดูดีไร้ที่ติ มันสมเหตุสมผลในทุกบรรทัด ใช้รูปแบบที่ถูกต้อง และนั่นเองคือสิ่งที่ทำให้มันอันตราย เพราะความสวยงามของมันกล่อมให้เราเลิกระแวง

มุมมองที่สบายใจว่า AI ตรวจตัวเองได้

เป็นเรื่องน่าดึงดูดที่จะคิดว่าเมื่อ AI เขียนโค้ดได้เก่งขนาดนี้ มันก็คงตรวจหาข้อผิดพลาดของตัวเองได้ดีไปด้วย เราจึงค่อย ๆ ลดการตรวจทานลง ปล่อยให้มันทำงานมากขึ้น และเชื่อใจผลลัพธ์มากขึ้นทุกที ในระยะแรกความเชื่อใจนี้ดูสมเหตุสมผล เพราะผลงานส่วนใหญ่ก็ดีจริง และความเร็วที่ได้มาก็เย้ายวนใจ

แต่ปัญหาคือ AI ไม่ได้เข้าใจบริบทของธุรกิจเราอย่างที่เราเข้าใจ มันไม่รู้ว่าตัวเลขนี้คือเงินจริงของลูกค้า ไม่รู้ว่ากฎข้อนี้มีข้อยกเว้นที่เราตกลงกันด้วยวาจา ไม่รู้ว่าสิ่งที่ดูเหมือนกรณีหายากนั้นเกิดขึ้นทุกวันในธุรกิจของเรา มันเก่งเรื่องรูปแบบทั่วไป แต่บอด ต่อรายละเอียดเฉพาะที่มีเพียงเราเท่านั้นที่รู้ และรายละเอียดเหล่านี้แหละที่บั๊กแพง ๆ มักซ่อนตัวอยู่

เมื่อความเร็วในการสร้างโค้ดเพิ่มขึ้น ปริมาณโค้ดที่ไหลเข้าสู่ระบบก็เพิ่มตาม และทุกบรรทัดที่ไม่ถูกตรวจคือความเสี่ยงที่สะสมเงียบ ๆ การตรวจทานจึงไม่ใช่สิ่งที่ AI มาแทนที่ได้ แต่เป็นสิ่งที่ทวีความสำคัญขึ้นตามปริมาณงานที่มันผลิตได้ การตรวจที่ดีในยุคนี้ควรมุ่งไปที่จุดเฉพาะ

• ตรรกะทางธุรกิจที่ AI ไม่อาจรู้ เช่น การคำนวณเงิน ภาษี และเงื่อนไขเฉพาะของเรา
• กรณีขอบที่ดูหายากแต่เกิดจริงในธุรกิจของเรา และมักเป็นจุดที่บั๊กแอบซ่อน
• สมมติฐานที่ AI ตั้งขึ้นเอง โดยที่มันดูสมเหตุสมผลแต่ไม่ตรงกับความจริงของเรา
• ความสอดคล้องกับส่วนอื่นของระบบ ที่ AI มองไม่เห็นเพราะมันเขียนทีละชิ้นแยกกัน

เมื่อมองเช่นนี้ บทบาทของมนุษย์ไม่ได้ลดลง แต่เปลี่ยนไป จากคนที่พิมพ์โค้ดทีละบรรทัด กลายเป็นคนที่ตั้งคำถามที่ถูกต้องกับสิ่งที่ดูเหมือนถูกต้องไปแล้ว นี่เป็นทักษะที่ยากกว่าและมีค่ามากกว่า เพราะการตรวจหาข้อผิดพลาดในสิ่งที่ดูสมบูรณ์แบบนั้นต้องอาศัยทั้งความเข้าใจธุรกิจและความสงสัยที่ฝึกฝนมาอย่างดี

คำถามที่ดีกว่าเร็วขึ้นแค่ไหน

เมื่อ AI เข้ามาในกระบวนการพัฒนา คำถามแรกที่ทุกคนตื่นเต้นคือมันทำให้เราเร็วขึ้นแค่ไหน แต่คำถามที่จะกำหนดความสำเร็จในระยะยาวคือเรามั่นใจในสิ่งที่ส่งมอบมากแค่ไหน ความเร็วที่มาพร้อมความไม่แน่ใจไม่ใช่ความก้าวหน้า แต่เป็นการเลื่อนปัญหาไปข้างหน้าให้ใหญ่ขึ้น ธุรกิจที่ใช้ AI ได้ดีจึงไม่ใช่ธุรกิจที่ปล่อยให้มันทำทุกอย่าง แต่เป็นธุรกิจที่ใช้ความเร็วของมันเพื่อปลดปล่อยเวลาของคนไปสู่การคิดและตรวจสอบในสิ่งที่สำคัญที่สุด