AI เขียนโค้ดได้ แต่ใครรับผิดชอบเมื่อระบบผิดพลาด?

ผู้บริหารคนหนึ่งเล่าถึงเช้าวันที่เขาไม่อยากจำ ระบบส่วนลดอัตโนมัติที่ AI ช่วยเขียนตีความเงื่อนไขผิด ลูกค้าจำนวนมากได้ส่วนลดเกินจริงข้ามคืน เมื่อทีมประชุมหาคนรับผิดชอบ บรรยากาศกลับเงียบงัน เพราะไม่มีนักพัฒนาคนไหนเขียนบรรทัดนั้นด้วยมือตัวเอง ทุกคนแค่ยอมรับสิ่งที่ AI เสนอมา และความรับผิดชอบก็ลอยอยู่ในอากาศโดยไม่ตกลงที่ใคร

เราเข้าใจดีว่าทำไมทีมงานจึงไว้ใจ AI มากขึ้นเรื่อยๆ มันเร็ว มันมั่นใจ และโค้ดที่มันเขียนมักดูเป็นระเบียบกว่าที่หลายคนเขียนเอง การยอมรับข้อเสนอของ AS แล้วเดินหน้าต่อจึงเป็นทางเลือกที่เป็นธรรมชาติ ไม่ใช่ความขี้เกียจ แต่ความเร็วนั้นเองที่ทำให้เราข้ามขั้นตอนสำคัญที่สุดไป นั่นคือการตั้งคำถามว่ามันถูกต้องจริงไหม

AI ไม่รับผิดชอบ เพราะมันไม่มีอะไรจะเสีย

ความรับผิดชอบเป็นแนวคิดของมนุษย์และองค์กร ไม่ใช่ของเครื่องมือ เมื่อระบบทำเงินลูกค้าหาย ลูกค้าไม่ได้ฟ้อง AI เขาฟ้องบริษัทของคุณ เมื่อข้อมูลรั่ว หน่วยงานกำกับดูแลไม่ได้ปรับโมเดลภาษา แต่ปรับนิติบุคคลที่ถือข้อมูลนั้น AI สามารถเป็นเครื่องมือที่ทรงพลังในการเขียนโค้ด แต่มันไม่สามารถยืนรับผลที่ตามมาได้ และนั่นหมายความว่าความรับผิดชอบไม่เคยหายไปไหน มันแค่ย้ายกลับมาที่คุณเสมอ

ปัญหาที่ลึกกว่านั้นคือ AI เขียนโค้ดที่ดูถูกต้องได้แม้ในขณะที่มันผิด มันไม่ได้โกหก แต่มันมั่นใจในสิ่งที่มันไม่รู้ โค้ดที่ผ่านการทดสอบง่ายๆ อาจซ่อนสมมติฐานที่ผิดเกี่ยวกับธุรกิจของคุณไว้ลึกๆ และความผิดพลาดแบบนี้จะไม่แสดงตัวในวันที่ส่งมอบ แต่จะรอจังหวะที่แย่ที่สุด เช่นวันที่มีคำสั่งซื้อมากที่สุดของปี

ในงานพัฒนาที่จริงจัง ความถูกต้องไม่ได้เกิดจากการที่โค้ดรันได้ แต่เกิดจากคนที่เข้าใจว่าธุรกิจต้องการอะไร แล้วตรวจสอบว่าโค้ดทำสิ่งนั้นจริงในทุกกรณี รวมถึงกรณีที่ไม่มีใครอยากคิดถึง นี่คือเหตุผลที่การรีวิวโค้ด การทดสอบที่ครอบคลุม และการมีคนที่เข้าใจทั้งธุรกิจและเทคโนโลยี ยังคงเป็นสิ่งที่ AI แทนที่ไม่ได้ แม้มันจะเขียนโค้ดได้เร็วเพียงใด

ก่อนปล่อยให้ AI เขียนโค้ดที่จะรันในระบบจริง มีคำถามที่ควรตอบให้ได้ก่อน

• ใครในทีมเป็นคนตรวจสอบและรับรองว่าโค้ดที่ AI เขียนถูกต้อง ไม่ใช่แค่ดูเหมือนถูก
• ถ้าระบบตัดสินใจผิดในเรื่องที่กระทบเงินหรือข้อมูลของลูกค้า คุณจะตรวจจับได้เร็วแค่ไหน
• เมื่อเกิดความเสียหาย ใครในองค์กรของคุณคือผู้รับผิดชอบที่ระบุชื่อได้ชัดเจน
• คุณมีกระบวนการอะไรที่ทำให้มั่นใจว่าโค้ดผ่านมากกว่าการทดสอบที่ง่ายที่สุด

คำถามที่ควรถาม ไม่ใช่ใครเขียน แต่ใครรับรอง

การถามว่าใครเขียนโค้ดเริ่มเป็นคำถามที่ไม่สำคัญในยุคที่ AI เขียนได้ คำถามที่สำคัญกว่าคือใครเป็นผู้รับรองว่ามันถูกต้องและพร้อมแบกรับผลที่ตามมา เพราะลายเซ็นของความรับผิดชอบยังต้องเป็นของมนุษย์เสมอ AI เปลี่ยนวิธีที่เราสร้างซอฟต์แวร์ได้ แต่มันไม่ได้เปลี่ยนหลักการพื้นฐานว่าทุกระบบที่จับเงิน จับข้อมูล หรือจับความไว้วางใจของคนอื่น ต้องมีมนุษย์ที่ยืนอยู่ข้างหลังมันด้วยชื่อจริง