AI Agent พร้อมใช้งานจริงหรือยัง?

ผู้บริหารท่านหนึ่งกลับมาจากงานสัมมนาด้วยความตื่นเต้น เขาเห็นการสาธิต AI Agent ที่รับคำสั่งเป็นภาษาคนแล้วจัดการงานทั้งกระบวนการได้เอง ตั้งแต่ตอบลูกค้า ออกใบเสนอราคา ไปจนถึงนัดหมาย เขาสั่งให้ทีมนำมาใช้ทันที สามเดือนต่อมา ทีมต้องกลับไปทำงานด้วยมือเหมือนเดิม เพราะ Agent ทำงานได้ดีในแปดสิบเปอร์เซ็นต์ของกรณี แต่ยี่สิบเปอร์เซ็นต์ที่เหลือคือกรณีที่สร้างความเสียหายมากที่สุด

ปัญหาไม่ได้อยู่ที่ AI Agent ไม่ดี แต่อยู่ที่ระยะห่างระหว่างสิ่งที่เดโมแสดงกับสิ่งที่งานจริงต้องการ เดโมถูกออกแบบมาให้ทำงานในเงื่อนไขที่สวยงาม ข้อมูลสะอาด คำถามชัดเจน ไม่มีกรณียกเว้น แต่งานจริงเต็มไปด้วยความคลุมเครือ ข้อยกเว้น และผลลัพธ์ที่ผิดพลาดได้แบบที่ไม่มีใครคาดถึง

ทำไมเดโมถึงน่าเชื่อเสมอ

ความตื่นเต้นเป็นเรื่องเข้าใจได้และมีรากฐานที่จริง AI Agent ในวันนี้ทำสิ่งที่เมื่อไม่กี่ปีก่อนเป็นไปไม่ได้ มันเข้าใจภาษา เชื่อมต่อเครื่องมือหลายตัว และตัดสินใจในระดับหนึ่งได้เอง สำหรับงานที่ทำซ้ำ ๆ มีรูปแบบชัดเจน และยอมรับความผิดพลาดเล็กน้อยได้ มันคือเครื่องมือที่เปลี่ยนเกมจริง

แต่สิ่งที่เดโมไม่เคยแสดงคือว่ามันจัดการกับสิ่งที่มันไม่รู้อย่างไร เมื่อ Agent เจอสถานการณ์นอกเหนือจากที่เคยฝึกมา มันมักไม่หยุดเพื่อถาม แต่เดินหน้าด้วยความมั่นใจไปสู่คำตอบที่ผิด และนี่คือความแตกต่างที่สำคัญที่สุดระหว่างเครื่องมือที่น่าตื่นเต้นกับเครื่องมือที่ไว้ใจได้ เครื่องมือที่ไว้ใจได้รู้ว่าเมื่อไรควรยอมรับว่าไม่รู้

คำถามที่ถูกต้องไม่ใช่ AI Agent พร้อมหรือยัง เพราะคำตอบขึ้นกับว่าเราจะให้มันทำอะไร มันพร้อมมากสำหรับงานที่ผิดพลาดแล้วแก้ไขได้ง่าย เช่น ร่างคำตอบให้คนตรวจ จัดหมวดหมู่เอกสาร หรือสรุปข้อมูลจำนวนมาก แต่มันยังไม่พร้อมสำหรับงานที่ความผิดพลาดหนึ่งครั้งสร้างความเสียหายที่กู้คืนไม่ได้ เช่น การโอนเงิน การให้คำมั่นกับลูกค้า หรือการตัดสินใจที่มีผลทางกฎหมาย

หลักที่ใช้ได้ดีคือยิ่งต้นทุนของความผิดพลาดสูงและยิ่งแก้ไขย้อนกลับยาก ก็ยิ่งต้องมีคนคอยกำกับ การวาง Agent ไว้ในจุดที่มันช่วยร่างและเตรียมงาน แต่ให้คนเป็นผู้ตัดสินใจขั้นสุดท้าย มักให้ผลที่ดีกว่าการปล่อยให้มันทำงานตามลำพังตั้งแต่ต้นจนจบ

คำถามก่อนปล่อย Agent ให้ทำงานจริง

• ถ้า Agent ทำผิดในกรณีที่เลวร้ายที่สุด ความเสียหายนั้นกู้คืนได้หรือไม่
• เรารู้หรือไม่ว่ามันตัดสินใจผิดเมื่อไร หรือมันจะผิดอย่างเงียบ ๆ โดยไม่มีใครเห็น
• ใครเป็นผู้รับผิดชอบเมื่อ Agent ตัดสินใจแล้วเกิดผลเสีย
• เรากำลังวัดความสำเร็จจากกรณีปกติ หรือจากกรณียกเว้นที่สำคัญที่สุด

การถามว่าพร้อมหรือยังจึงเป็นการตั้งคำถามผิด คำถามที่ดีกว่าคือพร้อมสำหรับงานไหน ภายใต้การกำกับแบบใด และเรายอมรับความผิดพลาดได้แค่ไหน เพราะการนำ AI Agent มาใช้อย่างชาญฉลาดไม่ใช่การเลือกระหว่างใช้กับไม่ใช้ แต่คือการรู้ว่าจะวางมันไว้ตรงไหนของกระบวนการ และจะให้คนยืนอยู่ตรงไหน