อุบัติเหตุทางรถยนต์ที่ขับด้วยตนเองของ Uber: ai ทำให้เราล้มเหลว

เมื่อวันที่ 12 มีนาคม MIT Technology Review ได้เล่าเรื่องราวที่เริ่มต้นขึ้นเช่นนี้: "เป็นปี 2566 และในที่สุดรถยนต์ที่ขับขี่ด้วยตนเองก็กำลังนำทางไปตามถนนในเมืองของเราเป็นครั้งแรกที่หนึ่งในนั้นชนและฆ่าคนเดินเท้าด้วย การรายงานข่าวจากสื่อมวลชนจำนวนมากมีแนวโน้มว่าจะมีการฟ้องร้องคดีที่มีความเป็นไปได้สูง

ทุกอย่างเกี่ยวกับการทำนายถูกต้องยกเว้นวันที่ หนึ่งสัปดาห์หลังจากที่ตีพิมพ์บทความ Uber ตัวตนขับรถชนและฆ่าคนเดินถนนในเทมพีรัฐแอริโซนาในขณะที่ทำงานในโหมดอัตโนมัติ

แม้ว่าเหตุการณ์จะยังอยู่ในระหว่างการตรวจสอบ แต่ความวุ่นวายที่เกิดขึ้นเป็นเครื่องบ่งชี้ว่าเราอยู่ห่างจากการรวมปัญญาประดิษฐ์เข้ากับภารกิจและการตัดสินใจที่สำคัญของเราได้สำเร็จเพียงใด

ในหลายกรณีปัญหาไม่ได้อยู่กับ AI แต่ด้วยความคาดหวังและความเข้าใจของเรา จากการรายงานของ Wired คนเกือบ 40, 000 คนเสียชีวิตจากอุบัติเหตุบนท้องถนนเมื่อปีที่แล้วในสหรัฐอเมริกาเพียงลำพังโดยมีคนเดินถนน 6, 000 คน แต่มีน้อยมาก (ถ้ามี) ทำข่าวในแบบที่เหตุการณ์ของ Uber ทำ

หนึ่งในเหตุผลที่ความผิดพลาดของ Uber ทำให้เกิดความปั่นป่วนเช่นนั้นคือโดยทั่วไปเรามีความคาดหวังสูงเกี่ยวกับเทคโนโลยีใหม่ ๆ แม้ว่าพวกเขาจะยังคงพัฒนาอยู่ก็ตาม ภายใต้ภาพลวงตาว่าคณิตศาสตร์บริสุทธิ์ผลักดันอัลกอริธึม AI เรามักจะเชื่อใจการตัดสินใจของพวกเขาและรู้สึกตกใจเมื่อพวกเขาทำผิดพลาด

แม้แต่ผู้ขับขี่ที่มีความปลอดภัยที่อยู่หลังพวงมาลัยของรถยนต์ที่ขับด้วยตนเองก็ยังสามารถป้องกันตัวเองลงได้ ภาพจากเหตุการณ์ที่เกิดขึ้นบน Uber แสดงให้เห็นว่าคนขับต้องถูกเบี่ยงเบนความสนใจโดยมองลงไปไม่กี่วินาทีก่อนเกิดความผิดพลาด

ในปี 2559 คนขับรถของ Tesla S Model ทำงานในโหมด Autopilot เสียชีวิตหลังจากรถชนเข้ากับรถบรรทุก การสอบสวนพบว่าคนขับอาจดูหนัง Harry Potter ในเวลาที่เกิดการชน

ความคาดหวังของความสมบูรณ์แบบสูงและความผิดหวังนั้นทรงพลัง นักวิจารณ์ได้อย่างรวดเร็วเพื่อนำโครงการรถยนต์ที่ขับเคลื่อนด้วยตนเองทั้งหมดของ Uber มาเป็นคำถามหลังจากเหตุการณ์นั้น บริษัท ได้ระงับการทดสอบรถยนต์ขับด้วยตนเองชั่วคราวในภายหลัง

AI ไม่ใช่มนุษย์

ท่ามกลางการวิพากษ์วิจารณ์ที่เกิดขึ้นหลังจากการชนก็คือคนขับจะหลีกเลี่ยงเหตุการณ์ได้ง่าย

“ ไม่ได้กระโดดออกจากพุ่มไม้เธอมีความคืบหน้าชัดเจนในหลาย ๆ ช่องทางของการจราจรซึ่งน่าจะอยู่ในขอบเขตของระบบในการรับรถ” ผู้เชี่ยวชาญคนหนึ่งกล่าวกับ CNN

เธอพูดถูก คนขับรถที่มีประสบการณ์น่าจะทำให้เธอเป็นด่าง แต่อัลกอริธึม AI ไม่ใช่มนุษย์

อัลกอริทึมการเรียนรู้ลึกที่พบในรถยนต์ที่ขับด้วยตนเองใช้ตัวอย่างมากมายเพื่อ "เรียนรู้" กฎของโดเมนของพวกเขา เมื่อพวกเขาใช้เวลาอยู่บนท้องถนนพวกเขาจำแนกข้อมูลที่รวบรวมและเรียนรู้ที่จะรับมือกับสถานการณ์ที่แตกต่างกัน แต่นี่ไม่ได้หมายความว่าพวกเขาใช้กระบวนการตัดสินใจเช่นเดียวกับตัวขับเคลื่อนมนุษย์ นั่นเป็นเหตุผลที่พวกเขาอาจทำงานได้ดีกว่ามนุษย์ในบางสถานการณ์และล้มเหลวในสิ่งที่ดูเหมือนมนุษย์

ตัวอย่างที่สมบูรณ์แบบคืออัลกอริธึมการจัดหมวดหมู่ภาพซึ่งเรียนรู้ที่จะจำภาพโดยการวิเคราะห์ภาพถ่ายที่มีป้ายกำกับนับล้าน ในช่วงหลายปีที่ผ่านมาการจำแนกภาพได้กลายเป็นมนุษย์ที่มีประสิทธิภาพสูงสุดและเหนือกว่ามนุษย์ในหลาย ๆ การตั้งค่า นี่ไม่ได้หมายความว่าอัลกอริทึมจะเข้าใจบริบทของภาพในลักษณะเดียวกับที่มนุษย์ทำ

ตัวอย่างเช่นการวิจัยโดยผู้เชี่ยวชาญของ Microsoft และ Stanford University พบว่าอัลกอริทึมการเรียนรู้อย่างลึกฝึกฝนด้วยภาพของแมวขาวที่เชื่อว่ามีความเชื่อมั่นในระดับสูงว่าภาพถ่ายของสุนัขสีขาวเป็นตัวแทนของแมว และในกรณีที่น่าอับอายอัลกอริทึมการจัดหมวดหมู่ภาพของ Google จัดกลุ่มคนที่มีผิวสีเข้มเป็นกอริลล่าโดยไม่เหมาะสม

สถานการณ์เหล่านี้เรียกว่า "edge cases" สถานการณ์ที่ AI อัลกอริทึมยังไม่ได้รับการฝึกฝนให้จัดการมักจะเกิดจากการขาดข้อมูล อุบัติเหตุ Uber ยังอยู่ระหว่างการสอบสวน แต่ผู้เชี่ยวชาญ AI บางคนแนะนำว่าอาจเป็นอีกกรณีหนึ่ง

การเรียนรู้อย่างลึกซึ้งมีความท้าทายมากมายที่จะเอาชนะได้ก่อนที่จะสามารถนำไปใช้ในสถานการณ์ที่สำคัญได้ แต่ความล้มเหลวไม่ควรขัดขวางเรา เราต้องปรับการรับรู้และความคาดหวังของเราและยอมรับความจริงที่ว่าเทคโนโลยีที่ยิ่งใหญ่ทุกตัวล้มเหลวในระหว่างการวิวัฒนาการ AI ไม่แตกต่างกัน