10 อัลกอริทึมที่น่าอายล้มเหลว

เทคโนโลยีไม่เพียง แต่มีไว้สำหรับทุกคนและนั่นคือผู้คนจำนวนมาก มีเพียงไม่กี่ บริษัท ที่ควบคุมฮาร์ดแวร์และซอฟต์แวร์ส่วนใหญ่ - จาก Apple และ Amazon ไปที่ Facebook, Microsoft และ Google - พวกเขาสามารถทำได้หลายอย่างเพื่อควบคุมกระเป๋าเงินและลูกตาของคุณ บริษัท ยักษ์ที่น่าสงสารทำอะไร ใช้อัลกอริทึมในการตัดสินใจที่สำคัญบางอย่าง

Oxford Living Dictionaries กำหนดอัลกอริทึมเป็น "กระบวนการหรือชุดของกฎที่จะต้องปฏิบัติตามในการคำนวณหรือการดำเนินการแก้ปัญหาอื่น ๆ โดยเฉพาะอย่างยิ่งคอมพิวเตอร์" ตัวอย่างที่สมบูรณ์แบบคือฟีดข่าว Facebook ไม่มีใครรู้ว่ามันทำงานอย่างไรบางโพสต์ของคุณปรากฏบน News Feeds ของคนบางคนหรือไม่ แต่ Facebook ทำ หรือวิธีการเกี่ยวกับอเมซอนแสดงหนังสือที่เกี่ยวข้องกับคุณ? การค้นหาที่เกี่ยวข้องใน Google? ทั้งหมดนี้เป็นความลับที่ได้รับการปกป้องอย่างใกล้ชิดที่ทำงานให้กับ บริษัท เป็นอย่างมากและสามารถส่งผลกระทบอย่างมากต่อชีวิตของคุณ

แต่อัลกอริธึมไม่สมบูรณ์แบบ พวกเขาล้มเหลวและบางคนก็ล้มเหลวอย่างน่าทึ่ง เพิ่มแสงจ้าของโซเชียลมีเดียและความผิดพลาดเล็กน้อยสามารถเปลี่ยนเป็นฝันร้ายของ PR ได้อย่างรวดเร็ว มันไม่ค่อยเป็นอันตราย สิ่งเหล่านี้มักจะเป็นสิ่งที่ New York Times เรียกว่า "Frankenstein Moments" ซึ่งสิ่งมีชีวิตที่บางคนสร้างขึ้นกลายเป็นสัตว์ประหลาด แต่มันเกิดขึ้นและเราได้รวบรวมตัวอย่างล่าสุดที่ร้ายแรงที่สุดด้านล่าง แจ้งให้เราทราบรายการโปรดของคุณในความคิดเห็นด้านล่าง

1 โฆษณาที่น่าสงสัยของ Instagram

ตามที่รายงานโดย The Guardian Facebook ชอบที่จะแสดงโฆษณาสำหรับบริการ Instagram พร้อมโพสต์จากผู้ใช้ของตนเอง แต่อัลกอริทึมนั้นเลือก "ภาพถ่าย" ที่ผิดเพื่อผลักดันเพื่อนของโอลิเวียโซลอนซึ่งเป็นนักข่าวของ เดอะการ์เดียน เลือกภาพสกรีนช็อตอายุหนึ่งปีที่เธอส่งอีเมลขู่



2 โฆษณาแบ่งแยกเชื้อชาติเป้าหมาย

สัปดาห์ที่แล้ว ProPublica รายงานว่า Facebook อนุญาตให้ผู้โฆษณากำหนดเป้าหมายหมวดหมู่ที่ไม่เหมาะสมเช่น "ผู้เกลียดชังชาวยิว" เว็บไซต์จ่าย $ 30 สำหรับโฆษณา (ด้านบน) ที่กำหนดเป้าหมายผู้ชมที่จะตอบสนองเชิงบวกกับสิ่งต่าง ๆ เช่น "ทำไมชาวยิวทำลายล้างโลก" และ "ฮิตเลอร์ไม่ได้ทำอะไรผิด" ได้รับการอนุมัติภายใน 15 นาที

ชนวนพบหมวดหมู่ที่น่ารังเกียจในทำนองเดียวกันและมันก็กลายเป็นอีกกลุ่มหนึ่งที่อยู่ในรายการยาว ๆ ที่ Facebook ไม่เพียง แต่ต้องขออภัยเท่านั้น แต่สัญญาว่าจะแก้ไขด้วยการกำกับดูแลของมนุษย์ คุณก็รู้เหมือนเมื่อมันวางโฆษณาการเลือกตั้งมูลค่า $ 100, 000 สำหรับรัสเซีย

ในโพสต์ Facebook, COO Sheryl Sandberg กล่าวว่าเธอ "รังเกียจและผิดหวังคำเหล่านั้น" และประกาศการเปลี่ยนแปลงเครื่องมือโฆษณา

BuzzFeed ตรวจสอบเพื่อดูว่า Google จะจัดการกับสิ่งที่คล้ายกันอย่างไรและพบว่าเป็นเรื่องง่ายที่จะตั้งค่าโฆษณาที่กำหนดเป้าหมายให้มองเห็นโดยชนชั้นและกลุ่มใหญ่ The Daily Beast ตรวจสอบมันบน Twitter และพบโฆษณานับล้านรายการที่ใช้คำเช่น "Nazi, " "wetback" และคำ N



3 ปี Facebook ในการทบทวน Woes

หากคุณอยู่บน Facebook คุณไม่ต้องสงสัยเลยว่าได้เห็นวิดีโอสิ้นปีที่สร้างอัลกอริธึมพร้อมไฮไลท์ในช่วง 12 เดือนที่ผ่านมา หรือสำหรับบางคนที่มีแสงน้อย ในปี 2014 พ่อคนหนึ่งเห็นรูปลูกสาวคนสุดท้ายของเขาในขณะที่อีกคนหนึ่งเห็นภาพบ้านของเขาในเปลวเพลิง ตัวอย่างอื่น ๆ ได้แก่ ผู้คนที่เห็นสัตว์เลี้ยงตอนปลายของพวกเขาโกศเต็มไปด้วยขี้เถ้าของผู้ปกครองและเพื่อนที่เสียชีวิต ภายในปี 2558 Facebook สัญญาว่าจะกรองความทรงจำที่น่าเศร้าออกไป

• 4 เทสลาชนอัตโนมัติ

  Snafus อัลกอริทึมส่วนใหญ่อยู่ไกลจากอันตรายถึงตาย แต่โลกของรถยนต์ที่ขับเคลื่อนด้วยตนเองจะนำมาซึ่งระดับใหม่ของอันตราย เกิดขึ้นแล้วอย่างน้อยหนึ่งครั้ง เจ้าของเทสลาบนทางหลวงฟลอริดาใช้โหมดกึ่งอิสระ (Autopilot) และชนเข้ากับรถเทรลเลอร์ที่ตัดเขาออก Tesla ออกการอัพเกรดอย่างรวดเร็ว แต่เป็นความผิดพลาดของโหมด Autopilot หรือไม่? การบริหารความปลอดภัยการจราจรบนทางหลวงแห่งชาติบอกว่าอาจจะไม่ได้เนื่องจากระบบต้องการให้คนขับต้องคอยระวังปัญหาตามที่คุณเห็นในวิดีโอด้านบน ตอนนี้ Tesla ป้องกันไม่ให้ Autopilot ทำงานแม้ในกรณีที่ผู้ขับขี่ไม่ตอบสนองต่อสัญญาณภาพก่อน



5 Tay the Racist Microsoft AI

สองสามปีที่ผ่านมาบอทแชทควรจะนำโลกโดยพายุแทนที่พนักงานบริการลูกค้าและทำให้โลกออนไลน์เป็นสถานที่ช่างพูดคุยเพื่อรับข้อมูล Microsoft ตอบกลับในเดือนมีนาคม 2559 โดยผลักดัน AI ชื่อ Tay ที่ผู้คนอายุ 18 ถึง 24 ปีสามารถโต้ตอบกับ Twitter ได้ ในทางกลับกันจะทำให้ทวีตสาธารณะสำหรับฝูง แต่ในเวลาน้อยกว่า 24 ชั่วโมงการเรียนรู้จากฝูงชนที่น่ารังเกียจ Tay กลายเป็นชนชั้นเหยียดหยาม Microsoft ดึง Tay ลงทันที เธอกลับมาในฐานะ AI ใหม่ชื่อ Zo ในเดือนธันวาคม 2559 ด้วย "การตรวจสอบและถ่วงดุลที่แข็งแกร่งเพื่อปกป้องเธอจากการถูกเอารัดเอาเปรียบ"



6 ขอแสดงความยินดีกับลูกน้อยของคุณ!

การเปิดเผยแบบเต็ม: ขณะที่ฉันเขียนสิ่งนี้ภรรยาของฉันกำลังท้องจริง ๆ เราทั้งคู่ได้รับอีเมลนี้จากอเมซอนว่ามีคนซื้อบางอย่างให้เราจากรีจีสตรีของเรา เรายังไม่ได้เผยแพร่สู่สาธารณะ แต่มันก็ไม่ได้น่าตกใจ ในขณะเดียวกันลูกค้าของ Amazon อีกหลายล้านคนก็ได้รับทราบเช่นเดียวกันรวมถึงลูกค้าบางรายที่ไม่มีรีจิสทรี … หรือยังไงก็ตาม มันอาจเป็นส่วนหนึ่งของแผนการฟิชชิ่ง แต่ไม่ใช่ อเมซอนตรวจพบข้อผิดพลาดและส่งอีเมลคำขอโทษติดตามผล จากนั้นหลายคนบ่นว่านี่ไม่เหมาะสมหรือไม่รู้สึกตัว นี่เป็นอัลกอริธึมที่น้อยกว่าเซิร์ฟเวอร์อีเมลที่มีปัญหา แต่ไปเพื่อแสดงให้คุณเห็นว่ามันเป็นการรุกรานที่ง่ายเสมอ



7 วัสดุแนะนำ 'ระเบิด' ของ Amazon

ทุกคนเพิ่มขึ้นอย่างรวดเร็วหลังจากรายงานข่าวช่อง 4 ของสหราชอาณาจักรจาก Fox News ถึง The New York Times มันน่าจะพบว่าคุณลักษณะ "ซื้อบ่อยครั้งด้วยกัน" ของอเมซอนจะแสดงให้คนเห็นว่าพวกเขาต้องการสร้างระเบิดอะไรถ้าพวกเขาเริ่มด้วยส่วนผสมอย่างใดอย่างหนึ่งซึ่งเว็บไซต์จะไม่ตั้งชื่อ

สิ่งที่อัลกอริทึมของอเมซอนทำจริงคือการแสดงให้ผู้ซื้อเห็นถึงส่วนผสมในการทำผงสีดำในปริมาณเล็กน้อยซึ่งถูกกฎหมายในสหราชอาณาจักรและใช้สำหรับทุกประเภทเช่นดอกไม้ไฟ - ซึ่งชี้ให้เห็นอย่างรวดเร็วในความคิดที่เหลือเชื่ออย่างเหลือเชื่อ โพสต์บล็อกออกที่ Idle Words รายงานทุกฉบับเกี่ยวกับวิธีที่ Amazon มองเข้าไปเพราะนั่นคือสิ่งที่พวกเขาต้องบอกว่าพวกเขากำลังทำในโลกที่กลัวการก่อการร้ายและตรรกะ



8 Google Maps รับ Racist

ในปี 2558 Google ต้องขออภัยเมื่อ Google Maps ค้นหา "n ***** king" และ "n *** a house" นำไปสู่ทำเนียบขาวซึ่ง Barack Obama ยังคงครอบครองอยู่ในขณะนั้น นี่เป็นผลมาจาก "Googlebomb" ซึ่งเป็นคำที่ใช้บ่อยครั้งกว่าจะได้รับโดยเครื่องมือค้นหาและทำเครื่องหมายว่า "เป็นที่นิยม" ดังนั้นผลลัพธ์จะไปที่ด้านบนของการค้นหา มันเป็นวิธีที่คำว่า "Santorum" ได้คำนิยามใหม่



9 Google แท็กมนุษย์เป็นกอริลล่า

Google Photos เป็นแอพ / บริการที่ยอดเยี่ยมที่เก็บรูปภาพของคุณทั้งหมดและอีกมากมาย หนึ่งในนั้นคือการแท็กบุคคลและสิ่งต่าง ๆ ในรูปภาพโดยอัตโนมัติ มันใช้การจดจำใบหน้าเพื่อให้ผู้คนแคบลงเรื่อย ๆ จนถึงคนที่ถูกต้อง ฉันยังมีโฟลเดอร์ของสุนัขทั้งหมดของฉันและฉันไม่ได้ติดแท็กใด ๆ ของพวกเขา มันใช้งานได้ดีมากในปี 2558 Google ต้องขอโทษ Jacky Alcinéนักเขียนโปรแกรมคอมพิวเตอร์เมื่อเขาและเพื่อน - ทั้งคู่เป็นสีดำ - ได้รับการบริการจากกอริลลา "เราตกใจและเสียใจอย่างยิ่งที่สิ่งนี้เกิดขึ้น" Google บอก PCMag



10 ความปลอดภัยของหุ่นยนต์โจมตีเด็กฆ่าตัวตาย

Knightscope สร้างหุ่นยนต์รักษาความปลอดภัยแบบอิสระที่เรียกว่า K5 สำหรับการตรวจตราโรงเรียนและห้างสรรพสินค้าและพื้นที่ใกล้เคียง กรวย Dalek-esque สูง 5 ฟุตบนล้อซึ่งเครดิตของพวกเขายังอยู่ในการทดสอบเบต้า - มีแนวโน้มที่จะทำให้ข่าวไม่ได้สำหรับการป้องกันอาชญากรรม แต่สำหรับข้อบกพร่อง

ตัวอย่างเช่นในเดือนกรกฎาคมปี 2016 K5 ในศูนย์การค้าสแตนฟอร์ดในพาโลอัลโตวิ่งฝ่าเท้าอายุ 16 เดือนและ Knightscope ต้องขอโทษอย่างเป็นทางการ ที่ตั้งเดียวกันนั่นอาจจะเป็นหุ่นตัวเดียวกันที่มีการทะเลาะกันในลานจอดรถที่เมา แต่อย่างน้อยนั่นก็ไม่ใช่ความผิดของ K5 คณะลูกขุนยังคงออกหน่วย K5 ในจอร์จทาวน์วอเตอร์ฟรอนท์คอมเพล็กซ์สำนักงาน / ห้างสรรพสินค้าในกรุงวอชิงตันดีซี…ว่ามีใครบางคนที่ถูกทาบทามบันไดลงไปในน้ำพุหลังจากนั้นเพียงหนึ่งสัปดาห์ในการทำงาน มันไม่ได้ดูดีสำหรับกองทัพของ Skynet