ปีของการพิจารณาทางจริยธรรมของอุตสาหกรรมไอ

นับตั้งแต่เครือข่ายประสาทเทียมระดับลึกชนะการประกวดการจดจำรูปภาพที่สำคัญที่สุดในโลกในปี 2555 ทุกคนต่างตื่นเต้นกับสิ่งที่ปัญญาประดิษฐ์สามารถปลดปล่อยออกมาได้ แต่ในการแข่งขันเพื่อพัฒนาเทคนิคและแอปพลิเคชั่น AI ใหม่ผลกระทบด้านลบที่อาจเกิดขึ้นได้กลับมาเป็นเหมือนเดิม

ตอนนี้เราเห็นการเปลี่ยนแปลงไปสู่การรับรู้มากขึ้นเกี่ยวกับจริยธรรม AI ในปีพ. ศ. 2561 นักพัฒนา AI เริ่มตระหนักถึงความเป็นไปได้ในการสร้างสรรค์ วิศวกรนักวิจัยและนักพัฒนาหลายคนบอกชัดเจนว่าพวกเขาจะไม่สร้างเทคโนโลยีที่เป็นอันตรายหรือก่อให้เกิดความเสียหายต่อชีวิตของผู้บริสุทธิ์และพวกเขาก็จัดการ บริษัท ของพวกเขา

การจดจำใบหน้าในการบังคับใช้กฎหมาย

ในอดีตการสร้างแอปพลิเคชันจดจำใบหน้านั้นยากลำบากใช้ทรัพยากรอย่างมากและมีแนวโน้มที่จะเกิดข้อผิดพลาด แต่ด้วยความก้าวหน้าในการมองเห็นคอมพิวเตอร์ - AI ส่วนย่อยที่ช่วยให้คอมพิวเตอร์สามารถรับรู้เนื้อหาของภาพและวิดีโอ - การสร้างแอพพลิเคชั่นจดจำใบหน้าได้ง่ายขึ้นมากและอยู่ใกล้กับทุกคน

บริษัท เทคโนโลยีขนาดใหญ่เช่น Microsoft, Amazon และ IBM เริ่มให้บริการบนคลาวด์ซึ่งทำให้นักพัฒนาซอฟต์แวร์สามารถผสานเทคโนโลยีจดจำใบหน้าเข้ากับซอฟต์แวร์ของตนได้ สิ่งนี้ได้ปลดล็อคเคสและแอปพลิเคชั่นใหม่จำนวนมากในโดเมนที่แตกต่างกันเช่นการป้องกันข้อมูลประจำตัวและการพิสูจน์ตัวตนการรักษาความปลอดภัยในบ้านอัจฉริยะและการค้าปลีก แต่นักเคลื่อนไหวด้านสิทธิส่วนบุคคลได้แสดงความกังวลเกี่ยวกับศักยภาพในการใช้งานในทางที่ผิด

ในเดือนพฤษภาคมปี 2018 สหภาพเสรีภาพพลเรือนอเมริกันเปิดเผยว่าอเมซอนกำลังทำการตลาด Rekognition ซึ่งเป็นเทคโนโลยีการวิเคราะห์วิดีโอแบบเรียลไทม์เพื่อบังคับใช้กฎหมายและหน่วยงานของรัฐ ตาม ACLU ตำรวจในอย่างน้อยสามรัฐกำลังใช้ Rekognition สำหรับการจดจำใบหน้าในฟีดวิดีโอการเฝ้าระวัง

"ด้วย Rekognition ตอนนี้รัฐบาลสามารถสร้างระบบเพื่อระบุและติดตามบุคคลโดยอัตโนมัติหากตัวอย่างเช่นกล้องตัวตำรวจถูกติดตั้งด้วยการจดจำใบหน้าอุปกรณ์ที่มีจุดประสงค์เพื่อความโปร่งใสของเจ้าหน้าที่และความรับผิดชอบจะเปลี่ยนเป็นเครื่องเฝ้าระวังที่มุ่งไปที่ สาธารณะ "ACLU เตือน "โดยอัตโนมัติการเฝ้าระวังจำนวนมากระบบจดจำใบหน้าเช่น Rekognition คุกคามอิสรภาพนี้วางตัวเป็นภัยคุกคามต่อชุมชนที่มีเป้าหมายที่ไม่ยุติธรรมในบรรยากาศทางการเมืองในปัจจุบันเมื่อระบบเฝ้าระวังที่มีประสิทธิภาพเช่นนี้ถูกสร้างและปรับใช้แล้วอันตรายจะยากต่อการยกเลิก ."

ความกังวลของ ACLU สะท้อนโดยพนักงานของ Amazon ซึ่งในเดือนมิถุนายนได้เขียนจดหมายถึง Jeff Bezos ซีอีโอของ บริษัท และขอให้หยุดการขาย Rekognition ต่อการบังคับใช้กฎหมาย "บริษัท ของเราไม่ควรอยู่ในธุรกิจเฝ้าระวังเราไม่ควรอยู่ในธุรกิจตำรวจ แต่เราไม่ควรอยู่ในธุรกิจที่ให้การสนับสนุนผู้ตรวจสอบและบีบบังคับประชากรชายขอบ" จดหมายอ่าน

ในเดือนตุลาคมพนักงาน Amazon ที่ไม่ระบุชื่อเปิดเผยว่ามีพนักงานอย่างน้อย 450 คนได้ลงนามในจดหมายอีกฉบับหนึ่งซึ่งเรียกร้องให้เบโซสและผู้บริหารคนอื่นหยุดการขาย Rekognition ต่อตำรวจ "เราไม่สามารถทำกำไรจากกลุ่มลูกค้าที่ทรงพลังได้ด้วยค่าใช้จ่ายของชุมชนของเราเราไม่สามารถหลีกเลี่ยงค่าใช้จ่ายจากธุรกิจมนุษย์ของเราได้เราจะไม่สร้างเทคโนโลยีอย่างเงียบ ๆ เพื่อกดขี่และสังหารผู้คนไม่ว่าจะในประเทศของเรา "มันพูด

ความล้มเหลวของโครงการ AI ทางทหารของ Google

ในขณะที่อเมซอนกำลังจัดการกับระยะฟันเฟืองภายในนี้ Google กำลังประสบปัญหาคล้ายกันในเรื่องสัญญาเพื่อพัฒนา AI สำหรับกองทัพสหรัฐซึ่งเรียกว่า Project Maven

มีรายงานว่า Google ได้ให้ความช่วยเหลือกระทรวงกลาโหมในการพัฒนาเทคโนโลยีคอมพิวเตอร์วิสัยทัศน์ที่จะประมวลผลวิดีโอโดรน จำนวนวิดีโอวิดีโอที่บันทึกโดยโดรนทุกวันนั้นมากเกินกว่าที่นักวิเคราะห์มนุษย์จะต้องตรวจสอบและเพนตากอนต้องการที่จะทำให้ส่วนหนึ่งของกระบวนการเป็นไปโดยอัตโนมัติ

รับทราบถึงข้อถกเถียงที่เป็นธรรมชาติของงานโฆษกของ Google ระบุว่ามันเป็นเพียงการจัดหา API สำหรับ TensorFlow ซึ่งเป็นแพลตฟอร์มการเรียนรู้ด้วยเครื่องจักรเพื่อตรวจจับวัตถุในฟีดวิดีโอ Google ยังเน้นว่าการพัฒนานโยบายและการป้องกันเพื่อแก้ไขปัญหาด้านจริยธรรมของเทคโนโลยี

แต่ Project Maven ไม่สามารถทำงานร่วมกับพนักงาน Google ได้ 3, 000 คนรวมถึงวิศวกรนับสิบคนได้ลงนามในจดหมายเปิดผนึกถึงซีอีโอซันดาร์พิชัยผู้ซึ่งเรียกร้องให้ยุติโครงการนี้

"เราเชื่อว่า Google ไม่ควรอยู่ในภาวะสงคราม" จดหมายอ่าน มันขอให้ บริษัท "ร่างเผยแพร่และบังคับใช้นโยบายที่ชัดเจนซึ่งระบุว่าทั้ง Google และผู้รับเหมาจะไม่สร้างเทคโนโลยีการสงคราม"

พนักงานของ Google เตือนด้วยว่านายจ้างของพวกเขากำลังเสี่ยงต่อชื่อเสียงและความสามารถในการแข่งขันเพื่อความสามารถในอนาคต "เราไม่สามารถ outsource ความรับผิดชอบทางศีลธรรมของเทคโนโลยีของเราต่อบุคคลที่สาม" ชาว Google กล่าว

หลังจากนั้นไม่นานคำร้องที่ลงนามโดยนักวิชาการและนักวิจัย 90 คนเรียกร้องให้ผู้บริหารระดับสูงของ Google หยุดทำงานด้านเทคโนโลยีการทหาร ผู้ลงนามเตือนว่างานของ Google จะเป็นจุดเริ่มต้นสำหรับ "การจดจำเป้าหมายอัตโนมัติและระบบอาวุธอัตโนมัติ" พวกเขายังเตือนว่าเมื่อเทคโนโลยีพัฒนาพวกเขาจะยืน "ไม่ไกลจากการอนุญาตโดรนอิสระให้ฆ่าโดยอัตโนมัติโดยไม่ต้องมีการควบคุมโดยมนุษย์หรือการควบคุมมนุษย์ที่มีความหมาย"

เมื่อความตึงเครียดเพิ่มขึ้นพนักงาน Google หลายคนได้ลาออกจากการประท้วง

ผู้นำเทคโนโลยีตอบสนองอย่างไร

Google ประกาศในเดือนมิถุนายนว่าจะไม่ต่ออายุสัญญากับกระทรวงกลาโหมในโครงการ Maven หลังจากหมดอายุในปี 2562

ในบล็อกโพสต์ CEO Sundar Pichai (ในภาพด้านล่าง) ประกาศชุดของหลักการทางจริยธรรมที่จะควบคุมการพัฒนาของ บริษัท และการขายเทคโนโลยี AI จากข้อมูลของพิชัย บริษัท จะพิจารณาโครงการที่เป็นประโยชน์ต่อสังคมโดยรวมและหลีกเลี่ยงการพัฒนา AI ที่เสริมความลำเอียงที่ไม่เป็นธรรมหรือเสริมสร้างความปลอดภัยของประชาชน

พิชัยยังกล่าวอย่างชัดเจนว่า บริษัท ของเขาจะไม่ทำงานกับเทคโนโลยีที่ละเมิดบรรทัดฐานด้านสิทธิมนุษยชน

Bezos ของอเมซอนตกใจน้อยกว่าเรื่องความไม่พอใจมากกว่า Rekognition “ เรากำลังจะให้การสนับสนุนกระทรวงต่อไปและฉันคิดว่าเราควรจะ” เบโซสกล่าวในการประชุมเทคโนโลยีในซานฟรานซิสโกในเดือนตุลาคม "หนึ่งในตำแหน่งผู้นำอาวุโสคือการตัดสินใจที่ถูกต้องแม้ว่าจะไม่เป็นที่นิยมก็ตาม"

Bezos ยังเน้นย้ำถึงความจำเป็นของชุมชนเทคโนโลยีในการสนับสนุนกองทัพ “ หาก บริษัท เทคโนโลยีขนาดใหญ่กำลังจะหันหลังให้กับกระทรวงกลาโหมประเทศนี้จะเดือดร้อน” เขากล่าว

ประธานาธิบดีแบรดสมิ ธ ของ Microsoft ซึ่ง บริษัท ต้องเผชิญกับการวิพากษ์วิจารณ์เกี่ยวกับการทำงานกับ ICE ได้เผยแพร่โพสต์บล็อกในเดือนกรกฎาคมซึ่งเขาเรียกร้องให้มีวิธีการวัดในการขายเทคโนโลยีที่ละเอียดอ่อนแก่หน่วยงานรัฐบาล ในขณะที่สมิ ธ ไม่ได้ออกกฎการขายบริการจดจำใบหน้าให้กับการบังคับใช้กฎหมายและกองทัพเขาเน้นถึงความจำเป็นในการควบคุมและความโปร่งใสที่ดีขึ้นในภาคเทคโนโลยี

• MIT ใช้เงิน $ 1 พันล้านในโปรแกรมการศึกษา AI จริยธรรม MIT ใช้จ่าย $ 1 พันล้านเหรียญในโปรแกรมเพื่อศึกษา AI จริยธรรม
• AI พูดภาษาของเราจริง ๆ AI พูดภาษาของเราจริง ๆ
• การทำลายโรงงาน AI ที่ไม่หยุดยั้งของจีนการทำลายโรงงาน AI ที่ไม่หยุดทำการของจีน

"เราได้เลือกผู้แทนในสภาคองเกรสมีเครื่องมือที่จำเป็นในการประเมินเทคโนโลยีใหม่นี้พร้อมด้วยสาขาทั้งหมดเราได้รับประโยชน์จากการตรวจสอบและถ่วงดุลของรัฐธรรมนูญที่ได้เห็นเราตั้งแต่ยุคเทียนจนถึงยุคของปัญญาประดิษฐ์เช่นเดียวกับใน หลายครั้งในอดีตเราจำเป็นต้องตรวจสอบให้แน่ใจว่าสิ่งประดิษฐ์ใหม่รับใช้เสรีภาพในระบอบประชาธิปไตยตามหลักนิติธรรม "สมิ ธ เขียน

ในปี 2561 ภัยคุกคามจากหุ่นยนต์นักฆ่าและการว่างงานจำนวนมากทำให้เกิดความกังวลเกี่ยวกับผลกระทบทางจริยธรรมและสังคมของ AI ในทันที ในหลาย ๆ ทางการพัฒนาเหล่านี้บ่งชี้ว่าอุตสาหกรรมกำลังเติบโตขึ้นเนื่องจากอัลกอริทึม AI นั้นมีความโดดเด่นในงานที่สำคัญยิ่งกว่า แต่เมื่ออัลกอริทึมและระบบอัตโนมัติกลายเป็นสิ่งที่ฝังแน่นในชีวิตประจำวันของเรามากขึ้นการอภิปรายจะเกิดขึ้น