วิธี gdpr จะส่งผลกระทบต่ออุตสาหกรรมไอ เบนดิกสัน

ในสิ่งที่สามารถอธิบายได้ว่าเป็นการแข่งขันทางด้านอาวุธ บริษัท เทคโนโลยีได้รวบรวมข้อมูลผู้ใช้จำนวนมากเพื่อฝึกฝนอัลกอริทึมปัญญาประดิษฐ์ที่เสริมกำลังแอพพลิเคชั่นและแพลตฟอร์มของพวกเขา จนถึงตอนนี้พวกเขาส่วนใหญ่สามารถหลบเลี่ยงความรับผิดชอบเมื่อการปฏิบัติของพวกเขาผลักพวกเขาไปสู่พื้นที่สีเทาที่ถูกต้องตามกฎหมายและจริยธรรม

แต่นั่นอาจเปลี่ยนแปลงในวันที่ 25 พฤษภาคมเมื่อกฎการปกป้องข้อมูลทั่วไปของสหภาพยุโรป (GDPR) มีผลบังคับใช้ GDPR จะมีข้อ จำกัด อย่างไม่เคยปรากฏมาก่อนในการรวบรวมและจัดการข้อมูลผู้ใช้ในภูมิภาคสหภาพยุโรปและลงโทษ บริษัท ที่ไม่ปฏิบัติตามอย่างรุนแรง

นั่นอาจฟังดูเป็นข่าวร้ายสำหรับ บริษัท ที่ใช้อัลกอริธึม AI ซึ่งได้รับประโยชน์จากข้อบังคับการเก็บข้อมูลที่หละหลวม (และน่าเบื่อยาวและคลุมเครือในแง่ของเอกสารบริการ) บางคนกลัวว่ากฎที่เข้มงวดจะขัดขวางการสร้างสรรค์และการใช้ปัญญาประดิษฐ์ในแอปพลิเคชันและโดเมนจำนวนมาก คนอื่น ๆ เชื่อว่าคำสั่งใหม่จะสร้างรากฐานที่แอปพลิเคชั่น AI จะน่าเชื่อถือและไว้วางใจได้มากขึ้น

ไม่ว่าในกรณีใดอุตสาหกรรม AI นั้นกำลังเติบโตอย่างมากในยุคของ GDPR

การเป็นเจ้าของข้อมูลและความเป็นส่วนตัว

"GDPR เป็นเรื่องใหญ่สำหรับ AI เพราะมันจำเป็นที่เราจะต้องคิดต่างกันเกี่ยวกับวิธีการที่เรารวบรวมและใช้ข้อมูล" Tim Estes ผู้ก่อตั้งและประธานฝ่าย Digital Reasoning กล่าว "นานเกินไป บริษัท เทคโนโลยียืนยันว่าเพื่อให้ได้รับคุณค่าจากผลิตภัณฑ์และบริการของพวกเขาคุณต้องยอมแพ้ข้อมูลของคุณ"

ก่อนหน้านี้ บริษัท จะต้องได้รับความยินยอมที่คลุมเครือจากผู้ใช้เพื่อรวบรวมข้อมูลทุกประเภท “ เอไอช่วยรักษาข้อมูลขนาดใหญ่ที่ยังมีชีวิตอยู่ - ซึ่งเป็นอีกเหตุผลหนึ่งที่ธุรกิจควรรวบรวมและขุดข้อมูลที่มีอยู่ทั้งหมด” เอสเตสกล่าว "หลาย บริษัท เริ่มนำ AI มาใช้ในการวิเคราะห์ข้อมูลเพียงเพราะพวกเขาคิดว่าควร - โดยไม่ต้องคำนึงถึงผลกระทบต่อความเป็นส่วนตัวของผู้ใช้หรือความเป็นเจ้าของข้อมูล"

หลักฐานพื้นฐานที่สุดของ GDPR คือข้อมูลนั้นเป็นของผู้ใช้ ภายใต้ GDPR บริษัท จะต้องเปิดเผยข้อมูลทั้งหมดที่รวบรวมได้รวมถึงวิธีการใช้และวิธีการที่พวกเขาจะปกป้องและป้องกันการเข้าถึงโดยไม่ได้รับอนุญาต กฎใหม่จะบังคับให้ บริษัท AI ต้องพิถีพิถันมากขึ้นเกี่ยวกับข้อมูลที่พวกเขารวบรวมเมื่อเทียบกับการมีส่วนร่วมในการกักตุนการแปรรูปและการแบ่งปันข้อมูลผู้ใช้

สิทธิที่จะถูกลืม

GDPR ให้อำนาจแก่ผู้ใช้ในการเรียกร้องให้ บริษัท ลบข้อมูลทั้งหมดออกจากเซิร์ฟเวอร์ สิ่งนี้จะไม่ได้ผลดีกับ บริษัท AI ที่มีความสนใจในการเก็บข้อมูลผู้ใช้ให้มากที่สุดเท่าที่จะทำได้ในการทำงานเช่นการทำนายแนวโน้มและพฤติกรรมของผู้ใช้

"ในตอนท้ายของวัน GDPR คือทั้งหมดที่คุณรวบรวมและจัดการข้อมูลและไม่จำเป็นต้องเกี่ยวกับจำนวนข้อมูลที่คุณมี" Maryna Burushkina ซีอีโอของ GrowthChannel กล่าว "ปัญหาหลักที่ บริษัท ส่วนใหญ่เผชิญอยู่นั้นไม่ได้เกี่ยวกับการเลือกใช้ แต่ให้มากขึ้นในการจัดการข้อมูลสื่อสารการใช้ข้อมูลไปยังผู้ใช้และเปิดโอกาสให้ผู้ใช้ลบได้"

บริษัท เอไอจะต้องดำเนินการขั้นตอนพิเศษเพื่อเปิดเผยข้อมูลของตนหากพวกเขายังต้องการเข้าถึงข้อมูลเชิงลึกเหล่านี้ แต่ความท้าทายอื่น ๆ ต้องเผชิญกับ บริษัท ที่มีข้อมูลผู้ใช้จำนวนมากอยู่แล้ว

“ ภายใต้ GDPR หาก บริษัท ต้องการลบข้อมูล PII ที่เฉพาะเจาะจงพวกเขาจะต้องตรวจสอบให้แน่ใจว่ามันถูกลบไปทุกที่” Amnon Drori ซีอีโอของ Octopai กล่าว นี่อาจเป็นภารกิจที่น่ากลัวที่ต้องดำเนินการด้วยตนเองเมื่อข้อมูลของคุณถูกกระจายไปทั่วเซิร์ฟเวอร์ต่าง ๆ และเก็บไว้ในรูปแบบที่มีโครงสร้างและไม่มีโครงสร้างที่แตกต่างกัน

ตัวอย่างเช่นเมื่อลบหมายเลขบัตรเครดิตของผู้ใช้ (แน่นอนว่าเป็นข้อมูลที่ละเอียดอ่อน) บริษัท จะต้องตรวจสอบทุกรายงานฐานข้อมูลวัตถุฐานข้อมูลและ ETL ที่จัดเก็บข้อมูล "บางครั้งเราเห็นชื่อเมทาดาทาที่แตกต่างกันสำหรับรายการเดียวกัน: ตัวอย่างเช่น 'หมายเลขบัตรเครดิต', 'หมายเลขซีซี', หมายเลขซีเครดิต ', ' หมายเลขบัตร ', ' หมายเลขบัตรเครดิต '… รายการดำเนินการต่อ บน "Drori กล่าว บ่อยครั้งที่เป็นไปไม่ได้ที่จะทราบว่าจะต้องดูที่ใดและกระบวนการนี้อาจใช้เวลาหลายสัปดาห์หรือหลายเดือนและเช่นเดียวกับกระบวนการที่ทำด้วยมือหลาย ๆ อย่างมันมีแนวโน้มที่จะเกิดข้อผิดพลาดและความไม่ถูกต้องของมนุษย์

จีดีพีอาร์จะเพิ่มต้นทุนของความผิดพลาดของมนุษย์ในการจัดการข้อมูล "นี่คือเหตุผลที่ บริษัท จำนวนมากในปัจจุบันกำลังมองหาโซลูชั่นอัตโนมัติเพื่อจัดการข้อมูลเมตาของพวกเขาอย่างแม่นยำ" Drori กล่าว บางทีอาจเป็นการประชดประชัน AI เองก็สามารถเป็นทางออกในเรื่องนี้ได้ เครื่องมือการจัดการข้อมูลเมตาของ AI สามารถสแกนแหล่งข้อมูลทั้งหมดภายในองค์กรและรวมความสัมพันธ์ระหว่างเครื่องมือและแหล่งข้อมูลต่าง ๆ

สิทธิในการอธิบาย

หนึ่งในส่วนที่สำคัญที่สุดของ GDPR เกี่ยวกับ AI คือสิ่งที่เรียกว่า "สิทธิในการอธิบาย" คำสั่งระบุว่า บริษัท จะต้องแจ้งผู้ใช้เกี่ยวกับ "การมีอยู่ของการตัดสินใจอัตโนมัติ" และให้ข้อมูลที่มีความหมายเกี่ยวกับตรรกะที่เกี่ยวข้องเช่นเดียวกับความสำคัญและผลที่ตามมาของการประมวลผลสำหรับเรื่องข้อมูล

โดยทั่วไปหมายความว่าผู้ใช้จะต้องรู้ว่าพวกเขาอยู่ภายใต้อัลกอริทึม AI โดยตรงหรือโดยอ้อมและควรจะสามารถท้าทายการตัดสินใจที่อัลกอริทึมเหล่านั้นทำและร้องขอการพิสูจน์ว่าข้อสรุปได้มาอย่างไร นี่จะเป็นหนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดที่อุตสาหกรรม AI จะเผชิญ

เทคโนโลยีหลักที่อยู่เบื้องหลังอัลกอริธึม AI ร่วมสมัยคือโครงสร้างซอฟต์แวร์ที่ซับซ้อนซึ่งสร้างกฎการทำงานของตนเองโดยการวิเคราะห์ชุดข้อมูลขนาดใหญ่และค้นหาความสัมพันธ์และรูปแบบ เมื่อเครือข่ายประสาทเติบโตซับซ้อนมากขึ้นพฤติกรรมของพวกเขาจะยากขึ้นในการย่อยสลาย บ่อยครั้งที่วิศวกรไม่สามารถอธิบายเหตุผลเบื้องหลังการตัดสินใจใช้อัลกอริธึม AI ของตนได้

เรียกว่า "กล่องดำ" ปัญหาความลึกลับของอัลกอริธึมทำให้ยากที่จะนำมาใช้ในการตัดสินใจในห้องพิจารณาคดีการบังคับใช้กฎหมายการให้สินเชื่อและสินเชื่อการสรรหาการดูแลสุขภาพและโดเมนสำคัญอื่น ๆ แต่หากไม่มีอำนาจทางกฎหมาย บริษัท AI ก็มีแรงจูงใจเล็กน้อยที่จะทำให้อัลกอริธึม AI ของพวกเขาโปร่งใสมากขึ้นโดยเฉพาะอย่างยิ่งเมื่อพวกเขาเชื่อมโยงกับความลับทางการค้าอย่างใกล้ชิด

ตอนนี้ GDPR จะถือ บริษัท AI เพื่อพิจารณาการตัดสินใจของอัลกอริทึมของพวกเขา

"ในฐานะส่วนหนึ่งของ GDPR องค์กรต่าง ๆ มีหน้าที่อธิบายวิธีการประมวลผลในภาษามนุษย์อย่างชัดเจนในขณะที่ขอความยินยอมจากผู้เข้าร่วมการวิจัย" Pascal Geenens นักวิจัยด้านความปลอดภัยของ Radware กล่าว "เมื่อการเรียนรู้ลึกลงไปและนักวิทยาศาสตร์ด้านข้อมูลไม่สามารถอธิบายลักษณะที่อยู่เบื้องหลังของเครือข่ายประสาทเทียมได้คำอธิบายนี้อาจซับซ้อนและยากที่จะอธิบาย"

โดยพื้นฐานแล้ว GDPR นั้นเกี่ยวกับการทำให้มนุษย์ที่ประมวลผลข้อมูลมีความรับผิดชอบ Geenens กล่าว ดังนั้นหากคุณกำลังใช้อัลกอริทึมการเรียนรู้ของเครื่องเพื่อทำการประมวลผลคุณต้องออกแบบพวกเขาในแบบที่จะช่วยให้คุณสามารถอธิบายการตัดสินใจที่พวกเขาทำในนามของคุณ

องค์กรจำนวนหนึ่งพยายามที่จะพัฒนาเทคโนโลยีเพื่อให้ AI มีความโปร่งใสมากขึ้น ที่โดดเด่นในหมู่พวกเขาคือ AI Explainable AI (XAI) ของ DARPA ซึ่งเป็นโครงการวิจัยที่มีจุดมุ่งหมายเพื่อให้สามารถทำการตัดสินใจบนพื้นฐานของ AI ได้

AI เอาท์ซอร์ส

GDPR จะส่งผลกระทบต่อองค์กรที่ให้ข้อมูลแก่บุคคลที่สามด้วย ตัวอย่างที่เด่นชัดของ บริษัท ดังกล่าวคือ Facebook; ในเรื่องอื้อฉาว Cambridge Analytica บริษัท ยักษ์ใหญ่ในโซเชียลมีเดียล้มเหลวในการป้องกันไม่ให้ บริษัท เหมืองข้อมูลทำการรวบรวมและใช้ข้อมูลจากผู้ใช้งาน 87 ล้านคน แต่จีดีพีอาร์จะมีผลกระทบต่อ บริษัท ที่ว่าจ้างการทำงานของ AI และให้ข้อมูลแก่ผู้ให้บริการ AI

“ ในขณะที่หลายคนคิดว่าผู้ให้บริการ AI เป็นเหมือนผู้ให้บริการรายอื่น - เพียงเสนอเทคโนโลยีเพื่อแลกกับเงินชดเชย - ความจริงก็คือผู้ให้บริการ AI ก็เข้าสู่พันธมิตรทางธุรกิจเพื่อสร้างและพัฒนาเทคโนโลยีของพวกเขาด้วย” เอสเตสกล่าว ผู้บริหารจากเหตุผลดิจิทัล ซึ่งหมายความว่าผู้ให้บริการ AI อาจต้องการเก็บข้อมูลของลูกค้าไว้เพื่อฝึกอบรมอัลกอริทึมของตนเองเพิ่มเติมและใช้ในโดเมนอื่น

ตัวอย่างเช่นผู้ให้บริการ AI ที่ช่วยองค์กรด้านการดูแลสุขภาพค้นหารูปแบบอาการและปรับปรุงการวินิจฉัยอาจเจอชุดข้อมูลที่ปรับปรุงอัลกอริทึมที่เป็นกรรมสิทธิ์ของตน บริษัท เอไออาจต้องการใช้ประโยชน์จากข้อมูลเพื่อปรับปรุงอัลกอริธึมสำหรับการดูแลผู้ป่วยประเภทอื่นเพื่อพัฒนาความสามารถในการช่วยเหลือผู้ให้บริการด้านสุขภาพอื่น ๆ ภายใต้ GDPR องค์กรด้านการดูแลสุขภาพที่รับผิดชอบข้อมูลจะถูกพิจารณาเพื่อการใช้งานที่ผิดจรรยาบรรณโดยผู้ให้บริการ AI Estes เชื่อว่ากุญแจสำคัญสำหรับธุรกิจในการค้นหาผู้ให้บริการ AI ที่เชื่อในการเป็นเจ้าของอัลกอริทึมไม่ใช่ข้อมูล

"GDPR จะบังคับให้ธุรกิจต่างๆให้ความสนใจอย่างใกล้ชิดกับวิธีการและเวลาที่ใช้ข้อมูลของพวกเขาที่เก็บข้อมูลและสิ่งที่เกิดขึ้นกับมันหลังจากโครงการเสร็จสมบูรณ์" Estes กล่าว "นี่หมายถึงการทำงานร่วมกับผู้ให้บริการ AI ที่ช่วยกำหนดแนวความเป็นเจ้าของข้อมูลและใช้กลยุทธ์ที่ปกป้องข้อมูลผู้ใช้ในขณะที่ไม่ขัดขวางวิธีการที่จะสามารถช่วยพัฒนาความสำเร็จของอัลกอริธึม AI"

GDPR ขัดขวางนวัตกรรม AI หรือไม่

ผู้เชี่ยวชาญที่เราพูดถึงเชื่อว่าแม้ว่ากฎระเบียบใหม่จะท้าทายการปฏิบัติและนิสัยในปัจจุบัน บริษัท AI ได้นำมาใช้ แต่ก็จะบังคับให้พวกเขาหาวิธีใหม่ในการคิดค้นและรักษาความเคารพต่อความเป็นส่วนตัวและมาตรฐานทางจริยธรรม

บริษัท ผู้ผลิตซอฟต์แวร์รายใหญ่ทุกรายกำลังใช้มาตรการที่จำเป็นเพื่อให้มั่นใจว่ามีการปฏิบัติตามกฎระเบียบ แต่ยังรวมถึงการคิดค้นและคิดนอกกรอบเพื่อหาโอกาสใหม่ ๆ ในตลาด” Burushkina ของ GrowthChannel กล่าว

"นวัตกรรมจะไม่ถูกขัดขวาง - แต่กำกับและสร้างแรงบันดาลใจ - โดย GDPR" Drori ของ Octopai กล่าว ในขณะเดียวกัน GDPR จะก่อให้เกิดธุรกิจและเทคโนโลยีใหม่ ๆ ที่จะช่วยให้องค์กรบรรลุและรักษาความสอดคล้องกับ GDPR

ในความเป็นจริงมาตรฐานที่กำหนดโดย GDPR อาจช่วยเชื่อมช่องว่างความไว้วางใจที่กว้างขึ้นระหว่างผู้ให้บริการและผู้ใช้บริการที่ใช้พลังงานจาก AI Estes เชื่อว่า GDPR จะทำให้ทั้งผู้ให้บริการ AI และผู้ที่ใช้เทคโนโลยีของตนมีความรับผิดชอบมากขึ้นในการใช้แหล่งข้อมูลและผลักดันให้ผู้ใช้ทำกำไรก่อน "ในตอนท้ายของวัน" เขากล่าวว่า "ผู้ให้บริการ AI ควรเพียงต้องการอัลกอริธึมเท่านั้นไม่ใช่ข้อมูล - เพื่อคิดค้นความสามารถและโซลูชั่นของพวกเขา"