เหตุใดจึงต้องเปิดเผยว่าเป็น AI

Google เพิ่ง repitched Duplex เพื่อเปิดเผยโฮสต์ร้านอาหารและพนักงานร้านเสริมสวยอย่างชัดเจนว่าพวกเขากำลังพูดคุยกับ Google Assistant และกำลังถูกบันทึกไว้

Google ละเว้นรายละเอียดเล็ก ๆ แต่สำคัญเมื่อเปิดตัว Duplex เป็นครั้งแรกในการประชุมนักพัฒนา I / O ในเดือนพฤษภาคม สื่อเกิดการโต้กลับและนักวิจารณ์ได้สร้างความกลัวขึ้นมาใหม่เกี่ยวกับผลกระทบของเอไอเอที่ปล่อยออกมาซึ่งสามารถเลียนแบบพฤติกรรมของมนุษย์ในรูปแบบที่แยกไม่ออก

ด้วยการปรับแต่ง Duplex นั้น Google ทำให้บทวิจารณ์นั้นหยุดพัก แต่ทำไมจึงเป็นสิ่งสำคัญที่ บริษัท ต้องมีความโปร่งใสเกี่ยวกับตัวตนของตัวแทน AI ของพวกเขา?

ผู้ช่วย AI ทำหน้าที่จุดประสงค์ชั่วหรือไม่?

"มีความคาดหวังเพิ่มขึ้นว่าเมื่อคุณส่งข้อความธุรกิจคุณสามารถโต้ตอบกับแชทบ็อตที่ขับเคลื่อนด้วย AI แต่เมื่อคุณได้ยินเสียงพูดของมนุษย์คุณมักคาดหวังว่าจะเป็นคนจริง ๆ " Joshua March ซีอีโอกล่าว ของ Coversocial

มีนาคมกล่าวว่าเราอยู่ที่จุดเริ่มต้นของคนที่มีปฏิสัมพันธ์อย่างมีความหมายกับ AI เป็นประจำและความก้าวหน้าในสาขาได้สร้างความกลัวว่าแฮกเกอร์สามารถใช้ประโยชน์จาก AI ตัวแทนเพื่อจุดประสงค์ที่เป็นอันตราย

"ในกรณีที่ดีที่สุด AI บอทที่มีเจตนาร้ายอาจทำให้ผู้อื่นขุ่นเคือง" Marcio Avillez รองประธานอาวุโสฝ่ายเครือข่ายของ Cujo AI กล่าว แต่มาร์คิโอเสริมว่าเราอาจเผชิญกับภัยคุกคามที่น่ากลัวมากขึ้น ตัวอย่างเช่น AI สามารถเรียนรู้รูปแบบภาษาเฉพาะทำให้ง่ายขึ้นในการปรับใช้เทคโนโลยีเพื่อจัดการกับผู้คนผู้ที่ตกเป็นเหยื่อการปลอมตัวและการโจมตีเวที (การหลอกลวงด้วยเสียง) และกิจกรรมที่คล้ายคลึงกัน

ผู้เชี่ยวชาญหลายคนเห็นด้วยว่าการคุกคามนั้นเป็นเรื่องจริง ในคอลัมน์ของ CIO สตีเว่นบริคแมนได้กำหนดวิธีการที่แตกต่างกันเช่นเทคโนโลยีดูเพล็กซ์สามารถถูกใช้ประโยชน์: "อย่างน้อยที่สุดเมื่อมนุษย์เรียกมนุษย์ก็ยังมีปัจจัย จำกัด - มนุษย์สามารถโทรได้หลายครั้งต่อชั่วโมงต่อวัน มนุษย์จะต้องได้รับค่าตอบแทนหยุดพักและอื่น ๆ แต่ AI chatbot จะสามารถโทรหาผู้คนได้ไม่ จำกัด จำนวนไม่ จำกัด ในหลากหลายวิธี!

ในขั้นตอนนี้สิ่งที่เราได้ยินส่วนใหญ่เป็นการเก็งกำไร เรายังไม่ทราบขอบเขตและความร้ายแรงของภัยคุกคามที่อาจเกิดขึ้นกับการถือกำเนิดของผู้ช่วยเสียง แต่การโจมตีที่อาจเกิดขึ้นมากมายที่เกี่ยวข้องกับผู้ช่วยที่ใช้เสียงสามารถคลี่คลายได้หาก บริษัท ที่ให้บริการเทคโนโลยีสื่อสารอย่างชัดเจนกับผู้ใช้เมื่อพวกเขามีปฏิสัมพันธ์กับเอเจนต์ AI

ความกังวลเกี่ยวกับความเป็นส่วนตัว

ปัญหาอีกประการหนึ่งที่เกี่ยวกับการใช้เทคโนโลยีเช่น Duplex คือความเสี่ยงที่อาจเกิดขึ้นกับความเป็นส่วนตัว ระบบที่ขับเคลื่อนด้วย AI ต้องการข้อมูลผู้ใช้ในการฝึกอบรมและปรับปรุงอัลกอริทึมของพวกเขาและดูเพล็กซ์ก็ไม่มีข้อยกเว้น วิธีเก็บรักษาความปลอดภัยและใช้ข้อมูลนั้นมีความสำคัญมาก

กฎระเบียบใหม่กำลังเกิดขึ้นซึ่งกำหนดให้ บริษัท ต้องได้รับความยินยอมจากผู้ใช้อย่างชัดเจนเมื่อพวกเขาต้องการรวบรวมข้อมูล แต่ส่วนใหญ่พวกเขาได้รับการออกแบบมาเพื่อให้ครอบคลุมเทคโนโลยีที่ผู้ใช้ตั้งใจเริ่มต้นการโต้ตอบ สิ่งนี้เหมาะสมสำหรับผู้ช่วย AI เช่น Siri และ Alexa ซึ่งเปิดใช้งานโดยผู้ใช้ แต่ยังไม่ชัดเจนว่ากฎใหม่จะใช้กับผู้ช่วย AI ที่เข้าถึงผู้ใช้อย่างไรโดยไม่ถูกเรียก

ในบทความของเขา Brykman เน้นถึงความจำเป็นในการสร้างระบบป้องกันด้านกฎระเบียบเช่นกฎหมายที่กำหนดให้ บริษัท ต้องประกาศการมีตัวแทน AI หรือกฎหมายที่เมื่อคุณถามผู้ใช้ chatbot ว่าเป็น chatbot หรือไม่จำเป็นต้องพูดว่า "ใช่ ฉันเป็นคนแชท " มาตรการดังกล่าวจะเปิดโอกาสให้คู่สนทนาของมนุษย์หลุดพ้นหรืออย่างน้อยก็ตัดสินใจว่าพวกเขาต้องการโต้ตอบกับระบบ AI ที่บันทึกเสียงของพวกเขาหรือไม่

แม้จะมีกฎหมายดังกล่าวความกังวลด้านความเป็นส่วนตัวก็ยังไม่หายไป "ความเสี่ยงที่ใหญ่ที่สุดที่ฉันคาดการณ์ในการจุติของเทคโนโลยีในปัจจุบันคือมันจะให้ข้อมูลเพิ่มเติมแก่ Google เกี่ยวกับชีวิตส่วนตัวของเราที่มันไม่ได้มีอยู่จนถึงจุดนี้พวกเขารู้ถึงการสื่อสารออนไลน์ของเราเท่านั้น บทสนทนาในโลกแห่งความเป็นจริงของเรา "Vian Chinner ผู้ก่อตั้งและซีอีโอของ Xineoh กล่าว

เรื่องอื้อฉาวเกี่ยวกับความเป็นส่วนตัวล่าสุดที่เกี่ยวข้องกับ บริษัท เทคโนโลยีขนาดใหญ่ซึ่งพวกเขาได้ใช้ข้อมูลผู้ใช้ในรูปแบบที่น่าสงสัยเพื่อผลประโยชน์ของพวกเขาเองได้สร้างความไม่ไว้วางใจให้เปิดหน้าต่างให้พวกเขาเข้ามาในชีวิต “ ผู้คนโดยทั่วไปรู้สึกว่า บริษัท Silicon Valley ขนาดใหญ่กำลังมองพวกเขาเป็นสินค้าคงคลังแทนที่จะเป็นลูกค้าและมีความไว้วางใจในระดับสูงเกือบทุกอย่างที่พวกเขาทำไม่ว่ามันจะมี แต่ความเปลี่ยนแปลงและชีวิตที่เปลี่ยนไปก็ตาม” Chinner กล่าว

ความล้มเหลวในการทำงาน

แม้จะมีเสียงที่เป็นธรรมชาติและโทนเสียงและใช้เสียงเหมือนมนุษย์เช่น "mmhm" และ "ummm" Duplex ไม่แตกต่างจากเทคโนโลยี AI ร่วมสมัยอื่น ๆ และทนทุกข์จากข้อ จำกัด เดียวกัน

ไม่ว่าจะใช้เสียงหรือข้อความเป็นอินเทอร์เฟซตัวแทน AI นั้นเก่งในการแก้ปัญหาที่เฉพาะเจาะจง นั่นเป็นเหตุผลที่เราเรียกพวกเขาว่า "AI แคบ" (ตรงข้ามกับ "AI ทั่วไป" - ประเภทของปัญญาประดิษฐ์ที่สามารถมีส่วนร่วมในการแก้ปัญหาทั่วไปเช่นเดียวกับจิตใจของมนุษย์) ในขณะที่ AI ที่แคบสามารถทำได้ดีเป็นพิเศษในการปฏิบัติงานที่ตั้งโปรแกรมไว้ แต่ก็สามารถล้มเหลวได้อย่างน่าทึ่งเมื่อได้รับสถานการณ์ที่เบี่ยงเบนจากโดเมนปัญหา

“ หากผู้บริโภคคิดว่าพวกเขากำลังพูดกับมนุษย์พวกเขาอาจจะถามสิ่งที่อยู่นอกสคริปต์ปกติของ AI และจะได้รับการตอบสนองที่น่าผิดหวังเมื่อบอทไม่เข้าใจ” มีนาคมของ Conversocial กล่าว

ในทางตรงกันข้ามเมื่อคนรู้ว่าพวกเขากำลังพูดคุยกับ AI ที่ได้รับการฝึกฝนให้จองโต๊ะที่ร้านอาหารพวกเขาจะพยายามหลีกเลี่ยงการใช้ภาษาที่จะทำให้ AI สับสนและทำให้มันประพฤติตัวในลักษณะที่ไม่คาดคิดโดยเฉพาะอย่างยิ่ง พวกเขาเป็นลูกค้า

“ พนักงานที่รับสายจาก Duplex ควรได้รับการแนะนำที่ตรงไปตรงมาว่านี่ไม่ใช่คนจริงสิ่งนี้จะช่วยให้การสื่อสารระหว่างพนักงานกับ AI นั้นเป็นไปอย่างอนุรักษ์นิยมและชัดเจนยิ่งขึ้น” Avillez กล่าว

ด้วยเหตุผลนี้จนกระทั่ง (และถ้า) เราพัฒนา AI ที่สามารถปฏิบัติงานได้เทียบเท่ากับความฉลาดของมนุษย์มันอยู่ในความสนใจของ บริษัท เองที่จะโปร่งใสเกี่ยวกับการใช้ AI

ในตอนท้ายของวันส่วนหนึ่งของความกลัวของผู้ช่วยด้านเสียงอย่างดูเพล็กซ์นั้นเกิดจากข้อเท็จจริงที่ว่าพวกเขายังใหม่อยู่และเรายังคงคุ้นเคยกับการเผชิญหน้ากับพวกเขาในการตั้งค่าใหม่และการใช้เคส “ อย่างน้อยบางคนก็รู้สึกอึดอัดใจกับความคิดที่จะพูดคุยกับหุ่นยนต์โดยไม่รู้ตัวดังนั้นในตอนนี้มันอาจถูกเปิดเผยต่อคู่สนทนาในการสนทนา” ชินเนอร์กล่าว

• AI คือ (กำลัง) กองทัพเพื่อความดี AI คือ (กองกำลัง) เพื่อกองทัพ
• เมื่อ AI ทำให้เส้นแบ่งระหว่างความเป็นจริงกับนิยายเมื่อ AI ทำให้เส้นแบ่งระหว่างความเป็นจริงและเรื่องโกหก
• ปัญญาประดิษฐ์มีปัญหาอคติและมันเป็นความผิดของเราปัญญาประดิษฐ์มีปัญหาอคติและมันเป็นความผิดของเรา

แต่ในระยะยาวเราจะคุ้นเคยกับการมีปฏิสัมพันธ์กับตัวแทน AI ที่ชาญฉลาดและมีความสามารถในการปฏิบัติงานที่เคยคิดว่าเป็นโดเมนพิเศษของผู้ให้บริการมนุษย์

“ คนรุ่นต่อไปไม่สนใจว่าพวกเขากำลังพูดคุยกับ AI หรือมนุษย์เมื่อพวกเขาติดต่อธุรกิจพวกเขาจะต้องการรับคำตอบอย่างรวดเร็วและง่ายดายและพวกเขาจะโตขึ้นเพื่อพูดคุยกับ Alexa การพูดคุยกับมนุษย์จะน่าผิดหวังยิ่งกว่าการมีปฏิสัมพันธ์กับบอท "มีนาคมของ Conversocial กล่าว