เรียนรู้จากความผิดพลาดของ alexa

อุปกรณ์ Amazon Echo เพิ่งบันทึกการสนทนาส่วนตัวของผู้ใช้และส่งไปยังหนึ่งในผู้ติดต่อของพวกเขาโดยปราศจากความรู้และความยินยอม (อีกครั้ง) ทำให้เกิดความกังวลเกี่ยวกับความปลอดภัยและความเป็นส่วนตัวของลำโพงสมาร์ท ต่อมากลายเป็นชัดเจนแม้ว่าพฤติกรรมที่แปลกประหลาดของ Alexa ไม่ได้เป็นส่วนหนึ่งของแผนการจารกรรมที่น่ากลัว - แต่มันเกิดจากความล้มเหลวในการเชื่อมโยงหลายชุดซึ่งมีสาเหตุมาจากการทำงานของลำโพงอัจฉริยะ

ตามบัญชีที่ Amazon จัดทำขึ้น: "เสียงก้องตื่นขึ้นมาเนื่องจากคำในการสนทนาเบื้องหลังที่ดูเหมือนว่า 'Alexa' จากนั้นได้ยินการสนทนาที่ตามมาในฐานะคำขอ 'ส่งข้อความ' ณ จุดนี้ Alexa พูดเสียงดังว่า เมื่อถึงจุดนั้นการสนทนาเบื้องหลังถูกตีความว่าเป็นชื่อในรายชื่อผู้ติดต่อของลูกค้าจากนั้น Alexa จึงถามว่า 'ใช่ไหม?' Alexa ตีความการสนทนาเบื้องหลังว่า 'ถูกต้อง' ไม่น่าจะเป็นเพราะสตริงของเหตุการณ์นี้คือเรากำลังประเมินตัวเลือกเพื่อทำให้กรณีนี้มีโอกาสน้อยลง "

สถานการณ์เป็นกรณีขอบซึ่งเป็นประเภทของเหตุการณ์ที่เกิดขึ้นน้อยมาก แต่มันก็เป็นการศึกษาที่น่าสนใจในขอบเขตของเทคโนโลยีปัญญาประดิษฐ์ที่เสริมพลังเสียงสะท้อนและอุปกรณ์อื่น ๆ ที่เรียกว่า "สมาร์ท"

เชื่อมั่นใน Cloud มากเกินไป

เพื่อให้เข้าใจคำสั่งเสียงลำโพงอัจฉริยะเช่น Echo และ Google Home ต้องอาศัยอัลกอริทึมที่เรียนรู้ลึกซึ่งต้องการพลังการประมวลผลที่ครอบคลุม เนื่องจากพวกเขาไม่มีทรัพยากรคอมพิวเตอร์ในการปฏิบัติงานในพื้นที่พวกเขาจะต้องส่งข้อมูลไปยังเซิร์ฟเวอร์คลาวด์ของผู้ผลิตซึ่งอัลกอริทึม AI จะแปลงข้อมูลเสียงเป็นข้อความและประมวลผลคำสั่ง

แต่ลำโพงสมาร์ทไม่สามารถส่งทุกสิ่งที่พวกเขาได้ยินไปยังเซิร์ฟเวอร์คลาวด์ของพวกเขาเพราะนั่นจะทำให้ผู้ผลิตต้องเก็บข้อมูลจำนวนมากบนเซิร์ฟเวอร์ของพวกเขาซึ่งส่วนใหญ่จะไร้ประโยชน์ การบันทึกและจัดเก็บการสนทนาส่วนตัวที่เกิดขึ้นในบ้านของผู้ใช้โดยบังเอิญจะนำเสนอความท้าทายด้านความเป็นส่วนตัวและอาจทำให้ผู้ผลิตมีปัญหาโดยเฉพาะอย่างยิ่งกับกฎระเบียบด้านความเป็นส่วนตัวของข้อมูลใหม่

นั่นเป็นสาเหตุที่ลำโพงสมาร์ทได้รับการออกแบบมาให้ทำงานหลังจากที่ผู้ใช้ส่งเสียงปลุกเช่น "Alexa" หรือ "Hey Google" หลังจากได้ยินคำปลุกแล้วพวกเขาเริ่มส่งสัญญาณเสียงไมโครโฟนไปยังคลาวด์เพื่อการวิเคราะห์และประมวลผล

ในขณะที่ฟีเจอร์นี้ช่วยปรับปรุงความเป็นส่วนตัว แต่ก็นำเสนอความท้าทายของตัวเองเช่นเดียวกับเหตุการณ์ของ Alexa เมื่อไม่นานมานี้

“ ถ้าคำ - หรือสิ่งที่ฟังดูเหมือนเป็นอย่างมาก - ถูกส่งไปครึ่งทางผ่านการสนทนา Alexa จะไม่มีบริบทก่อนหน้านี้เลย” Joshua March ซีอีโอของ Conversocial กล่าว "ณ จุดนี้มันฟังยากมากสำหรับคำสั่งใด ๆ ที่เกี่ยวข้องกับทักษะที่คุณตั้งค่า (เช่นแอพส่งข้อความ) ส่วนใหญ่ความเป็นส่วนตัวได้รับการปรับปรุงอย่างมากโดยการ จำกัด บริบทที่ Alexa ให้ความสนใจ (เช่น มันไม่ได้บันทึกหรือฟังการสนทนาปกติของคุณ) แม้ว่ามันจะย้อนกลับมาในกรณีนี้ "

ความก้าวหน้าในการคำนวณขอบอาจช่วยบรรเทาปัญหานี้ได้ เนื่องจาก AI และการเรียนรู้อย่างลึกซึ้งค้นหาวิธีการในอุปกรณ์และแอพพลิเคชั่นมากขึ้นผู้ผลิตฮาร์ดแวร์บางรายได้สร้างโปรเซสเซอร์ที่เชี่ยวชาญในการทำงาน AI โดยไม่ต้องพึ่งพาทรัพยากรคลาวด์มากเกินไป โปรเซสเซอร์ Edge AI สามารถช่วยให้อุปกรณ์เช่น Echo เข้าใจและประมวลผลการสนทนาได้ดีขึ้นโดยไม่ละเมิดความเป็นส่วนตัวของผู้ใช้โดยส่งข้อมูลทั้งหมดไปยังคลาวด์

บริบทและเจตนา

นอกเหนือจากการได้รับเสียงที่แตกต่างและแยกส่วน AI ของ Amazon ต่อสู้กับความเข้าใจความแตกต่างของการสนทนาของมนุษย์

“ ในขณะที่มีความก้าวหน้าอย่างมากในการเรียนรู้อย่างลึกซึ้งในช่วงไม่กี่ปีที่ผ่านมาการเปิดใช้งานซอฟต์แวร์เพื่อให้เข้าใจคำพูดและภาพได้ดีขึ้นกว่าที่เคยมีมา แต่ก็มีข้อ จำกัด มากมาย” March กล่าว “ ในขณะที่ผู้ช่วยเสียงสามารถรับรู้คำที่คุณพูดพวกเขาไม่จำเป็นต้องมีความเข้าใจที่แท้จริงเกี่ยวกับความหมายหรือเจตนาข้างหลังโลกเป็นสถานที่ที่ซับซ้อน แต่ระบบ AI ใด ๆ ในทุกวันนี้สามารถจัดการได้มาก กรณีใช้งานแคบและเฉพาะเจาะจง "

ยกตัวอย่างเช่นมนุษย์เรามีหลายวิธีในการพิจารณาว่าประโยคนั้นพุ่งตรงมาที่เราเช่นน้ำเสียงหรือการติดตามด้วยสายตา - พูดว่าทิศทางที่ผู้พูดมอง

ในทางตรงกันข้าม Alexa สันนิษฐานว่าเป็นผู้รับประโยคใด ๆ ที่มีคำว่า "A" นี่คือเหตุผลที่ผู้ใช้มักเรียกมันโดยไม่ตั้งใจ

ส่วนหนึ่งของปัญหาคือเราเกินความสามารถของแอปพลิเคชั่น AI ในปัจจุบันมักทำให้พวกเขาอยู่ในระดับที่เหนือกว่าจิตใจมนุษย์และเชื่อใจพวกเขามากเกินไป นั่นเป็นเหตุผลที่เราประหลาดใจเมื่อพวกเขาล้มเหลวอย่างงดงาม

Pascal Kaufmann นักประสาทวิทยาและผู้ก่อตั้งสตาร์มินด์กล่าวว่า "ปัญหาส่วนหนึ่งของที่นี่คือคำว่า 'AI' ได้ทำการตลาดอย่างจริงจังจนผู้บริโภคได้วางความเชื่อมั่นในผลิตภัณฑ์ที่มีจำนวนไม่ถูกต้อง เรื่องนี้แสดงให้เห็นว่า Alexa มีความสามารถมากมายและมีความเข้าใจที่ จำกัด ว่าควรนำไปใช้อย่างไรและเมื่อใด

อัลกอริธึมการเรียนรู้แบบลึกมีแนวโน้มที่จะล้มเหลวเมื่อเผชิญกับการตั้งค่าที่เบี่ยงเบนไปจากข้อมูลและสถานการณ์ที่พวกเขาได้รับการฝึกฝน “ หนึ่งในคุณสมบัติที่กำหนดของ AI ระดับมนุษย์จะเป็นความสามารถในการพึ่งตนเองและความเข้าใจในเนื้อหาอย่างแท้จริง” Kaufmann กล่าว "นี่เป็นส่วนสำคัญในการพิจารณา AI 'อัจฉริยะ' และมีความสำคัญต่อการพัฒนาอย่างแท้จริงการสร้างผู้ช่วยดิจิตอลที่รู้ตัวเองซึ่งทำให้พวกเขาเข้าใจธรรมชาติมนุษย์อย่างเต็มที่จะทำเครื่องหมายการเปลี่ยนแปลงของพวกเขาจากความแปลกใหม่ที่สนุกสนาน เครื่องมือที่มีประโยชน์ "

แต่การสร้าง AI ระดับมนุษย์เรียกว่า AI ทั่วไปนั้นพูดง่ายกว่าทำ เป็นเวลาหลายสิบปีที่เราคิดว่ามันใกล้จะหมดแล้วเท่านั้นที่จะทำให้ผิดหวังเพราะความก้าวหน้าทางเทคโนโลยีได้แสดงให้เห็นว่าความซับซ้อนของจิตใจมนุษย์นั้นเป็นอย่างไร ผู้เชี่ยวชาญหลายคนเชื่อว่าการไล่ AI โดยทั่วไปนั้นไร้ประโยชน์

ในขณะเดียวกัน AI ที่แคบ (ตามที่อธิบายไว้ในเทคโนโลยีปัญญาประดิษฐ์ในปัจจุบัน) ยังคงมีโอกาสมากมายและสามารถแก้ไขได้เพื่อหลีกเลี่ยงข้อผิดพลาดซ้ำ ๆ เพื่อความชัดเจนการเรียนรู้อย่างลึกซึ้งและการเรียนรู้ของเครื่องยังคงเป็นที่พึ่งและ บริษัท เช่น Amazon จะอัปเดตอัลกอริธึม AI ของพวกเขาอย่างต่อเนื่องเพื่อแก้ไขปัญหาที่เกิดขึ้นทุกครั้งที่เกิดขึ้น

สิ่งที่เราต้องทำ

Eric Moller, CTO ของ Atomic X กล่าวว่านี่เป็นสนามที่ยังเด็กอยู่และเกิดขึ้นใหม่การเข้าใจภาษาธรรมชาติโดยเฉพาะอย่างยิ่งในช่วงวัยเด็กจึงมีสิ่งมากมายที่เราสามารถทำได้ที่นี่

มอลเลอร์เชื่อว่าอัลกอริทึม AI การวิเคราะห์ด้วยเสียงสามารถปรับได้เพื่อให้เข้าใจถึงการออกเสียงสูงต่ำและการผันคำ "การใช้คำว่า 'Alexa' ในประโยคที่กว้างขึ้นนั้นแตกต่างจากการเรียกใช้หรือคำสั่ง Alexa ไม่ควรตื่นขึ้นมาเพราะคุณพูดชื่อนั้นผ่านไป" Moller กล่าว ด้วยการฝึกอบรมที่เพียงพอ AI ควรแยกความแตกต่างของโทนเสียงเฉพาะที่นำไปใช้กับลำโพงอัจฉริยะ

บริษัท ด้านเทคนิคสามารถฝึกอบรม AI ของพวกเขาเพื่อให้สามารถแยกแยะความแตกต่างเมื่อได้รับเสียงพื้นหลังซึ่งต่างจากการพูดโดยตรง "การพูดคุยแบบพื้นหลังมี 'ลายเซ็น' ของผู้ฟังที่ไม่เหมือนใครที่มนุษย์เลือกหยิบขึ้นมาและเลือกสรรได้ดีไม่มีเหตุผลที่เราไม่สามารถฝึกนางแบบ AI ให้ทำแบบเดียวกัน" มอลเลอร์กล่าว

เพื่อเป็นการป้องกันไว้ล่วงหน้าผู้ช่วย AI ควรประเมินผลกระทบของการตัดสินใจและเกี่ยวข้องกับการตัดสินใจของมนุษย์ในกรณีที่ต้องการทำสิ่งที่อาจอ่อนไหว ผู้ผลิตควรป้องกันให้มากขึ้นในเทคโนโลยีของพวกเขาเพื่อป้องกันข้อมูลที่สำคัญจากการถูกส่งไปโดยไม่ได้รับความยินยอมจากผู้ใช้อย่างชัดเจนและชัดเจน

“ แม้ว่าอเมซอนได้รายงานว่า Alexa พยายามยืนยันการกระทำที่ตีความ แต่การกระทำบางอย่างจำเป็นต้องได้รับการจัดการอย่างรอบคอบมากขึ้นและยึดถือมาตรฐานการยืนยันความตั้งใจของผู้ใช้ที่สูงขึ้น” Sagi Eliyahi ซีอีโอของ Tonkean กล่าว "มนุษย์มีปัญหาการรู้จำเสียงแบบเดียวกันบางครั้งอาจส่งคำขอผิดพลาดซึ่งแตกต่างจาก Alexa แม้ว่ามนุษย์มีแนวโน้มที่จะยืนยันอย่างแน่นอนว่าพวกเขาเข้าใจคำขอที่ไม่ชัดเจนและที่สำคัญกว่านั้นวัดโอกาสของคำขอเมื่อเทียบกับคำขอที่ผ่านมา"

ในช่วงเวลาเดียวกัน …

ในขณะที่ บริษัท ด้านเทคโนโลยีปรับใช้แอปพลิเคชั่น AI ของพวกเขาเพื่อลดข้อผิดพลาดผู้ใช้จะต้องตัดสินใจขั้นสุดท้ายว่าพวกเขาต้องการสัมผัสกับข้อผิดพลาดที่อาจเกิดขึ้นกับอุปกรณ์ที่ใช้ระบบ AI

“ เรื่องราวเหล่านี้แสดงให้เห็นถึงความขัดแย้งกับปริมาณข้อมูลที่ผู้คนยินดีแบ่งปันกับสัญญาของเทคโนโลยี AI ใหม่” ดั๊กโรสผู้เชี่ยวชาญด้านวิทยาศาสตร์ข้อมูลและผู้เขียนหนังสือหลายเล่มเกี่ยวกับ AI และซอฟต์แวร์กล่าว "คุณอาจหยอกล้อว่า Siri ทำตัวช้า แต่วิธีที่ดีที่สุดสำหรับเธอที่จะบรรลุความฉลาดมากขึ้นคือการบุกรุกการสนทนาส่วนตัวของเราดังนั้นคำถามสำคัญในทศวรรษหน้าหรือมากกว่านั้นคือเราจะอนุญาตให้ตัวแทน AI เหล่านี้ดูพฤติกรรมของเรา ?"

"ครอบครัวใดจะวางผู้ช่วยมนุษย์ในห้องนั่งเล่นและปล่อยให้คนนั้นฟังการสนทนาทุกรูปแบบตลอดเวลา" Kaufmann นักประสาทวิทยาจาก Starmind กล่าว "อย่างน้อยที่สุดเราควรใช้มาตรฐานเดียวกันกับอุปกรณ์ที่เรียกว่า 'AI' (ถ้าไม่สูงกว่า) ที่เรานำไปใช้กับมนุษย์ที่ชาญฉลาดเมื่อมันมาถึงความเป็นส่วนตัวความลับหรือความน่าเชื่อถือ"