มีสิ่งใดที่สามารถป้องกันเราจากการหลอกลวง | เบนดิกสัน

ในช่วงปลายปี 2560 เมนบอร์ดรายงานเกี่ยวกับเทคโนโลยี AI ที่สามารถสลับใบหน้าในวิดีโอได้ ในเวลานั้นเทคโนโลยี - ต่อมาเรียกว่า deepfakes ผลิตน้ำมันดิบผลลัพธ์ที่เป็นเม็ดเล็ก ๆ และส่วนใหญ่ใช้เพื่อสร้างวิดีโอโป๊ปลอมที่มีชื่อเสียงและนักการเมือง

สองปีต่อมาเทคโนโลยีได้ก้าวหน้าอย่างมากและยากที่จะตรวจจับด้วยตาเปล่า วิดีโอปลอมแปลงกลายเป็นประเด็นความมั่นคงของประเทศโดยเฉพาะอย่างยิ่งเมื่อการเลือกตั้งประธานาธิบดีในปี 2020 ใกล้เข้ามา

นับตั้งแต่มีการเริ่มต้นอย่างล้ำลึกองค์กรและ บริษัท หลายแห่งได้พัฒนาเทคโนโลยีเพื่อตรวจจับวิดีโอที่ดัดแปลงจาก AI แต่มีความกลัวว่าวันหนึ่งเทคโนโลยี deepfakes จะไม่สามารถตรวจจับได้

นักวิจัยที่มหาวิทยาลัย Surrey พัฒนาวิธีแก้ปัญหาที่อาจแก้ปัญหาได้: แทนที่จะตรวจจับสิ่งที่ผิดพลาดมันจะพิสูจน์ว่าจริงหรือไม่ กำหนดเวลาที่จะนำเสนอในการประชุมเกี่ยวกับการมองเห็นคอมพิวเตอร์และการจดจำรูปแบบ (CVPR) เทคโนโลยีที่เรียกว่า Archangel ใช้ AI และ blockchain เพื่อสร้างและลงทะเบียนลายนิ้วมือดิจิตอลที่ป้องกันการงัดแงะสำหรับวิดีโอที่แท้จริง ลายนิ้วมือสามารถใช้เป็นจุดอ้างอิงในการตรวจสอบความถูกต้องของสื่อที่เผยแพร่ออนไลน์หรือออกอากาศทางโทรทัศน์

ใช้ AI เพื่อลงชื่อวิดีโอ

วิธีแบบคลาสสิกเพื่อพิสูจน์ความถูกต้องของเอกสารไบนารีคือการใช้ลายเซ็นดิจิทัล ผู้จัดพิมพ์เรียกใช้เอกสารของพวกเขาผ่านอัลกอริทึมการเข้ารหัสเช่น SHA256, MD5 หรือ Blowfish ซึ่งสร้าง "แฮช" สตริงสั้น ๆ ของไบต์ที่แสดงเนื้อหาของไฟล์นั้นและกลายเป็นลายเซ็นดิจิทัล การเรียกใช้ไฟล์เดียวกันผ่านอัลกอริทึมการแฮชตลอดเวลาจะสร้างแฮชเดียวกันหากเนื้อหาไม่เปลี่ยนแปลง

แฮชมีความสำคัญยิ่งต่อการเปลี่ยนแปลงในโครงสร้างไบนารีของไฟล์ต้นฉบับ เมื่อคุณแก้ไขไบต์เดียวในไฟล์ที่ถูกแฮชและรันผ่านอัลกอริทึมอีกครั้งมันจะให้ผลลัพธ์ที่แตกต่างกันโดยสิ้นเชิง

แต่ในขณะที่แฮชทำงานได้ดีสำหรับไฟล์ข้อความและแอพพลิเคชั่นพวกเขานำเสนอความท้าทายสำหรับวิดีโอซึ่งสามารถจัดเก็บในรูปแบบที่แตกต่างกันตามที่ John Collomosse ศาสตราจารย์ด้านคอมพิวเตอร์วิสัยทัศน์ของมหาวิทยาลัย Surrey และหัวหน้าโครงการ Archangel

"เราต้องการให้ลายเซ็นเหมือนกันไม่ว่าตัวแปลงสัญญาณวิดีโอจะถูกบีบอัดด้วย" Collomosse กล่าว "ถ้าฉันนำวิดีโอของฉันและแปลงจากพูดเช่น MPEG-2 เป็น MPEG-4 จากนั้นไฟล์นั้นจะมีความยาวแตกต่างกันโดยสิ้นเชิงและบิตจะมีการเปลี่ยนแปลงอย่างสมบูรณ์ซึ่งจะทำให้แฮชแตกต่างกันสิ่งที่เราต้องการ เป็นอัลกอริทึมการแปลงแป้นพิมพ์ที่รับรู้เนื้อหา "

เพื่อแก้ปัญหานี้ Collomosse และเพื่อนร่วมงานของเขาได้พัฒนาโครงข่ายประสาทเทียมที่มีความอ่อนไหวต่อเนื้อหาที่อยู่ในวิดีโอ Deep neural Networks เป็นประเภทของการสร้าง AI ที่พัฒนาพฤติกรรมของมันผ่านการวิเคราะห์ตัวอย่างมากมาย ที่น่าสนใจคือโครงข่ายประสาทเทียมนั้นเป็นเทคโนโลยีที่เป็นหัวใจสำคัญของ

เมื่อสร้าง deepfakes นักพัฒนาจะดึงข้อมูลจากเครือข่ายด้วยภาพใบหน้าของตัวแบบ เครือข่ายประสาทเทียมเรียนรู้คุณสมบัติของใบหน้าและด้วยการฝึกฝนเพียงพอที่จะสามารถค้นหาและสลับใบหน้าในวิดีโออื่น ๆ ด้วยใบหน้าของตัวแบบ

เครือข่ายประสาทของ Archangel ได้รับการฝึกฝนในวิดีโอที่มีการพิมพ์ลายนิ้วมือ "เครือข่ายดูเนื้อหาของวิดีโอมากกว่าบิตและไบต์" Collomosse กล่าว

หลังการฝึกอบรมเมื่อคุณเรียกใช้วิดีโอใหม่ผ่านเครือข่ายวิดีโอจะตรวจสอบเมื่อมีเนื้อหาเดียวกันกับวิดีโอต้นฉบับโดยไม่คำนึงถึงรูปแบบของวิดีโอนั้นและจะปฏิเสธเมื่อวิดีโอนั้นเป็นวิดีโออื่นหรือถูกดัดแปลงหรือแก้ไข

ตาม Collomosse เทคโนโลยีสามารถตรวจจับการปลอมแปลงเชิงพื้นที่และชั่วคราว การดัดแปลงเชิงพื้นที่เป็นการเปลี่ยนแปลงของแต่ละเฟรมเช่นการแก้ไขการสลับใบหน้าที่ทำในส่วนลึก

แต่การทำ Deepfakes ไม่ใช่วิธีเดียวที่วิดีโอสามารถแก้ไขได้ น้อยกว่าที่กล่าวถึง แต่อันตรายเท่า ๆ กันคือการเปลี่ยนแปลงโดยเจตนาตามลำดับของเฟรมและความเร็วและระยะเวลาของวิดีโอ เมื่อเร็ว ๆ นี้วิดีโอที่ได้รับการดัดแปลงอย่างกว้างขวางของ House Speaker Nancy Pelosi ไม่ได้ใช้ deepfakes แต่ถูกสร้างขึ้นผ่านการใช้เทคนิคการแก้ไขอย่างง่ายที่ทำให้เธอดูสับสน

"หนึ่งในรูปแบบของการแก้ไขที่เราสามารถตรวจจับได้คือการลบเซกเมนต์สั้น ๆ ของวิดีโอนี่คือการเปลี่ยนแปลงชั่วคราวและเราสามารถตรวจจับการปลอมแปลงได้สูงสุดสามวินาทีดังนั้นหากวิดีโอยาวหลายชั่วโมงและคุณเพิ่งลบสาม วินาทีของวิดีโอนั้นเราสามารถตรวจพบได้ "Collomosse กล่าวและเสริมว่า Archangel จะตรวจจับการเปลี่ยนแปลงที่ทำกับความเร็วของวิดีโอต้นฉบับเช่นเดียวกับที่ทำในวิดีโอ Pelosi

การลงทะเบียนลายนิ้วมือบน Blockchain

องค์ประกอบที่สองของโครงการ Archangel คือ blockchain ซึ่งเป็นฐานข้อมูลที่พิสูจน์การงัดแงะที่สามารถจัดเก็บข้อมูลใหม่ได้ แต่ไม่สามารถเปลี่ยนแปลงได้ - เหมาะสำหรับคลังเก็บวิดีโอซึ่งไม่ทำการเปลี่ยนแปลงวิดีโอเมื่อลงทะเบียนแล้ว

เทคโนโลยี Blockchain รองรับสกุลเงินดิจิตอลเช่น Bitcoin และ Ether มันเป็นระบบแยกประเภทดิจิตอลที่ดูแลโดยหน่วยงานอิสระหลายแห่ง ส่วนใหญ่ของฝ่ายจะต้องเห็นด้วยกับการเปลี่ยนแปลงที่เกิดขึ้นกับ blockchain ซึ่งทำให้เป็นไปไม่ได้สำหรับฝ่ายเดียวใด ๆ ที่จะเข้าไปยุ่งกับฝ่ายบัญชี

เป็นไปได้ในทางเทคนิคในการโจมตีและเปลี่ยนแปลงเนื้อหาของ blockchain หากผู้เข้าร่วมมากกว่า 50 เปอร์เซ็นต์สมรู้ร่วมคิด แต่ในทางปฏิบัติมันเป็นเรื่องยากมากโดยเฉพาะอย่างยิ่งเมื่อบล็อกเชนนั้นได้รับการดูแลโดยหน่วยงานอิสระหลายแห่งที่มีเป้าหมายและความสนใจที่แตกต่างกัน

บล็อกเชนของ Archangel แตกต่างจากบล็อกเชนสาธารณะเล็กน้อย อย่างแรกมันไม่ได้ผลิต cryptocurrency และเก็บเฉพาะตัวระบุลายนิ้วมือที่รับรู้เนื้อหาและแฮชไบนารี่ของเครือข่ายประสาทเทียมสำหรับแต่ละวิดีโอในการเก็บถาวร (บล็อกไม่เหมาะสำหรับการจัดเก็บข้อมูลจำนวนมากซึ่งเป็นเหตุผล ตัววิดีโอและเครือข่ายประสาทถูกเก็บไว้นอกเครือ)

นอกจากนี้ยังเป็นบล็อกเชนที่ได้รับอนุญาตหรือ "ส่วนตัว" ซึ่งหมายความว่าต่างจาก Bitcoin blockchain ที่ทุกคนสามารถบันทึกธุรกรรมใหม่ได้เฉพาะผู้ที่ได้รับอนุญาตเท่านั้นที่สามารถเก็บบันทึกใหม่ใน Archangel blockchain

ขณะนี้ Archangel กำลังถูกพิจารณาคดีโดยเครือข่ายคลังข้อมูลรัฐบาลแห่งชาติจากสหราชอาณาจักร, เอสโตเนีย, นอร์เวย์, ออสเตรเลียและสหรัฐอเมริกา: เพื่อจัดเก็บข้อมูลใหม่ทุกประเทศที่เกี่ยวข้องต้องรับประกันการเพิ่ม แต่ในขณะที่มีเพียงหอจดหมายเหตุแห่งชาติของประเทศที่เข้าร่วมเท่านั้นที่มีสิทธิ์ในการเพิ่มบันทึก แต่ทุกคนก็สามารถเข้าถึงบล็อกเชนและสามารถใช้เพื่อตรวจสอบวิดีโออื่น ๆ กับไฟล์เก็บถาวร

• AI และการใช้ประโยชน์จากการเรียนรู้ของเครื่อง, Deepfakes, ตอนนี้ยากที่จะตรวจจับ AI และการเรียนรู้ของเครื่องใช้ประโยชน์จาก, Deepfakes, ตอนนี้ยากที่จะตรวจจับ
• วิดีโอ Deepfake อยู่ที่นี่และเรายังไม่พร้อมวิดีโอ Deepfake อยู่ที่นี่และเราไม่พร้อม
• ใหม่ AI ของ Adobe ตรวจพบใบหน้า photoshopped AI ใหม่ของ Adobe ตรวจพบใบหน้า photoshopped

"นี่เป็นแอปพลิเคชันของ blockchain สำหรับผลประโยชน์สาธารณะ" Collomosse กล่าว "ในมุมมองของฉันการใช้ blockchain อย่างสมเหตุสมผลเพียงอย่างเดียวคือเมื่อคุณมีองค์กรอิสระที่ไม่จำเป็นต้องเชื่อถือซึ่งกันและกัน แต่พวกเขามีผลประโยชน์นี้ในเป้าหมายรวมนี้ของความไว้วางใจซึ่งกันและกันและสิ่งที่เราต้องการทำคือ รักษาความปลอดภัยเอกสารสำคัญของรัฐบาลทั่วโลกเพื่อให้เราสามารถรับประกันความสมบูรณ์ของพวกเขาโดยใช้เทคโนโลยีนี้ "

เนื่องจากการสร้างวิดีโอที่ปลอมแปลงกลายเป็นเรื่องง่ายขึ้นเร็วขึ้นและเข้าถึงได้มากขึ้นทุกคนจึงต้องการความช่วยเหลือทั้งหมดที่พวกเขาสามารถได้รับเพื่อให้มั่นใจในความสมบูรณ์ของคลังวิดีโอของพวกเขา - โดยเฉพาะรัฐบาล

“ ฉันคิดว่าของดีฟิเคชั่นเกือบจะเหมือนการแข่งขันทางอาวุธ” Collomosse กล่าว "เพราะผู้คนกำลังสร้างความเชื่อมั่นที่ลึกซึ้งยิ่งขึ้นและสักวันหนึ่งมันอาจเป็นไปไม่ได้ที่จะตรวจพบพวกเขานั่นเป็นเหตุผลว่าทำไมสิ่งที่ดีที่สุดที่คุณสามารถทำได้คือพยายามพิสูจน์ที่มาของวิดีโอ"