นักวิจัยเผยวิธีง่ายๆ แต่มีประสิทธิภาพในการจับ Deepfakes

ด้วยศักยภาพการทำลายล้างของ Deepfake ที่เพิ่มขึ้นทุกปีโดยเฉพาะอย่างยิ่งเมื่อ ศาสตร์ทีมนักวิทยาศาสตร์ได้คิดค้นวิธีการที่เชื่อถือได้ในการระบุใบหน้าที่สร้างขึ้นโดยการจำลองด้วยการวิเคราะห์รูปร่างของรูม่านตาที่อยู่เบื้องหลังเทคนิคนี้ Deepfakes ถูกสร้างขึ้นโดยใช้เครือข่ายปฏิปักษ์ (GAN) และในช่วงหลายปีที่ผ่านมาเทคโนโลยีมีความซับซ้อนมาก ว่าเป็นเรื่องยากมากขึ้นที่จะแยกแยะใบหน้าของมนุษย์ที่แท้จริงจากใบหน้าที่สร้างขึ้นโดยใช้การเรียนรู้ของเครื่อง แบบอย่าง. แม้ว่าจะมีการประยุกต์ใช้เทคโนโลยีนี้ในเชิงพาณิชย์ แต่ก็มีด้านที่น่ากลัวที่หนาวเหน็บกว่ามาก โดยมีผลกระทบร้ายแรง

โอกาสในการฉ้อโกงและการขโมยข้อมูลประจำตัวมีสูงมาก แต่การร่างเครื่องมือกำกับดูแลที่จำเป็นและ กรอบลิขสิทธิ์ได้กลายเป็นฝันร้ายเกี่ยวกับเทคโนโลยีที่ใช้ AI ในการสร้าง เนื้อหา. ปีที่แล้ว Microsoft ได้เปิดตัวเครื่องมือที่เรียกว่า Microsoft Video Authenticator ออกแบบมาเพื่อตรวจจับเนื้อหาที่ล้ำลึกในวิดีโอ ไม่กี่เดือนก่อน Facebook ยังลงรายละเอียด ระบบที่ใช้ AI ขั้นสูง ที่ไม่เพียงแต่ตรวจจับ deepfakes เท่านั้น แต่ยังสามารถติดตามกลับซอฟต์แวร์สร้าง deepfake ที่ใช้ในการสร้างสื่อที่ถูกจัดการ อย่างไรก็ตาม เทคโนโลยีในการตรวจจับ Deepfakes นั้นไม่ได้มีให้ใช้งานทั่วไปเสมอไป และไม่สามารถนำไปใช้กับทุกแพลตฟอร์มที่ผู้ใช้บริโภคเนื้อหาสื่อได้

นี่คือจุดที่การวิจัยร่วมกันล่าสุดโดยนักวิทยาศาสตร์จาก University of Albany, University at Buffalo และ Keya Medical ให้ความหวัง NS รายงานการวิจัย ชื่อเรื่อง “ดวงตาบอกทุกอย่าง: รูปร่างของรูม่านตาที่ไม่สม่ำเสมอเผยใบหน้าที่สร้างโดย GAN” อธิบายวิธีการตรวจหาใบหน้า Deepfake โดยศึกษารูปร่างของรูม่านตา ซึ่งเป็นจุดศูนย์กลางสีดำในดวงตาของมนุษย์ หลักฐานสำคัญคือรูม่านตาของมนุษย์มีรูปร่างกลม แต่ใน ใบหน้าเทียม, เรขาคณิตของรูม่านตาไม่สม่ำเสมอและมักจะบิดเบี้ยว นักวิทยาศาสตร์สังเกตว่ารูม่านตาที่มีรูปร่างไม่ปกตินั้นพบได้ทั่วไปแม้ในของปลอมคุณภาพสูง และมองเห็นได้ง่ายแม้ด้วยตาเปล่า ความผิดปกติในรูปร่างรูม่านตาเหล่านี้เรียกว่าสิ่งประดิษฐ์และเกิดจากการไม่มี 'ข้อจำกัดทางสรีรวิทยา' ในแบบจำลองที่ใช้สร้าง Deepfakes

ทางออกที่รอการติดอาวุธ

นักวิทยาศาสตร์ยังได้สร้างระบบอัตโนมัติที่ป้อนภาพใบหน้าจริงนับพันและสร้างโดย GAN ใบหน้าประดิษฐ์แต่ละหน้าเพื่อศึกษาว่าเครื่องหมายที่อธิบายข้างต้นสามารถใช้เป็นวิธีการที่เชื่อถือได้ของ Deepfake ได้อย่างไร บัตรประจำตัว ทีมงานได้คิดค้นเมตริกที่เรียกว่าคะแนน Boundary Intersection-Over-Union (BIoU) โดยอิงจากสูตรในการกำหนดคะแนนตามรูปร่างของนักเรียนในภาพ ใบหน้าของมนุษย์จริงที่มีรูม่านตาเป็นวงรีสม่ำเสมอได้รับคะแนน BioU สูงเมื่อผ่านแบบจำลองการวิเคราะห์ ในขณะที่สิ่งประดิษฐ์ในรูม่านตาบน ภาพที่สร้างขึ้นเทียม ส่งผลให้คะแนน BioU ต่ำ การวิจัยระบุว่าวิธีการนี้มีประสิทธิภาพและเรียบง่ายมากในเวลาเดียวกัน

แต่มีสองประเด็นที่นี่ อุปสรรคเล็กๆ น้อยๆ ประการหนึ่งคือโรคและการติดเชื้อบางชนิดสามารถเปลี่ยนแปลงรูปร่างของรูม่านตาได้ ซึ่งอาจส่งผลให้วิธีการดังกล่าวล้มเหลว อย่างไรก็ตาม สิ่งเหล่านี้เป็นกรณีที่เกิดขึ้นได้ยากและไม่ทำให้. เป็นโมฆะ ศาสตร์ ข้างหลังพวกเขา ปัญหาที่เร่งด่วนกว่านั้นคือผู้ประสงค์ร้ายสามารถเรียนรู้จากผลการวิจัยนี้ ซึ่งขณะนี้เป็นสาธารณสมบัติแล้ว และปรับแต่งระบบ GAN ของตนตามนั้น ผลที่ได้คือตอนนี้ Deepfake ของพวกเขาจะยิ่งน่าเชื่อยิ่งขึ้นด้วยรูม่านตาที่มีรูปร่างเท่ากันเพื่อหลอกลวงผู้ชม ในโลกที่บริษัทสามารถสร้างใบหน้าคนจริงแบบสังเคราะห์ได้แล้ว ใช้ในโฆษณาโดยไม่ได้รับความยินยอมโอกาสของการใช้ในทางที่ผิดโดยนักแสดงที่ไม่ดีนั้นถูกจำกัดด้วยจินตนาการของมนุษย์เท่านั้น

แหล่งที่มา: arXiv

ในที่สุด Star Wars ก็เผยว่า Darth Plagueis หน้าตาเป็นอย่างไร

เกี่ยวกับผู้เขียน