새로운 'Confidence Score' 비디오 도구로 딥페이크에 맞서는 Microsoft
마이크로소프트 최근에 딥페이크의 부상을 막고 인터넷에서 증가하는 허위 정보 문제를 해결하는 데 도움이 되는 새로운 비디오 기술을 구축했다고 발표했습니다. 이번 발표는 미국이 격동의 선거로 향하고 있는 결정적인 시기에 나온 것이며, 이는 또한 전염병의 한가운데에 있습니다.
최근에는 온라인에서 허위 정보 및 잘못된 정보를 근절하는 데 대한 관심이 높아졌습니다. 이는 2016년 미국 대선과 영국의 브렉시트 국민투표에 대규모 허위정보 캠페인이 미친 영향으로 거슬러 올라갈 수 있습니다. 소셜 미디어 플랫폼, 특히 Facebook과 Twitter는 게시된 콘텐츠를 규제하지 않는다는 이유로 심각한 비판을 받았습니다. 시 전염병, 잘못된 정보 다양한 종류의 것이 표면화되었고 심지어 사람들의 행동에 매우 실질적인 영향을 미쳤습니다. 이는 소셜 미디어 플랫폼이 AI 도구를 사용하고 잘못된 정보를 포함할 가능성이 있는 콘텐츠를 규제하기 위해 정책을 변경한 이유 중 하나이기도 합니다. 트위터는 최소한 미국에서 매우 적극적이었습니다. 오해의 소지가 있고 유해한 콘텐츠 처리, 특히 도널드 트럼프 대통령을 비롯한 세간의 이목을 끈 인물. 페이스북은 반응이 느리고 규제에 덜 민감한 것처럼 보이지만 최근의 압력에 비추어 콘텐츠 정책을 개혁했습니다.
이제 Microsoft는 deepfake를 감지하도록 설계된 새로운 Microsoft Video Authenticator를 돕기 위해 개입한 것 같습니다. 회사는 새로운 기술 솔루션을 발표했습니다. 블로그 게시물 그리고 올해 초에 출시된 투표 프로세스 보호 도구 ElectionGuard와 함께 Defending Democracy Program의 필수적인 부분이 될 방법을 설명했습니다. 비디오 인증기는 Microsoft Research에서 회사의 책임 있는 AI 팀 및 Microsoft AI, Ethics and Effects in Engineering and Research(AETHER) 위원회와 공동으로 개발했습니다.
Microsoft의 비디오 인증기가 딥페이크를 감지하는 방법
비디오 인증기는 사진과 비디오를 분석하여 인위적으로 조작될 가능성에 대한 백분율 또는 점수를 제공합니다. 이 도구는 비디오가 재생되는 동안 실시간으로 비디오의 각 프레임에 대한 백분율을 제공할 수 있습니다. 이것은 조작된 이미지와 사람의 눈에 거의 보이지 않는 회색조 요소 사이의 혼합 경계를 감지하여 수행됩니다. AI 도구는 Deepfake 감지 기술, Face Forsensic ++ 및 Deepfake Detection Challenge Dataset에 대한 인기 있는 교육 모델을 사용하여 알고리즘을 교육하여 만들었습니다. Microsoft Azure AI 에코시스템에 구축된 이 도구를 사용하면 콘텐츠 제작자가 함께 이동하는 마커를 추가할 수 있습니다. 비디오 및 비디오 인증자가 읽을 수 있어 '자신감'으로 표현되는 어느 정도의 진정성을 생성합니다. 점수.'
이 기술은 BBC의 뉴스 검증 기술인 '프로젝트 오리진(Project Origin)'을 강화할 것이며 여러 주요 국제 뉴미디어 그룹이 시작한 Trusted News Initiative의 일부가 될 것입니다. Microsoft는 이 도구가 합성 미디어 생성에 도움이 되는 기술을 따라잡기 위해 업데이트될 것임을 강조합니다. 허위 정보 탐지 기술에 대한 Microsoft의 개발 및 초점은 부분적으로 Princeton 대학의 Jacob Shapiro 교수가 수행한 연구의 영향을 받았습니다. Shapiro의 조사 결과에는 2013년에서 2019년 사이에 96개의 개별 해외 영향력 캠페인이 30개국을 대상으로 했다는 내용이 포함되어 있습니다.
오늘날 소셜 미디어에서 대규모 허위 정보 캠페인이 만연하고 있으며 주요 문제 및 이벤트에 대한 여론을 흔들 수 있습니다. 이러한 영향력으로 인해 민주주의와 합리적인 토론은 건전한 정보 채널에 달려 있기 때문에 이 문제를 다루는 것이 매우 중요합니다. 이런 의미에서, 잘못된 정보와 싸우는 데 중점을 둔 기술, Microsoft의 최신 정보를 포함하여 정직한 정보가 사람들에게 전달되도록 하는 데 중요합니다.
원천: 마이크로소프트
Netflix: 2021년 11월에 공개되는 모든 영화 및 TV 프로그램
저자 소개