(相关资料图)

随着人工智能(AI)在图片和视频中的使用越来越多，“deepfake”内容在互联网上变得非常普遍。虽然这些内容很多是为了娱乐和消遣而制作的，但对于那些不太了解信息的人来说，它们可能仍然是错误信息的来源。因此，为了“进一步研究”图像和视频，以对抗虚假信息和新闻的传播，微软开发了一种可以检测AI制作的图像和视频的工具。

雷德蒙一家软件巨头的R&D部门开发的“视频认证器”工具可以分析图像和视频，并检测它们是虚构的还是真实的。该工具研究视频和图像，并为它们提供“概率百分比或置信度得分”。

“今天，我们宣布了微软视频认证器。视频认证器可以分析静态照片或视频，为媒体操纵提供机会或信心得分。”微软高管在他们的官方博客中写道。

据微软介绍，在分析视频时，该工具会实时为每一帧视频提供“百分比机会”。

尽管检测人工智能操纵的媒体可能很困难，但该公司表示，该工具“通过检测Deepfake和人眼可能无法感知的细微褪色或灰色元素的混合边界来工作。”

现在，进入一些技术细节，“视频认证器”工具是使用FaceForesnics的公共数据集开发的。然后，在DeepFake检测挑战数据集上进行了测试。根据微软的说法，这两个是“深度检测技术培训和测试的领先模型”。

这家总部位于雷德蒙的巨头正与旧金山的人工智能基金会合作分发该工具。随着这一工具的推出，该公司旨在防止错误信息的传播，尤其是在美国大选之前。

因此，该工具“最初只能在RD2020 [Reality Defender 2020]上使用，它将引导组织通过Deepfake检测技术的任何固有限制和道德考虑。”。因此，它将分发给竞选活动的组织者以及参与政治新闻的新闻和媒体。

标签：