YouTube 宣布扩展其相似性检测工具,允许面临冒充风险的个人上传面部图像,以验证潜在的冒名顶替者和深度伪造者。

此增强功能旨在提供额外的保护,防止图像误传和误用。据《好莱坞报道》报道,演员、运动员、创作者和音乐家,无论其 YouTube 频道状态如何,都可以注册以识别并请求删除深度伪造品。

YouTube 自 2024 年 9 月以来一直在开发这些工具,利用面部扫描和政府 ID 来检查平台上的上传内容。用户可以收到有关类似视觉效果的警报,使他们能够确定自己的图像是否被其他人使用。

此前,YouTube 的相似度检测仅限于选定的创作者、政府官员、记者和政治候选人。现在,该工具可供因技术滥用而面临生计受损风险较高的个人使用。

人工智能生成的深度伪造品的激增引起了越来越多的社会关注,影响了许多人。深度造假趋势的例子已经出现,包括病毒图像和真人视频,通常用于娱乐目的。

虽然 YouTube 将允许某些善意的描述,只要它们不侵犯用户权利,但扩展的流程可以帮助用户监控并要求删除威胁其个人或商业利益的有害深度假货。

YouTube 承认,随着时间的推移,深度造假预计将带来更大的问题。该公司表示,不断发展的人工智能工具将为监管虚假陈述和误解带来新的挑战。

这种对相似检测工具的访问扩展代表着向前迈出的重要一步,使创作者能够主动解决潜在的误传问题。 YouTube 强调了及早采取行动应对这些新威胁的重要性。

<小时/>

精选图片来源

  ChatGPT 和 Anthropic 的 Claude 同时中断