Meta 正在开发一种基于网络的检测工具，旨在识别使用其图像生成模型（称为 Muse Image）创建的图像和视频。该工具可验证嵌入在生成内容中的不可见水印（称为“内容印章”）是否存在。
根据 Meta 的说法，无论如何进行图像处理，包括裁剪、压缩、调整大小或屏幕截图，Content Seal 都保持不变。该公司表示，该工具为用户提供了一种初始机制来确定图像是否带有内容印章水印。
Muse Image 使用的水印方法是专有的，与 Meta 发布的早期开源版本不同。当前版本的 Meta 人工智能模型不采用可见水印，这与之前在图像中包含徽标的模型不同。
目前，检测功能仅限于使用 Muse Image 创建或编辑的图像。 Meta 计划将来将 Content Seal 水印扩展到人工智能生成和编辑的视频。该公司还在开发一种名为 Muse Video 的独立视频生成模型，预计很快就会推出。
对检测工具的测试证实了其识别编辑图像和完全由人工智能生成的图像中的水印的能力。阳性检测表明该图像是使用 Meta AI 应用程序或 meta.ai 生成的，而阴性结果表明该图像不太可能是用 Meta AI 处理的。然而，检测功能并未集成到 Meta AI 应用程序本身中；该应用程序的助手确认它无法确定特定图像是否由 Meta AI 创建。
Meta 因人工智能生成内容的数字水印应用不一致而面临审查。监督委员会今年早些时候对该公司在人工智能生产的材料上贴标签的做法表示担忧。内容密封与 SynthID 和 C2PA 内容凭证等既定水印方法不兼容。
在最近的测试中，检测工具无法识别使用先前版本的 Meta 人工智能模型创建或编辑的图像。此外，该工具的用户会遇到速率限制，一旦达到每日身份检查阈值就会收到警报。
<小时/>
