谷歌将在搜索结果中披露由人工智能创建或编辑的图像。这家科技巨头计划通过为人工智能创建或修改的图像添加标签来提高透明度。
这一变化是在谷歌与内容来源和真实性联盟 (C2PA) 的主要公司合作后做出的，该联盟旨在打击网上误导性信息的传播。让我们来看看谷歌标记人工智能生成内容的计划的细节以及围绕它的问题。
谷歌对人工智能的追逐只是一场杂耍吗？
未来几个月，谷歌将开始在搜索结果中标记人工智能生成和编辑的图像。这将使用来自内容凭证标准的元数据来完成，其中包括图像的创建时间、地点和方式等信息。用户将能够通过谷歌的“关于此图像”功能看到此标签，只需点击搜索结果中图像上方的三个点即可访问该功能。
此举背后的想法是让用户能够追踪图片来源，并更容易发现人工智能生成的内容。此前，谷歌与亚马逊、Adobe 和微软等其他科技公司联手制定了最新的内容凭证指南。这些公司希望共同提高透明度，减少虚假或误导性图片的传播。
虽然谷歌的举措是朝着正确方向迈出的一步，但值得注意的是，该标签不会立即显现出来。用户需要通过点击“关于此图片”部分来主动搜索信息，这可能会使该功能的效果不如一些人预期的那样有效。
用户将如何获取人工智能信息？
这项新功能可在 Google Lens 和 Android 的“圆圈搜索”功能中找到，现在将指示图像是否由人工智能生成或修改。无法直接显示标签可能会导致许多用户不知道此工具的存在。由于涉及其他步骤，某些人可能永远无法确认图像是否由人工智能生成，除非他们已经熟悉该功能。即使人们知道，这个过程仍然可能很困难，特别是如果他们预计人工智能生成的图像会标记得更清楚。
尽管存在这一限制，但谷歌与 C2PA 的合作可能具有价值，因为内容凭证标准为追踪数字内容的来源提供了更广泛的结构。然而，并非所有人工智能开发人员都接受这一标准。一些组织（如黑森林实验室）选择不将其纳入，这可能会使追踪特定模型生成的图像来源的工作变得复杂。
对有效性的担忧：谷歌做得够多吗？
还有一个更大的问题：人工智能生成的图像越来越难以检测。滑铁卢大学的一项研究发现，39% 的人无法区分人工智能生成的图像和真实图像。如果这种趋势继续下去，谷歌的标签系统可能不足以帮助用户自信地识别人工智能生成的内容。
此外，其他科技公司也没有树立良好的榜样。例如，Meta 最近将标签信息移到了帖子中不太显眼的位置。这引发了一个问题：科技巨头是否真正致力于让人工智能生成的内容更加透明，还是他们只是采取了最低限度的措施。
很少有相机（例如 Leica M-11P 和 Nikon Z9）配备内置内容凭证。这意味着，除非摄影师和开发人员选择使用这些工具，否则系统将无法发挥应有的作用。人工智能生成内容的透明度在很大程度上依赖于跨行业协作，到目前为止，似乎并不是每个人都投入了同等的精力。
与此同时，人工智能生成的图像的兴起引发了人们对虚假信息的新担忧。从深度伪造到人工智能生成的裸照，其危害潜力显而易见。虽然谷歌的新标签系统无法解决所有这些问题，但它是减少网上误导性内容传播的一小步。
图片来源：Furkan Demirkaya / Ideogram AI
Source: 谷歌的 AI 图像标签会容易被发现吗？