生成式人工智能的兴起带来了令人难以置信的进步，但也带来了更黑暗的网络后果。其中一个问题就是复制面部和身体，通常被称为深度伪造。它可以很容易地创建合成的裸照，对个人造成极大伤害。那些在未经同意的情况下分享私密照片的人发现很难从互联网上删除这些照片。微软已经介入并提出了一项解决方案，可能会提供急需的支持。
微软取得了重大进展，推出了一款新工具，让深度伪造的受害者能够从 Bing 搜索引擎中删除这些图片。这项最新举措旨在解决互联网上虚假色情内容泛滥的问题，这些内容似乎以真实人物为主角，人工智能的进步使这一现象更加严重。
阻止 Microsoft Deepfake 成人内容的传播
微软与 StopNCII 的合作（停止非自愿的亲密照片) 代表了打击“报复”和深度伪造裸照的重要合作。StopNCII 是一个组织，它使受害者能够在自己的设备上创建露骨图像的数字指纹或“哈希”，无论是真实的还是人工智能生成的。然后，该指纹用于跟踪和删除各种平台上的违规图像。
微软的 Bing 现在也参与了这项努力，加入了 Facebook、Instagram、TikTok 和 Reddit 等其他主要科技平台的行列。这是对微软本已全面的安全措施的重要补充，此前这些措施依赖于直接举报工具。虽然直接举报选项允许用户标记有害内容，但这不足以应对攻击性材料的数量。通过整合 StopNCII 的数字指纹识别技术，微软旨在更有效、更主动地防止这些图像出现在搜索结果中，并帮助受害者重新获得对其数字资产的控制权。
持续打击 Deepfake
人工智能生成的裸照问题已成为一个日益严重的问题，影响十分广泛，尤其是在美国等国家。 美国 目前还没有专门针对人工智能深度伪造色情内容的联邦法律。这导致了 只有 23 个州 制定法律来解决 非经同意的深度伪造导致许多地区的受害者得不到足够的法律救济。微软与 StopNCII 的合作以及 Bing 上的新工具可能会在法律保护不一致的环境中提供一些帮助。
然而，问题是 不仅限于成年人。高中生也成为“脱衣服”制作假裸照的网站，表明需要更强有力的法律和更全面的保护。StopNCII 的工具目前仅涵盖 18 岁以上的个人。然而，这些有害技术的更广泛影响是显而易见的，采取更强有力的措施保护年轻用户是不可避免的。
微软对数字安全的承诺
微软早就意识到未经许可分享私密照片的有害影响，并已采取措施解决这一问题。2015 年，微软推出了一款集中报告工具，旨在帮助用户报告和删除未经同意的私密照片。但随着合成图像背后的技术不断发展，微软的方法也在不断发展。
该公司还倡导制定现代化法律来保护人工智能生成内容的受害者，并发布了旨在保护妇女和儿童免受网络虐待的政策建议。此外，微软继续完善其内部政策，以防止在其平台上创建和分发此类内容，包括 Bing、Xbox 和其他消费者服务。
微软的新工具是一大进步，但打击深度伪造的斗争尚未结束。新技术带来新挑战，我们必须迅速做出反应。微软正在与 StopNCII 和其他组织合作打击深度伪造。但我们需要每个人的帮助。
微软鼓励那些担心自己的私密照片被分享的人使用 StopNCII 的工具并向微软举报违规行为。这将有助于阻止这些照片的传播，并让受害者获得一些控制权。虽然技术催生了新的滥用形式，但它也提供了新的反击方式。微软的最新举措表明了这场持续的斗争。
特色图片来源：Johannes Krupinski / Unsplash
Source: 微软打击深度伪造成人视频的新举措