谷歌报告称，其旗舰人工智能聊天机器人 Gemini 已成为出于商业动机的攻击者的目标，他们试图通过重复提示来克隆它，其中包括超过 100,000 次查询的活动。
在周四的报告中，谷歌将该活动描述为“蒸馏攻击”或“模型提取”，攻击者探测系统的模式和逻辑，以复制或增强自己的人工智能模型。
该公司将大多数尝试归因于寻求竞争优势的私营公司或研究人员。一位发言人告诉 NBC 新闻，这些袭击似乎起源于世界各地，但没有提供有关嫌疑人的进一步细节。
谷歌威胁情报小组首席分析师 John Hultquist 警告称，Gemini 事件可能预示着针对小公司定制人工智能工具的类似攻击。他说，“我们将成为煤矿里的金丝雀，发生更多的事故”，并拒绝透露嫌疑人的名字。
谷歌将蒸馏归类为知识产权盗窃。该公司指出，已投资数十亿美元用于开发大型语言模型，顶级模型的内部算法被认为是非常有价值的专有资产。
尽管有检测和阻止机制，主要的法学硕士仍然容易受到攻击，因为互联网上的任何人都可以访问它们。 OpenAI 此前指责中国竞争对手 DeepSeek 进行蒸馏攻击以改进其模型。
许多提示旨在提取使双子座能够“推理”和处理信息的算法。 Hultquist 补充说，当组织在敏感数据上培训定制法学硕士时，他们会暴露专有策略。他举例说，“假设你的法学硕士接受了 100 年来关于交易方式的秘密思考的培训。理论上，你可以从中提炼出一些。”
该报告强调了人工智能行业对模型提取日益增长的担忧以及加强防范知识产权盗窃的必要性。
谷歌指出，近几个月蒸馏攻击的频率急剧上升，促使该公司加强监控和响应能力。该公司表示，其检测系统会标记异常查询模式，但攻击者会绕过防护措施。谷歌强调，大型语言模型的专有架构和训练数据代表着显着的竞争优势，未经授权的提取会破坏这一优势。该报告还强调，其他行业参与者也面临着类似的威胁，OpenAI 公开指责 DeepSeek 使用提取的数据来完善自己的模型。谷歌的威胁情报团队继续跟踪全球活动，并就缓解策略向合作伙伴提供建议。
<小时/>
