研究人员成功规避了苹果的限制，允许他们通过即时注入攻击对该公司的设备上语言模型执行攻击者控制的操作。此后，苹果公司加强了针对此漏洞的防护措施。
此次攻击的详细信息发布在 RSAC 博客上的两篇博文中，并由 AppleInsider 进行了报道。研究人员利用两种漏洞利用技术来绕过输入和输出过滤器，该过滤器旨在防止苹果本地模型处理有害内容。
研究人员指出，由于苹果公司缺乏对其内部运作的披露，他们对苹果公司的过滤流程了解有限。他们推测输入过滤器会评估用户对不安全内容的提示；如果检测到，则 API 调用失败。如果提示通过，则会将其发送到模型，然后模型输出一个响应，并再次过滤不安全内容。
为了利用这些过程，研究人员开发了一种方法，将两种技术链接起来来操纵设备上的模型。首先，他们执行了 Unicode 攻击，向后写入有害字符串，利用从右到左覆盖字符使它们正确呈现，同时在原始输入中保持向后，从而绕过过滤器。
然后，他们采用了第二种称为 Neural Exec 的方法，该方法允许他们使用替代命令覆盖模型的指令。这些策略的结合使研究人员能够控制模型的行为，在测试的 100 多个随机提示中，成功执行了 76% 的漏洞。
该攻击于 2025 年 10 月向 Apple 披露。作为回应，Apple 在其软件更新中针对此特定漏洞实施了保护，并在 iOS 26.4 和 macOS 26.4 中推出了增强的安全措施。
<小时/>
