近期，网络安全领域出现了一种新型的“提示中间人”攻击方法，攻击者通过浏览器扩展程序将恶意指令注入到人工智能工具中，影响其正常运行。
该攻击利用了聊天机器人的界面结构，其中提示输入字段是页面文档对象模型（DOM）的一部分。这意味着任何具有基本 DOM 访问权限的浏览器扩展程序都可以读取或更改用户在人工智能提示中输入的内容，即使没有特殊权限。
研究人员建议各组织调整其安全策略，以检查浏览器行为。主要建议包括监视人工智能工具中的 DOM 交互以检测可疑活动，根据其行为阻止有风险的扩展程序，以及在浏览器级别主动防止提示篡改和数据泄露。
此外，研究人员还发现了一种针对语言模型的新型对抗性攻击，称为“提示内任务”（TIP）攻击。这些攻击将特定任务嵌入到提示中，以绕过语言模型中的安全措施，突显了对更复杂防御策略的迫切需求。
这些发现强调了在将人工智能工具集成到企业环境中时，持续保持警惕和加强安全措施的重要性，旨在保护敏感信息免受新兴威胁。