提示注入算不算漏洞?微软与安全专家引发 AI 漏洞定义争论
最新 1 月 7 日消息,科技媒体 bleepingcomputer 昨日(1 月 6 日)发布博文,报道称微软近日驳回了一名安全工程师提交的关于 Copilot 的四项安全漏洞报告,引发了行业关于“AI 漏洞”定义的激烈争论。

网络安全工程师 John Russell 近日在 LinkedIn 发文透露,他向微软提交了 4 个关于 Copilot 的安全漏洞,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。
Russell 指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过 Base64 编码绕过文件上传策略,以及在 Copilot 隔离的 Linux 环境中执行命令。
其中最值得关注是绕过文件上传策略。通常情况下,Copilot 会拦截高风险格式的文件。但 Russell 发现,只要将这些文件编码为 Base64 文本字符串,就能骗过初步检测。
最新援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导 AI 泄露其核心“系统提示词”的方法。
微软判定这些问题未跨越安全边界,属于“AI 已知局限”而非需修复的漏洞。Russell 反驳称,竞争对手 Anthropic 的 Claude 模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。
该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI 漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限于用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。
这一事件在安全社区引发了分歧。安全研究员 Cameron Criswell 等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。
OWASP GenAI 项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。
《提示注入算不算漏洞?微软与安全专家引发 AI 漏洞定义争论》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
微软自信:Copilot是Windows预装最佳生产力应用!
快科技2月24日消息,近日,微软在其学习中心发布了一篇题为《Windows助你完成更多任务的最佳生产力应用》的官方博客文章。这篇文章罗列了Windows 11默认预装的各项工具,而处于推荐榜首位的,... -
微软测试Windows 11任务栏新功能:可直接向AI助手共享窗口
快科技2月24日消息,微软正在Windows 11任务栏设置中,测试一项向虚拟助手共享任务栏任意窗口的新功能。这一功能的初衷是为了简化用户与AI的交互流程,以往如果需要AI分析某个文档或网页,可能... -
自带RGB灯效+动感音效!Windows任务管理器发明者:这才是该有的样子
快科技2月22日消息,想象一下,一边跟着动感音效摇头晃脑,一边一键关掉电脑里卡顿无响应的应用。这不是天马行空的脑洞,而是Windows初代任务管理器发明者戴夫·普拉默(Dave Plummer)... -
无任何预装软件 华硕笔记本可装纯净版Win11系统:可惜多数人无缘
快科技2月22日消息,无论大家喜欢还是不喜欢,Win11系统已经成为各大PC厂商预装的必选项了,华硕笔记本日前出现了一个很有意思的选择,那就是纯净版Win11。据Techrader报道,华硕日前推出了Ex... -
Windows记事本史诗级更新!微软将添加图片支持
快科技2月21日消息,微软正计划为Windows 11的记事本引入图片支持功能,意味着着记事本正逐渐告别简单文本编辑器的定位,向功能更丰富的生产力工具演进。据Windows Latest从微软内部消息人士处...











