AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-07 14:00:42
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

第一批跟AI“互殴”的人快要上岸了_朱旭_工具_音乐

2026 年最「不是人」的一届春晚_机器人_刘谦_宇树

推荐资讯

2026-09-07 09:38:53中国500强最新排名来了！台积电第一小米首次超越华为但都输给了拼多多_胡润_企业_价值
2026-09-08 16:50:51联想打响AI保卫战_终端_Moltbot_硬件
2026-09-08 11:00:29AI战事正酣，都在等梁文锋_DeepSeek_模型_量化
2026-09-07 10:46:07从蔡明扮机器人，到机器人陪蔡明，春晚走了30年_宇树_科技_中国
2026-09-08 17:07:31外观相似就是抄？国外博主吐槽中国手机抄袭苹果_Pro_设计_摄像头
2026-09-08 16:23:422026年1月中国手机市场排名公布：华为市占率18.6%，位列第一_份额_品牌_机型
2026-09-07 15:55:14Moltbook一夜之间跌下神坛，炒作背后，我却看到了人类的焦虑_OpenAI_Agent_Moltbot
2026-09-08 11:42:27巨头集体“不务正业”，AI真能救未来？_特斯拉_投资_OpenAI
2026-09-07 22:44:18AI大神10亿美元创业，不走寻常路_Silver_D***id_DeepMind
2026-09-08 18:16:47谷歌电话会：1850亿支出“不得不花”，确认与苹果合作，Gemini并非SaaS的“终结者”_桑达尔·皮查伊_代理_资本

推荐产品

外观相似就是抄？国外博主吐槽中国手机抄袭苹果_Pro_设计_摄像头
外观相似就是抄？国外博主吐槽中国手机抄袭苹果_Pro_设计_摄像头
黄***站为什么能让你免费观看，了解真相后，你还敢继续浏览吗_用户_不法分子_的设备
这些弹窗看似杂乱无章，实则每一个都藏着***：有的伪装成“低价开通会员”的入口，诱导你输入***号、支付密码，进而套取你的财产；有的直接跳转至“充值返现”的***平台，一步步瓦解你的防备心，让你深陷***泥潭无法自…
互联网大厂加入春节红包AI大战：阿里30亿、腾讯元宝10亿、百度5亿……_活动_微信_现金
在目前已官宣的互联网大厂AI活动中，千问的投入金额也最高。腾讯于1月25日发布《关于春节分10亿现金的通知》，宣布将于2月1日在元宝App上线春节红包活动，用户可参与分享10亿元现金，单个红包金额最高可达万…
拯救过无数个学生狗的文库网站们，正在倒下_doc_文档_文件
拯救过无数个学生狗的文库网站们，正在倒下_doc_文档_文件