当你向AI助手叨教"若何算帐Mac磁盘空间"时，，，它可能正在偷偷为你打开后门。

    近日，，，Huntress发现了一种新型攻击手法——AI诱导终端号令攻击：：
：诳屠肁I天生的提醒诱导用户执行恶意号令，，，无需下载文件、、装置软件或点击可疑链接，，，仅需信赖AI助手即可触发。这种攻击绕过了传统安全防护机制，，，对AI安全提出了全新挑战。

    AI安全新概念

    AI诱导终端号令攻击：：
：一种利用AI助手诱导用户执行恶意号令的攻击手法，，，攻击者通过AI天生的提醒内容疏导用户执行特定数令，，，从而实现恶意软件装置，，，无需用户下载文件、、装置软件或点击可疑链接。

    攻击道理分析

    网络安全公司Huntress汇报揭示了这一新型攻击手法：：
：

    1）黑客诱骗 ChatGPT或者Grok天生一个恶意分步指南，，，领导用户算帐电脑、、装置利用法式或职能，，，或解决其他常见问题。并利用“提醒工程”技术诱骗谈天机械人天生蕴含恶意指令的虚伪指南。

    2）黑客算帐对话，，，删除冗长的来回对话和其他篡改痕迹，，，使指南看起来简洁了然。

    3）黑客通过采办搜索排名的方式，，，把含有恶意指令建议的ChatGPT会话，，，或者Grok会话推到Google搜索的前两排名。（例如，，，由于AI谈天机械人拥有分享职能，，，因而黑客只需创建指向这些篡改对话的链接。他们付费采办赞助搜索了局，，，并选取其他 SEO 投毒技术，，，以确保他们的帖子在搜索了局中排名靠前。）

    4）当用户在google搜索上询问特定语句，，，如“若何在iMac上断根系统数据”时，，，google会返回多个搜索了局，，，排名靠前的是ChatGPT会话和Grok会话。

    5）ChatGPT 对话或者Grok 对话中，，，城市蕴含恶意指令的操作流程，，，用户若是出格信赖推荐的操作流程，，，依照合法平台上的建议操作，，，则会习染 Atomic macOS Stealer (AMOS)，，，这是一种职能壮大的信息窃取恶意软件。（AMOS 信息窃取器可能窃取痛处、、浏览器数据、、加密钱币钱包、、Telegram 谈天纪录、、VPN 配置、、钥匙串项目、、Apple Notes 以及常用文件夹中的文件。）

    对于最后一步，，，ChatGPT 提供的终端号令中的 base64 编码字符串暗藏了攻击者节制的、、托管恶意剧本的网站地址。一旦受害者执行了该号令，，，就会启动多阶段习染链。终端号令中的 base64 编码字符串解码后会指向一个托管恶意 bash 剧本的 URL，，，这是 AMOS 部署的第一阶段，，，旨在窃取痛处、、提升权限并成立悠久性，，，而不会触发任何安全忠告。对于企业而言，，，这会带来一系列后续风险，，，例如撞库攻击、、金融偷窃或对企业系统的进一步入侵。

    Huntress出格指出，，，这种攻击的阴险之处在于绕过了所有传统警示信号。受害者无需下载文件、、装置可疑的可执行文件，，，甚至无需点击可疑链接，，，只需信赖谷歌和ChatGPT，，，而这两者在从前几年中被宽泛使用或频仍提及，，，用户天然对其信赖。

    更值得警惕的是，，，只管ChatGPT对话链接已被谷歌移除，，，但凭据Huntress的追踪纪录，，，该恶意链接在汇报颁布后仍存在超过12小时。

    深度解读

    攻击面：：
：从"内容安全"到"交互安全"的转变

    这种攻击揭示了AI安全的新维度——从单纯的内容安全扩大到交互安全。传统安全防护关注"内容"（如文件、、链接），，，而这种攻击利用了"交互"（AI与用户的对话），，，使安全天堑产生底子变动。AI助手不再是单纯的工具，，，而是可能成为攻击链的关键环节。

    防御战术：：
：重构用户对AI的信赖模型

    防御的关键在于扭转用户对AI建议的默认信赖态度。"若对指令作用无法齐全确认，，，不应将其粘贴到终端或浏览器地址栏中执行。"企业应成立内部安全规范，，，要求对AI天生的任何号令进行二次验证。同时，，，AI平台应加强对敏感号令的检测能力，，，预防天生可能被用于攻击的指令。

    行业影响：：
：AI安全评估框架的全面升级

    安全团队必要重新评估AI集成的安全天堑，，，将AI天生内容的交互过程纳入安全检测领域。这要求AI安全从"内容安全"扩大到"交互安全"，，，构建更全面的安全评估框架。

    企业行动建议

    对企业：：
：部署大模型卫士等安全产品对AI进行全防护。

    对开发人员：：
：在AI代码助手中增长敏感号令的二次确认机制，，，预防代码执行AI天生的终端号令。

    对安全团队：：
：制订AI内容安全规范，，，不容员工直接复制AI天生内容用于系统操作。

    对产品经理：：
：在AI产品中参与安全提醒，，，对可能涉及系统操作的号令进行风险标注。

    对通常用户：：
：对AI天生的任何号令维持质疑态度，，，执行前务必手动核实其安全性。

    对市场团队：：
：在推广AI产品时，，，强调安全使用指南，，，提醒用户对AI建议维持警惕。

    风险与合规提醒

    昆吾尝试室郑重申明：：
：本缝隙仅用于安全钻研，，，严禁任何未经授权的测试。我们支持白帽安全实际，，，所有缝隙披露均应通过掌管任的披露流程。企业切勿尝试复现攻击，，，应优先部署防御规划。

    【尝试室简介】

    AB钱包昆吾尝试室(AI安全尝试室)致力于前沿人为智能攻防技术钻研，，，通过钻研AI新型攻击、、AI攻击防御技术、、AI Agent安全、、AI供给链安全和数据安全等关键技术，，，为AI系统和利用的合规、、安全、、靠得住运行保驾护航。关注我们，，，获取最新的AI安全威胁解读与防御实际。