当你向AI副手叨教"若何算帐Mac磁盘空间"时，它可能在偷偷为你打开后门。

    近日，Huntress发现了一种新型攻击手法——AI诱导终端号令攻击。黑客利用AI天生的提醒诱导用户执行恶意号令，无需下载文件、装置软件或点击可疑链接，仅需信赖AI副手即可触发。这种攻击绕过了传统安全防护机造，对AI安全提出了全新挑战。

    AI安全新概想

    AI诱导终端号令攻击：一种利用AI副手诱导用户执行恶意号令的攻击手法，攻击者通过AI天生的提醒内容疏导用户执行特定数令，从而实现恶意软件装置，无需用户下载文件、装置软件或点击可疑链接。

    攻击道理分析

    网络安全公司Huntress汇报揭示了这一新型攻击手法：

    1）黑客诱骗 ChatGPT或者Grok天生一个恶意分步指南，领导用户算帐电脑、装置利用法式或职能，或解决其他常见问题。并利用“提醒工程”技术诱骗谈天机械人天生蕴含恶意指令的虚伪指南。

    2）黑客算帐对话，删除冗长的来回对话和其他篡改痕迹，使指南看起来简洁了然。

    3）黑客通过采办搜索排名的方式，把含有恶意指令建议的ChatGPT会话，或者Grok会话推到Google搜索的前两排名。（例如，由于AI谈天机械人拥有分享职能，因而黑客只需创建指向这些篡改对话的链接。他们付费采办赞助搜索了局，并选取其他 SEO 投毒技术，以确保他们的帖子在搜索了局中排名靠前。）

    4）当用户在google搜索上询问特定语句，如“若何在iMac上断根系统数据”时，google会返回多个搜索了局，排名靠前的是ChatGPT会话和Grok会话。

    5）ChatGPT 对话或者Grok 对话中，城市蕴含恶意指令的操作流程，用户若是出格信赖推荐的操作流程，依照合法平台上的建议操作，则会习染 Atomic macOS Stealer (AMOS)，这是一种职能壮大的信息窃取恶意软件。（AMOS 信息窃取器可能窃取痛处、浏览器数据、加密钱币钱包、Telegram 谈天纪录、VPN 配置、钥匙串项目、Apple Notes 以及常用文件夹中的文件。）

    对于最后一步，ChatGPT 提供的终端号令中的 base64 编码字符串暗藏了攻击者节造的、托管恶意剧本的网站地址。一旦受害者执行了该号令，就会启动多阶段习染链。终端号令中的 base64 编码字符串解码后会指向一个托管恶意 bash 剧本的 URL，这是 AMOS 部署的第一阶段，旨在窃取痛处、提升权限并成立悠久性，而不会触发任何安全忠告。对于企业而言，这会带来一系列后续风险，例如撞库攻击、金融偷窃或对企业系统的进一步入侵。

    Huntress出格指出，这种攻击的阴险之处在于绕过了所有传统警示信号。受害者无需下载文件、装置可疑的可执行文件，甚至无需点击可疑链接，只需信赖谷歌和ChatGPT，而这两者在从前几年中被宽泛使用或频仍提及，用户天然对其信赖。

    更值得警惕的是，只管ChatGPT对话链接已被谷歌移除，但凭据Huntress的追踪纪录，该恶意链接在汇报颁布后仍存在超过12幼时。

    深度解读

    攻击面：从"内容安全"到"交互安全"的转变

    这种攻击揭示了AI安全的新维度——从单纯的内容安全扩大到交互安全。传统安全防护关注"内容"（如文件、链接），而这种攻击利用了"交互"（AI与用户的对话），使安全天堑产生底子变动。AI副手不再是单纯的工具，而是可能成为攻击链的关键环节。

    防御战术：沉构用户对AI的信赖模型

    防御的关键在于扭转用户对AI建议的默认信赖态度。"若对指令作用无法齐全确认，不应将其粘贴到终端或浏览器地址栏中执行。"企业应成立内部安全规范，要求对AI天生的任何号令进行二次验证。同时，AI平台应加强对敏感号令的检测能力，预防天生可能被用于攻击的指令。

    行业影响：AI安全评估框架的全面升级

    安全团队必要沉新评估AI集成的安全天堑，将AI天生内容的交互过程纳入安全检测领域。这要求AI安全从"内容安全"扩大到"交互安全"，构建更全面的安全评估框架。

    企业行动建议

    对企业：部署大模型卫士等安全产品对AI进行全防护。

    对开发人员：在AI代码副手中增长敏感号令的二次确认机造，预防代码执行AI天生的终端号令。

    对安全团队：造订AI内容安全规范，不容员工直接复造AI天生内容用于系统操作。

    对产品经理：在AI产品中参与安全提醒，对可能涉及系统操作的号令进行风险标注。

    对通常用户：对AI天生的任何号令维持质疑态度，执行前务必手动核实其安全性。

    对市场团队：在推广AI产品时，强调安全使用指南，提醒用户对AI建议维持警惕。

    风险与合规提醒

    昆吾尝试室郑沉申明：本缝隙仅用于安全钻研，严禁任何未经授权的测试。我们支持白帽安全实际，所有缝隙披露均应通过掌管任的披露流程。企业切勿尝试复现攻击，应优先部署防御规划。

    【尝试室简介】

    tyc8722太阳集团城昆吾尝试室(AI安全尝试室)致力于前沿人为智能攻防技术钻研，通过钻研AI新型攻击、AI攻击防御技术、AI Agent安全、AI供给链安全和数据安全等关键技术，为AI系统和利用的合规、安全、靠得住运行保驾护航。关注我们，获取最新的AI安全威胁解读与防御实际。