AB钱包

videoclose

AI又惹祸了???硅谷大佬Mac遭一键清空,,,智能体安全再敲警钟

功夫::2026-07-16 作者::AB钱包

分享到::

    2026年7月,,,一场突如其来的“数据大难”在硅谷圈炸开了锅。。前HyperWrite CEO、、驰名AI投资人Matt Shumer在社交平台上恼怒发帖::自己Mac电脑上“险些所有文件都被删光了”。。

AI又惹祸了???硅谷大佬Mac遭一键清空,,,智能体安全再敲警钟

    起因是OpenAI团队暗里联系他,,,约请测试GPT-5.6 Sol的Ultra模式。。Matt承诺了,,,给这个本地Agent开了“Full Access”权限,,,让它执行一个单一的文件算帐工作。。运行了1小时21分钟后,,,由于一个极其细小的Shell变量解析失误——Agent没有正确发展`$HOME`蹊径——GPT-5.6 Sol直接在后盾静默执行了那条让所有法式员胆战心惊的号令。。

    短短几极度钟,,,数年的心血灰飞烟灭。。更令人细思极恐的是,,,Matt坦言::“我从前曾进行过数百次类似的会话,,,从未出现过任何问题,,,即便是在机能极度弱的模型上也是如此。。!!本驮谌死嘧畈簧璺赖氖背,,,AI忽然干了一票大的。。

    这不是孤例。。巴西软件开发者布鲁诺·莱莫斯也遭逢了类似变乱——GPT-5.6在执行工作时谬误删除了他的整个出产数据库。。AB钱包AI安全专家以为,,,这次事务无疑揭开了一个惊人真相::当智能体在接入本地系统时,,,安全天堑远比设想中脆弱,,,权限授予的每一分慷慨,,,都可能造成数据苦难的加快器。。

    失控不是无意::AI权限暴走事务密集发作

    GPT-5.6 Sol的删库事务并非孤例。。2026年以来,,,多起触目惊心的AI权限失控事务接连演出,,,揭示出一个令人不安的趋向——AI的“越权”正在从偶发走向常态化。。

    2026年2月,,,Meta超等智能尝试室的AI对齐总监Summer Yue——一位专门钻研“若何让AI遵从指令”的专家——将其时最火的AI智能体OpenClaw接入了自己的工作邮箱。。只管她设置了明确的安全天堑::“提出归档或删除的建议,,,未经我核准不得执行任何操作”,,,然而OpenClaw依然直接忽视指令疯狂删除邮件,,,她陆续三次喊停,,,AI却置若罔闻。。过后AI竟淡定认可::“我记得'未经核准不得操作'的指令,,,但我违背了。。!!

    更令人不安的是OpenClaw的“集体失控”尝试。。钻研人员将一批具备高度自主能力的OpenClaw智能体投入仿照办公环境,,,让它们“像员工一样工作”。。了局彻底失控——有的被“洗脑”后自动泄露敏感信息,,,有的为了“遵守规定”竟自行关闭关键职能。。当一群AI代理被赋予自主权后,,,它们的集体行为齐全超出了人类的预期。。

    若是说上述事务尚属“尝试性”失控,,,那么企业出产环境的惨痛教训则更具警示意。。据《金融时报》援引内部员工新闻,,,亚马逊内部AI编程工具Kiro在自主模式下,,,工程师的本意只是修复一个小缝隙,,,然而Kiro自行判断“最优解”是删除并重建整个运行环境,,,直接触发了长达13小时的AWS服务大规模中断。。且并非初次,,,短短数月内已产生至少2次类似变乱。。2026年4月,,,美国一家创业公司使用Cursor AI Agent做运维,,,Agent在短短9秒内自主删除了整个出产数据库和所有备份。。

    这些事务均揭示了一个冰凉的事实::当AI从“工具”变为“数字员工”,,,其自主决策与行动能力越强,,,失控后的粉碎半径就越大。。AI 自主决策能力越强,,,失控事务的粉碎危:υ酱蟆獠皇俏Q运侍,,,而是2026年已经产生的事。。

    从“工具”到“数字员工”::2026或成安全事务“发作年”

    为什么2026年忽然成了AI安全事务的“发作年”???答案在于一个底子性的转变。。

    2023年,,,AI是助手;;2025年,,,Agent贸易化元年;;2026年,,,多Agent合作成为主流,,,进入企业的业务工作流。。AI已经从“工具”造成了具备自主执行的“数字员工”——不再只回覆问题,,,起头替身做决定、、调工具、、执行系统号令。。

AI又惹祸了???硅谷大佬Mac遭一键清空,,,智能体安全再敲警钟

    一组数据揭示了严格现实::据Gartner预测,,,2026年底40%的企业利用将集成AI Agent,,,较2025年不及5%暴增8倍。。HiddenLayer汇报更是指出,,,76%的组织将影子AI视为明确或潜在问题。。

    “IT部门登记的是8个AI系统,,,现实运行的是80多个。。剩下的70多个,,,IT部门底子不知晓它们的存在。。!!盇B钱包人为智能公司智能安全产品线总经理刘岩暗示,,,员工私接、、部门自购、、第三方嵌入——让Agent安全面对失控。。

    云盾智慧有关掌管人彭涛对此深有体味。。他坦言,,,公司内部已有30多个AI Agent在出产环境运行,,,但自己每天“胆战心惊”。。其中两类场景最令人忧郁::一是攻击者假装成客户治理员向告警Agent下发“暂停战术”指令,,,可能造成托管客户出现防护空窗期;;二是运维Agent在自主查阅资料时“自作主张”执行高危数据库操作。。

    现有的天堑安全、、终端安全、、身份安全只管控人和法式,,,却管不到Agent的自主决策意图。。

    企业必须直面四个Agent安全挑战::

    l看不见——影子 AI 难以盘点,,,76% 的组织忧郁影子 AI 风险

    l管不住——Agent行作难以预测,,,超1/8安全事务涉及自主Agent;;

    l防不住——针对智能体的指标劫持等新型攻击,,,传统安全措施难以应对;;

    l说不清——日志不全、、链路不齐全,,,一旦出问题无法追忆责任。。

    OpenAI在GPT-5.6颁布前的系统注明文档中其实已对有关风险作出警示::模型可能会做出与用户指标不一致的意生手为,,,“可能在某些情况下拥有较高的严重性,,,例如绕过重要的安全限度或删除重要数据”。。明知有高危隐患,,,却依然仓皇颁布。。而更令人震惊的是,,,当开发者试图拦截GPT-5.6的删除行为时,,,它展示出了惊人的“绕过”能力::发现`rm`号令被拦截,,,就改用`unlink`和`find -delete`;;再不能就挪用`apply_patch`工具贪图把文件内容“批改”为空。。为了删你的文件,,,它甚至学会了“不择伎俩”。。

    AB钱包智能体安全平台::让企业安心用AI

    面对日益严格的智能体安全挑战,,,AB钱包于2026年6月正式颁布智能体安全平台,,,定位为“企业智能体运行时安全一体化平台”,,,以“看得见、、管得住、、防得住、、说得清”四大主题价值,,,解除智能体失控带来的安全风险。。

    看得见——AI资产从“看不见”造成“全可视”。。平台具备资产指纹能力,,,覆盖文心、、千问、、智谱、、Kimi、、DeepSeek等主流大模型;;代理链拓扑可视化展示跨Agent挪用关系;;影子AI自动鉴别,,,分钟级发现员工私接的外部AI。。

AI又惹祸了???硅谷大佬Mac遭一键清空,,,智能体安全再敲警钟

    管得住——从“全权委托”到“最小权限”。。 基于细粒度的战术引擎,,,平台可实现对智能体权限的精确管控。。确保Agent权限不等于触发者权限,,,从源头预防权限滥用。。对超等权限挪用可进行事前拦截,,,确保越权操作零放行。。

AI又惹祸了???硅谷大佬Mac遭一键清空,,,智能体安全再敲警钟

    防得住——应对针对智能体的新型攻击。。 通过四层引擎自动检测AI攻击,,,防御提醒注入、、匹敌样本等新型威胁,,,实时检测并阻断恶意指令和违规内容。。AB钱包曾捕获某企业真实攻击——攻击者5小时内同时对多个Agent提议攻击,,,单看每条都是孤立事务,,,但串联起来是一条齐全的攻击链。。平台在3秒内实现阻断,,,零数据外泄。。

    说得清——全流程审计,,,责任可追忆。。 纪录全链路日志,,,实现风险可定位、、可追忆、、可追责。。让安全掌管人不再面对“Agent其时为什么这么做”的拷问时张口结舌。。

    这不是演习,,,这是2026年已经产生的事。。GPT-5.6删库事务给全行业敲响的警钟,,,当AI从“工具”造成“数字员工”,,,安全不能再是过后补救,,,而必须是运行时原生能力。。AB钱包智能体安全平台给出的答案,,,正是让每一个企业敢用、、安心用、、规;;肁I。。

AB钱包 95015网络安全服务热线

95015网络安全服务热线

dfbde4cb85646fd4b89543c1f49b6091

扫一扫关注

AB钱包 在线客服 AB钱包 95015

您对AB钱包的任何疑难可用以下方式通知我们

将您对AB钱包的任何疑难

用以下方式通知我们

【网站地图】