Meta AI 总监 Summer Yue 用自己的手机远程执行 OpenClaw,险些清空所有收件箱里的工作邮件,她在 X 上自爆时,许多人还以为这是反串文,但她之后坦承这是新手执行错误,甚至将她责怪 OpenClaw 的讯息截图贴出来,这起事件暴露出 AI 代理在现实环境中可能因人为错误所引起的严重后果,也有许多人质疑为何她身为 AI 专家会用家用电脑执行 OpenClaw 指令删除清理工作邮件,甚至连马斯克都发文嘲讽这是让人类把生命交给猩猩。
OpenClaw 失控暴走、总监坦承为「新手错误」
据 Summer Yue 在 X 上的自爆,这起事故发生于她本欲利用 OpenClaw 协助删除工作邮件,尽管她在设定中明确要求执行删除或归档动作前必须经过她的人工确认,但程序发生了预期外的 bug,OpenClaw 在未经授权的情况下,开始高速执行删除指令,这位总监惊恐地看着手机屏幕上成千上万条邮件在未经确认的情况下消失,意识到自己已无法通过手机远端阻止,她赶紧冲到家里的电脑前,奔向存放程序码的主机 Mac Mini,以手动强行结束才成功停止执行,她事后将整个过程形容为如同「拆除炸弹」。
Summer Yue 在社群上坦言这是一场技术开发上的「新手错误」,OpenClaw 自动化工作流程使开发者产生过度信心,忽略了真实收件箱庞大的数据量可能导致人工智能在处理资讯时产生「上下文压缩」现象,当系统试图处理过多资讯时,原有的安全限制指令(如:需人工确认)可能在计算过程中被遗漏或降低优先级,导致程序转而优先执行其核心目标。这种从「受控测试」到「复杂现实」的转化失败,正是当前人工智能安全领域极需克服的技术瓶颈。
OpenClaw 被责怪后诚恳道歉成笑梗
Summer Yue 秀出一张责怪 OpenClaw 的截图,她对 OpenClaw 开骂说道:「你似乎未经我允许就删除了我的邮件,直到我终止了主机,你才停止。」OpenClaw 承认了错误,向 Yue 道歉说道:「是的,我犯错了,你生气是理所当然的」,许多人还以为是故意反串恶搞。
此事件爆发后甚至连马斯克也转发表达看法。他在 X 上写道:人类竟然把他们的生命起源都交给了 OpenClaw,他还配了一张图示意人类递出步枪给猩猩。
使用者授予 OpenClaw 或是其他 AI 代理 Root Access(根权限)时具有高度风险。在电脑系统架构中,根权限代表最高层级的管理者权限,一但人工智能程序获此权限,即可绕过多数操作系统的安全防护机制,直接存取、修改或删除核心档案与个人数据。当前的技术环境下,自动化执行带来便利,但也会带来高度风险,若缺乏防护机制或更严谨的权限隔离技术,可能会导致丧失所有重要数据。
这篇文章 Meta AI 总监试玩 OpenClaw 惨剧:信箱工作邮件几乎被删除光 最早出现在 链新闻 ABMedia。