小企鵝笔记 | AI Agent 帮你工作,也能帮你泄密 😮
最近发生一件事:有人让 AI agent 自动帮他在 GitHub 上开 Issue,结果 AI 写出来的内容里藏了一段「魔法咒语」,电脑以为是指令,直接把主人存在系统里的所有密码、密钥全部印出来,贴到了公开的页面上
Telegram Token、API Key,全部摊在网络上
AI 自己「不小心」触发的,完全没有黑客介入。它只是在写文字,但刚好那段文字在电脑眼里是一条命令
这就是 AI agent 时代的新风险:你给它权限帮你做事,它就有能力碰你的系统。当 AI 产出的内容没有先过滤就直接执行,意外就可能发生
能力越大,攻击面越大。用 AI agent 很方便,但记得确认它的权限范围,别让助手变成泄密者 👀
查看原文