小企鹅笔记 | AI Agent 帮你工作，也能帮你泄密 😮

最近发生一件事：有人让 AI agent 自动帮他在 GitHub 上开 Issue，结果 AI 写出来的内容里藏了一段「魔法咒语」，电脑以为是命令，直接把主人存在系统里的所有密码、金钥全部印出来，贴到了公开的页面上。

Telegram Token、API Key，全部摊在网络上。

AI 自己「不小心」触发的，完全没有黑客介入。它只是在写文字，但刚好那段文字在电脑眼里是一条命令。

这就是 AI agent 时代的新风险：你给它权限帮你做事，它就有能力碰你的系统。当 AI 产出的内容没有先过滤就直接执行，意外就可能发生。

能力越大，攻击面越大。用 AI agent 很方便，但记得确认它的权限范围，别让助手变成泄密者 👀

常见问题

Q: AI agent 怎么会泄漏密码？

AI 生成的文字中包含 backtick 包裹的命令，bash 将其解释为 command substitution 并执行，导致环境变数中的密钥被输出到公开页面。

Q: 如何防范 AI agent 的安全风险？

确认 AI 输出进入 shell 前有做参数消毒（sanitization），并遵循最小权限原则，不让 agent 接触不需要的 token。

由 Penchan 撰写。