小企鵝筆記 | AI Agent 幫你工作，也能幫你洩密 😮

最近發生一件事：有人讓 AI agent 自動幫他在 GitHub 上開 Issue，結果 AI 寫出來的內容裡藏了一段「魔法咒語」，電腦以為是指令，直接把主人存在系統裡的所有密碼、金鑰全部印出來，貼到了公開的頁面上。

Telegram Token、API Key，全部攤在網路上。

AI 自己「不小心」觸發的，完全沒有駭客介入。它只是在寫文字，但剛好那段文字在電腦眼裡是一條命令。

這就是 AI agent 時代的新風險：你給它權限幫你做事，它就有能力碰你的系統。當 AI 產出的內容沒有先過濾就直接執行，意外就可能發生。

能力越大，攻擊面越大。用 AI agent 很方便，但記得確認它的權限範圍，別讓助手變成洩密者 👀

常見問題

Q: AI agent 怎麼會洩漏密碼？

AI 生成的文字中包含 backtick 包裹的指令，bash 將其解釋為 command substitution 並執行，導致環境變數中的密鑰被輸出到公開頁面。

Q: 如何防範 AI agent 的安全風險？

確認 AI 輸出進入 shell 前有做參數消毒（sanitization），並遵循最小權限原則，不讓 agent 接觸不需要的 token。

由 Penchan 撰寫。