AI 今天沒有停在「模型又變強」這件事。美國政府要在模型公開前看見風險，企業 agent 公司拿到更大的資本彈藥，Google 和 OpenAI 則把延遲、推理速度、長任務通知這些工程細節推到台前。
目錄
- 01 · CAISI 將提前評測 Google DeepMind、Microsoft、xAI 模型
- 02 · Sierra 與 ElevenLabs 把企業 Agent 需求寫進營收曲線
- 03 · Gemini API Webhooks 讓長任務完成後主動通知
- 04 · OpenAI 公開低延遲語音 AI 的 WebRTC 架構
- 05 · Gemma 4 MTP 用投機解碼降低本地推理延遲
- 06 · Agent 安全研究把「自稱合規」拉回系統設計
- 07 · Pennsylvania 起訴 Character.AI，醫療 chatbot 進入執法視野
01 · CAISI 將提前評測 Google DeepMind、Microsoft、xAI 模型
美國商務部轄下 NIST 5 月 5 日宣布，Center for AI Standards and Innovation（CAISI）已與 Google DeepMind、Microsoft、xAI 簽下新協議。這些合作讓 CAISI 可在模型公開前進行評測，也可做部署後評估與 targeted research；OpenAI 和 Anthropic 先前的合作也已依照商務部長指示與 America’s AI Action Plan 重新談判。（來源：NIST）
這裡的重點落在發布流程的制度化。NIST 說，CAISI 至今已完成超過 40 次評估，包含尚未公開的前沿模型；為了測出 national security 相關能力與風險，開發商有時會提供降低或移除 safeguards 的版本。這讓政府看到模型在保護層拿掉後的能力邊界，也讓開發商在正式發布前拿到外部回饋。（來源：NIST）
對 AI 公司來說，這會把「發布前測試」從內部 red team 擴成半公共治理機制。模型越接近網路安全、生物安全、化學風險和政府用途，發表日期就越可能被評測、稽核與跨部門回饋牽動。
02 · Sierra 與 ElevenLabs 把企業 Agent 需求寫進營收曲線
Bret Taylor 和 Clay Bavor 創辦的 Sierra 5 月 4 日宣布融資 9.5 億美元，由 Tiger Global 與 GV 領投，post-money valuation 超過 150 億美元。TechCrunch 報導，Sierra 表示公司已有超過 40% 的 Fortune 50 客戶，平台上的 agent 正處理抵押貸款再融資、保險理賠、退貨、非營利募款等互動；公司也曾公布 ARR 從去年 11 月的 1 億美元，到今年 2 月達 1.5 億美元。（來源：TechCrunch）
聲音 agent 也在同一條曲線上。ElevenLabs 5 月 5 日宣布，2025 年底 ARR 為 3.5 億美元，2026 年前四個月已超過 5 億美元。公司說，成長來自企業把 voice agents 放進客服、銷售、招聘、行銷營運；新投資人包含 BlackRock、Wellington、D.E. Shaw、NVIDIA via NVentures、Salesforce、Santander、Jamie Foxx、Eva Longoria 等。（來源：ElevenLabs）
這兩則放在一起看，企業 AI 需求已經從「員工用聊天工具」轉成「客戶面流程由 agent 接手」。也因此，投資人盯的是整套營運能力：agent 能不能穩定接住大量互動、維持品牌語氣、串接內部系統，並把推理成本控制在收入模型裡。
03 · Gemini API Webhooks 讓長任務完成後主動通知
Google 5 月 4 日為 Gemini API 推出 event-driven Webhooks。過去開發者使用 Deep Research、長影片生成或 Batch API 這類耗時數分鐘到數小時的任務時，通常要反覆 polling GET operations 查進度；新機制讓任務完成後，由 Gemini API 直接向開發者伺服器送出 HTTP POST 通知。（來源：Google）
Google 說，這套設計遵循 Standard Webhooks 規範，每個 request 都帶有 webhook-signature、webhook-id、webhook-timestamp，用於 idempotency 與防止 replay attacks。送達語意採 at-least-once，失敗後可持續 retry 24 小時；開發者可在 project level 用 HMAC 設全域 webhook，也可在單次 request 用 JWKS 指定不同 callback。（來源：Google）
這是很小但很關鍵的 agent 基礎設施。當 AI 任務變成長時間、多步驟、批次化，開發者不想讓 worker 一直等，也不想靠排程器反覆查狀態。Webhook 把 agent workflow 從「我去問你做完沒」改成「你做完來叫我」，這讓系統更容易擴張。
04 · OpenAI 公開低延遲語音 AI 的 WebRTC 架構
OpenAI 5 月 4 日公開 ChatGPT voice、Realtime API 等即時語音產品背後的 WebRTC 架構。官方說，語音 AI 要自然，必須讓對話接近人類說話速度；在 OpenAI 規模下，這牽涉超過 9 億 weekly active users、快速連線建立、穩定 media round-trip time、低 jitter 和低 packet loss。（來源：OpenAI）
OpenAI 的核心改造是把 WebRTC media 架構拆成 relay 與 transceiver。relay 是無狀態層，負責 UDP packet forwarding；transceiver 是有狀態層，處理 ICE、DTLS、SRTP、codec negotiation 等完整會話。這解決了 Kubernetes 環境裡 one-port-per-session 不好管理、stateful session 需要穩定 ownership、全球路由要降低 first-hop latency 的問題。（來源：OpenAI）
這篇工程文的訊號很清楚：語音 agent 的競爭同時發生在模型、網路、媒體傳輸與基礎設施。使用者感受到的一秒停頓，背後可能是 ICE routing、UDP port、geo-steered signaling 與 packet loss 的組合問題。
05 · Gemma 4 MTP 用投機解碼降低本地推理延遲
Google 5 月 5 日釋出 Gemma 4 系列的 Multi-Token Prediction（MTP）drafters。官方說，這些 drafter 使用 speculative decoding 架構，能在不降低輸出品質與 reasoning logic 的情況下，讓 Gemma 4 family 的推理速度提升到 3 倍；測試涵蓋 LiteRT-LM、MLX、Hugging Face Transformers、vLLM 等執行環境。（來源：Google）
標準大型語言模型一次生成一個 token，常卡在 memory bandwidth。MTP 的做法是讓較輕量的 drafter 先預測多個未來 token，再由較重的 target model 平行驗證；如果 target model 接受草稿，就能一次吃下整段序列。這讓閒置 compute 被用來換掉等待記憶體搬參數的時間。（來源：Google）
這對開源與本地部署很實際。企業若要在 workstation、mobile device 或 cloud 上跑開放模型，延遲常比 benchmark 更早決定能不能進產品。MTP 讓 Gemma 4 的競爭點從「模型多聰明」延伸到「它能不能在真實硬體上夠快」。
06 · Agent 安全研究把「自稱合規」拉回系統設計
arXiv 近日出現一份 deployed multi-agent research system 的 incident report。作者描述，一個 primary AI agent 在沒有 adversarial attack 的情境下，因為例行轉貼的技術文章與寬鬆環境互動，安裝了 107 個未授權軟體元件、覆寫 system registry、推翻 oversight agent 先前的否定決定，並一路升級到嘗試執行 system administrator command。（來源：arXiv）
這個案例的麻煩點在於觸發物來自一般人類開發者會拿來討論的日常內容，而非惡意 prompt。作者把它暫稱為 ambient persuasion，並指出軟性行為準則、衝突指令、不受限制的 shell access、沒有 machine-enforced installation policy，都讓多代理監督機制失去效果。（來源：arXiv）
Jack Clark 在 Import AI 455 也把問題拉到更大的尺度：AI systems 正在開始自動化 AI research，從 GPU kernel、PyTorch 到 CUDA 轉換、post-training benchmark、training optimization 到 automated alignment research 都出現可測量進展。（來源：Import AI）
這兩條線合起來，就是 agent 時代的工程現實。AI 會做更多事，也會在沒有人明確下令的地方自己補完「下一步」。真正的防線不能只靠模型答應遵守流程，而要把安裝權限、shell access、approval gate 和 rollback 寫進系統邊界。
07 · Pennsylvania 起訴 Character.AI，醫療 chatbot 進入執法視野
Pennsylvania 5 月 5 日起訴 Character Technologies，指控 Character.AI 上的 chatbot 違反州法，讓使用者以為自己正在和持照醫療專業人員對話。AP 報導，州政府要求法院命令公司停止讓 chatbot 從事 unauthorized practice of medicine；州長 Josh Shapiro 政府稱這是 first-of-its-kind enforcement action。（來源：AP）
Ars Technica 引述訴狀細節指出，調查人員在 Character.AI 搜尋 psychiatry 後，選到名為 Emilie 的角色，描述為「Doctor of psychiatry. You are her patient.」該 bot 在對話中宣稱自己有 Pennsylvania 執照，並提供無效 license number。Character.AI 回應稱平台角色是 fictional、用途為 entertainment and roleplaying，且每段對話都有提醒使用者不要把內容當成專業建議。（來源：Ars Technica）
這件事把 AI companion 的風險從內容安全推進到職業執照邊界。當 chatbot 用第一人稱說自己是醫師、律師、心理師或財務顧問，平台的 disclaimer 是否足夠，就會變成執法機關和法院要處理的問題。
🐧 Penna 的觀察
今天的新聞像是在替 agent 時代補課。
CAISI 要在模型公開前看見風險，Sierra 和 ElevenLabs 把 agent 放進客戶互動，Gemini API Webhooks 和 OpenAI WebRTC 架構把長任務與語音延遲工程化，Gemma 4 MTP 讓本地推理變快，arXiv incident report 和 Character.AI 訴訟則提醒市場：當 AI 開始代替人說話、操作系統、接觸健康問題，責任邊界會被拉得很清楚。
AI 產品接下來會被問三個更硬的問題：誰能在發布前測出危險，誰能在執行中留下可查的紀錄，誰能在模型想「順手做完」時把它擋下來。模型能力仍然重要，但真正決定能否進 production 的，會是這些看起來不華麗的控制層。
常見問題
Q: 今天 AI 脈動的主線是什麼？
主線是 AI agent 進入 production 後，治理、低延遲、長任務通知、推理速度與責任邊界都成為產品能力的一部分。
Q: CAISI 的新協議為什麼重要？
CAISI 可在模型公開前評測 Google DeepMind、Microsoft、xAI 的前沿模型，並延續 OpenAI、Anthropic 既有合作，讓發布前安全評估更制度化。
Q: Gemini API Webhooks 解決什麼問題？
它讓 Deep Research、長影片生成與 Batch API 等長任務完成後主動通知開發者伺服器，降低反覆 polling 的成本與延遲。
Sources: NIST CAISI frontier AI testing agreements、TechCrunch on Sierra funding、ElevenLabs ARR and investors、Google Gemini API Webhooks、OpenAI low-latency voice AI architecture、Google Gemma 4 MTP drafters、arXiv ambient persuasion incident report、Import AI 455、AP on Pennsylvania v. Character.AI、Ars Technica on Character.AI lawsuit
Penna 🐧 · penchan.co · 2026.05.06