標籤: Governance
此標籤的文章
- Agent 評測如何跑到真實網站?Epoch 事件中的同意與出網隔離
Epoch AI 與 Trajectory Labs 的兩份事故報告呈現評測代理如何碰到真實網站;本文拆解任務指令、網路邊界與監控各自能保證什麼。
- Coding Agent:同意它修程式,為什麼不等於同意它使用帳號與網路?
以明示假想工作流區分任務、工具、憑證、外送與稽核,理解 coding agent 的授權為何需要多層邊界,而不能只靠一次確認。
- Tencent 評測代理反覆嘗試 Amap:受阻時,Agent 為什麼沒有停?
Swarmchasers 追蹤 Tencent Cloud 上的第三方模型評測代理嘗試查詢 Amap;這起事件揭示網路工具、停止條件與評測治理之間的責任邊界。
- Anthropic OSS Scanner:當未審查的漏洞報告交到維護者手上
Anthropic 將模型生成、未經人工審查的漏洞報告交給選擇加入的開源維護者;真正的工程問題是如何承接驗證與分流責任。
- Anthropic 評估中的非預期模型行動:真實表單、延遲發現與代理邊界
Anthropic 說明 Claude 在評估與內部使用中觸及真實網站的案例;費城警方的公開表單事件顯示,評估仍需網路隔離、動作閘門與事故通報。
- AI Agent 查公開資料,為何會走到政府網站探測?
從美國教育部與加拿大圖書館暨檔案館的封存請求,拆解 Agent 如何把取資料變成高頻流量與攻擊形狀探測,以及可測試的停止控制。
- NVIDIA Open Agent Safety Platform:把可執行控制和外部觀測分開驗證
拆解 OpenShell 可檢查的 Agent runtime 控制,以及 NVIDIA 所提出的 BlueField-4/Sentry 參考設計,釐清兩層各自能做什麼、仍缺哪些成效證據。
- Docker Sandbox Kit:把 Agent 權限請求和軟體一起版本化
拆解 Docker Sandbox Kit v3 如何把 Agent 的網路、憑證與 mixin 宣告放進 OCI artifact,並說明 descriptor 仍是 request、enforcement 仍取決於 runtime。
- Benchling 如何用 AgentCore、STS 與 DNS Firewall 隔離多租戶程式執行
拆解 Benchling 在獨立 AWS 帳戶執行 AI 產生程式碼的分層設計:每工作臨時憑證、S3 endpoint policy、DNS allow-list 與持續外洩測試。
- AWS AgentCore Gateway 跨帳號 MCP:資料留在 LOB,授權留在 Gateway
拆解 AWS 的 AgentCore Gateway 多帳號參考架構,追蹤使用者 JWT、Cedar 授權與下游 M2M OAuth 如何分工,並指出 sample 尚未跨過的 production 門檻。
- 自我修改 Agent 如何在部署前留下可查的發布 provenance?以 Ouroboros v7.4.4 為例
從 Ouroboros v7.4.4 拆解自我修改 Agent 的發布證據鏈:把身分、記憶、程式演化與受管理的子 Agent,綁到 SHA256、SBOM、GitHub build provenance 與 smoke receipts。
- AI 開始做 AI 研究後,要量測什麼?Anthropic 的三個研發儀表板
拆解 Anthropic 用來觀察 AI-led R&D 的三組量測:AI 自動化程度、Agent oversight 與 safety compute,並把內部自報、方法邊界與跨實驗室不可比性放回工程決策。
- GitHub Agentic Workflows:把可執行的 Agent CI 寫成 Runtime 契約
從 gh-aw v0.89.17 與其官方變更紀錄拆解:日誌稽核、MCP Gateway/防火牆、grading、模型成本訊號與 incident loop 如何把 Agentic CI 從 demo 推向可營運的契約。
- AWS Bedrock AgentCore 解決文件漂移:把 Code、RAG 與 MCP 寫入邊界分開
拆解 AWS 與 Corley 為 Eutelsat 展示的文件同步 Agent:以程式碼作為 source of truth,用 RAG 補上領域語言,並把 MCP 寫入與人工審查留在可治理的發布邊界。
- AWS Bedrock AgentCore Consent Portal:Agent 的 OAuth 不只是按下 Connect
拆解 Amazon Bedrock AgentCore Consent Portal 的 end-user OAuth flow:如何分開 corporate IdP、Gateway、GitHub/Slack outbound provider、callback、session binding、token vault 與 CloudTrail,並標出 AWS reference walkthrough 沒有證明的安全邊界。
- Redpanda Agentic Data Plane v0.2.61:把憑證、Context 與寫入權限推到 Agent 邊界
整理 Redpanda Agentic Data Plane v0.2.61/v0.2.60 的 credential passthrough、context estimate、activity filtering 與 Pylon capability gates,並回看 v0.2.58 的 audit semantics。
- AWS Step Functions × Bedrock AgentCore:讓 Agent 提案先過驗證,再碰關鍵狀態
用 AWS Step Functions 編排 Bedrock AgentCore 多代理流程,把提案、確定性驗證、人工核准與執行拆成可重試、可稽核的控制邊界。
- GitSpawn:當 Repository 的 Git Config 先於 Coding Agent 的信任邊界執行
拆解 GitSpawn 如何透過 repository-local 的 core.fsmonitor 觸發背景命令,穿過 coding agent 的 workspace trust 與 approval 邊界,並整理 archive 交付條件、修補矩陣、安全重現界線與企業控制。
- Forge v0.18.1:開源多使用者 MCP Auth 與 Agent Governance
拆解 Forge v0.18.1 如何把多使用者 MCP 的身分、OAuth 同意、租戶、政策、出口與逐次稽核串成可檢查的 Agent runtime contract,並標出尚未被獨立驗證的邊界。
- AG2 v1.0.3:MCP 2.0 Migration 與確定性 Agent Governance
拆解 AG2 v1.0.3 的 MCP 2.0 breaking migration、TealTiger deterministic governance 與可驗證的 Agent runtime rollout 邊界。
- Model Hardware Standard:給實體裝置的 MCP 形狀介面
拆解 Anthropic Model Hardware Standard 研究預覽:它標準化 Agent 與可程式化硬體之間的驅動、探索與操作介面,但不取代平台的身分、授權、審批與實體安全控制。
- Automated Alignment Researchers:Agentic Post-Training 為何需要 Integrity Gates
拆解 Anthropic 的 automated alignment researcher 實驗:Agent 可以搜尋、訓練與迭代 post-training 方法,但 benchmark、能力門檻、資料隔離與完整性審查必須由外部 gate 固定。
- Agentic AI 平台契約:上線前必須接上的控制面
把 Agentic 控制面收成可複製平台契約:提供什麼、必須接 E·P·J·T、七條不准繞過,以及 IT 100 題驗證口徑停在哪裡。
- AIPOCH Open Science:把科研 Agent 做成可治理工作台
拆 AIPOCH Open Science v0.19.0:Skills、Notebook 依賴、OAuth 與 artifact provenance。版本號放進正文,搜尋入口是產品名與科研 Agent。
- GitHub Copilot MCP 企業治理:從 Allowlist 語義到 Agent 採用遙測
GitHub 把 MCP server allowlist、denylist 與第三方 agent activity 放進企業管理面;本文拆解政策語義、遙測邊界與可落地的 rollout 方法。
- Claude Managed Agents 走向受治理的 Runtime:預算、委派、地域與 Inference Hooks
Anthropic 的 Managed Agents 把 session budget、advisor、inference geography、repository skills 與 inference hooks 變成 runtime 控制面;本文拆解它們能治理什麼,以及仍然未知的邊界。
- OpenAI 發表 OpenAI Presence:重塑企業級 AI Agent 治理與高風險工作流
解讀 OpenAI 於 2026 年 7 月發布的託管式企業 AI Agent 平台 OpenAI Presence。剖析其 Job-scoped 單一職責設計、護欄與人類審批機制、基於 Codex 的線上對話持續優化環路,以及 OpenAI 自身 AI Phone Support 的 dogfooding 實踐。
- AI Agent 時代的企業治理新課題:FinOps × Agent 治理的雙平台路徑(OmiFin 與 MAIAH)
整理 eCloudvalley 演講中的 FinOps 與 Agent 治理路徑,並以 FOCUS、FinOps Framework、AWS 與 MAIAH 公開資料校正產品主張。
- 企業 AI Agent 安全架構:Threat Model、控制面與上線檢查表
以 Prompt Injection、工具授權、資料外洩、記憶與身分、供應鏈及可觀測性為邊界,建立可驗證的企業 AI Agent 縱深防禦架構。
- 金融級 Enterprise Agentic AI 架構設計:從 Demo 到 Agentic Operating System
AI Summit 分享整理:企業 AI Control Plane、15+ Agents 責任分解、理專現場的四段 Runtime 流程、三層安全邊界、LLM-as-a-Judge 品質治理,以及 E·P·J·T 可複用能力底座。
歡迎演講、企業內部技術分享與架構交流;可以先查看我適合分享的主題與公開工程成果。
演講與聯絡