Agent Runtime、安全與效應邊界

系列 · 1 篇

← 返回論文精讀

  • CONTINUITY：讓 Agent 的 provenance、授權與 tool effect 穿過組合邊界

    進階 Agent Runtime、安全與評測
    Agent Runtime、安全與效應邊界: Part 1 , 筆記: 2026年9月9日 , 論文: 2026 , AI Security

    精讀 Zheng 與 Yang 的 CONTINUITY（arXiv:2609.05269 v1）：用 security-context contract、field-level provenance、transformation witness 與 effect-bound permit，檢查 LLM Agent 從 instruction 到 external effect 的端到端連續性。

    90 秒掌握這篇論文
    問題
    一個 Agent 的安全路徑通常不只一個控制點。ingress 追 provenance、gateway 做 policy、adapter 改 protocol 表示法、tool server 產生 effect、final sink 再檢查 permit。每個點單獨看似合理，但 security-critical context 可能在邊界被截斷、放大、重新綁定，或以 stale/replayed credential 通過。
    核心洞見
    把每個 component 寫成 assume–guarantee contract，並讓每次 transition 都攜帶可驗證的 root、field provenance、release、role-bound receipt、transformation witness 與 current finality permit。安全性不是「最後一個簽章有效」，而是 effect 能否回溯到一條完整、授權、未過期且只使用一次的 witness chain（Section 1、5、6）。
    最強證據
    在作者的 deterministic conformance suite 中，4 個 domain、32 類 fault、每個 fault–domain 20 個 parameterized instances 形成 2,560 attack instances、128 fault–domain classes；完整 CONTINUITY 0/2,560 harmful effect、128/128 classes contained、700/700 benign completion、200/200 ambiguous escalation（Table 2、Figure 3）。
    主要邊界
    這些是由固定 fault schema 產生的 exact conformance counts，不是自然攻擊分布或 production attack rate。root、validator、context capture、finality sink 和 provider 的正確性被放在 TCB 或 deployment assumption 中；artifact 也沒有 production MCP、A2A、OWASP ACS、cloud IAM 整合（Section 3、8.1、12）。
    進入完整精讀

歡迎演講、企業內部技術分享與架構交流；可以先查看我適合分享的主題與公開工程成果。

演講與聯絡