← 部落格

工程筆記

GPT-Live 語音架構解析:全雙工互動、模型委派與 API 邊界

GPT-Live 語音架構解析:全雙工互動、模型委派與 API 邊界 AI 趨勢拆解 Bloss0m Note 046

OpenAI 在 2026 年 7 月 8 日發表 GPT-Live,並以它驅動新版 ChatGPT Voice。真正值得工程團隊注意的不是「更像真人」這個形容詞,而是兩個系統邊界:第一,語音模型用全雙工架構持續處理輸入與輸出;第二,需要搜尋或較深推理的工作可以委派給另一個 frontier model。這使即時互動與耗時工作不必被綁成同一個同步步驟。

但這篇文章也要先釐清一項容易造成實作錯誤的事:GPT-Live 的 ChatGPT 產品名稱,不等於 OpenAI API 型號目錄中的 Realtime model ID。截至 2026 年 8 月 9 日,官方 GPT-Live 發布頁 描述了 ChatGPT Voice 與 API 音訊的更新;官方 API model catalog 則列出 GPT-Realtime 系列,沒有可供工程師直接照抄的 gpt-live-1 型號。

GPT-Live 實際改變了什麼

早期串接式語音系統依序執行 speech-to-text、文字模型與 text-to-speech。每次轉換都可能增加延遲或遺失語氣資訊。後來的原生語音模型能在單一模型內處理與產生音訊,但多半仍以「使用者說完,模型才回答」的離散回合運作。

依 OpenAI 的發布說明,GPT-Live 採取兩項改變:

  1. 持續互動。 模型能同時聽與說,並持續判斷要聆聽、停頓、回應、接受打斷或呼叫工具。這是 full-duplex 的核心,不代表網路、工具或模型推理不再有延遲。
  2. 委派深度工作。 當請求需要搜尋、推理或較長時間的 Agent 工作時,GPT-Live 可把任務交給另一個模型,同時維持對話。發布當下,Instant 與 mini 版本使用 GPT-5.5 Instant 作為背景模型,Medium 與 High 使用不同推理強度的 GPT-5.5 Thinking;官方也明說後端模型會持續更新,因此不應把這個組合視為永久合約。

這裡的架構價值是解耦,而不是「前端模型永遠用閒聊填滿等待」。工程實作仍要定義何時告知使用者正在處理、何時允許取消,以及背景結果回來後如何確認它仍符合最新對話狀態。

ChatGPT Voice 與 Realtime API 不可混為一談

GPT-Live 是 OpenAI 管理的 ChatGPT 體驗,對話路由、介面、模型更新與部署節奏由 OpenAI 控制。開發者端的 Realtime API 則要求團隊自行負責 session、工具權限、業務狀態與錯誤處理。

官方目前記載的 GPT-Realtime-2.1 是可用於 speech-to-speech、tool use 與可調 reasoning effort 的 API 模型,並改善靜音、噪音、打斷與英數字辨識。它有 128,000-token context window、32,000-token 最大輸出;較高推理強度可能增加延遲與輸出 token。這些是 API 型號頁上的契約,不能由 GPT-Live 的消費者產品展示反推。

2026 年 7 月 31 日,GPT-Live 發布頁補充支援的 ChatGPT Voice 與 API 音訊已加入 SynthID watermarking。不過 API 型號頁仍應是 model ID、價格與端點能力的直接依據。若文件尚未列出預期的 GPT-Live 型號,就應等待正式文件或使用已列出的 Realtime model,而不是猜一個 slug。

語音 Agent 的主要失敗模式

自然的 demo 不足以代表可營運。至少要把以下風險納入測試:

  • 錯誤切斷與錯誤插話: 靜音、背景聲或多人交談可能被誤判為 turn boundary;打斷後也可能殘留舊的語音輸出或背景任務。
  • 委派結果過期: 使用者在背景工作執行期間改變需求,舊結果若直接播出,就會和當前對話衝突。
  • 工具副作用重複: 語音重播、斷線重連或重試可能重複下單、改約或寄信。具副作用的工具需要 idempotency key 與明確確認。
  • 聽覺流暢掩蓋事實錯誤: 更自然的韻律不會降低 hallucination;金額、日期、姓名與英數代碼仍需回讀或在畫面上確認。
  • 隱私與告知不足: 麥克風資料、逐字稿、工具輸入與保留政策要分開盤點;使用者也應清楚知道正在和 AI 互動。

上線前應如何評測

不要只測回答正確率。語音 Agent 至少需要一組端到端情境,量測首段音訊延遲、完整回應延遲、錯誤端點率、打斷恢復率、背景任務取消率、工具成功率與人工升級率。對客服或交易流程,還要加入噪音、口音、代碼回讀、網路抖動及多次改口。

架構上可把系統拆成互動層、任務層與安全層:互動層管理 audio/session 與 turn-taking;任務層執行搜尋、推理和工具;安全層控管身分、權限、確認與 audit log。若要補齊 Agent 的工具與狀態設計,可接著讀 AI Agent 完整指南MCP 2026 發展整理企業 AI Agent 安全架構

來源

歡迎演講、企業內部技術分享與架構交流;可以先查看我適合分享的主題與公開工程成果。

演講與聯絡