Andrej Karpathy 最近在 X 分享一個輸出格式的觀察:要理解語言模型的輸出,不一定只能要求它寫更多文字。可以試試以 ASD-STE100 這類受控語言寫得更清楚,也可以要求模型畫圖、生成互動網頁,甚至製作客製化解說影片。他進一步預測,當模型接手更多執行工作,人會把更多時間放在監督與理解;而大量、客製、用完可丟的軟體產物,可能變得值得製作。
我會把這則貼文讀成一個更實用的設計問題:我們要的不是更華麗的模型輸出,而是能讓人完成某個理解任務的介面。 文字、圖、網頁和影片並非一條「愈後面愈先進」的階梯。它們分別把不同種類的思考外化,也帶來不同的錯誤與驗收方式。
先選要理解的東西,再選呈現形式
同一個技術主題可以用不同形式回答,但每種形式會把讀者的注意力帶到不同地方。以「資料庫索引為何能加速查詢」為例:文字可以精確定義索引、成本與限制;圖可以顯示樹狀節點如何縮小搜尋範圍;互動頁面可以讓讀者調整資料量或分支數、觀察查詢步數怎麼變;影片則能按時間展示節點分裂或一次查詢沿著索引移動的過程。這些都是說明同一件事的選擇,不代表任一格式自動更正確。
| 讀者要做的事 | 合適的輸出 | 主要驗收問題 |
|---|---|---|
| 理解精確定義、程序與限制 | 短文或受控語言 | 每個重要主張是否正確、有來源,條件是否清楚? |
| 看懂元件、依賴或因果主張 | 圖解 | 節點與連線是否有證據?圖是否暗示了原文沒有支持的因果? |
| 比較狀態、探索參數或分支 | 互動網頁 | 每個控制項實際改變什麼?預設值、資料與邊界情況是否透明? |
| 理解隨時間變化的機制 | 解說影片 | 敘述、畫面與順序是否一致?重要的視覺資訊是否能以其他方式取得? |
這也是為什麼「把答案轉成圖」不是通用的品質提升。流程圖可能隱藏不確定性,互動控制項可能讓人誤把示範值當成真實數據,影片則可能讓錯誤解釋因為節奏和動畫而更容易被記住。格式是認知介面,也是一組新的失敗模式。
受控語言是寫作提示,不是合規證明
Karpathy 提到的 ASD-STE100,正式名稱是 Simplified Technical English。依標準維護組官方說明,它以寫作規則和受控字典協助技術文件清楚、避免歧義,最初用於航空維護文件。這與叫模型「簡單一點」不同:要正確使用標準,寫作者仍須了解技術主題與規則。
因此,「請用 80% ASD-STE100」適合被理解為一種非正式的風格提示,不代表輸出已符合標準。ASD 的AI 白皮書說明頁特別提醒,AI 文字即使看起來清楚、權威、符合 STE,也可能沒有正確套用規則和詞彙;看似可信不能當作已驗證合規。官方也指出,AI 可以協助技術作者,但不能取代專業知識與審閱。
這個例子把其他媒體的共同要求說得很清楚:格式可以改善可讀性,不能替代來源核對。 圖解仍要回到文字證據核對連線;網頁仍要檢查計算與預設值;影片仍要逐句核對旁白和分鏡。
建立一份簡短的「理解產物契約」
與其一次要求 LLM「做一支很棒的解說影片」,不如先指定產物要讓誰完成什麼,再約束材料與檢查方式。可以先用以下五項:
- 讀者與任務:讀者原本知道什麼?看完後要能說明、比較、預測還是操作?
- 知識形狀:問題是定義、關係、可探索的變數,還是時間中的變化?據此選文字、圖、互動頁面或影片。
- 證據邊界:指定來源;要求把來源事實、假設與推論分開,並標示無法確認的部分。
- 驗收方式:要求附可檢查的文字稿、資料或計算步驟;再用一個新案例測試解釋是否能遷移,而不只重述原文。
- 產物生命週期:說明是個人一次性草稿、團隊共享材料,還是會影響決策的正式文件。後兩者要有負責人、版本與更新方式。
例如,要解釋「索引如何改變查詢成本」,提示可以寫成:
讀者:懂基本 SQL、但不熟索引的初階工程師。
目標:讀者能說明索引如何減少搜尋範圍,以及它的更新成本。
形式:一張元件關係圖;若互動示例更適合,再提出最小 HTML 原型。
依據:只使用附上的資料庫文件,標出每項主張對應的段落。
限制:分開標示文件事實與說明用假設;不要杜撰效能數字。
驗收:提供純文字摘要、可檢查的圖例或運算步驟,並列出一個會讓索引失去效益的情境。
這份契約把模型從「替我做一份好看的東西」帶到「替這位讀者解決這個理解問題」。它也讓人工覆核有明確對象:不是憑感覺評分,而是逐條核對目標、證據、呈現和邊界。
互動網頁與影片,多了執行和可及性責任
模型生成 HTML 時,輸出不再只是可讀文字,而可能是一段會執行的程式。若頁面只是本地、一次性的概念示範,仍要檢查它讀取哪些資料、載入哪些外部程式、操作是否只改變畫面而沒有意外副作用。若它需要呼叫語音服務,也不要把真正的 API key 貼進提示或寫進前端;ElevenLabs 官方文件明確要求把 API key 當秘密,不可分享或暴露在瀏覽器端。應由受控的後端或秘密管理機制提供最小權限憑證,並限制額度。
影片也不只是一張會動的圖。若用於正式教學或出版,旁白、畫面、字幕和逐字稿都要一起驗收。依 WCAG 2.2,預錄同步媒體有字幕要求;AA 等級也要求預錄影片提供音訊描述,讓無法看見重要畫面資訊的人能取得相同內容。這表示「自動生成後直接輸出 MP4」還不是完成:要檢查字幕是否對得上、關鍵畫面有沒有被旁白說明,並提供可搜尋、可引用的文字版本。
「用完可丟」不等於「出了錯也沒關係」
Karpathy 提出的 discardable artifacts 有一個很實際的經濟意義:如果產生一張圖解或一個小型網頁只需幾分鐘,就可以為一次會議、一次除錯或一個難懂概念製作專用工具,不必先把它產品化。這降低的是製作門檻,不是錯誤代價。
可以用產物會如何被使用來決定治理程度:
- 私人、短期理解輔助:允許快速重做或丟棄,但仍核對關鍵事實;不可讓模型接觸不必要的敏感資料或憑證。
- 團隊共享或用來做決策:保留來源、假設、產生版本、覆核者和日期;若來源會變動,設定重新檢查期限。
- 正式訓練、產品或對外內容:增加可及性、資安、授權、維護責任和回歸檢查;不要把原型直接當正式介面。
若產物的讀者只看成品、無法取得支持它的來源或文字稿,那它就不太「可丟棄」:它可能已經成為別人依賴的決策文件。此時至少要保存足夠的 provenance,讓下一個人知道它依據什麼、何時該信、何時該重做。
驗收理解,不要只驗收輸出
最後,真正的完成標準不應是「LLM 產生了圖/頁面/影片」,也不只是「作者覺得很清楚」。可以要求讀者在沒有看原始產物時,用自己的話解釋核心機制、將概念套到一個不同案例,或指出結論不適用的條件。若這些做不到,就回去檢查來源、概念拆分或表示方式,而不是只加動畫、字數或視覺效果。
Karpathy 對人類工作升向監督與理解的描述,是一個值得思考的方向,不是這則貼文已證明的勞動研究結果。真正能確定的是:當製作成本下降,人需要更常做選題、定義完成條件、檢查產物,並判斷它是否真的幫讀者理解。最好的 LLM 產物不是最華麗、最長或最互動的那一個,而是用最低的認知與驗證成本,讓讀者正確完成任務的那一個。
若想對照機器可用的輸出契約,可讀 TypeSafe AI 如何把輸出做成 typed decisions;若想看 Agent 產物如何連到工作流程的人工驗證,可接著讀 Claude-shaped science:計算自動化與研究判斷;而 AI 軟體開發環境選型則提供 AI 生成程式與工程工作流的另一個角度。
來源與延伸閱讀
- Andrej Karpathy, X 貼文:理解語言模型輸出的文字、圖像、網頁與解說影片。
- ASD-STE100 FAQ — 受控語言的用途、規則和詞典組成。
- ASD-STE100 與 AI 白皮書說明頁 — AI 文字不能只憑表面可讀性判定為符合標準,專業覆核仍必要。
- ASD STEMG:Tools for STE — 工具與 AI 輔助的限制、準確度和資料隱私提醒。
- W3C Web Content Accessibility Guidelines (WCAG) 2.2 — 預錄同步媒體的字幕與音訊描述準則。
- ElevenLabs API Authentication — API key 的秘密管理與前端暴露風險。