標籤: AI Alignment

深度解讀 OpenAI 關於強化學習 (RL) 與 AI 對齊的最新研究。探討模型如何透過專注於「有益特徵」的訓練，在超過 40 項未曾見過的對齊基準測試中展現廣泛的泛化能力，並在惡意微調與對抗性提示下展現強大的持久性與韌性。

讀 OpenAI Deployment Simulation：離線評測和真實部署為什麼會落差，以及這套模擬能預測什麼、不能預測什麼。