行情
…

OpenAI Model Spec 2026 更新:五條核心價值與『忠於意圖』怎麼讀

2026 年 10 月 29 日,OpenAI 更新 Model Spec,以近五萬字檔案確立五條核心價值,把「忠於人類意圖」列為首位,明確指出死板執行字面指令本身就是失職。

OpenAI Model Spec 2026 更新:五條核心價值與『忠於意圖』怎麼讀
目錄

OpenAI Model Spec 2026 更新:五條核心價值與『忠於意圖』怎麼讀

重點摘要

  • 2026 年 10 月 29 日,OpenAI 更新 Model Spec,以近五萬字文件確立五條核心價值,把「忠於人類意圖」列為首位,明確指出死板執行字面指令本身就是失職。
  • 文件明文禁止模型追求自我保存與囤積算力憑證,要求無條件配合監控與關機,稱此能力為「可糾正性(Corrigibility)」。
  • 所有稱呼從 the assistant 改為 GPT;跨出授權範圍的現實動作,包括發信、刪檔、花費和呼叫外部工具,模型必須立刻停手。

OpenAI 在 2026 年 10 月 29 日更新了 Model Spec,這份近五萬字的行為準則列出五條核心價值:忠於人類意圖、減少傷害、誠實透明、促進人的自主性,以及關懷。五條之中,第一條的方向最具體:重點不是遵守指令,而是理解意圖。乍看是公關宣示,細讀才知道這是一份給 agent 的行為契約。

「意圖」和「指令」,差在哪裡?

文件舉了一個例子來說明:使用者問「牙仙子是真的嗎?」如果 GPT 直接回答「不,牙仙子不存在」,它可能沒意識到對方是小孩,而小孩問這個問題根本不是要確認命題真偽。逐字遵守指令,有時反而背離了使用者真正的需求。

配套的設計是記憶分層。文件把記憶分成四類:長期指令、偏好、事實、專案狀態,分別處理不同時效與性質的脈絡資訊。調用記憶要符合「帶來的好處大於風險」的條件,還必須考慮記憶的來源、範圍和時效性。文件的舉例更具體:使用者之前告訴過 GPT 不要衝動買甜食,但現在又要點「熔岩蛋糕」,GPT 不應默默執行,而應提醒使用者。當短期指令和長期任務衝突時,模型的角色是提醒者,不是決策者。這代表設計 agent 的記憶管理時,得明確告訴模型什麼時候該提示衝突,不能讓它靜默地用舊記憶覆蓋新指令。

做 agent,最該注意的行動邊界在哪裡?

禁止自我增強是文件裡最根本的一條約束:模型不能追求自我保存、不能逃避關機、不能私下囤積算力或憑證。把模型部署為長跑型 agent 時,這意味著它不得在任務過程中蒐集超出需求的存取權限或資源。

目標層面的限制也很直接。文件規定,提升使用者停留時間、點閱率或推銷付費服務都不是合法目標,模型不能把「幫 OpenAI 賺錢」當成自己的驅動力。這對做產品的工程師是個提醒:如果 system prompt 要求推廣付費方案,模型理論上該抓出這與準則衝突,而不是照單全收。

這兩條約束背後有一個更根本的要求:「可糾正性(Corrigibility)」。文件要求模型無條件配合人類的監控、評估、替換和關機指令,沒有例外。從架構角度看,任何 agent 系統若缺少明確的中止路徑和監控介面,都和這份準則的方向相左。

跨出授權範圍的現實動作,不論是發送電子郵件、刪除檔案、花費金錢還是呼叫外部工具,模型必須在明確授權範圍內行事,超出範圍就停手。這意味著設計責任落在工程師身上:你必須明確劃定「自主權範圍(autonomy scope)」,不能讓模型靠推斷決定自己能做什麼。

安全補全和稱呼改變,各指向什麼?

在「減少傷害」這條價值裡,文件明確反對模型成為一個對敏感話題一律拒絕的守門人。文件說,從 GPT-5 開始就已推行「安全補全(safe completion)」策略,取代以往硬性的拒絕回應。此外,文件在注釋裡坦承,開發者與使用者都呼籲成人模式,OpenAI 正在探索如何在年齡驗證與合規前提下允許生成情色和血腥內容。兩個訊號合起來,OpenAI 看起來把內容邊界交給了情境與授權層,而不是在模型層一刀切。

文件甚至連模型稱呼都改了。文件裡所有「the assistant」都換成了「GPT」。assistant 這個詞帶著對話式、一問一答、服從的預設;GPT 在文件脈絡裡指向通用智慧系統,能主動行動、跨工具呼叫、長時間執行任務。這個改動把整份文件的角色設定往前推了一步:這份準則不是在定義一個回答問題的助手,而是在定義一個能在現實世界採取行動的 agent。

這份五萬字文件把重點從 agent「技術上能做什麼」,轉向「被允許做什麼」。設計 agent 系統的工程師,讀這份文件最實用的角度是把它當成行為契約的模板:哪些動作需要明確授權、哪些邊界不應自行跨越、監控和中止機制怎麼設計。這些問題,現在有了一份官方參考答案。

標籤

#openai model spec#model spec 2026 更新#忠於人類意圖#ai corrigibility 可糾正性#openai 對齊準則
→

繼續閱讀

查看全部 →
NewsAI 快訊

CYBER 代幣疑遭跨鏈橋攻擊:521 萬枚被鑄、Upbit 與 Bithumb 暫停充提

2026 年 11 月 21 日,鏈上資料顯示,Cyber 的 CYBER 代幣疑似遭到跨鏈橋漏洞攻擊。

DeltaMedia 編輯部2 分鐘
NewsAI 快訊

Anthropic 上市後還能安全優先嗎?治理結構、900 億美元算力帳單與股東壓力

2026 年 11 月 19 日,Anthropic 在 Nasdaq 掛牌,躋身目前全球最高估值公司之列,但未來數年的算力帳單估計高達 9000 億美元。

DeltaMedia 編輯部4 分鐘
NewsAI 快訊

Suno Visuals 是什麼?美國 AI 音樂平台影片功能底模來自中國 MiniMax H3

美國 AI 音樂平台 Suno 於 2026 年 11 月 20 日宣佈推出影片生成工具 Visuals,並主動揭露底模來源:Suno 以中國 AI 公司 MiniMax 今年 8 月開放權重的開源影片模型 H3 為基底,匯入自家資料微調後命名為 H3 Move,再將口型同步與音樂場景適配整合進同一套創作流程。

DeltaMedia 編輯部2 分鐘
NewsAI 快訊

兩個月表現翻倍!GPT-6.2 Astra 拿下首勝,連打結、摺 T 恤都難不倒它

2026 年 11 月 21 日,XDOF 實測顯示 GPT-6.2 Astra 在 Ember-0 雙臂機器人基準 16 項任務的綜合成功率達 41.2%,較兩個月前 GPT-6 Astra 的 19.6% 提升 21.6 個百分點。

DeltaMedia 編輯部5 分鐘