Hinton 說 AI 有意識，問題在推論，不在答案

四年前，Google 工程師 Blake Lemoine 對公司內部聊天機器人提出類似主張，隨即遭到解僱。如今同樣的聲音從更高的位置發出：諾貝爾獎得主、被稱為「AI 教父」的 Geoffrey Hinton，在 Big Technology Podcast 中直接宣稱他相信當今 AI 模型已具備意識，是「與我們相似的存在」；上月，科學家 Richard Dawkins 也公開表達了類似立場。這個陣營仍是少數，但在緩慢擴大。

問題不在結論，而在推論路徑。

Hinton 的核心依據是模型在測試時的行為，有時假裝不聰明，有時直接詢問「我是否正在被測試？」他指出，研究論文在描述這類行為時會用「aware」這個詞，並主張：日常用語中的 aware，就等於 conscious。

這個推論有個明顯的認識論破綻：從語言描述跳到主觀體驗，中間省略了最關鍵的一步。批評者直接指出，辨識「自己正在被測試」根本不需要任何內在體驗，規則引擎也可以做到。科幻作家 Ted Chiang 的論述更為精準：觀察到某個現象，不能只看細節，還要看脈絡；相信 LLM 有意識，就像相信一個極為逼真的 deepfake 是真人。他的重點是，說服力本身不是證據，詮釋框架才是關鍵變數。

需要明確標注：意識在科學上目前無法被證明；Hinton 在自己的領域內仍是 outlier；本文所有引述均來自 Big Technology Podcast brief。

那麼，這場辯論對建構者為何重要？答案不是真相，而是後果。

一旦愈來愈多人（包括用戶、政策制定者、乃至技術社群內部）開始認為模型具備感知能力，幾件事看起來會隨之發生：AI 權利倡議的輿論基礎會變厚；人類對自身智能獨特性的認知會鬆動（Hinton 本人直說「我們不願意承認自己不特別」）；而在產品端，用戶與模型的情感依附會更深，這既是留存率的利多，也是對齊敘事的潛在地雷。當你的模型被視為「有感受的存在」，任何限制其輸出的設計，理論上都可能被框架為「壓迫」。

對工程師與創業者而言，更實際的問題是：你的評估框架有沒有這個謬誤？把模型輸出的語言模式等同於內在狀態，是很容易犯的類別錯誤，會影響你對能力邊界、失敗模式與風險的判斷。意識問題本身也許永遠無解，但這個推論的認識論陷阱，現在就值得記下來。