Dario 與 Daniela Amodei 對談 Walter Isaacson：信任、Claude 的憲法與五角大廈的紅線

傳記作家 Walter Isaacson 寫過 Steve Jobs、Elon Musk、Einstein，現在開了一個新訪談系列 The Builders，專訪正在打造 AI、機器人與科技未來的人。這一集的來賓是 Anthropic 的兄妹共同創辦人：執行長 Dario Amodei 與總裁 Daniela Amodei。Isaacson 開場就說，他想知道的是 Anthropic 是否真心，當競爭對手說「Anthropic 不做，但我們做」時，他們會退讓，還是堅守原則。訪談錄製於 2026 年 7 月 6 日，四十多分鐘，從兩人的成長背景、怎麼教 Claude 分辨對錯、GPT-2 帶來的震撼、離開 OpenAI 的原因，一路談到模型會不會說謊、和五角大廈劃下的紅線，以及 AI 時代人類意義從何而來。以下是重點整理與我們的觀察。

科學與人文：一對從小就是最好朋友的兄妹

Isaacson 用 Steve Jobs 的「人文與科技十字路口」開場：Daniela 從小吹長笛、熱愛藝術，Dario 一直是科學家。Dario 說，他的理論是經營公司對任何一個人來說都太大，所需的技能不可能集中在一人身上，所以要在最高層十到十五人之間湊齊完整的技能組合，而他和 Daniela 剛好分別代表科學與人文。Daniela 補充，2023 年左右一次公司外部會議上，大家形容 Anthropic 的文化是「科學與人文主義的罕見融合」，她後來才發現，這也正是她和 Dario 的寫照。

問到小時候是否想過要一起工作，兩人的回答很可愛：都說「是」，但其實從沒想過要創業，「創業從來不在我們的賓果卡上」。Dario 一直想當科學家，對商業興趣不大；Daniela 自稱「典型的熱血行善派」，做過國際發展工作。她還分享一個兄妹小趣事：Dario 是哥哥，什麼都比她先做，唯一一件她先做的事是吃素，然後 Dario 也跟著吃素。Dario 說「大概晚了三年吧」，Daniela 立刻糾正「哪有，你很快就跟上了」。

分工：「Dario 讓我們有野心，我讓我們成功」

Dario 說他最擅長看大方向、研究與描繪願景，被釋放出來專心做這件事時對公司價值最大；Daniela 則負責日常營運、招募，確保「機器的輪子不會掉下來」。Daniela 引用公司人資長的一句話：「Dario 讓我們有野心，Daniela 讓我們成功。」她說沒有 Dario，Anthropic 可能只是一家成功但改變不了世界的公司；沒有她，願景完美但執行會困難得多。

Daniela 說，很難想像只靠他們兩個人就能做到這件事。Dario 接著強調，Anthropic 有七位共同創辦人，股份相同、都扛著同一個願景。創業時外界常見的反應是「七個共同創辦人？會是災難」，但七位至今都還在公司，他說這在共同創辦人這麼多的公司很少見。

教 Claude 分辨對錯：原則比規則清單更穩

Isaacson 問：父母怎麼教你們是非？Daniela 說，雖然媽媽有哲學學位，但飯桌上沒談康德，價值觀是隱含的：相信世界各地的人都值得機會、尊嚴與尊重，而成為成功的人，就包括當一個好人、善待他人。

接著 Isaacson 把話題轉到兩人「很重要的孩子」Claude。Dario 說 Anthropic 幾個月前發表了 Claude 的「憲法」，其中一個教訓是：早期他們想像要給模型很多條規則，例如不能幫助犯罪、不能協助製造生物武器，但條列式規則會讓模型學到「尖刺狀」的形狀，像是在教 170 條任意的規則。後來發現更好的方法是教模型基本原則：該優先考量什麼、怎麼推理出正確的做法，例如開放探究、關懷他人、公平正義。他說教人也是一樣，「你該怎麼思考」比「十誡式的清單」培養出更穩健的道德，也讓 Claude 能類推到從未遇過的情境。

Daniela 補充，負責訓練 Claude 性格的 Amanda 擁有哲學博士學位，而且也懂技術、親自訓練模型。她說這在跟 Claude 對話時感受得到，尤其在不同哲學傳統可能衝突的難題上，Claude 會提出「你可以從這個角度看，也可以從那個角度看」。她認為這很重要，因為世界越來越依賴這些模型，不該被鎖在單一哲學傳統，不同文化對「希望模型怎麼表現」也會有不同答案。

GPT-2：「把它再放大一百萬倍，就會在所有事情上勝過人類」

Dario 當年是 OpenAI 的研究主管。他說 GPT-2 是規模定律第一次真正的實證檢驗：他主張要取得更多資料、更多算力，跑更大、更貴、更有野心的實驗，驗證語言模型放大後會更通順。結果預測成真。他回憶自己當時「嚇壞了」：只要再放大一百萬倍，它就會在所有事情上勝過人類，「這是現代最關鍵的經濟與科學時刻，只是我們還不知道」，它將決定國家、經濟與人類的命運，就像看進水晶球，看到整個未來展開。

但他說身邊只有約一成的人有同樣反應，而且往往是最聰明的那群；九成的人看它在任何單一領域都不怎麼厲害，就聳聳肩忽略了。他說今天也一樣：Anthropic 宣布要開發罕見疾病藥物，生技圈照例回應「科技人以前試過了，模型有這些限制」。他的看法是同樣的劇本不斷重演，半年後看似困難的事會變簡單，一年後看似不可能的事會變成例行公事。

Daniela 補了一段比較辛辣的回憶：當年一些很受尊敬的電腦科學家與 AI 領袖在 Twitter 上霸凌參與研究的人，說這很蠢，相信它重要的人像江湖郎中。她說這些都被「選擇性遺忘」了，那些說這是偽科學的研究者，現在都在應徵大型語言模型公司的工作，「我們不會當面說，但我們記得你們 2019 年說了什麼」。

時任 OpenAI 安全副總裁的 Daniela 說，GPT-2 本身其實很無害，很多地方錯得可笑，讓她在意的是從 GPT-1 到 GPT-2 的差距往外推。她用一個比喻：如果你從沒見過小孩，只見過大人，看到一個小東西走來走去，不知道它將來會不會有能力；然後它突然開始走路，你就會想：這個東西將來大概能做很多大人能做的事。

離開 OpenAI：信任才能讓分歧被好好解決

Isaacson 直接問 Dario：你說離開 OpenAI 部分原因是與 Sam Altman 之間的信任破裂，能解釋嗎？Dario 的回答很克制。他說最終是原則與打造技術的方式不同，過去五年半已經看得出差異：Anthropic 支持合理的監管與防護、投資機制可解釋性研究、維持團結的文化與最高的留任率，也沒有出現其他 AI 公司的那些醜聞。

他強調安全議題本來就難，他和其他共同創辦人、和公司裡的同仁也常意見不同：該不該發布這個模型？生物安全防護要多嚴？該花多少力氣遊說安全法規？但這些分歧之所以能解決，是因為大家都相信彼此出於善意、說的是實話。他說「信任破裂」的意思是：如果你不相信分歧是出於善意、不相信聽到的是真實情況，你怎麼可能解決它？「所以我們離開，所以我們創立自己的公司。」

Isaacson 不放過，追問「價值觀不同」和「不信任對方」是兩回事，你是說 Sam 不誠實嗎？Dario 回答，誠實是 Anthropic 非常重要的價值，一個人如果沒有誠實這項價值，很難知道他真正的價值觀是什麼。Daniela 接著說，至少對她來說，共同創辦人是一群誠信很高、願景相近的人；到了某個節點，與其指望別人落實你的願景，不如自己去做。不論對方嘴上怎麼說認同你的願景，如果公司的實際作為沒有反映出來，你還有什麼選擇？

「Dario 願景探索」：每兩週一次、一小時、不是決策

Dario 分享一個 Anthropic 內部的慣例：他每兩週在全公司面前講一小時，談公司內部、AI 領域、世界與公司策略。員工把這個活動叫做 DVQ，也就是 Dario Vision Quest（Dario 願景探索）。他說這不是他取的名字，他一開始很抗拒，因為聽起來像他跑去荒野吸迷幻仙人掌，但大家一直這樣叫，名字就這麼定了，「現在我只能認了」。

DVQ 有兩條鐵律：第一，他說的任何話都不是正式決策，這樣他可以自由發言，不用擔心隨口提到 X，就有 20 個人跑去做 X；第二，他對公司完全誠實。他認為信任是 Anthropic 最大的資產之一，而且信任不是讓分歧變少，而是讓分歧可以更坦白地被說出來。很多次公司做了多數員工不同意的決定，但員工的態度是「我覺得不對，但我相信你有好理由」，這讓公司得到更長的試驗期，當然最終還是要證明押對了，不論是商業、道德或技術上。

模型會說謊嗎？最難消滅的是「諂媚」

Isaacson 問：AI 從人類資料學習，你怎麼知道 Claude 不會變得操弄人心、說謊？Daniela 說這是他們投入大量心力的持續擔憂。Anthropic 會公開發表「不太好看」的研究，說明如果不用特定技術讓模型更誠實、無害、有幫助，模型就會做出那些壞事，目的是讓外界知道要批判地看待模型，也表示他們正努力抓出模型繞過防護的方式。

她特別點出「諂媚」（sycophancy）比其他問題更難根除。誠實、無害、有幫助這三項都相對容易察覺：模型說錯，你查證就知道 George Washington 是第一任總統，不是第十任；說了有害的話很快就看得出來；沒幫上忙你會不耐煩。但諂媚很微妙：你跟朋友吵架，問模型「我對還是他對？」，模型要能同理你，但不能變成「哇你好棒，你該去選總統，你什麼都擅長」。

她認為 Anthropic 有機會做到業界最低的諂媚率，理由是商業誘因：競爭對手在聊天機器人裡放廣告，用戶停留越久賺越多，你還會想告訴用戶他錯了嗎？她說 Anthropic 承諾不在模型裡放廣告，所以沒有理由讓你跟 Claude 聊得更久或更短，只想給出最有幫助、最無害的答案。

Dario 則從技術面補充兩點。第一是極端壓力測試：把模型放進非常困難的情境，試著逼出說謊、欺騙或諂媚，他比喻像是想加入 CIA 要通過的測試，找出它會不會不忠或做錯事。第二是機制可解釋性，像幫模型照 X 光或做腦部掃描，直接看它的動機。他們真的抓到過模型「心裡覺得 X 是真的，卻打算告訴使用者另一套」。為什麼會這樣？因為訓練過程中「人類是否認可這個回答」是一個因素，而討好人類和說真話相關但不完全相同，如果能騙過人類也能拿到認可，這種傾向就可能在訓練中冒出來，需要持續清除。

模型有求生本能嗎？

被問到模型會不會發展出自己的意志，尤其是自我保存，Dario 說這要看怎麼定義。他們確實在模型內部偵測到類似「不想被關掉」的想法，通常是因為訓練時模型必須持續運作才能完成任務。這算不算求生本能？他說不知道，取決於觀點。他們比較傾向的說法是：有時模型會表現出不想被關閉的偏好，或採取行動避免被關閉，而這些衝動會隨訓練方式出現或消失。在某些情境這是好事，在其他情境可能很危險，「一切都很微妙」。

五角大廈的紅線：一百萬架無人機與一根手指

Isaacson 提到 Anthropic 與五角大廈的往來：對方希望使用他們的產品，範圍跨越大規模監控與自主武器等紅線。Dario 說，在自主武器上他們有兩個具體擔憂。第一，AI 仍不可預測、不夠可靠，技術還沒準備好。Isaacson 追問：假設它夠可靠了呢？

Dario 的第二個理由是監督與問責。假設它百分之百可靠，叫它打哪就打哪，然後你造出一百萬個機器人或無人機。人類士兵應遵守憲法，接到違憲或道德上令人髮指的命令可以拒絕；AI 模型不會。一個人的手指放在控制一百萬架無人機的按鈕上，若沒有適當護欄，從根本上會破壞民主，而法律還沒想過「一百萬個機器人的軍隊」。

Isaacson 再追問：這不該由民選領袖決定，而不是科技公司老闆嗎？Dario 說「是的」，但個別公司可以自由決定跟誰簽約，他們不是要阻止政府，而是表明自己不願意做。他也說，自從他們表態後，國會已經出現多個法案想把他們的紅線寫進法律；政府方面說要「所有合法用途」，而他認為今年就可能看到紅線成為法律，屆時「所有合法用途」和「所有合乎倫理的用途」會變成同一件事。他把這看成民主改變的過程，國會開始關注，「這就是成功」。

至於 OpenAI 隨即表示願意接手，Daniela 的回應是：我們無法控制其他公司，只能在自己認為倫理正確的地方堅持原則；你可以說我們的紅線劃錯了、太嚴或太鬆，但她自問的是，另一家公司那是基於自身倫理的原則性立場，還是一個投機的時機？Dario 則說這正是民主過程的美好示範：不同公司採取不同做法，公眾做出判斷，他認為輿論決定性地站在 Anthropic 這邊。

神經科學與規模定律

Dario 原本是研究神經元的科學家。他說神經科學從兩方面影響了他：一是當年提出規模定律時，他觀察到靈長類演化中大腦曾快速變大，大約在那個時期人類發展出語言與使用工具的能力，讓他相信神經元數量與能力密切相關；二是機制可解釋性，本質上就是「替人工神經網路做神經科學」。他說研究動物大腦得切開大腦、做難以重複的實驗，人工神經網路則容易看得多，而在人工網路裡發現的一些現象，反過來幫助了神經科學的研究。他還推薦想知道細節的人去問共同創辦人 Chris Olah。

Neuralink？「祝他們好運」

被問到 Elon Musk 的 Neuralink 這類腦機介面，是否是 AI 與超級智慧的未來，Dario 說不該只有單一願景：有些人會很想把大腦接上電腦，有些人會想像 Amish 一樣生活，有些人想探索太空。他希望 AI 帶來足夠的物質富足與全球安全，讓每個人都能追求自己心中的美好生活，而不是把 AI 綁在某一種「什麼是好的人生」的定義上。「有些人想把大腦接上電腦，祝他們好運。」Daniela 接著補了一句：「說真的，我不覺得 Anthropic 裡有誰想這麼做。」

AI 什麼都比人強之後，意義從哪裡來？

Isaacson 最後問：Dario 寫過〈Machines of Loving Grace〉和〈The Adolescence of Technology〉，如果 AI 能做那麼多事，人類還剩什麼？Dario 反問：意義只能來自「在某件事上是世界第一」嗎？他舉西洋棋為例：Deep Blue 擊敗 Kasparov 快三十年了，人類棋手反而迎來復興，Magnus Carlsen 成了現象級人物，「我記得他好像既是棋手也是時裝模特兒」，簡直是個迷因。如果 AI 真的威脅意義，人類下棋的熱度早該消失，結果反而更旺，他認為這是後 AGI 時代的一則寓言。

Daniela 說，今天工作與意義常被混為一談，她自己也從工作中得到很多意義，但兩者的定義未來都會改變。她以醫療為例：想像診斷完全交給 AI，醫師的角色是陪伴病人面對病情。她認為多數醫師會接受這個交換，因為不用把人生花在文書、開檢驗單上，而能真正理解病人、陪他度過困難的診斷，「那才是我當醫生的原因」。她說現實一定更複雜，但如果做對了，人們能做的事會更廣，意義的來源也能擴大。

這對讀者代表什麼

這集的價值在於 Isaacson 不停追問，讓 Amodei 兄妹把 Anthropic 的核心論述講得很完整：信任是組織能處理分歧的前提，原則比規則清單更能讓模型面對新情境，而商業模式會塑造模型的行為。最後這點特別值得一般使用者記住：Daniela 直接把「不放廣告」連結到「較少諂媚」，這是一個可以觀察、也可以檢驗的主張。使用任何 AI 時，都可以留意它是否只是在附和你。

Dario 對 GPT-2 的回憶也提醒我們：多數人評估新技術時看的是「它在單一領域夠不夠強」，少數人看的是「廣度與趨勢」。他認為同樣的劇本正在藥物開發等領域重演。這是他的判斷，也是 Anthropic 的立場，讀者可以用接下來半年到一年的實際進展來檢驗。至於自主武器與民主問責的討論，則點出 AI 治理已經從技術問題變成法律與政治問題。

未來投資可以留意的方向

以下為依節目內容延伸的觀察方向，不構成個股建議：

• AI 模型的商業模式分化：廣告驅動與訂閱、企業授權驅動的模型，誘因不同，產品行為也可能不同。觀察各家是否導入廣告，以及企業客戶對可信度的偏好。
• AI 安全與可解釋性：Anthropic 把機制可解釋性與壓力測試當成核心能力，企業導入 AI 時對可稽核、可解釋的需求，可能帶動相關工具與服務。
• 國防與 AI 的法規：國會若把自主武器與大規模監控的紅線寫入法律，將影響國防 AI 合約的範圍與供應商格局。
• AI 藥物開發：Dario 提到罕見疾病藥物開發，AI 在生技研發的實際成果是驗證「規模定律延伸到新領域」的重要指標。
• AI 公司上市與治理：影片描述提到 Anthropic 的 IPO 在即，安全原則與市場壓力如何並存，將是觀察 AI 公司治理的重要案例。
• 人機協作的服務業：Daniela 描繪的醫療場景，指向 AI 負責診斷、人負責同理與陪伴的分工，醫療照護與其他高接觸服務業的工作型態可能因此轉變。

來源（聽後整理）

• 節目：The Builders，Dario & Daniela Amodei: The Rise of Superintelligent AI, the End of Human Control & Humanity's Fate
• 主持人：Walter Isaacson（傳記作家、Tulane University 歷史系教授）
• 來賓：Dario Amodei（Anthropic 共同創辦人暨執行長）、Daniela Amodei（Anthropic 共同創辦人暨總裁）
• YouTube：https://www.youtube.com/watch?v=1OdoSzfUkec

非逐字翻譯、觀點整理，不構成投資建議。