今天小編分享的科技經驗：OpenAI叛将兄妹，聯手做出4500億獨角獸，歡迎閱讀。
文 | 字母榜
頂着 "OpenAI 叛軍 " 旗号的阿莫迪兄妹，又給 Anthropic 找來了一筆新融資。
北京時間 3 月 4 日，Anthropic 宣布完成 35 億美元的 E 輪融資，投後估值達到 615 億美元，是前一年的三倍。值得注意的是，Anthropic 原本計劃的融資金額是 20 億美元，這次是超額完成的任務。
此時，距離阿莫迪兄妹兄妹獨立創業也不過才四年時間。2020 年底，ChatGPT 推出之前，阿莫迪兄妹倆決定另起爐灶。當時，哥哥達裡奧 · 阿莫迪（Dario Amodei）已經是 OpenAI 研究部門副總裁，妹妹丹妮拉 · 阿莫迪（Daniela Amodei）則是安全政策部門副總裁。
2021 年，兄妹倆的 AI 創業公司 Anthropic 誕生，并模仿着奧特曼綁定微軟的招數，為 Anthropic 相繼找來了亞馬遜和谷歌兩大金主，此後，Anthropic 估值便一路水漲船高。
根據 CB Insights 的數據，此次融資将使 Anthropic 成為繼 SpaceX、OpenAI、Stripe 和 Databricks 之後美國第五大最有價值的初創公司。它也将成為繼 SpaceX、字節跳動、OpenAI、Stripe、Shein 和 Databricks 之後全球第七大最有價值的初創公司。
兩個在人工智能領網域都得算是 " 半路出家 " 的兄妹倆，在 Anthropic 助力下，也越發成了大模型領網域炙手可熱的明星人物。
01
打一出生就被打上了 "OpenAI 叛軍 " 的名号，Anthropic 起點很高。
那是 2020 年底，距離 ChatGPT 推出還有兩年，距離 OpenAI 高管頻繁出走更遠，阿莫迪兄妹倆決定另起爐灶。
當時，哥哥達裡奧 · 阿莫迪（Dario Amodei）已經是 OpenAI 研究部門副總裁，妹妹丹妮拉 · 阿莫迪（Daniela Amodei）則是安全政策部門副總裁。
在後來才加入的情況下，親兄妹在同一家科技公司擔任高管實屬罕見。
阿莫迪兄妹來自一個意大利裔家庭，成長于谷歌，家庭中也有濃厚的學術氛圍，可以說是人生開局起點就頗高。
但實際上，他們在人工智能領網域都得算是 " 半路出家 "。
哥哥達裡奧主攻物理學。快畢業的時候，他開始關注人工智能，并在研究生階段選擇了神經科學。他擁有斯坦福大學的物理學學士學位、普林斯頓大學的物理學博士學位，也曾在斯坦福醫學院擔任博士後學者。
從 2014 年底開始，達裡奧兩年之内三次換 " 東家 "，先是在百度矽谷 AI 實驗室開啟職業生涯，是吳恩達的手下，而後跳槽到谷歌。2016 年，達裡奧加入剛創立不久的 OpenAI。
兩年後，妹妹丹妮拉也加入了，而她本科在加州大學聖克魯斯分校學英語文學，畢業後的職業生涯始于全球健康和政治領網域，和人工智能幾無關聯。然而，随着她加入金融服務公司 Stripe，就此開始接觸人工智能。
後來，他們把這種對人工智能的興趣放在更宏達的叙事當中，覺得 " 都感到自己肩負着讓世界變得更美好的巨大責任 "。
2018 年，在哥哥達裡奧進入 OpenAI 兩年後，丹妮拉也加入，兄妹倆匯合。在那之後，達裡奧對 GPT-2 和 GPT-3 貢獻力量，最終成為研究部門副總裁，而丹妮拉則以管理自然語言處理生成團隊開始，擔任過人力資源副總裁，最終成為了安全政策部門的副總裁。
不過，OpenAI 内部的分歧也正在醞釀。
正是在兄妹在職場匯合的那一年，OpenAI 内部以山姆 · 奧特曼（Sam Altman）為代表的領導層意識到算力跟不上，開始考慮轉型，而創始人之一馬斯克因為種種原因最終退出。之後的 OpenAI，走上了商業化的道路，營利性公司 "OpenAI LP" 成立。2020 年，OpenAI 和微軟籤署了一項價值 10 億美元的協定。也正是在這個時候，阿莫迪兄妹感到已經待不住了。
達裡奧後來回憶稱，在 OpenAI 時發現了縮放定律，使用更多數據和算力訓練 AI，而非依賴算法，就可以獲得更高的性能。這一點讓他感到可怕：" 它由簡單的組件組成。只要有足夠的錢，任何人都可以建造它……我們正在開發一種強大且具有潛在危險的技術。"
那一年年底，阿莫迪兄妹一起離開了 OpenAI，并一口氣帶走了 OpenAI 的 7 名高級職員。2021 年，Anthropic 成立。
當被問及離職原因時，達裡奧面對媒體總是表現得很油滑，稱 " 我們（聯合創始人）意見一致，彼此信任。我們是處于正确的理由這樣做的 "，但被問到這是否意味着他不信任 OpenAI 的其他人時，他卻拒絕回答。
02
到底是不是 "OpenAI 叛軍 "，行動是最好的說明。
在公司屬性上，阿莫迪兄妹選擇将 Anthropic 設立為公益型公司（PBC，Public Benefit Corporation），可以同時追求社會責任和盈利。如今 OpenAI 尋求轉型，也是想成為 PBC。
從一開始，" 安全 " 成了 Anthropic 的高亮關鍵詞。Anthropic 的前身甚至被命名為 AI Safety Lab（AI 安全實驗室）。在 2021 年，人工智能危險論并非主流。
起初，Anthropic 也考慮到用其他公司的 AI 模型來進行安全研究，但很快就放棄了這個想法，決定構建自己的模型。模型被命名為 Claude，有三個核心目标：有用（helpful）、無害（harmless）、誠實（honest）。
他們甚至引入了 " 憲法式人工智能（Constitutional A.I.）" 的概念，給模型提供一份書面的原則清單（" 憲法 "），并要求它盡可能遵守。這些清單中包括聯合國《世界人權宣言》、蘋果的服務條款等等。然後，他們使用第二個模型，評估第一個模型的行為是否符合 " 憲法 "，并在必要時進行糾正。
說白了，就是讓人工智能自我監督。
在創立之初，Anthropic 就被外界當做 "OpenAI 叛軍 "，并在 A 輪融資中吸引了 1.24 億美元，随後又有 5.8 億美元融資到賬。但相比于 OpenAI，這家公司依然顯得非常小和 " 寒酸 "（只有寥寥員工和很少的錢）。
到了 2022 年夏天，阿莫迪兄妹迎來了第一個艱難時刻。
那就是：Anthropic 已經完成了對 Claude 的訓練，整個團隊都對它的表現贊嘆不已。發布 Claude，對成立僅僅一年的 Anthropic 來說一定會帶來更多名利。但是，他們同時也擔心将強大的 Claude 直接發布會不會有安全風險。
最終，阿莫迪兄妹決定，繼續進行内部安全測試。這一壓就是數月。
而在另外一邊，OpenAI 在 11 月底發布了 ChatGPT，這款軟體如巨石入水，掀起驚天駭浪。從後續多家媒體報道的 " 内幕故事 " 來看，OpenAI 當時是在很 " 拿不準 " 的情況下推出了 ChatGPT。
也就是說，奧特曼和阿莫迪兄妹面臨着同樣的難題，但是做出了完全不同的選擇。
至少從對外的表态來看，阿莫迪兄妹不說後悔。達裡奧在《時代》雜志的采訪中說，他想避免引發一場建造更大、也許更危險的人工智能系統的競賽：" 我認為這是正确的做法。"
他緊接着又補充：" 但這（正确與否）不是完全明确的。" 這種不确定性很好理解，畢竟競賽無論如何都開始了，而阿莫迪的決定可能會讓 Anthropic 損失數十億美元。
不論如何，這個決定最終也讓 Anthropic 在很長一段時間裡獲得了贊譽。尤其是當 ChatGPT 引發了監管機構和大眾對安全問題的擔憂時。在 2023 年面對華盛頓的參議院，達裡奧作證時說，他認為強大到足以 " 造成大規模破壞 " 并改變全球力量平衡的 AI 系統可能最早在 2025 年出現。
彼時這樣說的人很多，但始終握着 " 安全牌 "、被視為 "OpenAI 叛軍 " 的阿莫迪兄妹自然顯得可信度更高。
在 Claude 最終發布并迭代的過程中，Anthropic 更加坐實了 " 安全牌 "。《紐約 . 時報》的記者凱文 · 羅斯（Kevin Roose）因為撰寫了一篇文章，記錄其與微軟嵌入 ChatGPT 的新必應聊天機器人之間的 " 衝突 "，而被 Anthropic 邀請到了總部。
當時是 2023 年的夏天，距離 Claude 2 發布還有幾周，羅斯感受到的仍舊是緊張和焦慮，而非振奮和期待。
" 我最擔心的是，模型會不會做出我們未曾預料到的可怕行為？" 達裡奧說。
甚至這種情緒并非高層特有，整個公司的所有工程師似乎都更有興趣談論 " 安全風險 "，而非技術能力。一位員工在吃午飯的時候告訴羅斯，未來十年内，失控的人工智能毀滅人類的概率高達 20%。
羅斯形容，這就像你走進了一家備受贊譽的餐廳，準備饕餮一番，結果發現所有店員都在和你聊食物中毒。
用首席科學家卡普蘭的說法來解釋，就是這種悲觀情緒不是刻意營造的，而是 Anthropic 本來就吸引這種 " 深思熟慮的 "" 對這些長期風險持懷疑态度 " 的人。
這種情緒也最終傳導到了 Claude 產品本身。這種安全導向的訓練方法，也使 Claude 成為了一款格外謹小慎微的聊天機器人。它被評論家調侃為 "AI 末日輪宣傳家 "" 過于無趣愛說教 "。
但是，Anthropic 的 " 安全牌 " 和 Claude 的謹小慎微，卻讓這家公司愈發吸引企業客戶和投資者青睐。吸引企業客戶很好理解，畢竟 to B 用戶和 to C 用戶不同，前者要的正是安全和可靠。
在初代 Claude 發布之後，Anthropic 融資爆發，先是 4.5 億美元 C 輪融資，其中包括投資方谷歌；後亞馬遜也出手，其融資金額節節攀升。到 2023 年 10 月，Anthropic 總融資額超過了 76 億美元。
03
然而，随着 Anthropic 發展壯大，成為 AI 領網域的 " 頭号玩家 " 之一，這個 "OpenAI 叛軍 " 似乎也受到了和 OpenAI 一樣的質疑聲。
達裡奧不得不越來越頻繁地解釋 Anthropic 的 " 安全 " 與 " 發展 " 如何平衡的問題。
阿莫迪兄妹因為 OpenAI 商業化轉型、心系 AI 安全而出走并成立 Anthropic，這是一開始公認的創始故事。但一直拿着 " 好人卡 " 的 Anthropic 逐漸吸引越來越多的投資、發布一個又一個大模型，也不免讓人發現矛盾點：Anthropic 和 OpenAI 比拼大模型性能、融資規模、盈利能力的同時，怎麼兼顧安全問題。
或者更直白一些：同樣都是 AI 獨角獸、明星初創企業，為什麼我們要相信你？就憑你說你更關心世界、更注重安全問題嗎？
去年，Anthropic 發布 Claude 3.5 Sonnet，并稱其在推理、編碼和某些類型的數學方面梳理了新的行業标準，擊敗了彼時 OpenAI 的最新模型 GPT-4o。
這個時候，達裡奧在《時代》雜志的采訪中表示，公眾眼中的 " 安全 " 和他們的想法 " 存在一些差距 "：
" 我不認為我們是一家人工智能安全公司，而是一家專注于公共利益的公司。我們不是一家相信人工智能系統将會帶來危險的公司。這是一個經驗問題。"
" 我更願意生活在一個理想的世界裡。不幸的是，在我們實際生活的世界中，存在着許多經濟壓力，不僅存在着公司之間的競争，還存在着國家之間的競争。但如果我們真的能夠證明風險是真實存在的，我希望能夠做到這一點，那麼也許我們真的可以讓世界停下來思考一下。"
也就是說，達裡奧依然堅守強大的 AI 可能造成巨大的危險的觀點。而不做出強大的 AI，就不能發現巨大的危險到底是什麼，也就無法阻止它。
達裡奧一直在向外界傳達的一個信息是，Anthropic 不是要引發或者參與競賽，而是想要以自己注重安全的标準與态度，讓大家都被迫拉高安全标準。
阿莫迪兄妹始終都是縮放定律的信仰者，畢竟 Anthropic 的創辦邏輯正是：在縮放定律中看到了只要投入的資源夠大就有可能造出更好的 AI 系統的可能性，而這背後的安全風險太大，因此自立門戶。
在這樣的叙事下，他們也始終緊盯 OpenAI，視之為最大的競争對手。
但在今年 1 月底，DeepSeek R1 橫空出世之後，情況變得復雜起來。
幾乎是第一時間，達裡奧稱 DeepSeek 的表現 " 基本上是我們測試過的所有模型中最差的 "，但沒有表明 Anthropic 測試了 DeepSeek 的哪一個模型，或有關這些測試的更多技術細節。
并且，達裡奧親自發布檄文，支持美國加強芯片管制，但其中引用的一些估算實際上缺乏事實依據。
頗為意味深長的是，達裡奧建議 DeepSeek" 認真對待人工智能安全方面的考量 "。
如果是幾年前，Anthropic 創立之初，達裡奧的 " 安全牌 " 很有可能引來更多支持聲。但如前文所提到的，如今的 Anthropic 也在 " 安全 " 與 " 發展 " 的平衡難題之中。
TechChurch 在關于此事的報道當中特别提到，" 此類安全問題是否會嚴重阻礙 DeepSeek 的快速普及還有待觀察 "，而另一邊，"AWS 和微軟已經公開宣稱将 R1 整合到他們的雲平台中——諷刺的是，亞馬遜是 Anthropic 最大的投資者 "。
在這之後，2 月底，Anthropic 的新一代模型 Claude 3.7 Sonnet 發布。值得關注的是，外界此前一直以為 Anthropic 下一個發布的會是 Claude 4。
這一次融資，Anthropic 無疑證明了自己仍舊具有吸引力，尤其是比計劃中高出不少的融資金額（從 20 億美元到 35 億美元）、600 億美元估值以及 60 倍的市盈率，都在表明着投資者仍然看好 Anthropic 的未來。
不管是信仰縮放定律的 " 頭部玩家 " 也好，在有限資源中妙手生花的創新玩家也罷，新的模型還将一個接一個地推出。在 DeepSeek 引發 " 混亂 " 之後的一個月時間裡，xAI、OpenAI 和 Anthropic 都已經發布了新一代模型。
此外，OpenAI 的 GPT-5 和 DeepSeek R2 有可能很快就會問世。
接下來，阿莫迪兄妹的 " 安全牌 " 還能奏效多久，是一個未知數。
