今天小编分享的科技经验：OpenAI叛将兄妹，联手做出4500亿独角兽，欢迎阅读。
文 | 字母榜
顶着 "OpenAI 叛军 " 旗号的阿莫迪兄妹，又给 Anthropic 找来了一笔新融资。
北京时间 3 月 4 日，Anthropic 宣布完成 35 亿美元的 E 轮融资，投后估值达到 615 亿美元，是前一年的三倍。值得注意的是，Anthropic 原本计划的融资金额是 20 亿美元，这次是超额完成的任务。
此时，距离阿莫迪兄妹兄妹独立创业也不过才四年时间。2020 年底，ChatGPT 推出之前，阿莫迪兄妹俩决定另起炉灶。当时，哥哥达里奥 · 阿莫迪（Dario Amodei）已经是 OpenAI 研究部门副总裁，妹妹丹妮拉 · 阿莫迪（Daniela Amodei）则是安全政策部门副总裁。
2021 年，兄妹俩的 AI 创业公司 Anthropic 诞生，并模仿着奥特曼绑定微软的招数，为 Anthropic 相继找来了亚马逊和谷歌两大金主，此后，Anthropic 估值便一路水涨船高。
根据 CB Insights 的数据，此次融资将使 Anthropic 成为继 SpaceX、OpenAI、Stripe 和 Databricks 之后美国第五大最有价值的初创公司。它也将成为继 SpaceX、字节跳动、OpenAI、Stripe、Shein 和 Databricks 之后全球第七大最有价值的初创公司。
两个在人工智能领網域都得算是 " 半路出家 " 的兄妹俩，在 Anthropic 助力下，也越发成了大模型领網域炙手可热的明星人物。
01
打一出生就被打上了 "OpenAI 叛军 " 的名号，Anthropic 起点很高。
那是 2020 年底，距离 ChatGPT 推出还有两年，距离 OpenAI 高管频繁出走更远，阿莫迪兄妹俩决定另起炉灶。
当时，哥哥达里奥 · 阿莫迪（Dario Amodei）已经是 OpenAI 研究部门副总裁，妹妹丹妮拉 · 阿莫迪（Daniela Amodei）则是安全政策部门副总裁。
在后来才加入的情况下，亲兄妹在同一家科技公司担任高管实属罕见。
阿莫迪兄妹来自一个意大利裔家庭，成长于谷歌，家庭中也有浓厚的学术氛围，可以说是人生开局起点就颇高。
但实际上，他们在人工智能领網域都得算是 " 半路出家 "。
哥哥达里奥主攻物理学。快毕业的时候，他开始关注人工智能，并在研究生阶段选择了神经科学。他拥有斯坦福大学的物理学学士学位、普林斯顿大学的物理学博士学位，也曾在斯坦福医学院担任博士后学者。
从 2014 年底开始，达里奥两年之内三次换 " 东家 "，先是在百度硅谷 AI 实验室开启职业生涯，是吴恩达的手下，而后跳槽到谷歌。2016 年，达里奥加入刚创立不久的 OpenAI。
两年后，妹妹丹妮拉也加入了，而她本科在加州大学圣克鲁斯分校学英语文学，毕业后的职业生涯始于全球健康和政治领網域，和人工智能几无关联。然而，随着她加入金融服务公司 Stripe，就此开始接触人工智能。
后来，他们把这种对人工智能的兴趣放在更宏达的叙事当中，觉得 " 都感到自己肩负着让世界变得更美好的巨大责任 "。
2018 年，在哥哥达里奥进入 OpenAI 两年后，丹妮拉也加入，兄妹俩汇合。在那之后，达里奥对 GPT-2 和 GPT-3 贡献力量，最终成为研究部门副总裁，而丹妮拉则以管理自然语言处理生成团队开始，担任过人力资源副总裁，最终成为了安全政策部门的副总裁。
不过，OpenAI 内部的分歧也正在酝酿。
正是在兄妹在职场汇合的那一年，OpenAI 内部以山姆 · 奥特曼（Sam Altman）为代表的领导层意识到算力跟不上，开始考虑转型，而创始人之一马斯克因为种种原因最终退出。之后的 OpenAI，走上了商业化的道路，营利性公司 "OpenAI LP" 成立。2020 年，OpenAI 和微软签署了一项价值 10 亿美元的協定。也正是在这个时候，阿莫迪兄妹感到已经待不住了。
达里奥后来回忆称，在 OpenAI 时发现了缩放定律，使用更多数据和算力训练 AI，而非依赖算法，就可以获得更高的性能。这一点让他感到可怕：" 它由简单的组件组成。只要有足够的钱，任何人都可以建造它……我们正在开发一种强大且具有潜在危险的技术。"
那一年年底，阿莫迪兄妹一起离开了 OpenAI，并一口气带走了 OpenAI 的 7 名高级职员。2021 年，Anthropic 成立。
当被问及离职原因时，达里奥面对媒体总是表现得很油滑，称 " 我们（联合创始人）意见一致，彼此信任。我们是处于正确的理由这样做的 "，但被问到这是否意味着他不信任 OpenAI 的其他人时，他却拒绝回答。
02
到底是不是 "OpenAI 叛军 "，行动是最好的说明。
在公司属性上，阿莫迪兄妹选择将 Anthropic 设立为公益型公司（PBC，Public Benefit Corporation），可以同时追求社会责任和盈利。如今 OpenAI 寻求转型，也是想成为 PBC。
从一开始，" 安全 " 成了 Anthropic 的高亮关键词。Anthropic 的前身甚至被命名为 AI Safety Lab（AI 安全实验室）。在 2021 年，人工智能危险论并非主流。
起初，Anthropic 也考虑到用其他公司的 AI 模型来进行安全研究，但很快就放弃了这个想法，决定构建自己的模型。模型被命名为 Claude，有三个核心目标：有用（helpful）、无害（harmless）、诚实（honest）。
他们甚至引入了 " 宪法式人工智能（Constitutional A.I.）" 的概念，给模型提供一份书面的原则清单（" 宪法 "），并要求它尽可能遵守。这些清单中包括联合国《世界人权宣言》、苹果的服务条款等等。然后，他们使用第二个模型，评估第一个模型的行为是否符合 " 宪法 "，并在必要时进行纠正。
说白了，就是让人工智能自我监督。
在创立之初，Anthropic 就被外界当做 "OpenAI 叛军 "，并在 A 轮融资中吸引了 1.24 亿美元，随后又有 5.8 亿美元融资到账。但相比于 OpenAI，这家公司依然显得非常小和 " 寒酸 "（只有寥寥员工和很少的钱）。
到了 2022 年夏天，阿莫迪兄妹迎来了第一个艰难时刻。
那就是：Anthropic 已经完成了对 Claude 的训练，整个团队都对它的表现赞叹不已。发布 Claude，对成立仅仅一年的 Anthropic 来说一定会带来更多名利。但是，他们同时也担心将强大的 Claude 直接发布会不会有安全风险。
最终，阿莫迪兄妹决定，继续进行内部安全测试。这一压就是数月。
而在另外一边，OpenAI 在 11 月底发布了 ChatGPT，这款軟體如巨石入水，掀起惊天骇浪。从后续多家媒体报道的 " 内幕故事 " 来看，OpenAI 当时是在很 " 拿不准 " 的情况下推出了 ChatGPT。
也就是说，奥特曼和阿莫迪兄妹面临着同样的难题，但是做出了完全不同的选择。
至少从对外的表态来看，阿莫迪兄妹不说后悔。达里奥在《时代》杂志的采访中说，他想避免引发一场建造更大、也许更危险的人工智能系统的竞赛：" 我认为这是正确的做法。"
他紧接着又补充：" 但这（正确与否）不是完全明确的。" 这种不确定性很好理解，毕竟竞赛无论如何都开始了，而阿莫迪的决定可能会让 Anthropic 损失数十亿美元。
不论如何，这个决定最终也让 Anthropic 在很长一段时间里获得了赞誉。尤其是当 ChatGPT 引发了监管机构和大众对安全问题的担忧时。在 2023 年面对华盛顿的参议院，达里奥作证时说，他认为强大到足以 " 造成大规模破坏 " 并改变全球力量平衡的 AI 系统可能最早在 2025 年出现。
彼时这样说的人很多，但始终握着 " 安全牌 "、被视为 "OpenAI 叛军 " 的阿莫迪兄妹自然显得可信度更高。
在 Claude 最终发布并迭代的过程中，Anthropic 更加坐实了 " 安全牌 "。《纽约 . 时报》的记者凯文 · 罗斯（Kevin Roose）因为撰写了一篇文章，记录其与微软嵌入 ChatGPT 的新必应聊天机器人之间的 " 冲突 "，而被 Anthropic 邀请到了总部。
当时是 2023 年的夏天，距离 Claude 2 发布还有几周，罗斯感受到的仍旧是紧张和焦虑，而非振奋和期待。
" 我最担心的是，模型会不会做出我们未曾预料到的可怕行为？" 达里奥说。
甚至这种情绪并非高层特有，整个公司的所有工程师似乎都更有兴趣谈论 " 安全风险 "，而非技术能力。一位员工在吃午饭的时候告诉罗斯，未来十年内，失控的人工智能毁灭人类的概率高达 20%。
罗斯形容，这就像你走进了一家备受赞誉的餐厅，准备饕餮一番，结果发现所有店员都在和你聊食物中毒。
用首席科学家卡普兰的说法来解释，就是这种悲观情绪不是刻意营造的，而是 Anthropic 本来就吸引这种 " 深思熟虑的 "" 对这些长期风险持怀疑态度 " 的人。
这种情绪也最终传导到了 Claude 产品本身。这种安全导向的训练方法，也使 Claude 成为了一款格外谨小慎微的聊天机器人。它被评论家调侃为 "AI 末日轮宣传家 "" 过于无趣爱说教 "。
但是，Anthropic 的 " 安全牌 " 和 Claude 的谨小慎微，却让这家公司愈发吸引企业客户和投资者青睐。吸引企业客户很好理解，毕竟 to B 用户和 to C 用户不同，前者要的正是安全和可靠。
在初代 Claude 发布之后，Anthropic 融资爆发，先是 4.5 亿美元 C 轮融资，其中包括投资方谷歌；后亚马逊也出手，其融资金额节节攀升。到 2023 年 10 月，Anthropic 总融资额超过了 76 亿美元。
03
然而，随着 Anthropic 发展壮大，成为 AI 领網域的 " 头号玩家 " 之一，这个 "OpenAI 叛军 " 似乎也受到了和 OpenAI 一样的质疑声。
达里奥不得不越来越频繁地解释 Anthropic 的 " 安全 " 与 " 发展 " 如何平衡的问题。
阿莫迪兄妹因为 OpenAI 商业化转型、心系 AI 安全而出走并成立 Anthropic，这是一开始公认的创始故事。但一直拿着 " 好人卡 " 的 Anthropic 逐渐吸引越来越多的投资、发布一个又一个大模型，也不免让人发现矛盾点：Anthropic 和 OpenAI 比拼大模型性能、融资规模、盈利能力的同时，怎么兼顾安全问题。
或者更直白一些：同样都是 AI 独角兽、明星初创企业，为什么我们要相信你？就凭你说你更关心世界、更注重安全问题吗？
去年，Anthropic 发布 Claude 3.5 Sonnet，并称其在推理、编码和某些类型的数学方面梳理了新的行业标准，击败了彼时 OpenAI 的最新模型 GPT-4o。
这个时候，达里奥在《时代》杂志的采访中表示，公众眼中的 " 安全 " 和他们的想法 " 存在一些差距 "：
" 我不认为我们是一家人工智能安全公司，而是一家专注于公共利益的公司。我们不是一家相信人工智能系统将会带来危险的公司。这是一个经验问题。"
" 我更愿意生活在一个理想的世界里。不幸的是，在我们实际生活的世界中，存在着许多经济压力，不仅存在着公司之间的竞争，还存在着国家之间的竞争。但如果我们真的能够证明风险是真实存在的，我希望能够做到这一点，那么也许我们真的可以让世界停下来思考一下。"
也就是说，达里奥依然坚守强大的 AI 可能造成巨大的危险的观点。而不做出强大的 AI，就不能发现巨大的危险到底是什么，也就无法阻止它。
达里奥一直在向外界传达的一个信息是，Anthropic 不是要引发或者参与竞赛，而是想要以自己注重安全的标准与态度，让大家都被迫拉高安全标准。
阿莫迪兄妹始终都是缩放定律的信仰者，毕竟 Anthropic 的创办逻辑正是：在缩放定律中看到了只要投入的资源够大就有可能造出更好的 AI 系统的可能性，而这背后的安全风险太大，因此自立门户。
在这样的叙事下，他们也始终紧盯 OpenAI，视之为最大的竞争对手。
但在今年 1 月底，DeepSeek R1 横空出世之后，情况变得复杂起来。
几乎是第一时间，达里奥称 DeepSeek 的表现 " 基本上是我们测试过的所有模型中最差的 "，但没有表明 Anthropic 测试了 DeepSeek 的哪一个模型，或有关这些测试的更多技术细节。
并且，达里奥亲自发布檄文，支持美国加强芯片管制，但其中引用的一些估算实际上缺乏事实依据。
颇为意味深长的是，达里奥建议 DeepSeek" 认真对待人工智能安全方面的考量 "。
如果是几年前，Anthropic 创立之初，达里奥的 " 安全牌 " 很有可能引来更多支持声。但如前文所提到的，如今的 Anthropic 也在 " 安全 " 与 " 发展 " 的平衡难题之中。
TechChurch 在关于此事的报道当中特别提到，" 此类安全问题是否会严重阻碍 DeepSeek 的快速普及还有待观察 "，而另一边，"AWS 和微软已经公开宣称将 R1 整合到他们的云平台中——讽刺的是，亚马逊是 Anthropic 最大的投资者 "。
在这之后，2 月底，Anthropic 的新一代模型 Claude 3.7 Sonnet 发布。值得关注的是，外界此前一直以为 Anthropic 下一个发布的会是 Claude 4。
这一次融资，Anthropic 无疑证明了自己仍旧具有吸引力，尤其是比计划中高出不少的融资金额（从 20 亿美元到 35 亿美元）、600 亿美元估值以及 60 倍的市盈率，都在表明着投资者仍然看好 Anthropic 的未来。
不管是信仰缩放定律的 " 头部玩家 " 也好，在有限资源中妙手生花的创新玩家也罢，新的模型还将一个接一个地推出。在 DeepSeek 引发 " 混乱 " 之后的一个月时间里，xAI、OpenAI 和 Anthropic 都已经发布了新一代模型。
此外，OpenAI 的 GPT-5 和 DeepSeek R2 有可能很快就会问世。
接下来，阿莫迪兄妹的 " 安全牌 " 还能奏效多久，是一个未知数。
