大酷樂
  • 汽车
  • 理财
  • 军事
  • 科技
  • 游戏
  • 互联网
  • 娱乐
  • 财经
  • 科学
  • 社会
  • 亲子
  • 电影
  • 健康
  • 教育
  1. 首頁
  2. 互联网

搞懂这三个问题,AI战略落地就简单了很多

2024-12-06 简体 HK SG TW

今天小编分享的互联网经验:搞懂这三个问题,AI战略落地就简单了很多,欢迎阅读。

12 月初,亚马逊云科技一年一度的 re:Invent 大会在美国拉斯维加斯大会召开,来自世界各地的超 6 万名参会者,他们脖子上佩戴着不同颜色的牌子,穿梭于各个会场之间。

re:Invent 大会一直就以务实著称,但这一届发布的产品之多,连很多连续参会的资深专家都感觉到信息过载——仅仅在三天时间里,亚马逊云科技 CEO Matt Garman 与高级副总裁 Peter DeSantis、AI 和数据副总裁 Swami 博士就发布了超过 30+ 新品,涵盖推理芯片、AI 伺服器、大语言模型、生成式 AI 开发工具等等。

在亲身感受这些密集的产品发布过程,可以清晰地提炼出亚马逊云科技开会和演讲的套路,那就是——在服务客户过程中我们发现了 XX 问题,于是我们就推出了 XX 工具,非常简单直给。

作为亚马逊云科技最早、也是应用最深入的客户,亚马逊 CEO Andy Jassy 时隔多年再次亮相 re:Invent,这次他不仅一口气发布了 6 款 Amazon Nova 模型(包括 4 款基础模型,1 款影像生成模型和 1 款视频生成模型),更是作为亚马逊云科技最早、也是应用最深入的客户(据他透露,亚马逊内部已构建或正在构建近 1000 个生成式 AI 应用程式),他分享的关于亚马逊应用 AI 的三个核心问题——选择、成本和需求,完全可以作为理解本次大会的基本逻辑。搞懂了这三个问题,再看这 30 多个产品发布的背后思路就很清晰了。

更自由的选择

" 当你尝试构建某些东西或者做决策时,常常需要在 A 和 B 之间做选择吗?这种选择其实限制了你的思路。在亚马逊云科技,我们不这么思考问题。" 亚马逊云科技一年一度的 re:Invent 大会上,亚马逊云科技 CEO Matt Garman 在主题演讲时,这样表达了对技术应用的理解。

Matt 认为," 做选择 " 实际上制造了虚假边界," 让你马上开始想自己必须选 A 或者选 B,但我们推动团队去思考如何同时达成 A 和 B,就可以让大家换一种方式思考 "。

在 Matt 眼中,开发者与客户永远有选择最优产品的权利。这是亚马逊云科技成立时秉承的理念,无论是一两百款 EC2,还是上百款数据库——亚马逊云科技一直都认为,客户的需求大于一切,那么需求的多样性就决定了选项的多样性。

亚马逊云科技愿景檔案撰写于 2003 年。彼时,众多科技公司纷纷构建捆绑式的解决方案,试图大包大揽。最终形成的是庞大而单一的解决方案,虽功能全面却仅达合格水准。但合格不应是追求的终点,人们真正渴望的是最优组件。若能将所有顶尖元素整合一体,那才堪称完美。" 基于此念,亚马逊云科技应运而生。"Matt 说。过去 18 年,灵活的技术构建模块,也成为亚马逊云科技服务逐渐向上的执念。

这一理念也表现在时下热议的大模型服务上。" 在亚马逊内部构建项目中所使用模型的多样性令人惊讶。给予了开发者自主选择的权利,原本以为大家都会选用 Anthropic 的 Claude 模型,毕竟过去一年多它在全球属于性能顶尖的模型,确实有很多内部开发者在使用 Claude 模型,但他们也会采用 Llama 模型、Mistral 模型,甚至会使用自行研发的模型。"Andy Jassy 演讲时谈及亚马逊落地生成式 AI 的经验," 因为一直都在汲取同一个教训,那就是永远不会出现一种工具能在某个领網域一统天下的情况。就像数据库领網域,探讨了 10 年,大家会使用各种各样的关系型数据库或者非关系型数据库;就像大数据领網域讨论了很久是不是 TensorFlow 会一统天下,结果 PyTorch 更受欢迎。"

Amazon Bedrock Marketplace 是 Swami 博士在现场发布的其中一款新品。这是一个拥有 100 多个领先大模型的 " 市场 ",Amazon Bedrock 中的统一体验极大简化模型开发工作流程,给用户带来了前所未有的灵活度,将让模型推理从 " 非 A 即 B" 的选择达到成本与延迟的 " 微妙平衡 "。

" 对一个因素的优化通常需要对另一个因素进行妥协,这是因为成本和响应延迟与道德准确性呈反比关系,因为功能更强大、高度智能的模型会消耗更多的资源。"Swami 博士讲述从客户了解到的需求。而在更新的 Bedrock 上,新模型蒸馏功能,使得用户可以将特定知识从更大、更准确的模型转移到更小、更高效的专业模型,使其速度提高 500%,成本降低 75%。

但是多元化的选择,也难免面临一些天然存在的竞合关系,比如亚马逊云科技在向客户提供模型市场、模型开发平台的同时,也推出了自己的基础模型。不过,亚马逊云科技一直以来都是开放性的看待这种竞合关系。

对于亚马逊云科技的模型策略,Andy Jassy 做了这样的回答:" 我们一直以来的目标就是为大家提供选择,现实情况是,大家在不同的时间、出于不同的原因,都会使用不同的模型。

这其实反映了现实世界的运行规律。就好比人类不会只找一个人去获取各个领網域的专业知识一样,不同的人在不同的方面各有所长。有时候大家会侧重于优化编码,有时候关注数学,有时候看重与检索增强生成(RAG)的集成,有时候聚焦智能需求,还有时候在意更低的延迟或成本问题。大多数情况下,是各种因素的组合决定的。

在亚马逊云科技,我们会为大家提供这些因素组合之后,满足需求的选择。我们认为,最近又为这个组合增添了一些非常有趣的模型。好消息是,所有这些模型都能在 Amazon Bedrock 中使用,大家可以按照自己期望的任何组合去使用它们,进行试验,并根据情况做出相应的调整。"

可接受的成本

云计算的成本问题,一直是 Matt 最为关心的问题。

2018 年,亚马逊云科技曾经做过一个疯狂且颇具争议的决定:开发自己的芯片。即 Amazon Graviton,以期在 ARM 内核变得越来越快、越来越强大的背景下提供差异化价值。现在,Amazon Graviton 被几乎每个亚马逊云科技客户广泛使用。Amazon Graviton 提供比 x86 高 40% 的性价比、减少 60% 的能源消耗,也极大缩减了云计算成本。

以图片分享网站 Pinterest 为例。在转向 Amazon Graviton 之前,Pinterest 运行着数千个 x86 实例来运营他们的业务。转向 Amazon Graviton 之后,Pinterest 将计算成本降低了 47%,碳排放减少了 62%。" 他们并不孤单,90% 的前 1000 个 Amazon EC2 客户都开始使用 Amazon Graviton。"Matt 说。

现在,生成式 AI 时代来了,当下最大的计算问题都与 AI 相关。虽然与 NVIDIA 有着长达 14 年的合作关系(搭载 NVIDIA 新 Blackwell 芯片的 Amazon EC2 P6 伺服器将于明年年初推出),也是 NVIDIA 的大型生成式 AI 集群场所,但 GPU 依然成了亚马逊云科技为计算降本的新目标:推出一款专为尖端生成式 AI 训练和推理这类高要求工作负载而设计的 GPU。

会上,亚马逊云科技最强 Amazon EC2 Trn2 计算实例发布。配备 16 个 Trainium2 芯片,一个 Amazon EC2 Trn2 实例可在单个计算节点提供 20.8 petaflops 的计算能力,Amazon EC2 Trn2 实例提供比当前 GPU 伺服器高出 30% 到 40% 的性价比,这些芯片通过一种称为 NeuronLink 的高带宽、低延迟互连连接在一起。

AI 大模型公司 Anthropic 联合创始人兼首席计算官 Tom Brown12 月 2 日在 re:Invent 演讲时当场宣布,下一代的 Claude 模型将在 Project Rainier 上进行训练,他表示这将是一个新的计算集群,拥有数十万个 Amazon Tranium2 芯片。优化完成后,该集群预计将成为迄今为止世界上最大的 AI 计算集群,可供 Anthropic 构建和部署其未来模型。

" 数十万个芯片意味着数百个密集的亿次浮点运算,比我们曾经使用过的任何集群都多五倍以上。这意味着客户将可以更低的价格、更快的速度获得更多的智能。有了 Amazon Tranium2 和 Project Rainier,我们不仅仅是在构建更快的人工智能,还在构建可扩展的、值得信赖的人工智能。"Tom Brown 表示。

Andy Jassy 在演讲时也多次谈及 " 成本 ",他认为当生成式 AI 应用程式达到一定规模时,计算成本的重要性就凸显出来了,大家都迫切希望获得更高的性价比,即既能控制好延迟,也要具备合理的成本结构。据他观察,从全球范围来看,那些应用 AI 最为成功的公司,主要体现在成本规避和生产力提升方面,而且很多公司在这两方面都取得了进展。但值得一提的是,亚马逊云科技的成本控制,是体现在整场的产品创新上,而非简单的价格。

需求导向,实用 AI

如果一定要给亚马逊云科技的 AI 战略做一个定义,需求导向的实用 AI 或许更为精确。

" 很多时候,人们用上不错的模型做了些工作,就以为打造出很棒的生成式 AI 应用程式了,但实际上可能只完成了大概 70% 的工作,而客户不会喜欢存在那 30% 问题的应用程式。"Andy Jassy 表示。以亚马逊自己为例,加入生成式 AI 这个 " 智慧大腦 " 之后,亚马逊聊天机器人客户满意度提升了 500 个基点," 这就是实用 AI 的体现。"Andy Jassy 说。

客户至尚和逆向工作法,是亚马逊云科技 DNA 的一部分。亚马逊云科技创业初期,由于合规性、审计、监管、安全、加密等考量,大部分的银行客户表示愿意采用云计算,但称可能永远不会上云。亚马逊云科技没有放弃这些金融客户,而是接下来花了十年来解决银行客户清单上的每一个问题。" 今天,我很自豪地说,许多大型金融公司都是我们的客户。因此,当你在创新时,重要的是要记住,你真的要从客户开始。你要问他们什么对他们重要,但你不仅仅是交付客户要求的东西。你要为他们发明。"Matt 说。

AI 时代也是同理:要为客户发明好用的 AI 工具。

会上,Swami 博士发布了新一代 Amazon SageMaker。从功能上看,SageMaker AI 与客户的数据强相关,是一个集合了数据调用、数据分析、大模型训练的一站式平台,定位上发生了重大的变化。

" 许多客户向我们反馈,他们的分析和 AI 工作负载越来越多地围绕相同的数据和相同的工作流程进行融合。这正在改变其对分析服务的看法,因为事实证明,他们不再仅仅孤立地使用分析和 AI 工具,他们正在使用历史分析数据来训练机器学习模型,并且越来越多地将相同的数据纳入其生成式 AI 应用程式中。"Matt 谈及从一个客户案例中获得的启发。这也不难理解,因为数据才是企业的核心资产,才是差异化的竞争力,而非模型,将企业绝对优势的数据和大模型整合在一个平台上,才会有优势。

综合来看,对客户来说,AI 落地的工具越来越多;对亚马逊云科技来说,他们又用一年的时间把 AI 生态这个木桶所有的木板都加长了一大截;对行业来说,这个市场又被卷紧了好几圈,竞争的焦点也逐渐从大模型本身转移到了工具和落地上。

附:亚马逊云科技 re:Invent2024 产品发布全景(笔者现场整理)

(本文首发于钛媒体 APP,作者 | 秦聪慧,编辑 | 刘湘明)‌

熱門排行
  • 王治郅:杨瀚森主要的问题是速度 他的速度跟不上现代篮球的节奏 王治郅:杨瀚森主要的问题是速度 他的速度跟 郟君昊 | 2025-05-05
  • 贸易战烧进电影院:特朗普拟重税打击外国电影 逼好莱坞等回美拍片 贸易战烧进电影院:特朗普拟重税打击外国电影 習又夏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天亏掉6年工资,卖掉舍不得,不卖扛不住 贷款追高炒黄金的人后悔了!有人一天亏掉6年 寸飛蘭 | 2025-05-05
  • 手机电池突破8000mAh?硅碳技术的回旋镖:「折寿」换容量 手机电池突破8000mAh?硅碳技术的回旋镖:「折 衛青柏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天亏掉6年工资,卖掉舍不得,不卖扛不住 贷款追高炒黄金的人后悔了!有人一天亏掉6年 繁綺文 | 2025-05-05
  • 任天堂对Genki提起Switch 2商标侵权诉讼,后者回应称将严肃对待 任天堂对Genki提起Switch 2商标侵权诉讼,后 郜萌運 | 2025-05-05
  • 哪吒汽车APP和官网恢复正常 知情人士:之前断网因流量欠费 哪吒汽车APP和官网恢复正常 知情人士:之前断 袁曼雁 | 2025-05-05
  • 极越汽车 CEO 夏一平名下青岛/义乌两家公司被列入经营异常 极越汽车 CEO 夏一平名下青岛/义乌两家公司 集玲琳 | 2025-05-05
  • 全国经济第一大省明确,推动组建农商联合银行 全国经济第一大省明确,推动组建农商联合银行 佼昌翰 | 2025-05-05
  • 桑保利:亚马尔有配合意识&有点像梅西 姆巴佩更专注进球&更像C罗 桑保利:亚马尔有配合意识&有点像梅西 姆巴佩 甄正浩 | 2025-05-05
  • 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 高露现身上海虹桥机场 黑色外套点缀亮色爱 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 vivo X90S曝光:处理器更新为天玑9200+ 安卓最 袁曼雁 | 2023-05-05
  • “懒癌”发病率上升,定期体检别忽视 “懒癌”发病率上升,定期体检别忽视 幸聽楓 | 2023-05-02
  • 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 宋慧乔获百想视后 韩素希发图手动加爱心表 賁芳蕤 | 2023-05-02
  • 曹操墓,里面都有啥? 曹操墓,里面都有啥? 衛青柏 | 2023-05-02
  • 十年了,他们终于要HE! 十年了,他们终于要HE! 惠惠君 | 2023-05-07
  • 中央部署经济工作,释放5大信号 中央部署经济工作,释放5大信号 郜萌運 | 2023-05-02
  • 高德上线手机弯道会车预警功能 高德上线手机弯道会车预警功能 習又夏 | 2023-05-02
  • 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露 賁芳蕤 | 2023-05-02
  • 等比例长大的童星,李兰迪算一个 等比例长大的童星,李兰迪算一个 郟君昊 | 2023-05-02
  • 高端国产车:军车血统,目前电动车越野的“天花板”? 高端国产车:军车血统,目前电动车越野的“天花 謝飛揚 | 2023-05-02
  • 《云襄传》终于抬上来啦,男O女A让人好上头! 《云襄传》终于抬上来啦,男O女A让人好上头! 集玲琳 | 2023-05-02
  • 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 这些被抓来做实验的流浪狗,最终拯救了无数糖 集玲琳 | 2023-05-02
  • 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 21家A股游戏公司2022年收入651亿 今年“游 衛青柏 | 2023-05-04
  • 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15 寸飛蘭 | 2023-05-05
  • 普京签署总统令,批准对俄刑法典相关法条的修正案 普京签署总统令,批准对俄刑法典相关法条的修 集玲琳 | 2023-05-02
  • 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 信用风险释放趋缓,结构性风险需重点关注 — 袁曼雁 | 2023-05-02
  • 中银证券给予南京银行增持评级 中银证券给予南京银行增持评级 袁曼雁 | 2023-05-03
  • 解除资格!停止一切合作 解除资格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 联想小新mini主机上架 13代酷睿标压处理器 3699起 联想小新mini主机上架 13代酷睿标压 習又夏 | 2023-05-05
  • 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 前董事长被免,天山生物全面进入“中植系”时 惠惠君 | 2023-05-02
  • 疯成这样,怎么还能被全网吹捧? 疯成这样,怎么还能被全网吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收购美国第一共和银行 摩根大通收购美国第一共和银行 謝飛揚 | 2023-05-02
  • 台剧赢麻了,又来一部8.9 台剧赢麻了,又来一部8.9 衛青柏 | 2023-05-02
  • 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 事关农村土地承包和农民权益,《农村土地承包 郟君昊 | 2023-05-02
  • 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 下降45分,上涨35分!34所自划线院校复试分数线 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好这件事是关键 "三高"已盯上青少年,做好这件事是关键 習又夏 | 2023-05-05
  • 五一档没一个能打的 五一档没一个能打的 集玲琳 | 2023-05-05
  • 恐怖韩剧下神坛,这次胆小可入 恐怖韩剧下神坛,这次胆小可入 袁曼雁 | 2023-05-05
  • 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 200户连夜疏散,原因让人愤怒!“损失超一亿”, 袁曼雁 | 2023-05-03
  • 这剧是不是用ChatGPT写的呀? 这剧是不是用ChatGPT写的呀? 惠惠君 | 2023-05-02
  • 性骚扰惯犯,滚出娱乐圈 性骚扰惯犯,滚出娱乐圈 謝飛揚 | 2023-05-05
  • 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的 佼昌翰 | 2023-05-02
  • 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 一个《长月烬明》倒了,《狐妖》《长相思》《 惠惠君 | 2023-05-02
  • 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 张天爱假期晒“酷”存照 卷发披肩穿黑色吊 嬴覓晴 | 2023-05-02
  • 当年轻人开始不随份子钱 当年轻人开始不随份子钱 袁曼雁 | 2023-05-02
  • 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 毕滢用8年时间成功逼宫?曾被传已婚生子的她, 幸聽楓 | 2023-05-03
  • 宋慧乔获视后首次晒照,拿奖杯笑容温柔 宋慧乔获视后首次晒照,拿奖杯笑容温柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們