今天小编分享的科技经验:ChatGPT和AlphaGo下围棋,谁赢?,欢迎阅读。
上一篇提到最终大模型的格局很可能是有一个偏通用大模型,比如 ChatGPT,它会颠覆现有信息集散的基本格局,同时还会有很多面对垂網域的大模型,每一个都会像是一个个成功了的沃森(《AI 大模型没有商业模式?》)。但没说为什么这么认为,这篇就来讲讲这个问题。回答这个问题首先要回到一个类似关公战秦琼的问题:ChatGPT 如果去下围棋能干得过 AlphaGo 么?
ChatGPT 和 AlphaGo 下围棋,谁赢?
估计没人会不同意人工智能行业十几年来让人印象最深的两个标志性事件是:2016 年 AlphaGo 战败李世石、柯洁和 2022 年 ChatGPT 展现通用智能能力。
而很有趣的事情在于,这两次突破正好一个对应于垂直领網域(AlphaGo),一个对应相对通用的领網域(ChatGPT)。
从训练方式上看,AlphaGo 做到了自己就是数据源,这意味着经常说的数据飞轮效应,对于 AlphaGo 而言在后期变成内置的了。更新到后面的版本(AlphaGo Zero)的时候已经不再使用人类的棋谱,而是自己和自己玩,然后结果非常可怕,大概下面这样:
21 天,AlphaGo Zero 通过自己对战自己达到战败自己哥哥 AlphaGo Master 的水平。典型的人工智能自己驱动数据飞轮,谁也不靠。
这对判断谁赢有什么帮助呢?其实这非常关键。
判断谁赢,纯靠技术是不行的,因为过去十年最大的经验就是如果从技术角度对未知领網域进行判断,那谁也判断不准。所以我们得换种模式。
AlphaGo 相当于把一个边界足够清楚的事走到顶了,经历了一个人工智能到顶的全过程。所以我们从中可以总结出一个人工智能到顶的关键阶段:
这三个阶段是:现有全量数据阶段—自我数据生成阶段 - —启动数据→智能飞轮,领網域高点。
在现有全量数据阶段 AlphaGo 在学习人类的棋谱,在战败李世石后,它就进入自我数据生成阶段,然后数据→智能飞轮启动阶段。
这是一种递进的关系,全量数据意味着对场景描述已经比较充分,人工智能可以比人干得好。只有过了这个阶段,它才可能自己产生有价值的数据,而一旦它可以自己产生有价值的数据,那后续的进化就会非常快。
但形成这种数据的闭环并不容易,领網域越宽越难。
如果目标是处理真实世界的所有问题,那就得有一个能穷尽世界各种变量的元宇宙才行。这就是做垂直领網域最核心的优势,只要选得比较好,那就有可能更快到达类似 "AlphaGo" 的围棋之神的境界。
回到我们最初的问题:即使没下过,GPT-4 论下围棋也肯定不如 AlphaGo,AlphaGo 已经通过数据飞轮达到领網域高点,GPT-4 相当于刚会下,大致等于专业拳击手对战小朋友。
这个结论其实非常关键,这既能回答垂直领網域大模型是否能够存在,还能回答垂直领網域大模型的基础战略到底应该是什么样的。
但要想真的做垂直领網域大模型,还需要考虑的问题是解决垂直领網域问题除了大模型还需要什么,大模型到底在其中占多少权重。是大模型往那儿一摆,垂直领網域的问题就解决了么?还是说会有更关键的决定性因素?
大模型在 " 沃森 " 类系统中的权重
郭士纳之后,IBM 好像彻底变成了个只会赚钱的公司,创新的业务比如 IBM Watson,总是给我们一些负面的消息。但这个时候不能忽视的恰恰是它,因为它落过地,也许技术不行,但对场景的总结和描述一定就是大模型也需要解决的问题。
成功的案例可能会更耀眼,但失败的案例往往可以让我们学到更多。(考虑 ChatGPT 到 2022 年底才出来,我们实在也找不到更好的成功的案例。)
沃森的产品架构大概这样:
现在代表 Watson 那个球完全可以替换成大模型,然后你就会发现其它的部分未来再做落地的时候一个都少不了,还可能需要增加。
我们来简单翻译下上图的各种输入,沃森作为一个辅助诊疗的系统,它第一个需要的是关于病人当前症状的数据,比如 X 光等。而病人的数据有可能是不完整的,所以它可能会主动激发一些问题,让病人进行回答,让它能够形成判断,最后病人的基因数据也需要作为一个关键数据提供给它。
除了病人的数据外,它还需要具备这个领網域相关的知识,比如哪些诊疗方法是不被允许的,过往类似的病情都是如何处理的以及新药等。这就是上图右侧的部分。
这个表述比较形象,但会有点杂乱,不利于推测后续垂直领網域大模型的关键点,所以我们换个视角对此进行再分类,这就可以更清晰看到垂網域大模型所对应的系统构成。
需要最终面对对象(也就是患者)的全量数据。全量数据包括:当前这个时间点的数据(当前病症)、历史数据(病例)、基础特质(基因)。这其中当前数据有可能需要在时间和空间上都进行展开,时间上的展开,比如 24 小时心电图,空间的展开,比如传染病的时候你的行动轨迹等。这代表了对象的充分数字化。
垂直網域的大模型自身必须是一个活的专家。也就是说它的领網域知识不止要全量还要是活的,所以不管是行业规则还是最新研究成果都要形成有机的联动。这里面规则可能更关键,因为它需要立刻生效。
这两部分数据的获取会导致所有 AIoT 的相关部分全需要被挪过来,你需要大规模管理设备(对接医疗设备等),需要云原生,需要数据库,需要内容审核和对接等。大模型相当于在原来的基础上强化了腦袋,并不是把一切推翻重来。
在这个过程中,大模型提供了构建有价值的认知类系统的机会,但在最终成型的认知系统中远不是全部,从创造价值所占的权重的角度看也许只有 30%。这看似有点矛盾,但可以拿移动互联网做类比,没有 Android 和 iOS 就没有移动互联网,但如果把移动互联网看成一个整体,从创造价值的角度看,他们的权重也许就不到 1%。
这是从沃森这样系统中可以直接看到或者联想到的部分。
那数据飞轮在哪儿呢?答案是一时半会这类系统不会有数据飞轮。
人以及病例毕竟不是棋谱,可以人工智能自动生成。按照 " 现有全量数据阶段—自我数据生成阶段—数据→智能飞轮,领網域智能高点 " 的阶段划分,这好像完全到不了自我数据生成阶段,因为在漫长的时间里人是不能充分量化的,新的创造也是会实时发生的。也就是说沃森这种系统会长期处在第一个阶段。
这也帮我们引出垂直领網域大模型相关的第三个话题:不是所有垂網域都有数据飞轮效应。万物皆数的程度和数据飞轮效应正相关。
万物皆数与数据飞轮
像围棋这种领網域数字化的成本极低,因为本质上这是一个数字空间的游戏。纯粹数字空间的事其实不多,虽然过去都产生比较大的影响,比如搜索、社交网络、IM 等。
到电商和 O2O 的时候数字化的成本就变关键了,必须有一个简单的方法能够让物理的商品或者外卖小哥能充分数字化,然后才能获得数字和算法所带来的红利。
大模型的作用網域和后者类似,都是需要走出纯粹的数字空间。
这样一来万物皆数反倒是更关键了。就像没有米饭做得再好也没意义一样。当大模型离开了纯粹的数字空间(ChatGPT 在这里)一样要走过 O2O 的历程,否则你就没法解决现实问题。在这里感知和认知需要无缝的融合。
这是完全不一样的游戏规则,这个环节最关键的反倒是传感器,传感器的小尺寸和成本大幅下降,让物理世界的数字化成为可能。但它的部署很麻烦,每一个场景的数字化的成本估计和大模型的研发是类似的。同时他们俩又是双生的。
这类场景确实还会进一步细分,一部分更贴近数据飞轮效应,一部分则相去甚远。比如同样牵涉人,但教育应该就比医疗更好做,税务就比战争好做。
所以大模型落地的顺序大致会是:纯粹的数字领網域,比较低成本可以做到万物皆数的领網域,高成本但还是可以做到万物皆数的领網域。
下面这个是纯粹猜测,数据→智能飞轮,领網域智能高点这个阶段里可能算力需求会下降。这只是一个观察,非技术性的结论。
计算成本的考量
在能力增加的时候,AlphaGo 所需的算力是下降的:
显然 GPT 还在继续放大的路上。从最新透漏出来的消息看,GPT-4 在 120 层中总共包含了 1.8 万亿参数,而 GPT-3 只有约 1750 亿个参数。按照这趋势 GPT-5 不太可能变小。
这也许是因为问题網域太大,而限定边界的话就可能可以更早的进入优化阶段。AI 未必不能优化自己。
相信什么样的回答就有什么样的选择
上面说了很多观点,每个判断和选择都影响未来几年大模型的真正走势。
关键是这只是看着能行,没人能给出准确判断。这就变成了一个是否相信的问题。相信什么就有什么样的选择,而什么样的选择就会有什么样的结果。我们来对此做个简单总结:
相信通用大模型不能覆盖垂網域大模型么?
相信这种三段划分么?现有全量数据阶段—自我数据生成阶段→数据飞轮,领網域智能高点。
相信最终价值链条中大模型只创造 30% 么?
相信万物皆数的成本和大模型本身其实一样关键么?
这些节点上的判断非常关键,会影响资源的投入。
OpenAI 首席科学家说得对:" 你先要选对,然后你的信念就是结果。"
小结
从做事的角度看,纯粹数字空间的大模型对绝大多数人而言机会几乎为 0,垂直领網域大模型早期会加大亏损,但增加最终商业模式跑通的可能性。短期一定会出很多垂網域大模型,因为下围棋的话 ChatGPT 总是干不过 AlphaGo。长线看通用大模型和垂網域大模型的竞争会一直都在,但如果通用大模型真的覆盖每一个 AlphaGo 这样的领網域,那意味着什么呢?