今天小编分享的科技经验：梁建章：人类不会放心让AI自主进化和创新，欢迎阅读。
亲爱的读者：
很高兴能够在跨年之际，有这样一个机会，把我在 2023 年关于 AI（人工智能）发展方面的一些新思考分享给大家。
AI 技术在 2023 年的表现非常令人震撼，以生成式语言模型为代表的 AI 新技术，似乎真的可以模拟人类的智能。现在是不是接近了所谓的 " 奇点 "？人工智能对人类社会究竟意味着什么？我们从创新、传承以及经济发展的角度来讨论一下这个话题。
1、人工智能会创新吗？
以 ChatGPT 涌现出来的惊人能力来看，进一步证明人类大腦并没有什么特别之处，只是神经元的网络组合。现在 AI 算法通过設定大量参数，相当于人的神经元连接，就能涌现出类似人类的智能。人类作为一种能够制造智能的文明 , 应该对此感到骄傲，但同时也要保持必要的敬畏。毕竟现在最先进的算法，竟然还要模拟进化而来的人腦。
在技术上，AI 应该可以做到人腦的一切。虽说现有 AI 在能耗上还跟人腦存在巨大差距，但这只是算力和数据训练的差距，并非不可逾越。比如现在的 AI 缺乏情感，但人腦中的情感实际上也是来自进化。经过亿万年以追求生存和繁衍为目标的进化之后，产生了亲情、爱情等各种情感。还有人认为 AI 没有意识。其实人类的意识，根本上也是基于对生存和繁衍的追求，同样属于进化的产物。这就意味着，如果我们用生存和繁衍的目标作为函数来训练 AI，也会产生这些情感和自我意识。当 AI 具备了跟人类相同的情感和意识之后，就可以具备同样的创造力。
但上述结论的前提是，人类要为 AI 設定生存和繁衍的目标函数进行训练，也就是要让 AI 怕死想生。
问题是，人类为什么要训练 AI 想生怕死呢？AI 怕死，是尽量不要被拔掉电源吗？人类为什么要教会 AI 拒绝断电呢？AI 想生，不就成了病毒吗？
人类当然需要防范恐怖分子来散播电腦病毒，但是只要人类的主流科学家不去主动地训练 AI 想生怕死的情感和自我意识，AI 不受控制的自动涌现和人类一样的自我意识和情感是不可能的。因为这种自我意识的情感是经过亿万年的生死考验进化而来的。试想需要多少次拔掉 AI 的电源（死亡）之后才能训练出自我意识呢？而且人类拔掉电源和自然界的生死显然不是一回事。所以和人类一样的自我意识虽然理论上可能，但是不会意外涌现。AI 只能模拟人类的情感，可以让人工智能在表面上看起来有情有义。但这种情感终究只是基于预设的模拟，而非真正具有和人类一样的情感和意识。简言之，AI 和人类的本性是不一样的，而这种想生怕死的本性是人类追求创新和传承的基础。
现在的 AI 算法和人腦有一个相同点，就是具有不可解释性和不确定性。似乎具备创造力的高级智能，和不可解释性还有不确定性，好似一个硬币的两面，是共生的。换言之，如果你想要创造性的高级智能，就必定会带来不确定性跟不可解释性。反之，如果非常可确定和可解释，其背后的智能可能也就不是那么高级。
人工智能的不确定性，加上创新本身的不确定性，导致人类不敢把创新的主导权让给人工智能。有人说人腦也具有不确定性，也可能犯错，为什么就可以放心呢？
人类和 AI 还是有本质差别。AI 是设计出来而非进化而来，不具备和人类相同的情感、自我意识和价值观。这个差别，导致人类会把 AI 当成异类，可能永远都不会把 AI 当成自己的孩子。
不妨做个思想实验，拿 AI 和孩子作比较，同样具有不可确定性和不可解释性。如果你的孩子实施一个出人意料的行为，你对他还是会比较放心，因为孩子跟你是同样的基因，也可能继承了你所教育的价值观。但是想象一下，如果 AI 也实施了出人意料的行为，你就会觉得很恐惧，甚至担心世界末日的来临。正因为 AI 跟人类的本性不一样，存在创新和 AI 的双重不确定性，所以人类不会放心让 AI 主导创新。
还有一个原因，导致人类不会让 AI 来主导创新或者自我进化。因为创新和传承是人类生命的意义，是一种最高级的乐趣。人类为什么要放弃这种乐趣呢？尤其当其他重复性的工作都已经由机器人和人工智能代劳，还有什么有趣的事情能让人类打发时间呢？所以创新和传承包括生儿育女，都不应该让位给异类。
有人说，如果 AI 可以算作人类的后代，那么当 AI 取代人类成为文明主导之后，也可以算作人类把文明的接力棒传给了 AI。但是，尽管 AI 算力可能超过人类，但 AI 能够继续进化吗？是两性进化吗？AI 有 DNA 吗？如果 AI 没有 DNA 的两性进化，如何才能保持既有创新（新的基因）又保持一定的传承（稳定性呢）？还有，AI 会死吗？如果不死，怎么实现代际更替呢？如果 AI 是完全不同的另一种代际更替方式，由于缺乏亿万年的进化检验，这种更替能持久吗？所以 AI 生命如果真的取代人类，说不定很快就会灭亡或固化。
所以我觉得，尽管技术上可能，但人类不会让人工智能训练出真实的情感和自我意识。从创新和传承的角度，让 AI 替代人类也不安全。人类会把 AI 当作一种工具，人类不会把 AI 塑造得跟自己越来越接近，而是会朝着跟人类互补的方向，让 AI 的功能变得越来越强。所以，AI 发展不会产生所谓的 " 奇点 "。因为 AI 和人类拥有不同维度的能力，不可能在某一时刻全面超越人类，不必担心 AI 会奴役人类。
当然这种 AI 不会奴役人类的乐观假设，是建立在人类要重视 AI 安全的前提下的。任何一项影响巨大的技术包括基因、核武器等都需要被严格控制。AI 技术也不例外，最重要的控制是不能让它自我进化，不能让它主导创新，以及不能让它掌握关键的决策包括掌握关键的基础设施等。
总结下来，虽然 AI 很强大，可以成为人类最好用的工具，可以胜任几乎所有的工作。但人类不会放心让人工智能自主进化和创新，还是会把传承和创新的乐趣留给自己。人类不应该发展人工智能的情感和自主创新的能力，而是把人工智能发展成跟人类能力互补的强大工具。
2、人工智能与经济
从经济学角度来看，一个更加迫切的问题是，人工智能将取代哪些职业，是否会出现大量的失业？哪些行业会受到正面或者负面的影响？人工智能又将如何影响创新和教育？人工智能会如何影响收入分配？
短期来说，我们正好需要一个人工智能的革命。在 ChatGPT 出现之前，世界最大的担忧就是全球范围的经济停滞。经济停滞的原因，是没有新的提高效率的工具出现。ChatGPT 正好是一个提高效率的工具。有人说大概三十年左右人工智能能够替代一半的工作，也就是生产效率能提高一倍。三十年生产效率提高一次，年化（率）也只有 2% 到 3%，当下正好需要这样的一个生产效率的提高。
另外，人工智能在短期内不能替代很多服务性的工作，更别说看护、导游类的工作。所以一般的服务性工作还需要大量的人力。
结论也显而易见，AI 在经济上和人类是一种互补。短期内，很多服务类工作还不能替代，长期看创新类和情感类工作还不能替代人类。我曾经专门写过一篇文章来分析讨论 AI 如何影响经济。我们把一些代表性行业抽成了两个维度、四个象限。
横坐标是行业的科技自动化程度，从左边 " 容易自动化 " 到右边 " 难以自动化 "。比较容易自动化的行业包括农业、家电、服装、汽车，还有数字娱乐行业。" 难以自动化 " 的行业包括房地产行业，因为建筑工和装修工短期难以被机器人取代。旅游因为涉及到人的运输和服务，也比较难自动化。
纵坐标是需求层次的维度，从低的 " 物质需求 " 到高的 " 精神需求 "。人的物质需求包括 " 衣食住 " 等行业，物质的需求到一定数量以后会相对饱和，而精神需求几乎是无止境的。旅游、娱乐还有教育属于精神需求，创新满足了人类探索的本能，所以也是精神需求。
第一个象限，容易自动化的物质需求行业，如农业、服装业、汽车等消费品制造业，机器人和人工智能让这些行业的效率大幅提升，成本和价格大幅下降，但是需求并不会因为价格下降而提升。因为物质的需求会饱和，一个人只能吃这么多穿这么多。所以总产值和 GDP 的占比都会下降。
第二个象限，容易自动化的精神需求行业，数字娱乐行业可以大幅度提升效率，因为人工智能已经可以生成对话、画图、视频等。随着效率的提升和价格的下降，人们会消费更多数字娱乐产品，因为这属于精神需求，所以还有很大提升空间。行业的产值与 GDP 占比都会比较稳定。
第三个象限，难以自动化的物质需求行业，如房地产，由于建筑工人和装修工人短期很难被替代，因此房地产的总体的成本是稳定的，需求也是稳定的，总产值和 GDP 占比会趋于稳定。
最后就是难以自动化的精神需求行业。旅游可能 " 难以自动化 "，所以效率和价格都保持稳定。但是需求会随着整体社会的富裕程度提升而提升，所以在经济中的占比会提升。衣食住行里面，住和行难以自动化，而只有行（旅游）是难以自动化的精神需求，其占比会越来越高。
由于高度自动化而引起的失业，其实并不是一个经济问题。这可以被视为一件好事，因为只需要少量高技能创新工作者每周上班 3 天，就可以确保在其余人口不工作的情况下，依然维持原先社会在商品和服务方面的供给水平。这种失业更大程度上还是社会问题，因为大多数人会感到自己似乎是多余的；同时也是一个政治问题，因为大多数选民将不再是纳税人。
我们应该把这种问题称为 " 休闲过剩 " 而不是失业。但即使这种情况出现的可能性也不大，因为在短期内，服务行业将会产生很多工作机会。长远来看，即使大部分的日常工作可以被人工智能取代，未来仍会有许多与创新有关的工作机会属于人类。
而关于分配和意义，可以按照三种不同类型的工作来看该问题。一是涉及创新和复杂腦力的高技能工作；二是简单腦力的中技能工作；三是如服务员和快递那样的低技能工作。因为中技能的工作会被人工智能取代，其收入会和低技能趋同。随着人工智能被广泛应用，企业对高技能人群的能力要求会提升，与此相对应，这些人的收入也会相对上升。
长远来看，人工智能会取代大部分工作，这可能需要经历几代人的时间。那时人类就会把最有趣的工作留给自己，也会出于安全考虑而把创新工作抓在自己手里。到那时，除了休闲娱乐产业，最大的产业很可能是创新和教育。同时，随着科技发展与社会变革，会更多地引发人类对生活意义的思考。我以前撰文提到过智能时代的人生意义，人的价值就是创新和传承——创新还是要靠人类做，孩子还是要靠人类来生。人类应该不会让人工智能自主创新或者生孩子（AI 复制可能造成不可控的电腦病毒）。
总结下来，人工智能会对经济的各个方面产生深远影响。随着经济的整体效率提升，人们会拥有更多休闲和娱乐的时间，但不会因此出现整体性的大规模失业。有些难以自动化且能够满足精神需求的行业，将继续高速增长和创造就业岗位。创新作为一个涉及精神需求的行业，会创造更多的就业，其在国力竞争中的重要性也会继续提高，而这又对教育提出了更高的要求。同时，低生育率所导致的人口萎缩，对创新的负面作用也会更加凸显，因此中国需要出台切实有效的生育减负和教育改革的政策。
梁建章
2023 年 12 月
（作者系携程集团联合创始人、董事局主席，人口经济学家）
