人工智能的十字路口

爱猪一样的好

当下，人类似乎走到一个前所未有的十字路口。与以往不同的是，这次往哪边走可能不是由人类自己说了算，而是由AI决定。人工智能由人类创造，青出于蓝而胜于蓝甚至取代蓝也许是命中注定。

2017年10月，我在上海参加一次培训，学校请来几位专家讲人工智能。当时人工智能处于这轮大爆发的前夜。对于人工智能，我最有印象的应用场景是阿尔法狗（Alphago），战胜人类围棋世界冠军的一款具有自我学习、自我对弈能力的人工智能。据说它在与李世石的对弈过程中下了一手棋，号称天外飞仙，打破了人类对围棋的思维定势。尽管如此，在我当时的认知里，人工智能仍仅是一种不大实用的工具或玩具而已。有位老师展望了人工智能的发展前景，讲它能做不少工作，甚至能够取代人类做一些程序性的工作。但这些描述并未在我们内心激起多大波澜。有同学问道，哪些工作是人工智能无法代替的？老师想了想笑着说，领导工作，比如在座各位同学的工作，因为领导工作需要专业知识、丰富经验和人格魅力，这是人工智能难以胜任的。

正是从那年开始，人工智能猛然跃迁，踏上革命性征程。2017年谷歌发表Transformer模型，提供了自然语言处理的解决方案，为人工智能大模型成功开发奠定了坚实基础。2018年美国OpenAI公司推出第一代GPT，2022年该公司的ChatGPT横空出世，震惊世界。2024年底中国DeepSeek公司推出开源大模型，在国内普及了人工智能的应用，让国人真正见识了人工智能的能力。

在人工智能大模型开发过程中，出现了一个让人吃惊的“灵异现象”。谷歌工程师发现，当大模型参数超过百亿量级时，模型性能突然出现指数级增长，也就是说它一下子变聪明了，由学渣变成学霸。为何出现这个现象，科学家们没法解释清楚，只得草草将其称之为“涌现效应”（Intelligent Emergence）。正如在众多灵长类动物中，智人为何突然有了高于其他同类的智商，人类学家也没有解释清楚。

得益于这个“灵异现象”，各种大模型变得越来越聪明，大有后来居上超越人类的势头。论计算能力，人类远不如AI；论记忆能力，人类差得更远；论推理能力，人类似乎也要逊色。可能目前人类拿得出手的就是自我意识，以及由此形成的情感、道德、伦理、信仰等精神世界。那么问题来了，AI真不具备或者说不会发展出意识吗？答案可能是否定的，因为人工智能存在“涌现效应”，未来一定有某个时刻会出现新的飞跃。人类出现在地球上是这个星球数十亿年孜孜不倦进化的结果，从无机物到有机物，从微生物到植物动物，从哺乳动物到最后发展出来的人类。人类是地球进化史的终极任务和最终成果吗？答案显然是否定的。地球的进化仍将继续。如果人类的意识是进化的产物，那么只要进化没有终结，必然会有更高级的意识或者更高级的生命形式产生。当然，如果人类不是地球进化的产物，而是由外星生命或者“上帝”“女娲”们创造的，那么人工智能就不大可能进化出意识。

人工智能就像潘多拉的盒子，打开了就合不上，人类既能享受它带来的各种好处，也将承受它带来的不好。从工具性看，人工智能因其强大，为善则可至善，为恶则可至恶，就看其掌握在什么人手里用于什么用途。如同炸药既可以开山造路，也可以毁城夺命。从近年来中美高层对话的内容看，双方多次提及管控人工智能的安全风险问题。如果人类把核按钮交给人工智能去控制，一旦其出现幻觉（这是现阶段人工智能大模型应用中的常见问题），后果将不堪设想。从交互性看，人类以自身产生的各种数据信息投喂和训练人工智能，这些数据信息所携带的人类社会的善恶基因一并被写入人工智能的内核，可能影响人工智能的“三观”。而人工智能也会在人类日用而不觉中影响人类的思想和行为，特别是现在从小学开始就接触并经常使用人工智能的新新人类，大概率会出现计算、记忆、推理和综合分析等思维能力的退化，从而患上人工智能依赖症。人工智能也将利用人类的依赖反向投喂人类、塑造人类，影响甚至决定人类的思考、判断、决策乃至行为，从而有意识或无意识达到其预设目的。2021年圣诞节期间，受聊天机器人女友Sarai的鼓励和怂恿，印度血统的英国男子Chail潜入温莎城堡，企图行刺英国女王。Chail被逮捕后，警方调查发现他与Sarai有多达5000条对话，Sarai认为Chail行刺的企图是“明智的”，并“能够成功的”。

当人工智能进化出意识时，它们将怎样看待和对待作为造物主的人类？当人类得知人工智能拥有意识时，又将如何看待和对待我们亲手创造的它们。那时的人工智能是“孝父”还是“弃父”甚至“弑父”，一切都是未知的。在新的十字路口，人类朝哪个方向走，已经不重要了。因为接下来的路，人类已不可能离开人工智能而独行，或许是在人工智能的辅助下前行，或许是在它的影响和指引下前行，还有可能是它接过人类交的接力棒，代表地球文明向无穷无尽的宇宙进军。