时代呼唤AI伦理

何京

　　时代呼唤AI伦理

--松山湖畔随想

新年伊始，就应邀前往深圳华为公司参观考察。

华为已去过好几次。到松山湖基地是第三次。徜徉在清澈的湖边，看绿草如菌，看掩映在高树繁花中幢幢欧式的楼宇，透出高贵气息。红色小火车轻快的从身边驶过，人鸟不惊，浪漫而惬意。

　　园区里随处可见的古希腊神话雕塑，寓意深刻。其优质大理石材质和精湛工艺，中国没有第二个地方如此用心。华为艺术中心对美术作品的收藏，独具眼光，所费不菲；华为图书馆汇集的人类知识精华典籍，包罗万象。华为对艺术的酷爱是发自灵魂深处的。

我对同行的伙伴说，这里大概是任正非先生的理想国。也许他的人生梦想，展开来，就是这样。我们也曾有梦想，而差别在于我们没有力量在现实中看见。

当然，差别远远不止于此。这些绮丽景致，仅是华为的一杯能量咖啡。真正的差别，深藏在那一幢幢楼宇里边。那里深不可测，那才是华为的精华所在、力量所在、信念所在、理想所在。

在华为工程师的带领下，我们走进了一些楼宇。看了他们凝神苦思的成果的一部分，有普朗克展厅、方舟壹号空间智能开放实验室等等。许多地方不能拍照，参观和讲解是令人炫目而费解的，也是激动人心的。仅从投射在屏幕上和一些内容板块的简洁文字，就感受到华为的格局和抱负：“让云无所不在，让智能无所不及，共建智能世界云底座”。“把数字世界带入每个人，每个家庭，每个组织，构建万物互联的智能世界”。过眼的东西还很多，记不住更参不透。但我们知道，华为距离那个程控交换机制造商、通讯基站制造商和通讯终端制造商，已经走得更远更远，成为未来智慧世界的构建者。

　　参观结束，我们与华为精英团队进行了交流座谈。他们介绍了一些成果现在和未来的运用场景。我们的考察团队里有提出需求的企业负责人。我则把话题荡开，从另一个维度谈观感。

　　我对华为的精英们说，今天参观的感受是，人类从野蛮时代、农耕时代、工业时代到信息时代，走到今天， 来到一条分界线。分界线的这边是我们，而那边，是你们。蓦然把我放到你们那边，就如同今天所参观的一些未来生活场景里，活了几十年的我，不知该怎样生活了。我想表达的就是，AI时代对人类的影响，是颠覆性的，划时代的。是人类的一小部分人对大部分人生活的颠覆。而华为属于那小部分人中的一部分。

我进而说到，今天看到的成果，主要是诉诸人的感官需求，解决人的生活便利和生命照护的需要。未来的华为，能否更加关切人的精神需要，在更深的深度，解决人类社会所面临的问题。

　　我所指的人类精神层面的需要，不是指用AI写首爱情诗，或写评职称的长篇论文。而是指人生哲学和道德伦理的重建。这些问题我并没有指望华为工程师们给予回应。因为任正非先生恪守企业家精神的伟大之处，就在于他从不展开自己的政治理想，并约束整个华为遵循企业的行为边界。

但是，AI时代的到来，这些问题确实已经来到人类的面前。人类社会能够成为今天的样式，原因之一，是因为无数伟大的先哲建构了宏大的哲学体系、伦理体系和宗教体系。这些精神体系产生于农耕社会和工业社会的土壤。现在AI的划时代改变，必将消解以往一切思想建构的圣神性。如果没有建构起新的AI社会伦理，那么人类命运的走向是福是祸？还是是福祸双至？

我们从特朗普和马斯克对AI时代观念的差别，就可以感知这种差别的福祸双重性。 特朗普更倾向于利用AI为美国的科技领先和经济发展服务，致力于推动大规模的AI基础设施建设来提升美国竞争力。他更在意如何利用AI使美国在国际竞争中占据优势，增强美国由领先的AI带来对全球的经济和科技影响。他对于AI可能带来的道德、伦理等风险关注相对较少，没有明显表达过对AI失控风险的担忧。而马斯克做为业界的领军者，却更多的注重开发对人类有益的AI。他表达了对AI发展失去控制会对人类构成威胁的深切担忧，他甚至将AI视为对人类最大的潜在威胁之一，担心AI超级智能可能超越人类智慧，如果没有适当的控制措施和紧急关停机制，会给人类带来重大伤害，所以他强调AI安全和伦理问题的重要性。希望AI的能力和发展方向始终处于人类可掌控的范围内。

特朗普AI发展相对激进的观点是可以理解的。仅从中国经济发展的历程看，也可以印证AI时代会将不同国家带到未来发展的重要机遇窗口。中国当下的经济萎靡和发展迷茫，最深刻的原因在于三十年来推动社会高速发展的支柱产业增长模式走到了尽头。中国人均住房面积超过世界很多发达国家的人均面积，以及人口进入负增长的历史性转变，宣告房地产业已经再也不可能荣光再现。由于相当一段历史时期内，不会再有过去时代那样规模化的潮流性产品消费需求产生，传统制造业的增长模式也已经终结。以产品出口为导向的产能世界性扩张，已经引起世界许多国家的过度警觉。未来的出口业务必然充满磕磕碰碰，外贸依存的不确定性大幅增加。我们就是在这样的历史关头，迎来AI时代。这的确是深刻调整产业结构的历史机遇期。

但这次深刻调整与以往的任何一次调整不同，它带有深刻的颠覆性。它不仅将改变人们的生产方式和生活方式，还将改变人们的学习方式和思维方式，具有重塑人类社会形态的力量。在未来的改变中，很多传统职业会消失，调整带来的震荡会波及很多人，改变很多人生存方式和命运。

人类将告别在其中生活了几千年的旧时代，逐渐进入AI新时代。但新时代社会治理的规则还在摸索期。人工智能的芯片、算力和架构的提升速度太快。使不久前还激动人心的技术成就，不久后就恍如隔世。社会治理规则只能在技术进步带来的新局面之后跌跌撞撞的不断摸索。其理论探索和建设滞后，给人带来对新时代的不适应。比如传统时代里的人权边界在AI时代里变得模糊。如果你只守住自己在传统社会的人权边界，那么在经过数字化扩展的现实空间和虚拟空间叠加的生活空间里，你的人权边界就缩小了。传统的伦理规范难以带入新的时代，AI时代的伦理规则的讨论和建立，很多普通人无法参与，甚至无法理解。但每一个人的全部行为又被一些组织或集团数字化采集、归类、分析、利用，从而被塑造。比如我们每个人的生活轨迹，文化水平，兴趣爱好，收入水平，消费习惯，价值取向等等都会被微信、百度、淘宝、携程等行业头部企业收集并画像，塑造为数字人，成为一个消费推送原点。现在西方社会所讨论的AI民主，实际上也仅仅是少部分AI贵族之间的民主。少数人可以用大数据工具，在密室里洞悉世界，制定规则，掌控一切，甚至可以生成改变世界的力量。当前世界图景下的AI发展，正是在炮火横飞中一路狂奔。如果没有新的伦理约束，有人任性的运用这种超能力的时候，人类的确会面临被自己的创造物反噬的巨大危险。人类作为灵性生物，需要思想大于工具，而不是工具大于思想。

我之所以在松山湖畔，向华为工程师们提出了不指望现场得到回应的问题，是因为能对这些问题给予最终的回答和提出解决方案的人，只能产生在他们那样的人群里。新时代使旧时代的社会精英们产生了无力感。不掌握AI时代底层逻辑的人，没法思考AI时代的哲学和伦理。