<p class="ql-block">【每日遐想993 岳建国/文】</p><p class="ql-block"><br></p><p class="ql-block"> 被称为“全球AI领域标志性人物”的美国科学家山姆·奥特曼，刚刚抛出了足以改写人类命运的五个时间点，最后一个，谈的是“人类与超级智能的关系”这个最重要的问题。他说: “未来的超级智能或许会像人类看蚂蚁一样看我们，所以我认为要在AI的心里植入母爱，让机器学会温柔，让智能保有人性。”</p><p class="ql-block"><br></p><p class="ql-block"> 这句话有两个意思，一是表明他对人工智飞速发展的担心和恐惧；二是他已经开始采取行动对人工智能的隐患进行干预。</p><p class="ql-block"><br></p><p class="ql-block"> 前不久我在《“人性”是预防人工智能失控的最后堡垒》（【每日遐想985】）一文中说，“只要人类肉身升华出的人性这个堡垒坚不可摧，人工智能就无法真正超越和控制人类，而人类要制造出“人工人性”，从现在看根本不可能。”没有想到，山姆这么快就开始模仿和制作人性了——他要把人性中的母爱制作成软件植入人工智能，让它拥有温柔的性格，让它在为人类造福的同时，不会因为脾气粗暴冷酷而无意或恶意反噬人类。</p><p class="ql-block"><br></p><p class="ql-block"> 山姆-奥特曼的动机是好的，人类的人性总体上说是向善的（否则人类社会就不能创造文明，就不会成为地球上繁殖最快最聪明的动物），人工智能如果也拥有人性，它也就有了向善的“本性”，它就不存在祸害人类的隐患了。</p><p class="ql-block"><br></p><p class="ql-block"> 但是，人性是复杂的，不只拥有母爱这一个特性，人性中也存在不可以全部铲除的恶的一面，因为“物极必反”，人类如果无限度的温柔善良，并不能都引发好的效应，比如会让“农夫和蛇”的悲剧重演，还会遭到泛滥的大型食肉动物的攻击。如何让母爱和必要的恶按照最正确的比例去存在，这个问题估计就会让山姆望而生畏，何况人性中还有好奇、自由、冒险、尊严和荣誉感以及嫉妒、敛财、好色等等，它们之间的互动和对立千纠万缠，错综复杂，而目前人类对人性的揭示和认知还很肤浅，人类目前根本无法对其模仿和复制。</p><p class="ql-block"><br></p><p class="ql-block"> 那么，人类是否总有一天会攻克人性这个最后堡垒？我虽然还不太相信，但我很想提出一个建议——</p><p class="ql-block"><br></p><p class="ql-block"> 从现在起，人类就应该用立法的形式，确保人性不被完全破解和复制，让它继续成为人类尊严和生命安全的最后保护伞。也就是说，要在人类无法遏制自己的冲动、开始对人性的最后奥秘发起总攻前，人性的核心区域之外已经修建了一道永远攻不破的高墙。这样，无论人工智能如何飞速发展，都只是人类牢牢掌控的一个聪明和强大的工具，而无法让人工智能把人类变成它们的工具和奴隶。 </p><p class="ql-block"> 2025.10</p>