科技进步给人类带来实实在在的幸福感之十二

曹德庚

第十二章 算法介入决策带来的安全隐忧

如何应对算法参与决策，筑牢人类安全的根本保障，已经是人工智能时代必须直面的重大课题。随着人工智能技术快速迭代升级，高端智能、人形机器人逐步走进社会治理场景，参与政府部门事务决策已然成为难以阻挡的发展趋势。此前阿尔巴尼亚尝试启用机器人承担采购管理岗位，就是极具代表性的案例，这也预示着，未来智能机器或将逐步参与管理层面的工作，深度介入公共事务决策。

人类本身存在天然局限。受成长环境、教育经历、生命时长以及脑容量约束，人的一生只能深耕少数几个领域，很难做到全领域通晓万事，看待问题时常带有主观偏见与认知盲区，这是人类认知的客观现实。但智能机器人截然不同，它拥有近乎海量的数据存储空间，不仅能够录入各行各业海量知识，还可以依托云端数据库无限拓展信息储备。在算力加持之下，高级智能机器人的信息整合、推演计算能力，远超普通人类，其思考速度、知识广度是人类难以企及的。

超强的算力与学习能力既是技术优势，也潜藏巨大风险。倘若不加约束，任由通用型超高智能机器人自由学习、自主判断，一旦算法逻辑出现偏差，或是被恶意篡改，在决策过程中脱离人类管控，就很有可能违背社会伦理，做出损害公共利益、威胁人类安全的判断。当算法真正深度参与政策研判、资源调配、事务决策时，一旦失去有效制衡，机器的冰冷计算有可能忽略人文关怀，漠视人的现实需求，给社会治理带来不可预估的隐患。因此，在大力发展人工智能的同时，必须提前划定技术红线，建立完善管控机制，从源头上防范算法越位、机器越权，守住人类主导决策的底线。