科技进步给人类带来实实在在的幸福感之十三

曹德庚

第二章 构建多重管控体系守住安全底线

想要化解算法决策带来的风险，不能一味抵制人工智能发展，应当坚持辅助定位、分级赋智、程序锁控、严格保密的总体思路，建立一套完整约束体系，让机器人始终服务于人、服从于人。

在研发定位上，应当优先发展专项功能型机器人，重点研发能够承担高危作业、高强度重复劳动的专用机器人，仅赋予其岗位所需的专业知识，整体智能水平略低于人类，做好人类工作的辅助者，而不是大批量研发全能型超高智能机器人。对于参与管理工作的智能系统，只录入对应岗位的职能权责与业务知识，严格限制跨领域学习，通过制度设置层级保密机制，严防机器人私自搜集更高层级的机密信息，杜绝越权推演决策。

针对科研类智能机器人，要做好信息隔离。仅允许其在内部科研团队之中开展协同试验，切断对外随意的数据交流通道，设置安全防护机制，一旦有人恶意破解程序密码窃取科研成果，系统自动触发防护反制，守护核心技术安全。

同时在底层程序植入安全底线约束。程序设计者提前设置行为红线，一旦机器人行为突破伦理与安全底线，例如陪护机器人虐待老人，经多次预警仍无法纠正时，自动触发应急锁止乃至自毁程序，及时制止危险行为。

对于农业育种、生物医药等专家型机器人，可以录入顶尖科研团队积累的专业知识，依托强大算力加速技术创新，但是配套严格的加密机制，防止核心技术随意泄露。唯有通过功能限定、权限管控、程序兜底多重手段协同发力，才能让算法与人工智能始终在规则之内运行，真正筑牢人类安全的长久保障。