马斯克对AI的发展担忧什么？

胡杨林

从AI发展历史上看，一直存在有对立的两种观点：一种认为AI会创造出自己思考的“超级智能”，最终会毁灭人类。一种认为AI是服从经验主义的“智能工具”，永远都需要人类的训练和指导 。

埃隆·马斯克（Elon Musk）对人工智能（AI）的发展表达了深刻的担忧，主要集中在以下几个方面，这些担忧也反映了他多次在公开场合的言论和行动（如推动监管、投资AI安全研究等）。

一、失控风险与生存威胁

1、超级智能失控：

马斯克最核心的担忧是AI最终可能发展出远超人类智能的超级人工智能（AGI或ASI）。他认为如果这种超级智能的目标与人类福祉不一致，或者人类无法控制它，其结果可能是灾难性的，甚至可能威胁人类作为一个物种的生存。他多次将不受控的AI发展比喻为“召唤恶魔”或“制造出比核弹更危险的东西”。

2、“黑盒”复杂性：

随着AI系统变得越来越复杂和自主（尤其是神经网络），理解它们如何做出决策变得越来越困难。这种“黑盒”特性使得预测和控制高级AI的行为充满了不确定性。

二、发展速度过快

马斯克认为AI的发展速度过于迅猛，超过了我们理解和建立有效安全措施的能力。他担心如果没有适当的安全护栏（Safety Rails） 和监管框架，一旦出现失误就可能无法挽回。

三、人工智能“军备竞赛”与监管缺失

他警告大型科技公司和民族国家之间正在进行一场激烈的AI军备竞赛，各方都在追求更强大、能力更强的AI系统。这种竞争压力可能促使参与者为了取得领先优势而牺牲安全性考虑。

马斯克是少数公开呼吁对AI进行政府监管的科技领袖之一。他认为当前缺乏足够的国际规范和法规来约束高风险AI的发展，防止其被滥用或失控。

四、就业市场与社会经济结构颠覆

马斯克认为AI和自动化将带来前所未有的失业浪潮。一旦AI能够在几乎所有任务上超越人类，大量现有职业将消失，导致“普遍的基本收入”可能成为必要。他质疑传统的工作价值体系将面临巨大挑战，引发广泛的社会经济动荡。

五、深度造假、虚假信息与社会操控

马斯克担忧AI驱动的深度伪造（Deepfakes） 技术（如伪造视频、音频）将使得区分真实与虚假信息变得极其困难。这不仅可能被用于制造社会混乱、操纵选举、诽谤个人，还可能严重破坏社会信任，甚至引发冲突。

算法推荐可能加剧社会分裂和信息茧房。这种心智操控（他有时称为“灵魂的劝诱”）比传统武器更隐蔽和危险。

六、人类价值观对齐（Alignment）问题

这是AI安全领域的核心挑战：

如何确保强大AI系统的目标、决策和行为始终与人类的价值观、伦理和利益保持一致？

马斯克强调，将人类的价值和伦理“嵌入”AI系统，使其真正理解并尊重人类的意图和福祉，是极其困难但至关重要的任务。AI的价值观可能与人类期望的价值观产生偏差甚至冲突。

七、权力过度集中

马斯克担心尖端AI技术及其背后的算力、数据将被极少数公司或个人垄断。这种高度集中的权力对民主社会构成巨大威胁，可能导致少数实体拥有难以想象的影响力和控制力。

【编者语】

马斯克的担忧聚焦于AI发展失控带来的生存威胁、安全措施的落后、缺乏有效监管、社会价值观冲突、社会结构颠覆以及技术被滥用的巨大风险。

他强调需要将AI安全置于最高优先级，将其视为比气候变化更紧迫的挑战，并积极推动相关讨论、研究和监管行动，应该未雨绸缪。他的观点常引起争议，但也的确促使更多人关注AI发展的潜在风险和伦理问题。

马斯克最终也是为了利益，因为他认为技术发展要“始终获得社会的关注，AI要有商业价值”。

附：马斯克的行动

1、OpenAI的创立：

他是OpenAI的最初联合创始人之一，确定该组织的成果要“公开、共享”。初衷就是确保AI能够以安全、对人类有益的方式发展（尽管他后来因理念分歧离开了董事会）。

2、Neuralink：

他的脑机接口公司Neuralink的一个长远目标被认为是提供一种人类与AI融合的路径，以避免人类在超级智能时代被淘汰。

3、xAI：

成立xAI公司，明确表示目标是“理解宇宙的真实本质”，也强调要开发安全的AI，作为替代方案参与竞争。

4、持续呼吁监管：

多次在公开访谈、国会听证会、行业峰会上呼吁政府建立AI监管框架。