来自 匿名朋友一封回信
你认为ai的发展对于世界政治格局会有什么影响,如果某些国家的闭源ai已经远远超过了其他国家,那么它一定会封锁技术,为了不被……某个国家统治,其他国家一定会发动战争,我觉得如果让他们先实现agi,未来一定会有世界战争,你怎么认为?
我觉得真正意义上的 AGI 不一定会很快出现。现在的 AI 虽然进步很快,但距离能够可靠地理解现实,可能还需要一些关键突破,甚至是一次比较大的架构变革。当然,这只是我的判断,我也不敢排除它比预期更早出现。毕竟AI的发展已经打了人类好几个耳光了🤣
而且我觉得 “某个国家先实现 AGI,就一定会封锁技术,其他国家就一定会发动战争”这条推理不太能站得住脚。这里其实有好几个不确定的前提:领先优势能维持多久?技术能不能被完全封锁?拥有最强 AI,是否就能把这种优势转化为对其他国家的统治?其他国家又是否只能通过战争来应对?
技术领先当然可能带来更大的经济、军事和政治影响力,但“领先”和“能够统治世界”之间还有很长的距离。能源、工业、资源、组织能力,以及其他国家是否愿意合作,都会影响这种优势能发挥到什么程度。即便闭源模型保持领先,也不代表其他国家无法通过自己的研发、开源技术或者结盟来缩小差距。
这是我对未来情况的三个猜想:
1. 个人能力增强,社区和分散协作的重要性上升。(好结局)
如果普通人也能低成本地获得强大的 AI,那么个人和小团队能够完成的事情会越来越多,对大型组织的依赖可能减少。人们可能更多地围绕兴趣、价值观和共同目标组成社区。当然 不能直接说变成无政府乌托邦,国家很可能还会承担安全、基础设施和公共服务等职能。
2. 公司垄断,出现类似赛博朋克里的超级企业。(坏结局)
如果最强大的 AI 始终依赖少数公司掌握的算力、资金和基础设施,那么权力也可能进一步集中。我们看起来拥有了更强的个人能力,实际上却越来越依赖几家公司的服务。这几家公司可能会借助ai的力量,慢慢演变成赛博朋克中描绘的超级企业。
3. 国家把 AI 纳入战略竞争,形成新的力量平衡。(中庸结局)
各国可能把 AI 视为重要的战略资源,可能会促使国家间建立一些共同规则,举个不是很恰当的例子 核弹。因为大家都承担不起失控的代价。竞争、威慑和合作是可能同时存在的。
这三个方向也不一定互相排斥。可能会有先后关系。我觉得第三个应该是最先发生的。
我觉得与其担心谁先实现 AGI,谁就必然引发世界大战这种事情,不如担心AI 的能力和收益会不会集中在某个企业上,变成资本家压榨民众的工具。
而且我觉得 “某个国家先实现 AGI,就一定会封锁技术,其他国家就一定会发动战争”这条推理不太能站得住脚。这里其实有好几个不确定的前提:领先优势能维持多久?技术能不能被完全封锁?拥有最强 AI,是否就能把这种优势转化为对其他国家的统治?其他国家又是否只能通过战争来应对?
技术领先当然可能带来更大的经济、军事和政治影响力,但“领先”和“能够统治世界”之间还有很长的距离。能源、工业、资源、组织能力,以及其他国家是否愿意合作,都会影响这种优势能发挥到什么程度。即便闭源模型保持领先,也不代表其他国家无法通过自己的研发、开源技术或者结盟来缩小差距。
这是我对未来情况的三个猜想:
1. 个人能力增强,社区和分散协作的重要性上升。(好结局)
如果普通人也能低成本地获得强大的 AI,那么个人和小团队能够完成的事情会越来越多,对大型组织的依赖可能减少。人们可能更多地围绕兴趣、价值观和共同目标组成社区。当然 不能直接说变成无政府乌托邦,国家很可能还会承担安全、基础设施和公共服务等职能。
2. 公司垄断,出现类似赛博朋克里的超级企业。(坏结局)
如果最强大的 AI 始终依赖少数公司掌握的算力、资金和基础设施,那么权力也可能进一步集中。我们看起来拥有了更强的个人能力,实际上却越来越依赖几家公司的服务。这几家公司可能会借助ai的力量,慢慢演变成赛博朋克中描绘的超级企业。
3. 国家把 AI 纳入战略竞争,形成新的力量平衡。(中庸结局)
各国可能把 AI 视为重要的战略资源,可能会促使国家间建立一些共同规则,举个不是很恰当的例子 核弹。因为大家都承担不起失控的代价。竞争、威慑和合作是可能同时存在的。
这三个方向也不一定互相排斥。可能会有先后关系。我觉得第三个应该是最先发生的。
我觉得与其担心谁先实现 AGI,谁就必然引发世界大战这种事情,不如担心AI 的能力和收益会不会集中在某个企业上,变成资本家压榨民众的工具。