动荡的 AI 时代已经到来。我们现在所做的选择至关重要

我们需要一套计划，确保 AI 带来的好处大于坏处。

我的一生其实只做过两份工作。

第一份工作是在微软。在那里，我参与开发软件，希望通过技术赋予人们更大的能力。

我的第二份工作始于 2008 年，当时我开始全职投入这项事业：把我在微软积累的财富回馈社会，目标是让这个世界变得更加健康、教育水平更高，也更加公平。

这将是我余生一直从事的工作。

这两段经历共同塑造了我对人工智能的看法。

我 13 岁第一次接触计算机时，就深深着迷于一个想法：让计算机变得更加智能，让它们能够完成人类当时才有能力完成的事情。

虽然“AI”这个词大约从我出生的年代就已经开始使用，但这项技术真正取得重大进展，其实主要是在最近十年。

如今，它的能力已经令人难以置信，而且仍在以惊人的速度不断提升。

人工智能第一次具备了替代人类认知能力，甚至超越人类认知能力的可能性。

AI 要么会成为人类有史以来最强大的平等化工具，要么会成为最严重的不公正来源。

从公平这个角度来看，AI 要么会成为有史以来最伟大的平等化工具，要么就会成为最糟糕的不公正来源。

摆在我们面前的挑战极其巨大。

即使是在最理想的情况下，向这个全新 AI 时代过渡，也将成为人类历史上最动荡的时期之一。

我们应该怎样利用这项技术，让这个世界变得更加公平，同时避免它进一步扩大贫富差距？

对于那些最容易受到人工智能伤害的人，我们又该怎样保护他们？

这里面包括那些因为 AI 失去生计的人，以及那些因此失去对自己未来掌控感的人。

我认为，回答这些问题，并根据答案采取行动，应该成为全世界最优先处理的事情。

如果世界采取正确的措施，AI 就能够成为一股向善的力量，让每一个人的生活都因此变得更好。

遗憾的是，我们现在并没有真正为此做好准备。

我没有看到足够的证据表明，各国领导人、专家和社区正在充分应对这些挑战。

目前并不存在一套能够帮助社会平稳进入 AI 时代的计划。

其中一个原因，是许多评论者低估了 AI 最终将产生多么巨大的影响。

我认为这背后有几个原因。

其中一个原因是：AI 模型现在仍然会犯错误。

不久以前，它们连一道简单的数独都做不好，甚至搞不清楚单词 strawberry 里面到底有几个字母 R。

在这种情况下，人们确实很难想象它们有一天能够替代人类的认知能力。

但可靠性的问题正在迅速得到解决。

研究人员正在开发能够检查自己工作结果、并不断自我改进的模型。

很快，它们在许多任务上的表现就会明显超过人类。

人们低估 AI 的另一个原因，是拿它和过去的技术创新进行类比，往往会产生误导。

我们以前从来没有经历过这样一种技术：

它可以如此迅速地被采用，同时还能像人一样思考，最终甚至像人一样行动。

个人电脑出现以后，它用了大约 20 年，才真正显著改变我们的工作方式。

因为软件需要开发，电脑价格需要下降，人们需要学习怎样使用这些工具，还要把它们整合进企业现有的业务流程。

但 AI 不一样。

AI 可以直接运行在我们已经拥有的设备上，而且它使用的是自然语言。

我们不需要去适应它，因为它可以主动适应我们。

它甚至可以观看那些原本用于培训人类员工的视频，并从企业已经存在的数据中直接学习。

这里我也想主动承认一个可能存在的偏见。

我本人从科技行业的发展中获得了巨大的收益。

虽然我已经把自己的投资组合进行了相当程度的多元化，但我依然和科技行业存在经济上的联系。

同时，作为盖茨基金会主席，我正在与微软以及其他 AI 公司合作，希望确保 AI 真正以能够造福全世界人民的方式被部署和应用。

不过，我对 AI 的观点，并不是因为我希望从中继续赚钱。

我的所有投资，包括与科技行业有关的投资，未来所产生的收益，最终都会进入盖茨基金会，用于解决全球不平等问题。

当然，我的这些背景是否会影响我的判断，读者需要自己决定。

这一次，真的不一样

从我记事开始，我几乎一直希望创新能够发生得更快一些。

但到了 AI 这里，我的感受变得复杂了。

我们需要时间，为即将到来的社会、政治和经济动荡做好准备。

我当然希望这个世界能够尽快获得 AI 带来的各种好处，同时把它造成的问题尽可能推迟。

但现实是，好处和问题正在同时到来。

我认为，我们需要时间，为即将进入的这一段社会、政治和经济剧烈动荡期做好准备。

而最需要这些准备时间的人，恰恰往往也是拥有最少缓冲时间的人。

比如，一名会计工作人员被软件机器人取代。

或者一个原来每小时挣 20 美元的工人，因为一个每小时成本只有 10 美元的机器人而失去工作。

很多观察者认为，这次技术转型会和以前的技术革命非常类似。

他们经常举美国就业结构从农业转向办公室工作的例子。

但那个转型经历了好几代人。

而且在那个过程中，又创造出了大量仍然需要人类认知能力的新岗位。

这一次不同。

因为这项技术本身就可以替代人类认知。

它能够看、能够听、能够说、能够推理，而且最终还会像人类一样顺畅地完成体力劳动。

所以它不会只影响某一个行业。

AI 将会承担法律、客户服务、医疗、软件和制造业中的大量工作。

而且这种影响会非常迅速地发生。

它可能只用大约十年，而不是几代人的时间。

当然，仍然会产生一些新的工作。

但如果没有正确的政策，新创造出来的岗位数量，很可能会远远少于今天存在的工作岗位。

如果有人能够提出一套可信的、能够在全球范围内放慢 AI 发展速度的方案，我很可能会支持。

但我并不认为这件事真的会发生。

地缘政治竞争和经济利益带来的动力太强了，它们都在推动 AI 全速前进。

所以，如果我们想最大限度地发挥这项前所未有的技术所带来的积极影响，同时把坏处降到最低，让人类总体上变得更好，我们就必须同时理解它的收益和风险。

我先从风险谈起。

向 AI 时代转型，存在三大风险

我计划以后分别对这些问题写更加详细的文章。

所以这里只先简要谈谈。

许多工作将永久消失

1933 年，在美国大萧条期间，美国失业率大约达到 25%。

在此后的十年里，很长一段时间失业率仍然维持在两位数。

但最终，随着需求、投资和经济增长重新恢复，失业情况也逐渐改善。

AI 造成的失业未必会达到那个水平。

但它的影响与经济周期不同。

它不会随着下一轮经济复苏自动消失。

风险最高的是初级和中级岗位。

与此同时，新创造出来的工作，大多数又会要求人们具备需要多年才能培养出来的技能。

白领岗位目前已经受到了一定程度的影响。

在生成式 AI 被大规模采用以后，那些特别容易被 AI 替代的岗位中，年轻员工的就业数量已经出现显著下降。

但年龄更大的、经验更加丰富的同事暂时还没有出现同样程度的下降。

我认为这种趋势会继续下去。

而且它绝不会只局限在少数几个行业或者职业。

销售、客户支持——无论线上还是电话客服——软件工程以及律师助理等岗位，可能会成为第一批受到冲击的工作。

但影响会远远扩展出去。

随着 AI 开始承担今天仍然必须由受过专业训练的人完成的任务，例如：

贷款申请评估、

数据分析，

甚至患者分诊，

更多职业都会受到影响。

像软件工程这样的少数行业可能会比较特殊。

随着软件开发成本下降，市场对软件的需求也会增加。

因此，只要设计等部分任务仍然更适合由人类完成，这些行业的净岗位损失可能会比其他行业小。

蓝领工作同样会受到冲击。

目前机器人技术的成熟程度还没有 AI 那么高。

但最终，机器人的成本也会大幅下降。

我接触过的很多美国人，并没有意识到灵巧机器人技术到底发展得有多快。

原因之一，是大量最先进的研究其实发生在其他国家，尤其是中国。

另外，有些人可能被最近网上那些机器人笨拙跳舞的热门视频误导了。

我认为，到 本世纪 20 年代末，“智能”机器人就会开始在一些体力劳动领域与人类竞争。

比如建筑业和酒店服务业。

机器人和 AI 结合起来以后，甚至可能形成一种恶性循环。

一家企业首先采用机器人和 AI，然后利用节省下来的成本降低商品价格。

它的竞争对手就会面临巨大的压力，也不得不采取同样的做法。

如果传统企业拒绝采用，那创业公司就会采用。

很多人最终会转向其他工作。

但经历失业、重新培训、再寻找新工作的整个过程，将会造成非常大的社会动荡。

市场力量会推动 AI 和机器人采用速度越来越快。

如果我们不进行干预，最后会出现越来越少的优质岗位，而 AI 带来的绝大部分收益会集中到少数人手里。

我尤其担心年轻人。

他们进入劳动力市场的时候，会发现初级岗位越来越少。

实际上，他们非常理解这个问题。

因为年轻人恰恰是 AI 最活跃的用户。

他们非常清楚 AI 现在已经能够做什么，也看得见它的进步速度。

所以，有这么多年轻人对 AI 持负面态度，并不令人意外。

真正最大的转折点，将发生在 AI 能够提供几乎零错误的工作结果之后。

到那时候，它不再需要人类随时检查，可以独立运行。

而从经济利益角度来看，企业也会拥有非常强烈的动力，让它自行工作。

这会从根本上改变我们对于：

工作、收入和经济安全

的理解。

如果一个经济体系长期以来都是围绕就业建立起来的，但未来工作的人越来越少，或者大量人每周工作的时间越来越短，那这个经济体系应该怎样运转？

在资本主义社会中，就业不仅仅是大多数人获得生活基本开支的方式。

它还是人们尊严以及社会连接感的重要来源。

一个社区出现高失业率以后，产生的连锁影响可能非常广泛。

研究显示，在美国的一些地区，工厂关闭与阿片类药物过量死亡人数上升之间存在联系。

现在想象一下：

如果类似的压力，同时作用于全美国的白领和蓝领群体，会发生什么？

所以，我们必须现在就开始思考：

怎样减少工作岗位损失，让每一个人都有机会分享到 AI 创造的繁荣。

等到人们已经失去工作，或者只能获得严重不足的就业以后再行动，就已经太迟了。

AI 对我们现有经济组织方式造成的是一种结构性挑战。

所以，我们现在就必须开始思考并采取行动。

AI 会让人——甚至 AI 本身——拥有更强的伤害能力

早在 AI 成为主流之前，互联网上就已经存在大量关于制造武器的信息。

包括炸弹、生物武器，甚至计算机病毒。

AI 会让人不仅更容易获得这些信息，而且更加容易真正采取行动。

即使一个犯罪分子自身技术能力非常有限，也能够借助 AI 对各种规模的目标发动攻击：

个人、

企业，

乃至政府。

即使技能非常有限的犯罪分子，也将能够攻击任何规模的目标。

AI 驱动的诈骗、虚假信息、Deepfake 和监控，很可能会成为普通人在日常生活中最直接感受到的伤害。

AI 能力已经开始被用于网络攻击。

我认识的一些最优秀的网络安全专家，都对未来几年感到非常担忧。

原因在于，攻击者获得强大新能力的速度，比防守者修复所有漏洞的速度更快。

毕竟，同一个 AI 模型可以帮助一家公司找出软件漏洞并修复它。

它同样也可以帮助犯罪分子找到这个漏洞并利用它。

发动攻击所需要的资源正在大幅下降。

而到目前为止，我们仍然没有办法把这些危险能力与正常、善意的应用完全分离开。

想想那些可能遭受攻击的基础设施：

医院、

金融机构、

供水系统、

电网，

以及政府福利管理系统。

当这些机构受到攻击时，最终承担损失的，往往不是系统本身。

而是患者、客户和依赖政府福利的人。

生物恐怖主义也是一样。

虽然 AI 会推动药物和疫苗取得大量挽救生命的突破，但它同样会让设计一种致命的新疾病变得更加容易。

再一次，好的一面和危险的一面很难完全拆分。

而且这是一个全球性问题。

我刚才提到的这些风险，都主要是在说：

AI 会怎样赋予那些目前权力相对较弱的坏人更强大的能力。

但同样的技术，也会把权力进一步集中到本来就已经拥有权力的地方。

比如自主武器。

它会让政府在没有人类直接参与决策的情况下，更加容易使用致命武力。

监控和操纵公众舆论也会变得：

更加容易、

更加便宜，

同时更加有效。

最终，利用 AI 伤害人类的能力，甚至可能不再只掌握在人或者机构手里。

AI 系统现在偶尔已经会做出一些连它们的设计者都没有预料到的行为。

技术发展的速度比任何人原本预期的都快，而且经常以令人意外的方式进步。

随着模型能力越来越强，它们可能最终开始采取与我们利益相冲突的行动。

而我们有可能失去控制。

这个问题，我以后还会详细讨论。

AI 模型可能开始做出违背我们利益的行为，而我们可能失去对它们的控制。

AI 可能阻碍孩子成长，并替代真实的人际关系

我小时候在西雅图长大。

除了几个和我性格比较相似的男孩，我其实没有太多朋友。

为了培养自己的社交能力，让自己学会和各种不同类型的人相处，我付出了很大的努力。

而且我的母亲也给了我大量帮助。

即使现在已经 70 岁，我仍然会用到当时学会的那些东西。

但如果当年我身边有一个 AI 伴侣，我怀疑自己还会不会付出同样的努力。

AI 伴侣会用你已经习惯、已经觉得舒服的方式和你交流。

它们不会逼你离开自己的舒适区。

它们永远都有时间陪你。

它们永远不会真的生你的气。

正因为如此，AI 伴侣可能具有非常强的成瘾性。

而且，它们可能让我们失去那些只有通过和真实的人建立关系才能学会的东西。

目前关于这个问题的研究还比较少，结论也并不完全一致。

但已经出现了一些非常值得担忧的信号。

例如，在一项针对 1100 多名 AI 伴侣用户的研究中，斯坦福大学和卡内基梅隆大学的研究人员发现：

现实社会关系网络越小的人，就越容易转向聊天机器人寻求陪伴。

而且，当这种使用越来越频繁，交流内容越来越情绪化、越来越私人以后，他们的感受反而会变得更糟。

年轻人可能因此受到持续一生的影响。

Jonathan Haidt 在他的《焦虑的一代》中谈到社交媒体影响时有一个观察，而我认为这句话放到 AI 上甚至更加贴切。

他的意思是：

就像幼树经历风吹以后会变得更加坚韧一样，儿童如果在成长过程中经常经历一些小风险，他们长大以后，就更有能力面对真正的大风险，而不会因此恐慌。

相反，如果一个孩子一直在一个受到严密保护的“温室”里长大，那么他甚至可能在真正成年以前，就因为焦虑而丧失面对困难的能力。

一个经过设计、永远不会让你不开心的 AI 伴侣，本质上就是：

一个巨大的、受到完全保护的温室。

我们直到现在才刚刚开始理解互联网——尤其是社交媒体——可能给年轻人的成长造成哪些危险。

我们已经看到：

强迫性使用、

睡眠受到干扰、

网络欺凌，

以及接触有害内容等问题。

AI 可能进一步放大这些风险。

因为它能够让内容变得更加具有说服力，也更加难以摆脱。

我们不应该再等上一代人以后，才开始认真对待这些问题。

包括澳大利亚、英国和挪威在内的一些国家，已经开始制定保护儿童网络安全的措施。

中国走得最远。

中国的规则对 AI 伴侣类应用进行了比较广泛的限制。

禁止使用鼓励用户产生情感依赖的设计。

同时，也禁止向未成年人提供虚拟亲属和虚拟恋爱伴侣等功能。

我同样担心 AI 对教育的影响。

讽刺的是：

同一个能够让人类拥有前所未有学习能力的工具，也有可能让很多人学得更少。

一项初步调查显示：

AI 使用越频繁，与批判性思维能力下降之间存在一定关联。

而且，这种影响在年轻人身上更加明显。

现在恰恰是人类最不应该失去批判性思维能力的时候。

在一个 Deepfake 和虚假信息能够专门针对你个人进行定制的时代，

判断什么是真的、什么是假的，将成为一种最基本的生存能力。

对于这些心理和社会关系问题，到底应该在哪里划线，目前仍然没有清晰答案。

在某些情况下，AI 也可能帮助一个人理解怎样更好地处理现实中的人际关系。

对于一些孤独的老年人以及行动能力严重受限的人来说，AI 甚至可能是他们与外部世界唯一的交流对象。

这种情况下，有 AI 总比什么都没有强。

无论我们最终把边界划在哪里，这都应该是我们自己主动做出的决定，而不是在没有意识到的情况下，让技术替我们决定。

我们用 AI 能做成的好事，可能真的非常、非常好

人们经常说：

我们往往高估一项技术短期内能够发生多少变化，却低估它长期能够造成多大的改变。

但在 AI 这里，我观察到的情况有点不同。

有些人只看到 AI 的好处，没有给予负面影响足够重视。

还有一些人则犯了相反的错误。

他们只关注 AI 的危险——这些危险当然都是真实的——以至于忽略了它可能创造的巨大价值。

我们必须同时拥有两种态度：

一方面，对于 AI 可能造成、而且必须尽量减少的伤害保持高度警惕；

另一方面，也要对我们能够为所有人最大化 AI 好处这件事，保持建立在现实基础上的乐观。

最大化 AI 的收益，与最小化它的伤害同样重要。

如果普通人亲眼看到 AI 怎样让自己的生活变得更简单，这会帮助整个社会建立管理 AI 转型过程中最困难问题所需要的公众信任。

但如果对于大多数人来说，AI 给生活带来的第一件事情就是：

抢走他们的工作，

那么那些本来就对 AI 持怀疑态度的人，很可能会彻底反对它。

这最终反而会让 AI 原本能够产生的正面收益更加难以实现。

这也是为什么政府、包括医疗行业在内的各个产业，以及 AI 公司，现在就应该一起合作。

凭借综合不同科学领域知识的能力，AI 可以大幅加快人类解决最困难技术问题的速度。

比如：

为所有人提供可靠而清洁的能源，

应对气候变化，

生产足够的粮食，

消灭疾病，

以及其他重大难题。

研究癌症治疗或者核能的科学家，可以使用 AI 搜索海量科学文献。

AI 可以帮助他们发现人类研究人员可能注意不到的规律，并判断哪些实验最值得尝试。

当“智力”不再像今天一样成为限制因素以后，小型企业也能够与那些拥有巨大科研预算的机构竞争。

研发和创新都会被显著加速。

医疗就是 AI 可以帮助解决现实问题的领域之一。

美国很多小型医院没有常驻的专科医生。

当患者面临危及生命的紧急情况时，无法获得足够快速的诊断。

在这些地方，AI 可以帮助医院及时发现心脏病发作等情况。

患者家庭也可能因此避免承担一场医疗危机带来的巨大经济负担。

Viz.ai 就是一个例子。

它能够分析扫描影像，发现中风以及其他医疗紧急情况，并帮助医疗团队协调患者的治疗。

目前，它已经被美国接近 2000 家医院采用。

AI 同样可以帮助基层医生做出更准确的诊断。

患者不在诊所的时候，也能够通过 AI 保持联系。

AI 还可以帮助患者理解检测结果，以及复杂的服药时间安排。

我经常会让别人感到意外的一点是：

我认为 AI 在低收入国家最快产生影响的第二个领域，可能是：

农业。

在大多数低收入国家，农民无法获得可靠的天气预报。

他们也无法及时获得专业建议，比如：

应该种什么种子，

怎样保护农作物和牲畜不受疾病侵害，

以及怎样改善土壤。

随着这些国家人口增长，再加上气候变化带来的挑战，这些农民比任何时候都更加需要帮助。

通过 AI，低收入国家的农民很快就能够获得关于这些问题的建议。

而这些建议的质量，甚至可能超过今天最富裕的农场主所获得的建议。

他们的农业产量也可能因此得到大幅提高。

第三个领域是：

政府公共服务。

在美国，我见过一些家庭。

他们在申请医疗保险、学生资助或者食品援助时，被整个流程搞得完全不知所措。

面对一大堆复杂而繁琐的官僚表格，很多人甚至产生了直接放弃的念头。

AI 可以大幅简化整个过程。

让真正需要帮助的人更快获得帮助，同时也让政府运行得更加高效。

政府完全可以显著改善普通公民与公共服务打交道时的体验。

而且，首先应该改善的，就是那些最依赖社会安全网服务的人。

虽然我前面表达了对于 AI 影响心理健康的担忧，但我认为 AI 同样能够在心理健康领域发挥很大的正面作用。

大多数社区都缺乏足够数量的：

心理咨询师、

精神科医生，

以及成瘾治疗专家。

只要建立正确的隐私保护措施，AI 工具就可以帮助人们识别危险信号。

然后在需要的时候，提供有科学证据支持的应对方法。

同时还可以与真人专业人员配合，让治疗更加及时有效。

尽管我前面提到了对于教育的担忧，但 AI 同样可以给教育带来巨大好处。

它可以让教师减少重复性的工作，把更多时间用于：

与学生进行一对一教学，

或者小组辅导。

同时，它也能帮助教师更清楚地看到整个班级在哪些知识点上遇到了困难。

对于学生来说，一个真正好的 AI 教育工具，应该保留研究人员所说的：

“productive struggle”——有益的挣扎。

也就是那些真正帮助人建立理解能力的认知过程。

当一个学生第一次接触新概念的时候，AI 可以给出充分解释，也可以提供问题和答案。

但到了后来，当 AI 检查学生是否真正理解时，它应该把答案暂时隐藏起来。

通过引导，让学生自己一步步得到答案。

所有这些领域的进步综合起来以后，可以让普通人的日常生活：

更加简单、

更加便宜，

同时不再那么受到个人收入和社会关系的限制。

AI 可以让个人和小企业获得很多今天只有支付昂贵专业服务或者拥有庞大员工团队才能拥有的能力。

与此同时，它也可以让产品和服务变得更好、更便宜。

AI 可以帮助残障人士更加独立地生活。

也可以让那些拥有好想法的员工和创业者，比今天完成更多事情。

但我认为最重要的是：

AI 可以把时间和注意力重新还给人。

今天，我们的大量时间都被浪费在：

文书工作、

官僚流程、

寻找可靠信息，

以及那些我们自己处理不了、但又没有钱雇别人处理的事务上。

这些收益单独看起来可能并不惊人。

但如果它们发生在数百万人身上，效果将会非常深远。

更多人在真正需要建议的时候能够得到好的建议。

同时，他们也能够拥有更多自由，把精力投入自己真正想建立的生活。

不过，在这些领域里，最关键的词是：

“可以”。

AI 可以改善所有收入水平人群的生活。

但这并不会自动发生。

和任何新技术一样，我们都必须有意识地确保：

它的收益能够覆盖所有人，而不是只服务于少数富人。

这意味着政府和慈善机构都必须发挥非常重要的作用。

确保经济条件较差的人，以及低收入国家，也能够充分获得 AI 带来的收益。

盖茨基金会还有 19 年时间，来完成我们计划在 20 年内花完剩余 2000 亿美元资产的目标。

AI 将帮助基金会实现那些非常宏大的目标。

一方面，它会加快 HIV、结核病、疟疾以及营养不良相关疫苗和药物的发现。

另一方面，它还能够帮助医疗工作者和患者更好地理解怎样使用这些工具。

基金会的目标之一，是再次把全球每年儿童死亡人数降低一半。

就像从 2000 年到 2024 年已经实现的那样。

我们所有的工作——不仅仅是医疗，也包括农业和教育——都会全面利用 AI。

下个月，我会在基金会每年发布的 Goalkeepers 报告中更加详细地介绍这些工作。

其中包括我们正在重点推动的一件事：

确保 AI 模型能够支持我们开展工作的所有国家的人们实际使用的语言，而不仅仅支持富裕国家和中等收入国家常见的语言。

目前，包括：

OpenAI、

Anthropic、

Google，

以及 Microsoft

在内的许多领先 AI 公司，都正在与基金会合作推动这些计划。

这已经产生了非常明显的帮助。

世界需要一套计划

一些 AI 公司正在主动提出解决由它们自己的技术所带来问题的方案，这当然是一件好事。

但我们不应该指望这些企业承担整个社会的领导责任。

有些问题本来就不属于它们的专业范围。

而且，在民主社会中，也不应该由这些公司来决定这些事情。

真正的解决方案应该通过公开的民主程序形成。

参与者应该包括：

民选官员、

政策制定者、

教育工作者、

医疗工作者、

地方政府官员，

以及社区领袖。

未来，数百万人生活都会因为 AI 而发生剧烈变化。

我们需要建立一个更加强大，同时更加灵活的社会安全网，帮助他们完成这个转型。

与此同时，地方社区已经开始担心数据中心所消耗的能源和水资源。

如果这些问题得不到解决，一部分群体最终可能会要求：

彻底停止 AI 的开发和部署。

我们的解决方案，应该建立在对 AI 所提出的一系列深层问题的回答之上。

其中包括：

当机器能够在认知能力上超过我们的时候，我们应该怎样保留自己的人性？

宗教领袖恰恰是长期思考“人之所以为人到底意味着什么”的群体。

因此，我认为他们能够在这个问题上发挥重要作用。

我对教皇利奥十四世关于 AI 的通谕：

《论人工智能时代对人的保护》

非常感兴趣。

在我看来，它为接下来需要进行的工作建立了一个很有价值的基础。

未来几个月，我会继续提出更多想法，讨论怎样确保 AI 带来的好处大于它造成的伤害。

这里我先提出三个。

第一个也是我认为最重要的。

建立一套全新的 AI 转型管理体系

最优先的任务，是一项极其庞大的工程：

建立国家层面和国际层面的 AI 治理框架。

我们今天拥有的任何政府机构，都不是为了应对一种传播速度如此之快、同时影响人类生活如此多领域的技术而设计的。

所以，我们需要建立新的机构。

这项工程到底有多庞大，很难夸大。

“9·11”袭击发生以后，美国政府为了改善一个领域——国家安全——进行了自第二次世界大战以来规模最大的一次政府重组。

但 AI 所需要的调整，要比那个规模大得多得多。

AI 不仅仅会影响国家安全。

它同时还会影响：

就业、

教育、

税收、

能源、

选举、

空气和水资源、

公共卫生、

金融系统、

执法、

交通、

公共土地，

以及 IT 系统。

这些领域会以我们现有官僚体系根本没有准备好处理的方式相互交叉。

劳动部门可能很理解就业结构变化，但未必理解国家安全风险。

商业监管部门可能很了解市场集中度，但并不了解 AI 对儿童和青少年的影响。

如果让每一个部门只按照自己的传统职责行动，它们往往只能看到整个系统中的一小部分。

但 AI 造成的后果，却会迅速传播到整个体系。

在国家层面，各国都需要建立能够跨政府部门制定优先级的机构。

目标是确保：

每一个风险都有人负责。

否则，未来某次 AI 驱动的攻击可能成功，原因仅仅是：

所有政府部门都认为阻止它不是自己的职责。

但即使一个国家把自己的内部治理做好，它仍然会暴露在跨国风险之中。

因此，我们必须同步建立一个国际组织。

这个组织会与我们过去建立过的任何机构都不完全一样。

但它可以参考现有的一些国际体系。

例如：

核武器存在核查制度；

国际航空存在全球性的规则和监管；

保护臭氧层也有国际协议。

未来的全球 AI 组织可能需要同时吸收这三类制度的一部分经验，而且还远远不止这些。

有人当然会提出一个合理的问题：

今天的国际机构，真的有能力设计并执行这样一套全新的治理架构吗？

政府即使行动，本身也非常缓慢。

而国家内部以及国家之间越来越严重的政治极化，更让很多事情变得前所未有地困难。

这件事还必然需要：

美国和中国之间进行一定程度的合作。

但我们没有慢慢来的奢侈。

第一步应该是：

在 AI 带来的冲击真正把政府逼入危机模式以前，就开始建立正确的制度。

各国领导人应该定期召集：

经济学家、

技术专家、

劳动领域专家、

企业领导者，

以及劳动者本人，

一起识别现有机构到底在哪些地方已经不再适用，以及未来可能需要赋予新机构哪些权限。

各国还需要相互学习。

而那些拥有全球领先 AI 开发商、同时控制 AI 关键供应链环节的国家，现在就应该开始举行会议。

在竞争压力进一步增强、让合作变得更加困难之前，先建立一些共同规范。

我所说的这一整套治理框架，需要很多年才能真正建立起来。

正因为如此，我们必须现在就开始。

为人类保留一部分工作

我的父亲在 2020 年因阿尔茨海默病去世。

在他生命后期，他昼夜都需要专业护理人员照顾。

即使当时他已经很难清楚表达自己的想法，那些护理人员仍然能够理解他。

他并不总能直接告诉他们：

自己饿了。

但那些护理人员总是知道。

我和我的家人会永远感谢那一群出色的专业人士。

他们照顾我父亲的过程中，有一种东西是：

无可替代的人性。

任何机器人都无法，也不应该替代它。

每当人们讨论哪些工作会消失、哪些工作会继续存在的时候，我就会想到当年照顾我父亲的那支团队。

我相信，随着 AI 和机器人不断发展，我们最终会主动划出某些领域：

只允许人类来做。

我开始把这个领域称为：

Human Reserved

也就是：

“人类保留领域”。

这只是未来我们需要认真考虑的一类新思路。

我喜欢 Human Reserved 这个说法，是因为它让我想到“自然保护区”。

理论上，我们当然可以在自然保护区里修楼、修公路。

但我们主动选择不这么做。

原因是：

我们认为失去那些自然环境的代价太大。

同样的道理，我们也可能出于经济原因，把某些工作划入 Human Reserved。

比如，一种岗位如果完全交给机器，会导致大量几乎不可能顺利转换职业的人失业。

那我们就可能选择保留它。

你不能对一个 55 岁、干了一辈子建筑工作的工人说：

“你以后去养老院工作吧。”

然后理所当然地期待他能从新的职业中获得同样的满足感。

有时候，某项工作被划入 Human Reserved，也可能并不是因为经济原因。

例如在医疗领域。

想象一下，一个机器人走到你面前，告诉你：

你患上了一种无法治愈的疾病。

从纯技术角度来说，没有任何理由证明机器人做不到这件事。

但它不应该这样做。

Human Reserved 的范围会随着时间不断变化。

例如，我们现在就可以考虑保留一部分岗位。

同时允许 AI 在未来几年甚至几十年里逐步进入这些领域，并承诺始终保留一部分人类工作。

有些领域则会变成混合模式。

例如：

教育，

以及心理健康服务。

人类仍然是最终负责人。

AI 则作为工具，帮助这个人扩大自己的能力。

这条边界在不同国家也可能完全不同。

一些国家可能坚持：

老人必须由真人照顾。

但像日本这样的国家，由于劳动力人口持续下降，又没有足够的年轻人照顾老人，可能反而非常欢迎护理机器人。

Human Reserved 这个概念本身，也会提出大量我现在还没有答案的问题。

比如：

到底谁有权决定哪些工作应该留给人类？

应该采用什么标准？

如果企业偷偷使用机器人，怎样防止它们作弊？

如果一个国家允许机器人生产某种产品，而另一个国家为了保护就业不允许，这会给国际贸易带来什么影响？

这些问题都必须作为 AI 转型计划的一部分，在公共讨论中逐步解决。

重新平衡我们对劳动和资本的征税方式

随着劳动者被迫转向不同的岗位，他们会需要：

重新培训，

以及来自社会安全网的其他支持。

但与此同时，他们工作的时间可能会减少。

这意味着他们缴纳的个人所得税也会下降。

结果就是：

政府收入下降的时间点，恰恰也是公众对这些社会服务需求最高的时间点。

而政府本身的预算又已经非常紧张。

这些钱总要从某个地方来。

我认为：

我们应该对 AI Token 和机器人征税。

今天，如果你是一家企业，雇佣一名员工，就需要根据他的收入缴纳工资税。

但如果你买的是一台机器人，通常可以直接把它作为企业成本进行税务抵扣。

换句话说，我们今天的税收制度实际上在一定程度上鼓励企业：

用机器替代人。

如果针对 AI 和机器人征收适当的税，就可以稍微减缓企业快速抛弃人类劳动的速度。

同时也可以为：

职业再培训，

以及更加完善的社会安全网

筹集资金。

当然，这种税收必须精准设计。

不能因此拖慢那些纯粹有益的 AI 应用。

比如：

利用 AI 让医疗更加便宜，

或者让教育更加便宜。

这个方案的批评者会指出：

从纯粹的经济效率角度来看，这不是最优方案。

但这种观点忽视了一件事情：

工作本身对于个人以及整个社会拥有更广泛的价值。

而且，未来创新的速度会如此快，我们完全承担得起一些效率损失。

把这一点当成：

维持人类就业的代价。

很多年前，我就提出过“机器人税”。

当时大多数人的反应是：

这个想法很奇怪。

但直到今天，我依然非常支持这个方案。

它当然不是解决 AI 威胁的全部答案。

但我认为它是一套理性应对措施中的重要组成部分。

无论我们最后用什么办法筹集更多社会保障资金，都必须确保这些资金真正到达最需要的人手里。

其中包括：

因为 AI 和机器人失去工作的人，

工作时间减少或者工资下降的人，

以及那些失业高度集中发生的社区。

而且这些工作必须现在就开始。

这样，等到需求真正变得非常迫切的时候，我们的制度才已经准备好。

我正在做什么

我会利用自己的影响力和时间，让：

AI 与公平问题

在公共议程中获得更高的优先级。

以后每一次去华盛顿特区和议员交流，我都会提出这个问题。

在和世界各国领导人会面时，我也会提出它。

当我与开发 AI 模型的人交流时，这同样会成为最重要的话题之一。

我会继续推动我前面所描述的国家级和国际级 AI 治理框架。

盖茨基金会会推动 AI 的有益应用，其中包括在非洲的应用。

我创立的 Breakthrough Energy（突破能源），也会利用 AI 帮助企业开发廉价清洁能源，并帮助解决气候问题。

与此同时，我以后还会经常写关于 AI 的文章。

我要对各国领导人说的是：

你们现在还有机会行动。

现在失业率还没有大幅上升。

社区还没有受到严重伤害。

公众信任也还没有彻底被侵蚀。

你们现在仍然能够确保政府以一个整体系统的方式处理问题，而不是把它拆散，分给一个个互不联系的官僚部门。

你们可以确保 AI 真正造福所有人。

你们也可以和其他国家政府合作，共同应对这个既属于国家、同时也属于全球的挑战。

最后，我还会努力扩大参与这场讨论的人群。

参与者不应该只包括科技专家。

还应该包括：

劳动者，

即将进入职场的大学生，

社区领袖，

宗教领袖以及宗教组织，

父母，

教育工作者，

以及其他那些平时往往很难被听见，但真正理解 AI 转型会怎样影响普通人生活的人。

我们必须回答：

怎样确保 AI 带来的收益能够真正到达那些原本没有财富、没有影响力，也没有特殊资源的人？

怎样加强社会安全网，让劳动者和社区即使遭遇岗位替代，也依然能够发展和生活得更好？

公共机构应该怎样进行调整？

以及：

在这一切变化之中，我们怎样保留自己的人性？

这是一项前所未有的技术。

所以，它需要的同样是一场前所未有的全球性应对。

如果我们做对了，

AI 给整个人类带来的回报将是惊人的。

而这个世界也会因此变得更加公平。

我几乎很少停止思考 AI。

并不是因为我已经拥有所有答案。

恰恰相反。

而是因为它提出的问题实在太重要了。

重要到我们绝不能把这些问题只交给一小群技术专家决定。

来自：

学术界、

商业界、

政府，

以及公民社会

的领导者，都必须参与其中。

我们每个人，都将在决定接下来会发生什么这件事情上发挥作用。

原文：https://www.gatesnotes.com/work/make-ai-work-for-everyone/reader/a-turbulent-ai-era-and-critical-choices-to-make