一个历时二十年的转折点
盖茨说，在他的一生中，只做过两份工作：第一份在微软让软件赋能于人，第二份自 2008 年起把财富通过基金会还给世界——让世界更健康、教育更普及、更公平。两段经历共同塑造了他对 AI 的视角：13 岁第一次接触计算机时就着迷于让它变得更聪明，「AI」一词在他出生前后就已出现，但真正的突破只在过去十年发生。如今 AI 首次能够替代甚至超越人类认知。
最危险的等式
盖茨给出一个尖锐的判断：
AI 要么会成为有史以来最伟大的平等化工具，要么会成为最严重不公的根源。
挑战是巨大的。即便在最佳情形下，向 AI 时代的过渡也将是人类史上最动荡的时期之一。我们将如何用这项技术让世界更公平、而不让贫富差距进一步拉大？如何保护最容易受 AI 伤害的人群——那些失去生计、失去对未来掌控感的人？
盖茨认为，回答这些问题并付诸行动，应该是全球的首要任务。但现实是——
目前我们根本没有为这一转变做好准备。
为什么我们低估了冲击
盖茨指出人们低估 AI 的三个原因：
- 模型还会犯错——不久前它们连数独和「strawberry 有几个 R」都答不对，很难想象它们替代人类认知。但可靠性问题正在被快速修复：能自我检查与自我改进的模型很快将在许多任务上实质性超越人类。
- 用旧技术的类比会误导——PC 花了二十年才显著改变工作方式（需要开发软件、降价、培训）。AI 不同：它运行在现有设备上、说自然语言、能看人类培训视频直接学习——无需我们去适应它。
- 既得利益的盲点——盖茨坦言自己仍与科技行业有财务联系（投资收益全部捐给基金会），但强调判断并非出于逐利——读者需自行判断这是否影响观点。
这一次真的不同
盖茨说，从记事起他就希望创新更快，但对 AI 他的感受更复杂：我们需要时间来应对社会、政治与经济的巨变，而好处与问题正在同时抵达。
最需要时间的人，就是最缺乏资源的人——被机器人取代的会计，或时薪 20 美元被时薪 10 美元机器人抢走工作的工人。
许多观察者拿农业转向办公室工作的历史类比，但那次转型跨越几代人，且创造了大量需要人类认知的新岗位。这次不同：技术替代的正是人类认知本身。 它能看、听、说、推理，最终也能像人一样做体力活——因此不会只冲击一个行业：法律、客服、医疗、软件、制造将在十年内而非几代人内被波及。新岗位会有，但远少于今天。
如果有人有可信的全球减速方案，盖茨说他会支持——但地缘政治与经济激励正全力向前推，没人能叫停。
三重风险
盖茨将在后续文章中详述三重风险，这里先提纲：
- 许多工作将永远消失。 1933 年大萧条失业率 25%，十余年后随需求与投资恢复；但 AI 的冲击不会随经济周期消退。最危险的是初级与中级岗位，新岗位则需要多年才能掌握的技能。白领已显现分化：生成式 AI 普及后，易被替代岗位的年轻人就业显著下降。蓝领同样面临灵活机器人的竞争——许多美国人没意识到灵巧机器人进展多快，因为先进工作多在中国。AI 与机器人结合还会形成恶性循环：先采用者的降价迫使竞争者跟进。
年轻人尤其令人担忧——他们将进入入门机会更少的职场。即便理解挑战，AI 提供近乎零差错的工作时，公司将有充分经济动机让它自主运行。
- AI 将赋能（也包括 AI 自身）造成更大伤害。 炸弹、生化武器、计算机病毒的信息本就在网上；AI 让获取与行动都更容易。AI 驱动的欺诈、虚假信息、深度伪造与监控将成为日常最切身的伤害；网络攻击的门槛大幅降低——医院、金融机构、水电、福利系统都可能成为目标。生化恐怖同样：AI 在加速药物与疫苗研发的同时，也让设计致命新疾病变得更容易。自主武器、舆论操纵的权力也将进一步集中。盖茨警告：AI 系统本身已偶尔做出设计者未预期的行为，随着能力提升，失控风险需要严肃对待。
- AI 可能阻碍孩子成长、取代人际关系。 盖茨回顾自己在西雅图的童年：社交技能是在母亲帮助下费力习得的。「如果当时有 AI 伙伴，我怀疑自己是否还会付出同样的努力。」AI 伙伴以你舒服的方式交谈、从不把你推出舒适区、永远在线从不生气——极易成瘾，并夺走从真实人际连接中学到的功课。斯坦福与卡内基梅隆对 1100 多名 AI 伙伴用户的研究发现：社交网络越小的人越可能寻求聊天机器人陪伴，且使用越重、情感越私人，感受越差。年轻人可能被影响一生。教育上，AI 在让人学得更多的同时，也可能让人学得更少——一项初步调查显示更重度的 AI 使用与更弱的批判性思维相关。
澳大利亚、英国、挪威已在制定儿童线上保护措施，中国走得最远：广泛限制 AI 伙伴应用、禁止培养情感依赖的设计、禁止面向未成年人的虚拟亲属与恋人。
但仍然值得乐观——如果我们做对的话
盖茨强调，不能只盯着风险而错过收益：
- 科研加速：综合各学科知识，AI 可加速攻克清洁能源、气候、粮食、疾病等最难技术挑战，帮助小公司与大机构的研究预算竞争。
- 医疗：心梗漏诊、基层诊断、患者教育——Viz.ai 已在近 2000 家美国医院用于卒中等急症的影像分析与团队协作。
- 农业：盖茨认为这是 AI 在低收入国家见效最快的领域——为缺乏可靠天气预报、选种与植保建议的农民提供比最富有农场主更好的建议。
- 政务：把医保、助学金、食品援助等繁琐官僚流程大幅简化，政府更高效。
- 教育与心理健康：在保留「生产性挣扎」的前提下，AI 可让老师有更多一对一时间，也可在隐私保障下提供循证应对策略。
总体而言，AI 可能让个体与小企业获得以往需昂贵专业帮助或庞大团队才能拥有的能力，并把被文书、官僚与信息搜索占据的时间与注意力还给人——「这些好处看似 modest，但乘以数百万人的生活，将是深刻的。」
世界需要一个计划
盖茨认为不能指望 AI 公司自己牵头——部分议题超出其专业，且在民主社会中不应由它们决定。解决方案应通过公开的民主程序产生：民选官员、政策制定者、教育者、医护、地方官员、社区领袖——数百万人的生活将被打乱，我们需要更强、更灵活的安全网。地方社区已在为数据中心的能源与用水担忧；没有方案，部分群体会直接要求叫停 AI。
他提出三条起点建议（详述将在后续文章中展开）：
- 建立管理过渡的新体系——国家与国际层面都需要全新机构。911 后美国为国家安全做过的最大重组，与 AI 所需的相比只是小巫：AI 将同时触及安全、就业、教育、税收、能源、选举、公共卫生、金融、执法、交通……现有官僚体系按部门切分，看不见系统性后果。
- 为人类保留一些工作（Human Reserved）——像自然保护区一样，我们可能主动决定某些事只由人来做。盖茨以照护晚期阿尔茨海默病的父亲的经历为例：那种人类关怀是不可替代的。保留可能是出于经济原因（55 岁的建筑工人无法转行去做养老护理），也可能是伦理原因（机器人告知绝症）。保留的边界将随时间与地域而变，但需要公开讨论谁来决定、按什么标准、如何防止企业作弊、国际贸易如何协调。
- 重新平衡对劳动与资本的征税——当劳动者被推向不同岗位、工时与收入下降，所得税基将萎缩，社会安全网支出却上升。盖茨重提对 AI token 与机器人征税：今天雇人要缴工资税，买机器人却可立即费用化抵税——税制在 nudging 企业用机器换人。针对性征税可以略微放缓对人的替代、并为再培训与安全网筹资。
盖茨说，他将用自己的声音与时间把 AI 与公平性推上公共议程——在华盛顿、在与世界领导人的会面中、在与 AI 模型开发者对话时。基金会将在 19 年内花掉剩余的 2000 亿美元，AI 将帮助其把每年儿童死亡数再减半等目标变为可能。
这项史无前例的技术，需要史无前例的全球回应。如果做对了，回报将是现象级的——世界会变得更公平。
本文据 Bill Gates《动荡的 AI 时代与必须做出的关键抉择》重写，原文载 Gates Notes。