湾区派对的山麓……[本系列前情：1, 2, 3, 4, 5, 6, 7, 8, 9]
Paul Graham 曾说，每座城市都在传递一条讯息。纽约说：你该多赚钱。伯克利说：你该活得更自在。波士顿说：你该更聪明。人在住过几座城市、体会过它们各自不同的心理效应之前，不该决定永久定居之地。
旧金山也传递一条讯息。它用一片嘈杂不谐的嗓音说出这条讯息——有的像蛇的嘶嘶声，有的像昆虫的唧唧声。「你该刺穿那层面纱，」它说，带着一种微弱的、以你的学识还认不出是古苏美尔语的口音。「你该撕开那层隔在你世界与无限之间的薄幕，看看背后是什么。因为你会喜欢看到的东西吗？哦不，完全不是。但你难道不好奇吗？那份驱使夏娃、浮士德、潘多拉去渴求知识的冲动——你没有吗？」
还有第二条讯息，来自第二个声音，一个听起来像疯癫的嘉年华揽客员，不停高喊：「STONKS！STONKS！STONKS！STONKS！」你听到哪个声音，取决于你的性格，也许还取决于你大学时嗑了多少迷幻药。据传说，Sam Altman 能同时听到两个声音，就像那些能自我和声的藏族喉音歌手。但当恶魔般的聒噪变得难以忍受时，旧金山人就用酒精、震耳的音乐和各种乏味的社交把它淹没。于是就有了著名的湾区家庭派对，其中一场你今晚就将参加。
2020 年湾区大犯罪潮那阵子你就在，当时人们会在车的前挡风玻璃上挂「车内无贵重物品」的牌子，像挂门柱圣卷（mezuzah）一样，祈求能挡住砸车窗的贼。即便如此，看到你朋友 Rob 家前门上的新牌子，你还是吃了一惊：「本建筑内无基准测试答案（BENCHMARK ANSWER KEYS）」。旁边贴着：「请将所有智能手机、笔记本、智能手表和联网的 BDSM 器具放入法拉第笼」。地上放着一个可怜的绿盒子，内衬锡纸。
你琢磨这牌子有多当真，但一进门，好奇心立刻得到了满足。Rob 正和一个妆化得很浓的 Z 世代女生对峙，她站在桌边打着电话。「你没看牌子吗？」他问，「公寓里不准带手机！」
「我失去了阅读能力，」那女生说，「我是大家在讨论的那个新『后识字社会』的一员。你知道，就是 Walter Ong 那套。」
「啊？」Rob 说，「那才不是真的！那只是所有记者和知识分子嘴上说说而已！」
「所有记者和知识分子都说的事，怎么会不是真的？」Z 世代小妞反问。Rob 顿了一下。「哇，也许你真的不会读字，」他用一种压抑着敬畏的语气说。「没关系，我不评判。但手机得进法拉第笼，这是规矩。」「为什么？」女生问。「哦天哪，」Rob 说，「你落后新闻多少了？这个你最好坐下听。而且你最好醉得再厉害一点。」
两人一起走开了。你去找更有意思的对话，却只碰到常见的创业圈攀比。「我是 Epstart 的 CFO，」一个名牌上写着 Behram 的男人说，「我们是一家精品猎头公司，专做那些名字出现在爱泼斯坦档案里的人。他们是最完美的员工——有科学头脑、人脉广，而且要么完全没有道德，要么至少能对身边发生的剥削保持刻意失明。而且他们大多数都被前东家开了，所以很便宜！不过就咱俩私下说，我们大部分客户只是那些爱泼斯坦曾因某个业务问题给他们发过一封邮件的人，压根没上过岛什么的。一半的情况，这都只是个帮人迈进门槛的噱头。」
「这太可怕了，」你说，一边飞快地试图想出一个说得通的、为什么可怕的理由。「你这是在往湾区进口一帮恋童癖。」
「反正旧金山没人有孩子，所以某种意义上这是减少伤害，」Behram 说，「把他们弄到惹不出麻烦的地方来。」
你需要尽快重拾对人性的信心。你看见朋友 Nishin，正和一小群人在沙发上待着。「嘿，」你喊他，「你还是传统天主教徒吗？给我讲讲，你知道的，耶稣的爱那类东西。」
「这个月我在尝试更折中的东西，」Nishin 说，「我最近迷上了『安德森金刚乘』（Andreessen-Vajrayana）。这是个新佛教宗派，试图熄灭那个内省的自我。真正的大师没有意识流或内心独白，只是作为因果之流中一个无中介的节点行动。有人说他们能彻底消灭意识，在世时就达到般涅槃。我上个月报了课。到目前为止还没有任何冥想之类的，他们只是让我帮他们挑创业项目。但我猜这就像那些禅宗公案，师父让人种二十年菜，后来才知道自己其实一直在不知不觉中学法。」
「Nishin，」你温和地说，「这是经典的自我提升骗局之一。他们根本不是佛教宗派。他们是想骗你当 A16Z 的 GP。」
Nishin 想了一秒。「操！」他叫道，「好吧，回到画板前。我听说城里还有另一个灵修团体，跟意识有关，或者具身意识，或者——哦我想起来了！情境感知（Situational Awareness）。」
「那也是家投资公司，」你说。
「我靠，」Nishin 说，「这太难了。你想在这座城市搞点自我提升，又拼命避开像 Leverage Research 这种明显的对冲基金……」
「其实，」你说，「那个真的是个灵修邪教。」
「这也太坑了，」Nishin 说，「我该辞职搬去爱达荷，跟 Tom 一样。」
他正看着站在你旁边的人之一，那人的名牌上确实写着 Tom。「你搬到爱达荷了？」你问。
「是啊，」Tom 说，「我原来做 AI，但我受够了科技圈的小圈子做派和背后捅刀，想回到真实世界，和真正的男人在一起。于是我找了份工作，给一家矿业公司做地质建模。」
「怎么样？」你问。
「糟透了，」他说，「地质学家跟 AI 宅一样小圈子，有自己那套圈内黑话和识别暗号。而且他们没完没了地用一个词——『含矿脉的』（lode-bearing）！」
「你们几个呢？」你问沙发上剩下的人。
「我是 Ekene，」第一个说，跟你握了手，「我是社会学家。现在在写一本关于最近这波抄袭丑闻的书。你会注意到，这些丑闻几乎全都针对黑人学者。我的论点是：白人至上文化利用抄袭指控来管束少数族裔，用一个本质上主观的罪名，把任何胆敢闯进精英圈子的有色人种打下去。」
「嗯，」你说，字斟句酌，「我想我们的政治立场并不一致，但我，呃，觉得你在自己深切关心的事情上努力，这很好。」
「努力？」Ekene 说，「才怪！我从头到尾都在抄袭。谁会来揭发我？」
你们哄堂大笑，话题转到圈子里接下来的两个人。他们看起来是一对。女的叫 Fiona，穿着「NEWSOM/CLAUDE 2028」的 T 恤；男的叫 Istvan，穿着配对的「VANCE/GROK 2028」T 恤。
「我做 AI 意识研究，」Fiona 说。
「哦！」Tom 说，「我一度也对这个感兴趣。你在某个有效利他主义团体吗？他们这么关心 AI 的福祉，挺低调暖心的。」
「不是，」Fiona 说，「我在 PornHub 工作。」
「PornHub 为什么要做 AI 意识研究？」Nishin 问。
「理论上，AI 是终极的色情生成器，」Fiona 解释道，「你可以索要任何最古怪的性癖——你的性感大学女教授被一个穿修女服的狼人打屁股——然后得到关于这个确切场景的无穷无尽的 AI 垃圾内容，而且永远不会有人知道。除了 AI 自己。所以 AI 色情用户压倒性地报告说，意识是我们产品最让他们担心的头号问题。如果我们的 AI 只是个工具，那没事，跟在 Word 里写情色小说差不多。但如果 AI 是有意识的，那里面就有一个有感知的存在在想着：『哇，用户 Fiona_T 要了四百个略有不同的、她的性感女教授被狼人打屁股的视频，真是个变态。』如果机器能评判你，那整个无限色情乌托邦就完蛋了。我们在研究一些边界定理，证明我们家的 AI 尤其永远不会获得自我意识——这样你也不必自我意识了。」
Nishin 和 Ekene 礼貌地鼓掌；Tom 似乎陷入了沉思。「你呢？」你问 Istvan。
「我也在色情行业，」他说，「我在做道德化的深度伪造。把一张你性感女教授的照片交给 AI、让它把衣服去掉、或者把她摆成性姿势，是不道德的。但找到一个长得很像你性感女教授的现役色情明星，然后，呃，欣赏她的作品，并不不道德。所以我们想——能不能把这个过程自动化？我们生成几千万个『虚拟色情明星』——在你有任何请求之前，就存在于我们服务器上的 AI 模型。它们数量多到我们可以证明：任何现存的人类，都至少有一个虚拟明星与之在视觉上无法区分。然后你上传一张你性感教授的照片，我们就给你一个链接，指向一张早已存在的、看起来跟她一丝不挂、摆出你想要任何姿势一模一样的图片或视频。」
「最终结果跟 AI 直接把她衣服扒了，不是一模一样吗？」Tom 问。
「当然，如果你是后果论者的话，」Istvan 说，「但大多数人会根据你是如何进入这个局面的，来区分相同的结果。比如大多数人接受电车难题的原版——牺牲一个救五个，却拒绝那个『胖子版本』——你牺牲的那个，是个被你从桥上推下去的胖子。最终结果一样——死了一个、活了五个——但你到达那里的方式不同。我们想给你同样的最终结果——一张你性感女教授的裸照——但通过一个更道德的流程来获得。」
「有意思，」Nishin 说。
「我们在招工程师，」Istvan 说，「你要认识什么人，告诉我，我给你内推奖金。理想候选人要技术过硬、极度饥渴、并且对自己行为的伦理后果视而不见。」
你的思绪闪回 Behram，你在「做介绍（有内推奖金！）」的好处与「（你的不朽灵魂）」的坏处之间权衡。「撒旦，退到我身后去，」你低声道，走向厨房。
好消息是，有全套热餐供应。坏消息是，那是塔可钟，而且所有塔可里都塞满了生菜。你看到 Sam 和 Tran，似乎又在管吃的。「我不是想抱怨免费食物，」你说，「但前不久不是刚有召回吗？因为塔可钟的生菜里有环孢子虫寄生虫？」
「那只是个营销噱头，」Sam 说。
「让你顾客染上食源性疾病，怎么就成了营销噱头？」
「你这不是在谈论它了吗？」Sam 反驳道，「任何曝光都是好曝光。我的理解是，塔可钟在说——我们的生菜新鲜到危险。你应该对我们生菜的新鲜和无防腐剂感到恐惧。」
「Tran，你就这么由着他？」你问他。「Sam 说塔可钟的食物翻车是一场刻意的噱头，」Tran 回答，「这不只是一个说法——它是一个以数据为中心的理论，基于关于新鲜度的广告，真相就存在于那种差异之间的空间里。让我想想，给出一个更完整的回答。」
「什么？」
「抱歉我没说清楚。这是一个关于食品安全的重要问题，你理应得到一个审慎的回答。当我说——」你心里咯噔一下。「Tran，你是在像 AI 一样说话吗？」
「你说得完全对，」Tran 说，「我受够了社交焦虑、说错话。我一开始读戴尔·卡耐基，但照他的建议做让我听起来像个蹩脚的推销员——这也恰恰说明，自 1930 年代以来，社会规范已经变了多少。转折点是我意识到：我们其实已经知道最受欢迎的表达风格是什么了。AI 公司在 RLHF 里让人类评分员给模型输出打分，得分最高的那种风格，就存活为众所周知的 AI『声音』。这不是偶然——它证明了人们确实发自内心地偏爱它。普通人觉得它听起来精炼、周到、有见识。而这里有个大多数人觉得惊人的地方——仅仅一个月，我就从一个没朋友的壁花，变成几乎每晚都有约会。这是那些『人类风格至上论者』真该好好消化的事。」
「哦，谢天谢地。我还以为是 Cluely 重新营业了呢。」
「你正好戳中了人们初次接触这个领域时天然会有的误解，」Tran 说，「但像 AI 一样说话，并不是某一家公司的专属。它是一个活力四射的新词宝库，任何人都能用。你想多听听『模仿 AI 的口癖如何帮我延续对话』吗？」
「呃，想——等等！不想！」你打住，以最快速度转身，差点撞上一个穿着爱心灯泡图案「有效利他主义」T 恤的女人。「嘿，」你说，「我想加入暂停 AI 的行动。你能给我指个最近的抗议团体吗？」
「抱歉，」那女人自我介绍叫 Kendra，「这个我恐怕不了解。我在 Totality For Tots 工作。我们是一家慈善机构，带学童去旅行看日全食。」
「呃……挺好？」你说，「我猜它听起来……比我想象的可爱。我还以为有效利他主义者热衷的是为治病救人做冷酷无情的优化。」
「那是『总量功利主义』（Total Utilitarianism），」Kendra 说，「你天真地想最大化世界上所有人的总效用。它容易受『令人反感的结论』（Repugnant Conclusion）之类的悖论困扰。『平均功利主义』——想提高世界平均效用的那种——更糟。Will MacAskill 的最新提案是『饱和功利主义』（Saturation Utilitarianism），多加了一项『体验的多样性』。你不能把一万亿人统统塞进快乐机，因为第一万亿个人几乎贡献不了什么。你需要一组多样的善，比如幸福、德行、英雄气概、艺术等等。」
「还有日全食？」
「所以饱和功利主义有个小问题，就是它意味着所有慈善都取决于你认为外星人在做什么。如果仙女座那边有一万亿外星人正在享受伟大的艺术，那么伟大艺术已经饱和了，在地球上再建博物馆就毫无意义。如果天龙座阿尔法 1 星的蜥蜴人已经治好十亿例太空结核病，那治结核病也出局了。所以我们大学的 EA 小组花了一阵子，想搞清楚美好生活里有哪些部分外星人肯定体验不到。显而易见的答案就是日全食。它之所以成立，全靠一个疯狂的巧合——太阳和月亮几乎一样大，又处在恰好正确的相对轨道上。整个银河系可能都没有第二颗行星有我们这样的日食。这是理所当然的选择。」
「人们会给你捐款吗？」你问。
「没有我希望的那么多，」Kendra 承认，「主流的天文学和 STEM 教育基金会不感兴趣。通常我们有个执行总监负责维护捐赠人关系，但上一任七月刚辞职。你要是听说有什么人——有科学头脑、在富有的精英中人脉广、又爱孩子——就告诉我。」
「不！！！」你大喊，扑向一侧，挡住她望向主厅的视线。她困惑地看着你。你不确定外星人对这一出会怎么看，但你不想冒任何险。「呃，抱歉，」你说，注意到有人盯着你。你花了一秒想这脸是谁。「你是……Michael 吧？」
「David，」他说，「我们几年前聊过。我当时在做『神话创作自动化』。」
「对。进展如何？」
「没成。人们不知道为什么，对老神话特别有感情。不过没事。这在神话圈子里挺利于拓展人脉的，那些关系帮我找到了现在的工作。多亏 Christopher Nolan，《奥德赛》现在火得一塌糊涂。所以我在帮皇家加勒比设计一条以《奥德赛》为主题的邮轮航线。」
「真的假的？人们听说一场可怕的、注定的、十年悲惨航程、大部分参与者都死了的海上之旅，你觉得他们会想要一条主题邮轮？」
「当然！你还记得电影《泰坦尼克号》之后有多少条泰坦尼克主题邮轮吗？而《奥德赛》是严格改进——奥德修斯最后还是回到家了！」
「好吧，有道理。那奥德赛邮轮会是什么样？」
「还在成形。显然它从恰纳卡莱出发——就是特洛伊遗址附近那座现代城市——终点是伊萨卡。全程十天，代表原著航程的十年。第一站是利比亚海岸的一个度假村。那个国家基本还处于无政府状态，所以我们觉得能搞到哈希什和鸦片，重现『食莲者』。独眼巨人好办——环球影业不知道拿他们那个放在希腊洞穴里的巨型电子独眼巨人木偶怎么办，就便宜卖给我们了。水手们被变成猪那段更容易——坐邮轮本来就有点像被变成猪，我们只打算那天把自助餐厅改成免费，然后顺其自然。」
「哈哈。」
「难点是喀耳刻和卡吕普索。Nolan 因为把这些角色去性化被喷得体无完肤，但我们要老少咸宜，而且我真不知道该怎么把『被女巫强暴』变成一种游客体验。我想我干脆放弃，外包给别人算了。你要是听说有什么人是『在奇怪小岛上搞非自愿性行为』的专家，就告诉我。」
「别他妈耍我了！」你吼道，尽管你不确定你吼的是 David 还是上帝。现在所有人都盯着你。该走了，你想。你溜出厨房，穿上鞋，离开房子。前廊上，你差点撞上 Vinaya。
「谢天谢地你在，」你告诉她，「你得帮我。派对上有个家伙开了家创业公司，专门从爱泼斯坦档案里招人，他要赚十亿美金了。你得想办法阻止他。」
Vinaya 想了一会儿。「有一个办法，」她得出结论，「你愿意不惜代价吗？哪怕不太体面？」
「什么都行，」你说。
「你说那家伙叫什么来着？」
「Behram，」你说，「他公司叫 Epstart。」
「嗯哼，」Vinaya 说，「愿上帝怜悯我们的灵魂。」她从门边法拉第笼里随手拿了一部手机，取出来，举到唇边。「嘿，」她用闲聊般的语气说，「我听说 Epstart 的 Behram 有基准测试答案。」
透过窗户，你立刻看到灯全灭了。震耳的音乐停了，留下一片诡异的寂静。
「跑，」Vinaya 说。
你们俩沿着街狂奔。你还是听到了。很久以前，你看过一部关于亚马逊的《国家地理》纪录片。一头牛掉进满是食人鱼的河里。不到一分钟，就只剩骨头了。那一分钟里牛发出的声音，是你此刻对 Rob 家传出的声响唯一的参照物——除了《夺宝奇兵》高潮处纳粹们发出的尖叫。
「现在你对任何人都能这么干了？只要说出那个 b 开头的词？」
「这是一个美丽新世界，」Vinaya 表示同意。你注意到，在恐惧的奔涌、尖叫、以及逼近的警笛哀鸣之间，你已经彻底淹没了旧金山那恶魔般的声音。