人工智能会成为新的麦肯锡吗？

图片：by CTOCIO/Midjourney

本文原载于纽约客，作者 Ted Chiang

人们担心人工智能将集中财富并剥夺工人的权力，有替代方案吗？

当我们谈论人工智能时，我们依赖比喻，就像我们在处理新的和不熟悉的事物时经常做的那样。比喻可以快速帮助理解新事物，但我们仍然需要保持谨慎，因为不好的隐喻会使我们误入歧途。例如，人们普遍将强大的 AI 比作童话中的精灵。这个比喻是为了强调让强大的实体服从你的命令的困难；计算机科学家 Stuart Russell 引用了 King Midas 的寓言（国王要求神满足他的愿望，让他触摸的一切都变成金子，结果变成了灾难）来说明人工智能按照你的指示去做而非你真正想要它做的事情的危险性。King Midas的寓言的要点是贪婪会摧毁你，追求财富会让你失去一切真正重要的东西。如果你对这个寓言的解读是，当你被神赐予一个愿望时，你应该非常非常小心地表达你的愿望，那么你就错过了重点。

所以，对人工智能风险更恰当的比喻应该是：将 AI 视为一家管理咨询公司，例如麦肯锡。正如企业选择购买麦肯锡服务的原因多种多样，人们使用人工智能系统的原因也有很多。但麦肯锡——一家与 90% 的财富 100 强企业合作的咨询公司——与人工智能之间的相似之处也很明显。社交媒体公司使用机器学习来让用户关注他们的信息流。同样，Purdue Pharma使用麦肯锡弄清楚如何在阿片类药物流行期间“涡轮增压”奥施康定的销售。正如人工智能承诺为管理人员提供廉价的人力替代品一样，麦肯锡和类似公司帮助规范大规模裁员的做法，以此作为提高股价和高管薪酬的一种方式，助长了美国中产阶级的毁灭。

一位前麦肯锡员工将公司描述为“资本心甘情愿的刽子手”：如果你想做某事但又不想弄脏你的手，麦肯锡会为你做。逃避责任是管理咨询公司提供的最有价值的服务之一。老板有特定的目标，但不想因为为实现这些目标所做的必要事情而受到指责；通过聘请顾问，管理层可以说他们只是在听从独立的专家建议。即使是目前的初级形式，人工智能也已成为公司逃避责任的一种方式，声称它只是在按照“算法”的要求行事，即使最初委托该算法的是公司。

我们应该问的问题是：随着人工智能变得越来越强大和灵活，有没有办法让它不成为另一个版本的麦肯锡？这个问题值得考虑“AI”一词的不同含义 如果您将 AI 视为向公司推销以帮助他们降低成本的广泛技术集，那么问题就变成了：我们如何防止这些技术作为“资本心甘情愿的刽子手”？或者，如果您将 AI 想象成一个半自主的软件程序，可以解决人类要求它解决的问题，那么问题是：我们如何防止AI以让人们的生活变得更糟的方式帮助企业？假设你已经建立了一个半自主的 AI 且完全服从于人类——一个反复检查以确保它没有误解它收到的指令的人。这是许多人工智能研究人员的梦想。然而，这样的AI软件仍然很容易造成与麦肯锡一样多的危害。

请注意，您不能轻描淡写地说，您将开发的AI解决方案仅针对您要求它解决的问题，且能造福社会。这相当于说你可以通过创办一家“正能量AI”咨询公司来化解麦肯锡的威胁。事实上，财富 100 强公司将聘请麦肯锡而不是您的造福社会的“正能量”公司，因为麦肯锡的解决方案比您公司的解决方案更能增加股东价值。人们始终能开发出追求股东价值高于一切的 AI，而且大多数公司更愿意使用这样的 AI 而不是您的基于“正能量”原则的 AI。

有没有办法让人工智能不做资本主义的磨刀石？需要明确的是，当我提到资本主义时，我并不是在谈论商品或服务的价格交换，而市场决定的价格是许多经济体系的特性。当我提到资本主义时，我指的是资本与劳动之间的一种特定关系，在这种关系中，富人或资本家能够从他人的努力中获利。所以，在这个讨论的背景下，每当我批评资本主义时，我并不是在批评销售东西的想法；而是在批评有钱人对产业工人施加权力的想法。更具体地说，我批评越来越多的财富集中在越来越少数的人手中。

当前的AI技术相当卖力地分析人类执行的任务并试图找出替代人类的方法。巧合的是，这也正是管理层（或者农场主）迫切想要解决的问题。结果，人工智能以牺牲劳动力为代价来帮助资本获益。真的没有什么比劳工咨询公司更能促进工人利益的了。人工智能有可能承担这个角色吗？人工智能会帮助工人而不是管理者吗？

有人可能会说，反对资本主义不是人工智能的工作。这可能是真的，但加强资本主义也不是人工智能的工作。然而，这就是它目前所做的。如果我们不能想出让人工智能帮助降低财富集中度的方法，那么就很难将人工智能定义为一种中性技术，更不用说有益的技术了。

许多人认为人工智能会造成更多失业，并提出全民基本收入（UBI）作为解决该问题的方法。总的来说，我喜欢全民基本收入的想法；然而，随着时间的推移，我开始怀疑AI从业者们寻求 UBI 作为对 AI 导致的大规模失业的解决方案的动机。如果我们已经有了普遍的基本收入，情况会有所不同，但事实是我们没有，所以表达对UBI的支持似乎是人工智能开发者向政府推卸责任的一种方式，实际上，人工智能开发者正在加剧资本主义的顽疾，并期望当问题变得足够严重时，政府别无选择只能介入。AI科技公司们“让世界变得更美好”的战略和愿景，需要引起我们的怀疑和警惕。

你可能还记得，在 2016 年大选前夕，伯尼·桑德斯 (Bernie Sanders) 的狂热支持者女演员苏珊·萨兰登 (Susan Sarandon) 表示，投票给唐纳德·特朗普比投票给希拉里·克林顿更好，因为这会给“革命”提速。我不知道萨兰登对此想得有多深，但斯洛文尼亚哲学家斯拉沃热·齐泽克也说过同样的话，我敢肯定他对这件事考虑得很周到。他争辩说，特朗普的当选将对体制产生巨大冲击，从而带来变革。

齐泽克提倡的是政治哲学中被称为加速主义的思想的一个例子。加速主义有很多不同的版本，但左翼加速主义者的共同点是认为让事情变得更好的唯一方法就是让事情变得更糟。加速主义说试图反对或改革资本主义是徒劳的；相反，我们必须加剧资本主义最坏的趋势，直到整个系统崩溃。超越资本主义的唯一方法是踩下新自由主义的油门，直到引擎爆炸。

我想这是创造一个更美好世界的一种方式，但是，如果这是人工智能行业正在采用的方式，我想确保每个人都清楚他们正在努力的方向。通过构建人工智能来完成以前由人类完成的工作，人工智能研究人员正在将财富集中度提高到如此极端的水平，以至于避免社会崩溃的唯一方法是政府介入。有意或无意，这与投票非常相似特朗普的目标是创造一个更美好的世界。特朗普的崛起说明了将加速主义作为一种战略的风险：事情可能会变得非常糟糕，而且在好转之前会持续很长时间。事实上，您不知道事情要花多长时间才能好起来；

我不太相信人工智能对人类构成危险的说法，因为它可能会制定自己的目标并阻止我们将其关闭。然而，我确实认为人工智能是危险的，因为它增加了资本主义的力量。世界末日情景并不是像一个著名的思想实验所想象的那样，制造人工智能将整个地球变成回形针。人工智能驱动的公司在追求股东价值的过程中破坏了环境和工人阶级。资本主义是一台会不惜一切代价阻止我们关闭它的机器，而它最成功的武器就是它阻止我们考虑任何替代方案的运动。

批评新技术的人有时被称为 勒德分子（Luddites），但弄清楚 勒德分子真正想要的东西是有帮助的。他们主要抗议的是，他们的工资在下降，而与此同时，工厂主的利润却在增加，食品价格也在上涨。他们还抗议不安全的工作条件、使用童工以及销售劣质商品，这些都损害了整个纺织业的信誉。勒德分子并没有不分青红皂白地摧毁机器；如果机器的主人给工人高薪，他们就会善待机器。勒德分子并不反对技术；他们想要的是经济正义。他们毁坏机器以引起工厂主的注意。事实上，“Luddite”这个词现在被用作一种侮辱，一种称呼某人非理性和无知的方式，

每当有人指责其他人是勒德分子时，值得一问的是，被指控的人是否真的反对技术？还是他们赞成经济正义？提出指控的人是否真的支持改善人们的生活？或者他们只是想增加私人资本积累？

今天，我们发现自己处于这样一种情况，技术已经与资本主义混为一谈，而资本主义又与进步的概念本身混为一谈。如果你试图批评资本主义，你就会被指责既反对技术又反对进步。但是，如果进步不包括让工作的人过上更好的生活，那进步又意味着什么呢？如果省下的钱除了存入股东的银行账户外别无他用，提高效率的意义何在？我们都应该努力成为勒德分子，因为我们都应该更关心经济正义，而不是增加私人资本积累。我们需要能够批评技术的有害使用——包括那些使股东受益而不是工人的使用——而不被描述为技术的反对者。

想象一个理想化的未来，一百年后，没有人被迫从事任何他们不喜欢的工作，每个人都可以把时间花在他们觉得最有成就感的事情上。显然很难看出我们如何从这里到达那里。但现在考虑未来几十年的两种可能情况。其一，管理层和资本的力量比现在更强大。另一方面，劳动力比现在更强大。其中哪一个似乎更有可能让我们更接近理想化的未来？而且，正如目前部署的那样，AI 会将我们推向哪一边？

当然，有人认为，从长远来看，新技术会提高我们的生活水平，从而弥补它在短期内造成的失业。这一论点在后工业革命时期的大部分时间里都很重要，但在过去的半个世纪里已经失去了它的影响力。在美国，人均 GDP 自 1980 年以来几乎翻了一番，而家庭收入中位数却远远落后。那个时期涵盖了信息技术革命。这意味着，个人电脑和互联网创造的经济价值，主要服务于增加 1% 的 富人的财富，而不是提高整个美国公民的生活水平。

当然，我们现在都有互联网，而且互联网很棒。但房地产价格、大学学费和医疗保健费用的上涨速度都快于通货膨胀。1980年代，靠一份收入养家糊口很普遍；现在很少见了。那么，过去四十年，我们究竟取得了多少进步呢？当然，网上购物既快捷又方便，在家看电影也很酷，但我认为很多人会愿意用这些便利来换取拥有自己的房子、送孩子上大学而不背负终生债务的能力，以及不会导致患者破产的医院。收入中位数没有跟上人均 GDP 的步伐并不是技术的错；这主要是罗纳德里根和米尔顿弗里德曼的错。但一些责任也落在了 CEO 的管理政策上，比如杰克韦尔奇，他在 1981 年至 2001 年间掌管通用电气，以及麦肯锡等咨询公司。我并不是将财富不平等的加剧归咎于个人电脑——我只是说更好的技术必然会提高人们的生活水平的说法不再可信。

在考虑人工智能可能带来的好处时，个人电脑并没有提高收入中位数这一事实尤为重要。人们经常建议研究人员应该关注人工智能如何提高个体工人的生产力，而不是取代他们；这被称为增强路径，而不是自动化路径。这是一个有价值的目标，但就其本身而言，它不会改善人们的经济命运。在个人电脑上运行的生产力软件是增强而不是自动化的完美例子：文字处理程序取代了打字机而不是打字员，电子表格程序取代了纸质电子表格而不是会计师。但是，个人电脑带来的个人生产力的提高并没有伴随生活水平的提高。

技术可以提高生活水平的唯一方法是制定适当的经济政策来适当分配技术的好处。在过去的四十年里我们没有这些政策，除非改变这种情况，否则没有理由认为人工智能即将到来的进步会提高收入中位数，即使我们能够想出办法让它增加个体劳动者的生产力。人工智能当然会降低企业的劳动力成本，增加企业的利润，但这与提高我们的生活水平是两码事。

如果我们可以假设乌托邦式的未来就在眼前并开发用于该未来的技术，这听上去不错。但是，某项技术在乌托邦中有用的事实并不意味着它现在有用。在一个拥有将有毒废物转化为食物的机器的乌托邦中，产生有毒废物不会成为问题，但是，在此时此地，没有人可以声称产生有毒废物是无害的。加速论者可能会争辩说，产生更多有毒废物会激发废物变食品转换器的发明，但这有多大说服力？我们在当前可用的缓解措施的背景下评估技术对环境的影响，而不是在假设的未来缓解措施的背景下。同样的道理，我们无法评价人工智能 通过想象它在 UBI 的世界中会有多大帮助；我们必须根据资本和劳动力之间现有的不平衡来评估它，在这种情况下，人工智能因其协助资本的方式而成为一种威胁。

麦肯锡的一位前合伙人为公司的行为辩护说：“我们不制定政策。我们执行死刑。” 但这是一个很薄弱的借口；当咨询公司或新技术提供实施方法时，更有可能做出有害的政策决定。目前正在开发的人工智能版本使公司更容易裁员。那么有没有什么方法可以开发一种不容易导致裁员的人工智能呢？

社会学家埃里克·奥林·赖特 (Erik Olin Wright)在他的《如何成为 21 世纪的反资本主义者》一书中提供了应对资本主义危害的策略分类。他提到的两个策略是粉碎资本主义和拆除资本主义，这可能不在本次讨论的范围之内。这里更相关的是驯服资本主义和抵制资本主义。粗略地说，驯服资本主义就是政府监管，反抗资本主义就是草根行动主义和工会。人工智能有没有办法加强这些东西？人工智能有没有办法赋予工会或工人所有的合作社权力？

1976 年，英国伯明翰卢卡斯航空航天公司的员工因国防开支削减而面临裁员。作为回应，车间管家制定了一份名为卢卡斯计划的文件，其中描述了 150 种“对社会有用的产品”，从透析机到风力涡轮机和汽车混合动力发动机，劳动力可以利用其现有技能和设备而不是被解雇。卢卡斯航空航天公司的管理层拒绝了该提议，但它仍然是工人试图将资本主义引向更人性化方向的一个著名现代例子。现代计算技术肯定可以实现类似的事情。

资本主义必须像现在这样有害吗？也许不会。第二次世界大战后的三十年有时被称为资本主义的黄金时代。这一时期部分是政府政策更好的结果，但政府并没有自己创造黄金时代：这个时代的企业文化不同。在GE 1953 年的年度报告中，该公司吹嘘它缴纳了多少税款以及在工资单上花费了多少。它明确表示“最大限度地提高就业保障是公司的首要目标。” 强生创始人表示，公司对员工的责任高于对股东的责任。与今天的公司相比，当时的公司对其在社会中的作用有着截然不同的概念。

有没有办法回到这些价值观？这似乎不太可能，但请记住，资本主义的黄金时代是在镀金时代巨大的财富不平等之后到来的。现在我们生活在第二个镀金时代，财富不平等与 1913 年大致相同，因此我们从现在的状态进入第二个黄金时代并非不可能。当然，在第一个镀金时代和黄金时代之间，我们经历了大萧条和两次世界大战。加速论者可能会说这些事件对于黄金时代的到来是必要的，但我认为我们大多数人更愿意跳过这些步骤。摆在我们面前的任务是想象技术如何将我们推向黄金时代，而不会首先带来另一场大萧条。

我们都生活在资本主义制度中，所以不管我们喜不喜欢，我们都是资本主义的参与者。并且有理由怀疑您作为个人是否可以做任何事情。如果你在 Frito-Lay 担任食品科学家，你的工作是发明新口味的薯片，我不会说你有道德义务辞职，因为你正在协助消费主义的引擎。您正在利用您作为食品科学家的培训为客户提供愉快的体验；这是一种完全合理的谋生方式。

但许多从事 AI 工作的人认为它比发明新口味的薯片更重要。他们说这是一项改变世界的技术。如果真是这样，那么他们就有责任为 AI 寻找方法，让世界变得更美好，而不是首先让世界变得更糟。除了将我们推向社会崩溃的边缘之外，人工智能能否改善我们世界的不平等现象？如果人工智能像其支持者声称的那样是一种强大的工具，那么除了加剧资本的冷酷无情之外，他们应该能够为它找到其他用途。

如果我们应该从本文开头帮助国王实现愿望的精灵故事中吸取一点教训，那就是不费吹灰之力就能得到一些东西的愿望本身才是真正的问题。想一想“魔法师的学徒”的故事，学徒施了一个咒语让扫帚提水，但无法让它们停下来。这个故事的教训并不是魔法无法控制：在故事的结尾，巫师回来并立即收拾了学徒制造的烂摊子。教训是：你无法摆脱艰苦的工作。徒弟想逃避他的杂务，想找捷径反而惹上了麻烦。

人们倾向于将 AI 视为神奇的问题解决者，这表明人们普遍希望避免为建设更美好的世界而付出辛勤工作。这项艰苦的工作将涉及解决财富不平等和驯服资本主义等问题。对于技术人员来说，这些最艰巨的工作，同时也是他们最想避免的任务，将质疑技术越多越好的假设，以及他们可以继续埋头为人工智能技术革命添砖加瓦、一切都会自行解决的信念。没有人愿意相信自己是世间不公正的同谋，但是开发震撼世界的技术的人们必须进行这种批判性的自我反省。他们是否愿意坚定地审视自己在系统中的角色，这将决定 AI 会带来一个更好的世界还是一个更坏的世界。