技术封建时代的黑客文化与社会技术债务危机

本文为安全大咖布鲁斯施奈尔的最新力作编译：

文化正日益被算法所调节。这些算法分裂了文化的组织，这是国家和科技公司争夺大众影响力的结果。其副产品是从不完美但广泛的文化叙事转向由意识形态或美学定义的小众群体，而不是由国籍或地理位置定义的群体。这种变化反映了集体身份与权力关系的物质转变，表明国家不再独占这些领域。

从黑客文化到文化黑客

今天，权力和文化正日益成为企业的领地。

麦肯齐·沃克在《黑客宣言》中结合斯图尔特·布兰德和让-雅克·卢梭的观点，写道：“信息渴望自由，但无处不在枷锁之中。”这种既无害又革命的断言，指向了互联网时代权力重组的主要思想之一：信息渴望自由。这一黑客文化信条，源于布兰德在1984年黑客大会与苹果联合创始人沃兹尼亚克的对话，后来在其1987年的书《媒体实验室：在MIT发明未来》中得到了进一步发展，成为早期互联网发明者、活动家和企业家的核心信条。最终，这一理念奠定了我们今天所处时代的基础：一个互联网公司主导公共和私人生活的时代。这些公司以信息渴望自由为借口，构建了让人们连接和分享内容的平台。随着时间的推移，这一发展促成了我们时代的决定性权力转移，从国家到企业。

这种权力转移部分是由个人数据及其影响人们行为的潜在力量推动的。这在政治和商业中都是至关重要的目标。数字广告行业的先驱们声称，他们掌握的关于人们的数据越多，就越能影响他们的行为。通过这种方式，他们将数据作为影响力的代理，并为大规模数字监控建立了商业案例。大创意是，数据可以准确地建模、预测和影响每个人的行为，从消费者到选民，再到犯罪分子。实际上，数据与影响力之间的关系更加模糊，因为影响力很难衡量或量化。但数据作为影响力代理的想法很有吸引力，正因为数据是可量化的，而影响力是模糊的。谷歌广告、Facebook、益百利和类似公司的商业模式之所以有效，是因为收集数据的成本低，而随之而来的影响力效果则难以衡量。信条是“构建平台，收集数据……然后获利。”到2006年，一份重要的政策文件提出了“数据是新石油吗？”的问题。

入侵文化操作系统

成功吸引和维持大规模注意力的数字平台，如Facebook、TikTok和Instagram，已经成为文化的一部分。这些平台的设计决定了绑定人们在共同身份协议中的习俗、符号、故事、价值观和规范的传播。文化通过艺术和媒体等人类系统表达出来，是一种社会基础设施。换句话说，文化是社会的操作系统。

像任何设计良好的操作系统一样，文化对大多数人来说在大多数时间是隐形的。隐藏在显而易见的地方，我们不断地使用它而不自觉。作为操作系统，文化构成了社会互动的基础设施层，促进沟通、合作和相互关系。文化总是不断发展的，是有弹性的：我们在其基础上构建、重新混合甚至打破它。

文化也可以被黑客入侵——为了特定的优势而颠覆。如果文化像操作系统，那么黑它就是利用该系统的设计来获取未经授权的控制，并将其操纵向特定的目标。这可能是好的也可能是坏的。黑客行为的道德取决于黑客的意图和行为。

当企业黑客文化以收集数据为目的时，他们并不一定是在破坏或摧毁社会结构和文化基础设施。而是，他们重新路由信息和价值的流通，惠及其股东。这并不是新鲜事。以前也有文化黑客。例如，通过秘密支持，美国中情局黑入了抽象表现主义运动，以宣传资本主义对高文化的友好态度。广告利用民间文化的圣诞老人和美国牛仔形象，分别为可口可乐和万宝路香烟做广告。在1910年革命后，墨西哥执政党利用壁画运动，试图构建统一的国家叙事。

数字资本主义下的文化黑客有所不同。传统宣传是单向的——从政府到民众，或者从公司到客户，而互联网监控业务是双向的：在推送引人入胜的内容的同时提取数据。提取的数据用于确定用户最感兴趣的内容，而这种参与度又用于提取更多数据，如此循环往复。目标是让尽可能多的用户尽可能长时间地留在平台上，以便向广告商出售这些用户。传统宣传与数字平台的另一个区别在于，前者旨在制作具有广泛吸引力的信息，而后者则为个别用户高度个性化内容。

中国拥有的TikTok的兴起在美国引发了关于外国平台通过操纵用户看到的内容来影响用户的激烈辩论。美国公司多年来一直在使用类似的策略。虽然平台所有者的政治承诺确实很重要——中国公司为中国服务，美国公司则为商业目标服务——但更紧迫的问题是，两者都有几乎不受限制的监控权力。他们都通过黑客文化来提取数据并提供内容，重新塑造社会。搞笑的模因、震惊的新闻和鼓舞人心的图像都起着类似的作用：它们为公司提供了前所未有的访问社会集体梦想和恐惧的机会。通过确定谁在何时何地看到什么，平台所有者影响了社会如何表达他们对自己的理解。

算法茧房与文化解体

科技公司希望我们相信，由算法决定的内容是有效中立的：它只是反映用户的行为和品味。2021年，Instagram负责人Adam Mosseri在公司博客上发布了一篇名为《揭示Instagram如何运作》的文章。记者Ben Smith在他的文章《TikTok如何读取你的思想》中也提供了类似的见解。这两篇文章的核心观点是：“我们根据你的行为使用复杂的数学来给你更多你真正喜欢的东西。”

这有两个后果。首先，控制用户看到什么的公司以不透明的方式影响我们对世界的看法。它们甚至可以塑造我们的个人关系。其次，通过为个别注意力优化算法，文化作为共同基础的感觉丧失了。数字平台不是通过共享叙事来绑定人们，而是将共同的文化规范分裂成自我强化的过滤气泡。

这种共享文化身份的分裂反映了数据监控业务如何重写全球权力的既定秩序以及国家政府与公民之间的社会契约。在互联网之前的现代国家时代，不完美但广泛的叙事塑造了不同的文化身份；“墨西哥文化”与“法国文化”不同，这些叙事旨在从“他们”中分离出“我们”，以服务于政府目标。文化长期以来被认为在国籍的范围内运作，这体现在按照艺术家的国籍组织博物馆藏品或威尼斯双年展的国家展馆格式中。

然而，国家文化不仅仅是博物馆藏品或促进旅游业。它通过情感上将公民与自我理解的身份绑定在一起，从而广泛地使国家权力合法化。这种身份有助于确保不断供应军队新兵，以保卫国家的延续。社会学家James Davison Hunter推广了“文化战争”一词，强调文化被用来为捍卫这些身份的暴力行为辩护。我们在2021年1月6日的美国国会大厦骚乱中看到了一个例子。许多参与者被捍卫一种他们认为受到威胁的文化身份的愿望所驱动。

从连接到控制

军事优先事项也与科技行业的起源纠缠在一起。美国国防部资助了ARPANET，这是互联网的第一个版本。但如果没有西海岸反文化和小规模自由主义的影响，互联网不可能成为今天的样子，这两者将早期互联网主要视为一个连接和娱乐的空间。早期数字游戏设计师之一Bernie De Koven创立了游戏保护基金会，受Stewart Brand对“游戏”的兴趣启发，创办了一个致力于游戏的中心。Brand设想的“游戏”作为对越南战争的抗议替代形式，它们将成为对军事的“软战争”的颠覆性表达。但随着新生科技公司的数字监控商业模式的兴起，这种反建制精神被黑了，将社会凝聚力和连接工具变成了控制工具。

科技的这种反文化传承，倡导游戏的社会价值，使科技行业意识到文化的实用性。我们在Brand的《全地球目录》中看到了游戏和军事控制的结合，它对早期科技文化产生了巨大影响。被描述为“反文化技术圣经”的《全地球目录》在第一代互联网工程师中非常受欢迎，确立了信息、技术和社区之间理想关系的关键“假设”。Brand的1972年《滚石》杂志文章《太空战争：计算机中的奇幻生活与象征死亡》进一步强调了基础电子游戏在工程社区中的核心地位。这些游戏在斯坦福、MIT、ARPA、施乐等领先的工程研究中心广受欢迎。这种对游戏作为技术技能表达和黑客社区联结方式的热情导致了MUD（多人地牢）的发展，这使得多人可以在线上同时交流和合作。

第一个MUD由工程师们于1978年开发，他们想在网上玩幻想游戏。它将早期互联网的分权和个性化精神应用于视频游戏，使其成为大规模多人在线角色扮演游戏和现代聊天室和Facebook群组的前身。今天，这些视频游戏和类似游戏的模拟——现已成为价值约2000亿美元的商业行业——是军事重要的招募和培训工具。科技行业和文化的历史充满了互联网作为工程玩具和监控商品之间的紧张关系。

历史上，基础设施业务——如19世纪美国的铁路公司——一直拥有相当大的权力。互联网公司也是基础设施业务，将商业利益与对国家和个人安全的影响结合起来。随着我们从连接物理空间的铁路大亨转向连接数字空间的云计算公司，技术发展的速度使政府处于不利地位。结果是，公司现在引领新技术的发展（这与ARPANET时代相反），而政府则跟随，努力将公共服务现代化与新技术保持一致。像微软这样的公司实际上在提供国家网络安全服务。Starlink，埃隆·马斯克的卫星互联网服务，是一种消费者产品，为乌克兰战争的军事通信提供便利。传统上，这种服务仅限于特定用户，由国家提供。越来越明显的是，一些跨国公司正在利用其技术优势巩固经济和政治权力，达到了以前只有大国才能拥有的程度。

更糟糕的是，由于这些公司跨多个国家和地区运营，没有任何监管机构有权有效限制它们。从国家到企业的权力转移以及作为互联网商业模式的监控性质，重写了国家政府与公民之间的社会契约。但它也模糊了公民、消费者和工人之间的界限。例如，谷歌的Recaptcha视觉图像拼图用于网络安全，以“证明”用户是人类而不是机器人。虽然这些拼图被公司和政府用来为其网站增加一层安全性，但其价值在于记录用户输入解决拼图，以训练谷歌的计算机视觉AI系统。同样，微软在向政府提供重要网络安全服务的同时，也在训练其AI模型。

社会技术债务危机

在这种动态下，当公民使用科技公司提供的数字工具和服务（往往是为了访问政府网页和资源）时，他们实际上为这些科技公司提供了免费的劳动。通过解决拼图或与Bing进行对话生成的数据，提升了公司的产品开发和完善。结果是，这种新模糊现实中，企业、政府、权力和身份之间的关系正在发生变化。我们的社会和文化基础设施因此受到了影响，创造了一种新的社会技术债务。

在软件开发领域，技术债务是指忽视短期工程问题的未来成本。随着工程师实施短期补丁或变通方案，选择将更昂贵且涉及的重新设计修复推迟到以后，技术债务会随着时间的推移累积，并在长期内偿还。在文化和社会基础设施方面，我们使用相同的短语来指代由于避免或未充分解决当前的社会需求而导致的长期成本。这不仅仅是一个简单的错误，社会技术债务指故意不解决今天的社会问题，留下一个更大的问题在未来解决。

例如，新闻行业的衰落就是这种技术债务的一个例子。新闻行业依赖社交媒体来驱动流量和收入。当社交媒体公司调整其算法以降低新闻的优先级时，新闻网站的流量骤减，导致许多出版物面临生存危机。现在，传统新闻在社交媒体内容中所占比例仅为3%。与此同时，66%的18至24岁年轻人表示，他们通过TikTok、Facebook和Twitter获取“新闻”。清楚地表明，Facebook在吞噬新闻行业时没有产生技术债务，我们作为社会正在为允许他们这样做支付社会成本。

这种由于社交媒体文化基础设施变化引起的信息消费变化，导致了极化和激进主义的上升。因此，由于没有在近期内适当监管科技公司和支持新闻机构，我们的政府为长期的社会不稳定铺平了道路。作为社会，我们还必须找到并资助新的系统来监督企业和政府的权力。

另一个社会技术债务的例子是电子商务对实体店和购物中心的缓慢侵蚀。这些地方曾是物理聚会的重要场所，有助于集中在那里的商店和餐馆的生意兴隆。但电子商务和直接面向消费者的趋势破坏了主街和购物中心的经济可行性，使小企业生存变得更加困难。长期来看，这对社会的后果是市中心的空心化和物理聚会场所的丧失——我们最终都将为此付出代价。

博物馆财务状况不佳也会对整个社会产生长期影响，特别是在美国，博物馆主要依靠私人捐助者来支付运营成本。但年轻一代的慈善家正在将捐赠优先事项转向其他领域，导致一些机构陷入资金危机。

最后一个例子是图书馆。纽约大学社会学家Eric Klinenberg称图书馆为“社会基础设施行动的教科书例子”。但今天，它们像博物馆、主街和新闻媒体一样，面临着巨大压力。在纽约市，市长Eric Adams在过去一年中提出了一系列削减图书馆系统预算的严厉措施，尽管图书馆使用率最近有所上升。最严厉的削减最终被撤回，但纽约市的大多数图书馆仍不得不取消社会项目和减少开放天数。随着越来越多的现实生活中的聚会场所关闭，我们越来越多地转向数字平台寻求连接以取代它们。但这些虚拟空间是为了股东回报而优化的，而不是为了公共利益。

失控的科技封建主义

仅有七家公司——Alphabet（谷歌母公司）、亚马逊、苹果、Meta、微软、英伟达和特斯拉——推动了2023年标普500指数60%的涨幅。四家公司——阿里巴巴、亚马逊、谷歌和微软——提供了大多数云服务。这些公司掌握了数字和实物商品和服务的交付。社交媒体、云计算、杂货和药品等所有与社会相关的东西都被困在它们的飞轮中，因为以前刹住企业权力的系统（如垄断法、工会和新闻媒体）已经被侵蚀。产品依赖和监管俘获进一步削弱了国家应对企业硬实力和软实力上升的能力。锁定和其他反竞争行为阻止了市场机制的正常运作。随着民主危机的加深，政策和文化越来越倾向于服务于企业利益。商业、政府和文化分立的假象维持了现状。

我们的数字化全球经济使我们都成为国际数据贸易的参与者，尽管是勉强的。尽管我们意识到数字平台的隐私侵犯和社会成本，我们仍然参与这些系统，因为我们觉得自己别无选择——这本身部分是由于科技垄断和缺乏竞争。

现在，人工智能的崛起将大数据推向了一个新阶段，并与社会契约产生了新冲突。更大、更强大的AI模型的发展意味着对数据的需求增加。再次，大规模文化提取是这些努力的核心。正如AI研究人员和艺术家Kate Crawford和Vladan Joler在他们的展览《计算帝国》的目录中解释的那样，AI开发人员需要“整个人类知识和文化的历史……目前对生成系统（如GPT和Stable Diffusion）的诉讼，强调了AI系统对提取、封闭和商品化整个认知和创作劳动历史的完全依赖。”

黑客、文化与新世界秩序

允许互联网公司入侵和摧毁文化生产和传播系统，是一种短期的权宜之计，已被证明具有破坏性的长期后果。当政府允许科技公司不受监管地访问我们的社会和文化基础设施时，社会契约偏向于它们的利润。当我们通过分享模因或参与网络口水战获得即时的宣泄时，真实的抗议被压制了。通过将我们的社会和文化基础设施交给科技垄断公司，我们正在增加集体的社会技术债务。

文化表达是我们人类的根本特征。这是一种冲动，是我们作为一个物种的本能，这种冲动将继续成为科技公司的金矿。有证据表明，基于合成数据（由其他AI模型而非人类生成的数据）训练的AI模型会破坏这些模型，导致它们对查询返回错误或荒谬的答案。因此，随着AI生成的数据充斥互联网，保证源自人类的数据变得更加有价值。在这种背景下，我们的人性，驱使我们创造和表达文化，是数字资本主义的梦想。我们成为了一台永动机，不断产生免费的数据。为了股东的利益，这些公司将提取这种文化生活的价值视为它们的信托责任——甚至是一种道德义务。

我们正处于一个奇怪的过渡时期。以前国家拥有最终权威的全球秩序还未完全消亡。与此同时，大公司开始提供一些被国家放弃的服务，但代价是隐私和公民福祉。越来越多的是，公司提供了一种稳定的经济和社会组织，尽管不一定是愉快的。类似的情况发生在美国镀金时代（1870年代至1890年代）。但当时，强盗大亨的影响主要限于他们运营的地理区域，他们提供的服务（如铁路）之前并未由国家提供。在我们当前的过渡期，世界各地的公共生活正在按照企业价值观重新想象。在国家中心主义世界和新兴资本中心世界之间的拉锯战中，由于社会和个人需求在跨国秩序下得不到满足，激进主义日益加剧，这一秩序被最大化为利润而不是公共利益。

在全球化、分裂的世界中，文化与国家身份越来越脱节。从积极的一面看，这种脱钩可以使文化对边缘化群体更加包容。然而，其他群体，特别是那些面临特权丧失的群体，可能会将这种新现状视为威胁。白人基督教民族主义的崛起表明，右翼仍然认为国家身份和文化是至关重要的——是通过反民主手段建立政治权力的有力工具。这种现象表明，文化身份与国家身份的分离并不否定后者。相反，它创造了新的政治现实和新的权力秩序。

签发护照的国家仍然表现得好像他们是身份的最终仲裁者。但今天的文化——特别是互联网文化的多元宇宙——暴露了这一点越来越不真实。随着政府作为最终权威的信用丧失，身份越来越少地与国籍相关，我们可以在这样一个事实中找到导航当前过渡的希望：文化从来不是静态的。新的抵抗形式总是在出现。但我们必须问自己：科技行业压倒性的监控力量是否使颠覆变得不可能？还是它急于收集全世界的数据，为黑掉系统带来新的可能？