亚马逊的“人工”智能骗局

人工智能领域存在着一个灰色地带，数百万默默无闻的廉价人类劳动力正扮演着关键角色。他们受雇于科技公司训练算法，名义上是数据标签工人或算法监督者，但实际上却成了这些“算法功能”的主要操作和实现者。本周，《信息报》近日的一篇报道将这些人推上了风口浪尖。报道称，亚马逊允许顾客拿了就走的“Just Walk Out” 技术正逐步退出其杂货店。这项技术的部分原理在于，由 1000 多名印度籍员工观看并标记视频，以确保结账准确无误。

亚马逊在其网站上宣称，“Just Walk Out” 技术利用了“计算机视觉、传感器融合和深度学习”，却隻字未提人工操作人员。该公司告诉 Gizmodo 网站，这些员工只是在给视频做注释以帮助改进，并且只有在人工智能无法确定购买行为时，才会由他们来核实“极少数”的购物行为。

即便如此，亚马逊的例子还是残酷地提醒我们，“人工智能” 通常仍需要大量人类“保姆”才能正常工作。亚马逊甚至有一个名为“亚马逊土耳其人”（Amazon Turk）的整个业务部门，专门帮助其他公司训练和运营人工智能系统。全球各地有成千上万的自由职业者自称“土耳其人”，而该部门的名称来源于 18 世纪的“机械土耳其人”——一个由藏在内部的人操纵的国际象棋游戏装置。

撇开历史事件不谈，还有许多公司未能提及那些在看似前沿的人工智能技术背后操纵着控制杆的人类。以下仅举几例：

• 2018 年，Facebook 关闭了其基于文本的虚拟助手 M，此前该公司用了两年多时间让人工操作人员来训练（和运营）其底层人工智能系统。
• 一家名为 x.ai 的初创公司曾推出“人工智能个人助理”来安排会议，但实际工作却是由人类完成。由于无法让算法独立工作，该公司在 2021 年宣告关停。
• 据《华尔街日报》报道，一家名为 Builder.ai 的英国初创公司销售可以构建应用程序的人工智能软件，但部分工作实际上是由印度等地的软件开发人员完成的。

在开发算法的过程中，利用人类来过渡，并期望最终由算法取代，这与利用人工智能的炒作和模糊定义来夸大技术能力之间存在着微妙的界限。即使是在最近生成式人工智能蓬勃发展之前，这种“伪人工智能” 或“人工智能泡沫”就已经十分普遍。

例如，为私募股权公司做尽职调查的 West Monroe Partners 公司，在 2019 年审查了 40 家美国待售公司提供给潜在投资者的营销材料，并分析了他们使用机器学习和人工智能模型的情况。通过评分系统，他们发现这些公司关于人工智能和机器学习的营销宣传平均夸大了其技术能力 30% 以上。同年，一家位于伦敦的风险投资公司 MMC 发现，在被归类为人工智能公司的 2830 家欧洲初创公司中，只有 1580 家真正符合这一描述。

将人类置于人工智能的幕后，其中一个明显的问题是他们可能最终不得不窥探人们的通信内容。例如，人工智能中的“监督学习” 导致亚马逊雇佣了数千名合同工监听 Alexa 的指令。但更广泛的问题在于“劣质商品”的泛滥。

对投资者来说，好消息是监管机构正在关注这个问题。上个月，美国北加州地区检察官 (即硅谷检察官) 伊斯梅尔·拉姆齐 (Ismail Ramsey) 表示，他将针对在上市前就其使用人工智能误导投资者的初创公司。

今年 2 月，美国证券交易委员会主席加里·詹斯勒 (Gary Gensler) 警告称，人工智能泡沫可能会触犯证券法。詹斯勒在视频讲话中表示：“我们希望确保这些公司说实话。” 他言出必行：一个月后，两家投资公司因夸大其使用人工智能而分别与美国证券交易委员会达成了 40 万美元的和解协议。

即使人工智能系统没有被夸大，我们也应该记住，存在着庞大的人力幕后产业，他们往往以低廉的工资支撑着许多高科技人工智能系统。（这一点已由凯特·克劳福德 (Kate Crawford) 等学者以及玛德胡米塔·穆吉亚 (Madhumita Murgia) 的著作《代码依赖症》(Code Dependent) 中得到充分证明。）换句话说，当人工智能看起来过于神奇时，你需要留神了。

参考链接：https://www.bloomberg.com/opinion/articles/2024-04-03/the-humans-behind-amazon-s-just-walk-out-technology-are-all-over-ai