互联网失控：当软件机器人变得疯狂

图：Dv8

也许将来会出现真正的“好机器人”，但也会出现“坏机器人”，或者说“好机器人”办了坏事。这些都不是科幻小说，最近一次机器人定价大战导致亚马逊书店上的一本书被机器人“炒”到数百万美元，让我们领略到了机器人办坏事的能力。

今天在亚马逊书店上，LeeBetteridge的《如何面对个人破产》的二手书标价超过700万美元，实际上你在Kindle上7美元就可以买到“全新”电子版。700多万美元的定价倒是和该书的书名很搭。与这件事类似的是去年春天，一本名为《苍蝇的胜利》（关于果蝇的书）的科学著作在亚马逊被标价230万美元。这也太搞笑了，不过天价书背后隐藏着一个更深刻且令人不安的问题，那就是人类与机器人之间的关系。

我正在测试一个会阅读社交会话的语义智能程序——Bottlenose，我非常喜欢这个机器人程序的内容推荐功能，个性化的过滤简直太强了。本文开头的故事就来自今天这个机器人向我推荐的一条“推文”：亚马逊上一本旧书卷入机器人之间的报价战争，导致售价被飙到数百万美元。下面是这本天价书的截图：

看清楚一点，“二手全新”的价格是可怕的753万多美金

这条爆料的推文直接给了天价书的拍卖链接，没有相关文章，我在最近的推文中搜索关于亚马逊和价格机器人的新闻找到了一篇有关的文章，但似乎还没有人就天价书的事发表看法。

于是我问虚拟助手Fancyhands是否有人报道过此事，而且还通过电子邮件向几位人工智能领域的专家征求对此事的看法。

虚拟助手首先给了我反馈，Fancyhands将我的请求通过任务分配算法转给了另外一位虚拟助手用户，他发现去年春天加州大学伯克利分校的进化生物学家Mkchael Eisen针对写过一篇非常令人信服的文章分析此类现象的发生机制，并通过邮件告知了我。

Eisen认为亚马逊书店的书商使用了很差劲的定价算法，陷入了不断升级的循环。有一个书籍经销商运行这样的算法：”如果有人在亚马逊跟我们卖同样的一本书，我们就把这本书的价格修改得比另外那家店的低一点。“同时，另外一家书商运行的算法是：”如果有人在亚马逊上卖书，我们就说我们也有这本书，并且把价格订得比有货的那家更高一些，倒卖出去赚点差价。“

《如何面对个人破产》这本书标出天价的原因，估计就是同一个书商在为同一本书报出两个价格。其中一个报价由“最低价”算法生成，而另外一个则是由“赚点差价”的算法生成，于是导致了一次疯狂的报价循环。

我向Neal Richter讨教，他是机器学习专家和Rubicon Project的首席科学家，Rubicon Project是在线广告实时购买技术的提供商。Neal Richter在回复我的电子邮件中说道：“亚马逊等网站都有上架或下架的库存API，加之定价的透明，意味着任何一个有着初步经验的人都能在不同电商网站之间倒卖商品价差。

Richter来信的观点原文如下：

  在Eisen先生分析的案例中，软件的作者显然忘记给价格设置上限了。

“亚马逊和其他经销商应当对API中的某些功能调用收取费用，例如每次修改库存商品定价收取5美分手续费，这样一来就能刺激软件的品质得到提高。

电商网站的API应用扩展意味着：情况1）任何一位有想法的博士都能创立一家公司为电商网站增值。情况2）任何一个蠢货都能通过一个有问题的算法为所有人制造麻烦。

忘记设定条件边界会搞砸一个好的模型。

Richter给出了一个有趣的解决方案，可能是解决机器人失控的最佳方法，但并不是唯一的。

人工智能技术提供商NextIT向阿拉斯加航空和美国军队提供机器人聊天技术服务。NextIT的首席技术官Charles Wooters表示在将人工智能与大数据（数以百万计的事实客户服务请求）的结合上，他们公司的基本策略是让机器专注于帮助人类发现错误。

”我们将统计系统预测的错误和实际发生的错误进行比对，从而发现那些高频率错误，“Wooters解释道：”基准系统并不总是更聪明，但是我们将基于规则的基准和统计事实进行比较，而且在整个循环中始终有人工干预。我们帮助人员找到那些错误的回答，我们能智能排序队列，方便人员快速查找并改正错误。“

跟我交谈的其他专家认为，虽然亚马逊天价书事件没有造成什么实质性的损失，但是这类事件如果发生在我们的金融市场，或者其他类似的场景，就可能会导致类似Stuxnet震网病毒给工业系统造成的灾难。

我们今天生活的世界大概是这个样子，一个阅读机器人推荐我阅读了关于另外一个坏机器人制造亚马逊天价书的信息，我还通过另外一个众包机器人找到专家解答了我对此事的困惑，同时还知道了有一群专家正在通过机器人发现机器人的错误。

Via  Readwriteweb  Mirko编译