算法监管：碳与硅的博弈

几周前参加的一场研讨会，嘉宾与以往那些“峰会”大不相同：有法律专家，有经济学者，有互联网码畜(我)，也有行业协会的朋友。这种白龙庙英雄小聚义般的氛围，源自当天的有趣话题：算法推荐与个人信息保护。而这次会议，是围绕《个性化广告合规发展白皮书》的发布展开的，这个报告是由《财经》商业治理研究院与中国社科院大学互联网法治研究中心联合发布，各路专家们碰撞出了很多有趣而深入的观点，我试着从我的视角聊一聊。

算法推荐的规范，个人信息的保护，我们统一简称为“算法监管”。这可以说是近几年全社会对互联网圈最为关注的热点之一了。说个老梗，它就像青少年谈性：每个人都在谈，没人真正知道怎么搞，每个人都认为别人在搞，所以声明自己也在搞。这种热烈而迷茫的局面，是因何而起呢？我们恐怕得站高一点，才能看明白。

迄今，人类社会经历了两次演化进程上的重大变化。上一次是认知革命：因为有了认知虚拟概念的能力，人类可以组织起大规模协作，从而摆脱了缓慢自然选择的限制，以知识的形式传承和进化解决问题的方法；今天，我们正在亲历另一次重大转变，即算法革命：方法的探索与进化，已经可以通过算法建模的方式，在须臾之间超越人类数千年的社会积累。所以，AlphaGo才可以从懵懂的状态开始，在数小时内训练出战胜柯洁的程序。

而关于算法监管的种种热议与困惑，其实都根植于此：如何用我们在人类决策时代建立起的管理体系，来规范和约束算法决策呢？如果没有范式上的升级，这事儿如同让黑猩猩指挥人类的战争一样，必然是南辕北辙。说得时髦点儿，这也是一场碳基生命与硅基生命的博弈！听到这儿有读者要蹦起来了：算法是人设计的啊，算什么生命！殊不知，此问已经蕴含了算法监管中的一大困惑，咱们一会再说。

从这个角度理解的话，对算法监管中的一些问题，我们就要回到更根本的视角重新思考。这次研讨会，给了我很多启发。关于这个“更根本的视角”，咱们来谈几个核心思考，主要涉及到算法监管该“管什么”、“管多紧”、“怎么管”这几个方面。

算法监管该管什么？

首先，我有一个根本诘问：到底怎样才算侵犯隐私？我的意思，并不是这条信息算隐私，而那条不算，而是说我们判断这个问题的时候，根本的标准是什么？“使用”与“侵犯”的边界又在哪里？

举个例子，你把自己的照片加载到PhotoShop，点了个一键美颜，然后得到一张你的“明星化”的照片，高高兴兴放到简历上去了。在这个过程里，有一段算法程序(美颜)得到了你的个人数据(照片)，并且产出了服务于你的新数据(明星化照片)，这个过程算侵犯你的个人隐私么？

这里的一个关键问题，在于把算法看成是有生命的，还是无生命的。如果是后者，那就与一台你操纵的缝纫机无异，而缝纫机侵犯人的隐私，那是有点行为艺术的说法。而根据目前我们对于算法的普遍认识，将其是为具备自主意识的生命体，恐怕比较牵强。所以，算法用了你的信息，跟某个人看了你的信息，这两者是有本质不同的。

当然，现在的算法多运转于云端，这无疑加重了“对面的机器是人是鬼”的疑虑。然而细细想来，问题的本质并没变。为了避免“隐私保护”这个概念无限的泛化，以便追寻切实可行的监管方案，个人认为这一概念的认定，应该遵循如下原则：在用户同意的前提下，将其个人信息提供给算法予以加工，并将得到的结果服务于其本人的产品体验，不应当视为侵犯隐私。

其实，我们今天监管的总体方向，跟这个也是吻合的。在现有的法规下，用户可以通过“Opt out”的方式关闭系统对自己数据的记录和访问权。而如果用户对此并不介意，那么对面那个机器人，其实并不能把你怎么着。当然，如果平台把你的用户信息提供给了其他合作者，那就已经违反了上面的原则，自然是要严格监管的。

可能有人会抬出魏则西事件来讨论，这难道不是用户信息滥用的后果么？咱可得擦亮眼睛，别让部分舆论把经念歪了！这事儿的根本，在于广告客户的资质与品控问题：就算是一点儿个性化也没有，可是广告库里全是莆田系和老军医，您觉得这种悲剧会少得了么？

在上面的原则下，到底哪些该管、那些不该管，是需要好好斟酌的。如果只要是机器在用的你数据就算侵犯隐私，那所谓监管，其实是无从下嘴的。

算法监管该管多紧？

讨论起算法监管时，有些专家学者，总是脖子冲南脸冲北，一副义正词严的样子，似乎这事就跟杀盗奸淫一样，往死里整就行了。作为一名互联网码畜，我觉得此事还要仔细斟酌，不要矫枉过正。因为，算法监管在保护用户权益的同时，也会带来高昂的社会成本。

利用用户个人信息的的功能，对于今天的数字产品已经不是锦上添花的能力，而是整个互联网的基石。为什么这么说，我们来说几个个性化创造的关键用户价值：

一、使用的便捷性。其实，使用个人信息的首要受益者，是用户本人。比方说，您在家里大屏上爱奇艺的片子看了一半，到地铁上打开手机自动就接上了；把这个场景变得智能一点，今天很多浏览器都会预测你要看的下一个网页，预先加载出来免得转圈儿等。这些功能极大地方便了用户，也不可避免要用到个性化。

二、内容的独特性。就拿今天人人都在刷的短视频来说吧，肯定有人对算法用他的数据做推荐不爽；可是如果把内容变得千篇一律，跟动画版的北京晚报似的，恐怕更多的用户骂着街就走啦！实际上，正是有了个性化的内容推送能力，才让今天的互联网变得如此丰富多彩。

三、商业的可归因性。正是由于互联网上的用户点击链路可以追溯，商家才能精准地归因客户，甚至能够通过数据反馈反向驱动产品设计生产。这带来了万亿级的数字广告市场，也拉动了后面规模更大的产业。如果仅仅取消个性化，那除了让用户看到更多不相干的垃圾广告、整个数字产业地震式崩塌以外，不会有什么有意义的正面结果。而客户而言，数字广告的可归因性大大减少了成本，这无疑中小商家乃至经济生态健康发展的重要性是不言而喻的。

可以说，数字产业的核心能力，就是个性化能力。其总体社会影响，无疑是功远大于过的。当然，个性化也带来了隐私顾虑、信息茧房等新问题，但那是前进中的坎坷，并不是社会的倒退。倒洗澡水如果把孩子倒掉，总是得不偿失的。

所以，算法决策虽然是新事物，却并非洪水猛兽，监管也像大禹治水一样，宜疏不宜堵。如果抡起大棒乱打一气，把数字产业全都阉割了，用户也没尝到啥甜头，再让某些不讲武德的外国企业趁虚而入，那才是亲痛仇快。

算法监管该怎么管？

咱们再来说说，硅基的这些算法机器，要管的话该怎么管。既然要管，先要认清算法决策，与人类决策有何根本不同。

我们来比较一下小孩子学围棋，与AlphaGo有何不同。小孩子送到围棋班，老师教他定式、收官、手筋，然后通过实战熟习这些“基础知识”，提高水平；可AlphaGo不是如此，他全然不懂什么定式手筋，只是在规则确定的“地多者胜”的目标下，建立起一个庞大的神经网络，靠着弹指之间左右互博成千上万次的蛮力，在“什么都不懂”的状态下炼成了绝世高手。

所以，碳基的人类决策，是先建立一个个知识点，然后把它们综合起来做判断；而硅基的算法决策，是个快速演进的巨大黑盒，对它来说最重要的就是目标函数，而像定式、手筋这样的中间态的特征，连AlphaGo的工程师都不知道到底发生了啥。一言以蔽之：人类决策，是自底向上的知识驱动，算法决策，是自顶向下的目标驱动。

这么看来，如今出台了的很多规范和条例，但多数还是在以管理人类决策的方式监管算法决策。咱们说个例子：前些日子，有司要求美团提供在确定订单应该多长时间送到用户手中时，都用了那些参数，又是怎么计算的。您看这事儿，就有点没管到点子上。

为啥没管到点子上？对美团来说，外卖的调度过程，十有八九也是神经网络在决策，原理上跟AlphaGo差不多。订单多长时间送到，对人家来说好比下棋用的某个定式。也就是说，它可能只是神经网络训练得到的一组参数，并非预先的人为设定，也更不是固定的规则。既然如此，搞明白了也是刻舟求剑，没准明天模型一更新，就全变了。

那么，什么才是真正应该管的呢？在算法决策“目标第一性”的原理下，真正该管的是算法的“目标函数”。对美团而言，是在优化用户的平均等待时间？还是骑手的平均收入？还是平台的总利润？这可太不一样了！如果目标函数是平台利润，那你再怎么监管那些具体的特征参数，都无济于事。你把这儿按住了，庞大的神经网络绕个弯儿，还是能达到同样的目标。

这也是我在研讨会上提到的核心观点：监管算法，一定要找到有效地了解其目标函数，并且合法地在目标函数上直接动刀子的方式，才有可能有用。如果就是头痛医头，脚痛医脚，这个不许干，那个改一改，到头来除了留下一大堆法规和条例，怕是什么卵用也没有。

而这一堆无奈的法规条例，只是我们的碳基文明在对硅基算法认知不足的情况下，无力的咆哮罢了。

@-@

说了这么多，简单总结一下的话，主要就是两点：首先，监管算法，绝不能拿它当个人类的精英或组织那么来管，必须要搞清它的根本规律，才有可能不流于形式；其次，算法决策并不是数字时代的撒旦，至少还有天使的另一面。特别是在今天，想回到没有算法决策的时代，那是万万不可能了。只有平衡好产品体验、产业发展与用户隐私，在遵循数字经济规律的基础上，才能管到产业和用户双赢的点儿上。

另外，从国际竞争来看，个性化广告与推荐是国际数字经济竞争很重要的核心领域，我们要正视其作用甚至积极布局规划。实际上，中国的互联网企业能够自立，甚至开始走出国门展现竞争力，也是因为个性化与算法决策能力有了质变。从这个角度看，隐私保护照着欧盟的GDPR来，那算是掉沟里了：欧盟的现状是，自己完全没有网络服务的主导权，那还不如卡严点儿，多罚点儿！咱说句文言：光脚的不怕穿鞋的，反正要死也是死道友不死贫道，那怕啥？

正因为存在范式上的根本升级，我们对算法决策的根本规律，全社会的认知还很不够。所以，算法监管这个问题，很多时候还处在拿着手枪打卫星的思维模式下。多搞点儿跨领域、跨行业的专家和用户交流，对我们认清这场碳硅博弈的局面与走势，帮助太大了。所以，我也是有感而发，在那次研讨会后用本文记下了我的一些思考。

以上这些观点，有些是个人畅想，也有些是受《个性化广告合规发展白皮书》的启发，读者们有对此报告感兴趣的，可以在文末的链接中获得，如果您更多深入的思考，也欢迎留言交流！