白宫VS《西部世界》：从美国国家政策看人工智能的未来

IT经理网点评：虽然奥巴马政府的美国人工智能研究与开发战略将AI对网络安全的影响放在最重要的位置，但现实中人工智能安全技术的发展已经超出了人们的预期。例如近日谷歌大脑成功开发出两个独立的人工智能加密算法（研究论文下载请关注IT经理网微信号ctociocom，后台回复“人工智能加密算法+接收邮件地址”），不但能够防范第三方人工智能的破解，而且还能够自我学习，破解其他AI人工加密算法，人工智能系统在加密通讯时甚至都不需要“温习”人类的加密算法！在物理和虚拟世界，人工智能武器的军备竞赛即将打响！

以下关于奥巴马政府国家人工智能行动计划报告内容由安全牛编译如下：

几乎与HBO热播剧《西部世界》大量媒体宣传同步，奥巴马政府在2016年10月11日发布了一份题为《人工智能未来》的新闻稿，随附一份《国家人工智能(A.I)研究与开发战略计划》长篇报告(后文中简称《战略计划》)。同一天，第三份报告，《为人工智能的未来做好准备》被白宫放出(后文中简称《行动计划》)。

全部3份文件都塞满了政府对人工智能的愿景，尤其是在网络安全和AI可能对美国劳动市场产生的经济影响方面。

《西部世界》中，安东尼·霍普金斯爵士饰演的“西部世界主题公园”运营官，对其首席科学家说：“你知道这意味着什么吗？这意味着我们完了，这就是我们最好的结局？”

这3份政府报告的真意或许不是那么容易理解透彻。但很多AI和机器学习领域的科学家都清楚，他们的技术几乎每天都在以指数级速度在成长，无论是在价值上还是在能力上，不可能“等”到下一个总统报告或委员会来尝试搞清这些问题。

网络攻击者也不会等着“委员会”或“工作组”磨砺工具或立法，因为他们已经在使用AI和机器学习来找寻零日漏洞和利用漏洞来攻击公司企业了。考虑AI和机器学习对网络安全的影响，以及其应用对政府和私营公司的帮助，就趁现在，而不是明天。

不过，关于下一步该做什么，还是有些建议可以提供的：

1. 《行动计划》的中心，在于“正确的地方”：

《行动计划》整体而言是一份很好的文档。涉及网络安全，“计划”指出：

“自动化这一专家工作，无论是部分地还是全部地，都能够在更广泛的系统和应用上，以低得多的成本实现强安全，还可能增加网络防御的敏捷性。AI的使用，有助于维持检测和反应不断进化的网络威胁态势所需的快速响应。人工智能，尤其是机器学习系统，有很多机会可以用于辅助处理网络空间的复杂性，支持对网络攻击的有效人类决策。”

《行动计划》进一步指出：

“AI系统可从不完整的、不断变化的大量可用数据源产生动态威胁模型，对网络攻击进行预测性分析。这些可用数据包括网络节点、链接、设备、架构、协议的拓扑和状态。AI或许是转译这些数据、积极识别漏洞和采取行动预防或缓解未来攻击的最有效方法了。”

即便不能预防未来对网络和关键基础设施的网络攻击，AI和机器学习也是我们遏阻这些攻击的最大希望。

原因有二：(1) 网络和云端流量的指数级增长不仅仅源于我们数字经济的增长，还因为(2)物联网(IoT)在某种程度上的不安全本质的指数级增长——后者最近导致了对数个著名实体的灾难性直接DDoS攻击。

简单说，网络攻击者知道我们数字机会的增长不仅仅创造了极大的财富，也为他们创造了盗取重要知识产权或加密网络资产的机会。《行动计划》最后的建议非常直接：

机构的计划和战略应将AI对网络安全，以及网络安全对AI的影响都考虑在内。涉及AI问题的机构，应咨询美国政府和私营产业的网络安全同行，弄清如何确保AI系统及生态系统对聪明敌人的防范与快速恢复问题。涉及网络安全问题的机构，应咨询美国政府和私营产业的AI同行，找寻创新性方法将AI应用于创建有效的网络安全。

2. 《战略计划》的“使命”某种程度上有点混乱和老旧

《战略计划》的使命宣言，在1973年原版《西部世界》电影上映的时候看来或许还算OK。但在今天看来就已经过于老旧了，且并没有认识到Alphabet、亚马逊、IBM、微软和Facebook，已经成立了委员会来研究AI和机器学习应遵循的伦理准则了。

很明显，这5巨头处于充分知晓AI和机器学习能量，理解驱动这些平台的大数据和个人数据的本质的最佳位置。他们还清楚，鉴于他们在世界上举足轻重的地位，但凡出了什么错，比如自动驾驶汽车冲向了人群，他们必然是被谴责的首要对象。

与《行动计划》不同，《战略计划》的使命宣言没有认识到，这里的火焰守护者(以及政府各大部委)，其实是AI火焰的守护者。

而且，国家标准与技术局(NIST)参与进了全部3份白宫文件中。籍由创建NIST网络安全框架，NIST的这些伟大的科学家，肯定关注AI和机器学习平台的力量与未来。实际上，就在这个时候，NIST发布了800-160声明，题为《系统安全工程：可信安全系统工程中多学科方法的思考》，要求IoT设备生产商在将产品推向市场前，首先将产品打造成“从设计上就是网络安全的”。从上面提到的NIST和5巨头的表现来看，审慎的、伦理的、安全的AI和机器学习平台应该会得到合理的保证。

最后，《战略计划》讨论了AI和机器学习平台的发展相关的劳动力挑战，以及潜在的工作重分配或工作减少。尽管我们对这一关注的真实性毫不怀疑，但当涉及到AI和网络安全，AI或机器学习平台将替代或减少网络安全员工数的事实几乎是板上钉钉的。

为什么呢？今天，我们已经无法雇佣到足够的适格网络安全人员了。明天，这种窘境只会更糟。鉴于所需的人力和培训，我们需要，也应该用AI和机器学习来补足我们的员工。随着企业持续迁移到AI、机器学习和云端，我们甚至需要AI和机器学习来创建另外的技术劳动岗位。

3. 前瞻性思考AI和网络安全的时机就是现在

AI和机器学习创新已经跃升至美国意识的第一线。对于《行动计划》，还有几点建议可供考虑：

1. 加强Stemgarden研究所在教育美国学生基本生活培训问题(科学、技术、工程和数学)及网络安全上的使命感。

2. 对老兵进行免费高级网络安全培训，并颁发学位。这些项目可让他们辅助企业和政府机构履行网络安全使命。

3. 发展公有/私营合作关系，让中小企业也能用AI和机器学习平台，来保护他们业务中存储和产生的信息。

4. 为所有适龄学生设置有全额奖学金的计算机科学和网络安全学位，允许学生在毕业后以与国家或当地政府建立合作关系的形式偿还。

其他好想法肯定还有很多。总的一点是：我们都身处这一网络安全难题中，我们需要共同战斗。AI和机器学习平台伴随共生，可以，也确实在更好地保护国家，保持强大与繁荣。政府的进一步计划、各种委员会，甚至恐慌都是好事，这些效果应该可以预期到。但经济和国家安全问题，取决于政府和私营产业携手合作，共同保护国家的公司企业、知识产权和关键基础设施不受攻击损害。这意味着我们必须做出更多努力，来捍卫数字空间的安全。