圣杯还是潘多拉盒子？当人工智能应用于黑色产业
在人工智能爆炒中的冷思维，深度学习的地板和天花板在哪里？一文中，我们给狂热的人工智能炒作浇了一盆冷水，指出了人工智能，尤其是深度学习的局限性，但是令人担忧的不仅仅是人工智能的局限性，威力强大的人工智能技术，在当今这个开源化的技术世界，如果被网络犯罪分子和地下黑产所用，会给世界带来何种负面影响？纽约时报近日撰文表达了这方面的担忧，由FreeBuf翻译整理如下：
请各位同学想象一下这个场景：你老妈打电话跟你说她把银行密码忘记了，让你告诉她银行卡密码。想必你也知道了，跟你通话的其实不是她本人，而是电脑合成的声音，只是听起来很像而已，这就是人工智能技术的杰作。
人工智能技术正在不断发展
虽然利用人工智能在电话中伪装某人的这种技术仍然只会出现在科幻电影中，但这种高科技犯罪手法在未来很可能会成为现实。目前，这种伪装技术所需要的软件组件正在飞速发展之中。例如，最近Alphabet公司旗下的子公司DeepMind（该公司开发了一款能打败顶尖棋手的人工智能围棋程序AlphaGo）宣布，他们已经设计出了一款能够模仿人类声音的新程序，而且声音听起来比目前最好的文本语音转换系统更自然，并且成功将机器语音与人类声音的差异缩小了50%以上。
需要注意的是，年收入高达750亿美元的计算机安全行业已开始讨论机器学习这个话题了。因为信息安全研究人员打算通过机器学习和模式识别技术来改善目前计算机安全方面的糟糕状况。
人工智能的阿喀琉斯之踵
虽然一切听起来十分美好，但人工智能技术也有其自身的缺陷。
Marc Goodman是某执法机构的一名顾问，同时他也是《FutureCrimes》的作者，他表示：“可能很多人现在还没有意识到，网络犯罪正趋向于自动化，而且扩张速度惊人。现在已经不是Matthew Broderick躲在地下室去攻击别人计算机的年代了（电影《战争游戏》（1983年）中的情节）。”
今年年初，美国国家情报局的负责人JamesR. Clapper发出了关于恶意使用人工智能技术的警告。Clapper在他的年度安全报告中强调，虽然人工智能系统可以让我们的生活变得更加简单，但与此同时网络世界中的“薄弱之处”也会因为人工智能的出现而不断被放大。
如今计算机犯罪活动日益复杂化，从不断升级更新的攻击工具身上就可以看出了。比如目前得到了广泛使用的恶意软件Blackshades，这款恶意软件的开发者叫Goodman，他是个瑞典人。不过悲剧的是，他已于去年在美国被定罪了。
这款恶意软件在地下黑市的销量非常高，据Goodman所说，由于Blackshades可以为犯罪分子提供很多强大的功能，因此这款恶意软件也被大家称为“网络犯罪分子的潘多拉魔盒”。在Blackshades的帮助下，使用者压根不需要懂得任何的黑客技术，用户只需要点击几下鼠标便可以实现攻击。这款恶意软件不仅可以轻易地让目标计算机感染勒索软件，而且还能对目标进行视频和音频监控。
人工智能领域的研究人员目前正在研究如何提升机器学习的能力，因为他们希望改善计算机视觉、语音理解、语音合成和自然语言理解的处理质量。但这也会带来一些不好的影响，因为犯罪分子也可以在下一代恶意软件中增加这种机器学习的能力。有一些安全研究专家则认为，其实早在五年前就已经有犯罪分子在利用人工智能技术进行网络犯罪活动了。
安全保护技术与人工智能的博弈
现在，几乎所有的互联网服务都会要求用户在使用前输入验证码，而犯罪分子们一直都在试图破解验证码技术。验证码（Captcha）的全称是“全自动区分计算机和人类的图灵测试”，这项技术是美国卡内基梅隆大学的研究员于2003年发明的，网站运营者可以利用这项技术来防止自动化程序盗取用户的网络账户数据。
来自加利福尼亚大学的计算机安全研究专家StefanSavage表示：
“近五年来，人工智能专家和网络犯罪分子都在尝试使用计算机视觉软件来破解验证码技术。如果你两年来都没有更改过你的验证码，那么你的验证码肯定会被计算机视觉算法搞定。”
社会工程学
毫无疑问，随着科技的不断发展，网络犯罪分子肯定会尝试利用新兴的技术来进行犯罪活动。像苹果的Siri和微软的Cortana这样的语音识别技术目前已经得到了广泛使用。亚马逊的声控智能音箱Echo和Facebook的人工智能聊天机器人也成为了电商与顾客之间的沟通工具。与以前一样，每当类似语音识别技术这样的新型技术成为了市场上的主流之后，犯罪分子一定会利用这项技术去大做文章。
调查记者Brian Krebs在krebsonsecurity.com上发表文章称：
“在我看来，那些为客户提供了智能聊天服务的公司绝对忽略了一个问题：在信息安全领域中，想要获得便捷性，往往就会以牺牲安全性作为代价。通过聊天机器人来服务客户，这一切看似非常方便，但这也使得攻击者有可能通过社会工程学技术来攻击这些网络服务。”
社会工程学技术针对的是人性的弱点，而这也是计算机安全链中最薄弱的一个环节，网络犯罪分子通常会把那些容易轻信别人或乐于助人的人们作为攻击目标。假如犯罪分子有能力去研发人工智能恶意软件，并利用这种恶意软件在网上进行犯罪活动的话，那么计算机安全形势将会变得更加严峻。
话虽如此，但是智能聊天机器人目前仍然得到了广泛的应用。例如政府在进行某些宣传时，或者在政治选举之类的活动中，我们都可以看到智能聊天机器人的身影。值得一提的是，政治聊天机器人在英国脱欧公投中可是扮演了一个非常重要的角色啊！
总结
总之，网络犯罪分子迟早会利用人工智能技术来进行攻击，一切只是时间问题。但值得庆幸的是，目前还没有人利用机器学习技术来进行网络犯罪活动。
第一时间获取面向IT决策者的独家深度资讯，敬请关注IT经理网微信号：ctociocom
除非注明，本站文章均为原创或编译，未经许可严禁转载。
相关文章：
关于作者CashCat
