机器之心

首页 > 思想 > 约翰·马尔科夫:犯罪技术将与人工智能一同进化

思想

约翰·马尔科夫:犯罪技术将与人工智能一同进化

2016-10-24 18:08:36      
1 0 0

人工智能技术的飞速发展为人类社会带来了方方面面的便捷,但会加持犯罪的各种手段。通过人工智能程序,鼠标轻轻一点就能轻易实现视频和音频窃听的犯罪技术不会太远。

POTUS_promo3.jpg

想象一下年迈的母亲打电话向你求助,她忘记了银行卡密码。但真实的情况是她不是你的妈妈,电话另一端的声音只是听起来像她。

那只是计算机合成的声音,人工智能的一大绝招已经在电话中被用来伪装身份。这样的情景目前尚属科幻,但未来,它可能成为一种犯罪。

伪装技术的大范围实现需要的这种软件正在快速发展。例如 DeepMind,Alphabet 旗下以 AlphaGo 闻名的公司,这个程序已经在围棋大赛中击败了几个世界顶级选手。最近,DeepMind 宣布已经开发出一种新程序可以模仿任何人类的声音,这种声音听起来比之前的任何一套文本语音系统生成的声音都要自然,并将现有的自然语音技术与人类语音的差距缩小了 50%。

但是,讽刺的是今年计算机安全产业的年总收入达到了 750 亿美元,并开始讨论机器学习和模式识别技术将会如何改善计算机安全眼下的悲剧状态。但是还有一个问题。

「人们还没搞明白网络犯罪已经变得自动化而且成指数级扩张,」一位执法机构的顾问和《未来的罪行》一书作者 Marc Goodman 说到。他补充道,「这不是 Matthew Broderick 在地下室里搞黑客攻击那么简单了,」参考 1983 年的电影《战争游戏》。

今年年初,美国国家情报局局长 James R. Clapper 曾警告过关于先进人工智能技术的恶意使用。在其年度安全审查中,Clapper 先生强调了虽然人工智能系统能带来便捷,但它们也扩大了在线世界的漏洞。

计算机犯罪技术的不断尖端化在网络攻击工具的进化中可见一斑,比如,Goodman 所说的,广泛使用的臭名昭著的恶意程序 Blackshades。该程序作者是瑞典人,去年在美国被定罪。

这个程序在计算机地下市场上卖的很火,其功能可以被形容为「盒子里的刑事特权(criminal franchise in a box)」Goodman 说。它能让不懂技术的用户在计算机上部署一个勒索程序或者通过鼠标点击来进行视频或者音频窃听。

这些工具的下一代产品将会加上机器学习技术,而该技术原先是由人工智能研究者用来改善机器视觉、语音理解、语音合成和自然语言理解的。一些计算机安全研究者相信数字犯罪在 5 年前就已经开始尝试使用人工智能技术了。

颠覆互联网无所不在的验证码可以显示这一点——全自动区分计算机和人类的图灵测试。这是卡耐基梅隆大学的研究者 2003 年发明的 challenge-and-response puzzle,用来阻止自动程序窃取在线帐户的技术。

普通的人工智能研究者与黑客罪犯一直在部署机器视觉软件,5 年前就颠覆了验证码技术。加州大学圣迭戈分校的计算机安全研究员 Stefan Savage 说到。

「如果你两年没改验证码了,它就会被一些机器视觉算法操控,」他说到。

两人惊讶的是,拖慢恶意人工智能发展速度的东西已经可以以低成本或免费的人力解决。例如,一些网络犯罪已经将破解验证码外包给电子工厂,这里人力解码一个密码的费用只需一丁点。

创造力更佳的计算机骗子已经使用网络色情作为奖励发送给那些破解验证码的人,Goodman 说。自由劳动是人工智能任何时候都无法匹敌的一种商品。接下来又会怎样呢?

刚踏入犯罪的人可以搭上新技术发展的顺风车。声音识别技术如苹果的 Siri 和微软的小娜现在广泛用于与计算机的互动。同时亚马逊的 Echo 声音控制扬声器和 Facebook 的 Messenger 聊天机器人平台迅速成为在线商务与客户支持的在线通道。通常的情况是,无论何时,当一种像声音识别这样的交流技术进步开始成为主流,犯罪很快就能将它利用上。

「我会质疑,通过聊天机器人提供客户支持的公司不在不知不觉地承担起一项社会工程,」krebsonsecurity.com 的一位调查记者 Brain Krebs 说。

社会工程,说的是促使人们执行某些行动或者泄露信息的行为被看成是计算机网络安全链上最弱的一环。网络犯罪分子已经在利用人类最好的品质——信任和助人为乐——来进行盗窃和间谍行为。创造人工智能化身欺骗网络用户的能力只会将问题恶化。

在州政府和政治运动的政治宣传中广泛使用的聊天机器人技术可以反映出这一点。

研究者已经发明了「计算宣传(computational propaganda)」这一短语来形容 Facebook 和 twitter 等社交媒体上欺骗行为的爆发。

在最近的一篇研究论文中,牛津互联网研究所的社会学家 Philip N. Howard 和布达佩斯考文纽斯大学(Corvinus University of Budapest)研究员 Bence Kollanyi 描述了在即将到来的「英国退欧」公投中,政治聊天机器人是如何扮演一个有策略的小角色来塑造在线对话的。

犯罪中用上这些软件只是时间的问题。

独立计算机安全专家 Mark Seiden 说到,「攻击社会工程的设计中有很多小聪明,但是就我所知,还没人开始使用机器学习来找到最容易上当受骗的那群人,」他停了停又说,「我本来应该回答你的是:我很抱歉,Dave,我现在不能回答这个问题。」

声明:本文由机器之心编译出品,原文来自纽约时报,作者:JOHN MARKOFF,转载请查看要求,机器之心对于违规侵权者保有法律追诉权。

  1. 网站转载请在文章开头粗体注明:本文转载自机器之心,标明作者,并附上本文链接。
  2. 微信公众号转载请在开头粗体注明:本文转载自机器之心,标明作者,并设置阅读原文链接为本文链接,微博转载请附上本文链接并@机器之心synced。
  3. 网站和微信转载具体文章后需来信至邮箱operation@jiqizhixin.com说明,备注转载文章标题、转载的微信号名称和转载日期。
  4. 机器之心只接受如上几种转载方式,其余均视为侵权,如需商业合作请致信bd@jiqizhixin.com。

相关文章

河南最快超算平台启用,加速智慧城市和人工智能应用

河南最快超算平台启用,加速智慧城市和人工智能应用

吴恩达NIPS 2016演讲现场直击:如何使用深度学习开发人工智能应用

吴恩达NIPS 2016演讲现场直击:如何使用深度学习开发人工智能应用

评论

共有0条评论,点击展开

同步到新浪微博