据外媒报道，现在已经很难区分出来利用深度伪造技术制作的假文本、假视频。现在，这种情况似乎又延伸到了假语音。近期发生的一起语音欺诈案件--又称 vishing（voice phishing 语音钓鱼简称）让一家公司损失了 24.3 万美元。据了解，今年 3 月，犯罪分子利用商业可用的语音生成 AI 软件模仿了一位来自拥有一家英国能源公司的德国母公司的老板。然后他们骗这家能源公司的首席执行官让他在一个小时内将资金汇给一家匈牙利供应商，另外还保证这笔资金会立即得到报销。 报道称，当这位 CEO 听到熟悉的、带有轻微德国口音的声音之后并没有对此产生怀疑。然而事实上，这笔汇款不仅没有得到报销而且骗子们还继续冒充这位德国老板要求另一笔紧急汇款。不过这次，这位英国 CEO 拒绝付款了。这位英国 CEO 转给所谓的匈牙利供应商的这笔钱最终被转移到了墨西哥及其他地方。当局目前并未确定此次网络犯罪背后的罪犯身份。不难看出，这种基于 AI 的网络攻击仅仅是企业和组织在未来可能面临的主要难题的开始。随着模仿声音工具技术的不断改进，犯罪分子利用这些工具牟利的可能性也会不断增加。 根据设计反欺诈语音软件的网络安全公司 Pindrop 在去年发布的报告显示，从 2013 年到 2017 年，语音欺诈案件增加了 350%，其中每 638 个电话中就有 1 个是人工合成的。由此可见，基于 AI 的工具的兴起既有优点也有缺点。一方面，它为技术的探索和创造提供了空间，而另一方面，它为犯罪、欺骗以及欺诈提供了可能性。（cnbeta）