孙燕姿后轮到“卷福”?AI合成声音技术遭滥用 电信诈骗险些得手

来源:科创板日报

2023-05-15 13:00:07

《科创板日报》5月15日讯(编辑 宋子乔)AI为各行各业装上效率加速器的同时,也可能被不法之人用作诈骗工具。


【资料图】

据英国媒体《每日邮报》报道,一家西班牙小型电影制作公司(Peabody Films)称收到英国著名男演员“卷福”本尼迪克特•康伯巴奇(Benedict Cumberbatch)发电话,对方表示对该公司即将拍摄的电影感兴趣,想寻求合作。

这部电影的导演称,他们最初收到了自称是好莱坞明星经纪人发来的电子邮件,谨慎起见,他建议打个电话,而来电声音与康伯巴奇的相似度有100%,“是那个声音,毫无疑问。”该公司后又与“康伯巴奇”进行了几次通话

这导致这位导演一开始完全相信对方正是康伯巴奇本人,“当我们接到电话时,简直不敢相信自己的运气,康伯巴奇是当下最有才华的演员之一,他居然会主动联系我们并对我们的项目表现出兴趣。”

随后,该电影公司几次邀约见面,“康伯巴奇”都拒绝了,甚至还提出要该公司先打款20万英镑(约合人民币170万元)。这时公司意识到了可能遇到了骗子,向“康伯巴奇”的经纪公司确认后才发现,这是一场AI骗局。

“当发现自己是AI诈骗受害者时,我们感到非常震惊和失望。”该导演表示。目前,该电影公司正考虑是否报警。

被中国观众称为“卷福”的本尼迪克特•康伯巴奇可以说是英国国宝级演员,他被英国女王授予大英帝国司令勋章,也被《时代周刊》评为全球最具影响力人物之一。不论在热门英剧《神探夏洛克》里,还是在好莱坞大片《奇幻博士》中,康伯巴奇都是自己配音。由于声音很有辨识度,“卷福”还被力邀为《霍比特人》里的恶龙等虚拟形象配音。

这仅仅是AI合成声音用于诈骗的一例。

据报道,近日,国外一名网友用美国知名歌手弗兰克•奥申(Frank Ocean)的歌曲片段用以训练AI,之后用AI生成了大约9首仿冒其风格的歌曲,随后该网友于4月初在论坛上发布了这些曲目,并将其伪造成唱片录制时的泄露片段,通过出售这些音乐骗取了约970美元(约合人民币6700元)。

当下的AI技术不仅可以克隆真实的人声,还可以通过声音进行“二次创作”。近段时间,通过模型训练和后期处理,模拟真人歌手孙燕姿声音进行翻唱的“AI孙燕姿”走红网络。

另一方面,越来越多的开源模型让相关工具的使用门槛进一步降低,非编程人员便可利用AI工具快速“调教”出想要的声音。

AI歌手的翻唱歌曲,正是由多位创作者通过开源项目“so-vits-svc”自制后并上传。今年早些时候,微软研究人员展示了一种文本转语音AI模型“VALL-E”,该模型只需3秒钟音频,就可以合成任何人的声音,保留说话者的情绪基调,并可以说出任何内容。

这些都便利了骗子制造假信息。网络安全公司迈克菲发现,在美国、英国、法国、德国、日本、澳大利亚和印度,有10%的人曾被人工智能语音诈骗。

除了声音诈骗,AI在图像、视频上的创造能力同样不得不让人提高警惕。AI专家阿列克谢•希特罗夫曾向媒体表示,AI生成的虚假图像和声音已经被广泛用于商业欺诈。

关键词:

尚品宅配、索菲亚竞推低价套餐 回击欧派还是跟风炒作?

中国定制家居上市公司三大龙头有“欧索尚”之称,它们的举动往往能够影[详细]
2023-09-09

Gartner最新报告:2024年全球电动汽车总出货量有望突破1800万辆【附新能源乘用车市场分析】

图片来源:摄图网近日,据市场调查机构Gartner近日发布的最新报告,预[详细]
2023-09-09

示范区召开城镇公共管网供水价格调整听证会

9月8日,示范区召开城镇公共管网供水价格调整听证会。会议充分听取消费[详细]
2023-09-09

玩家扮演保罗迷路进入神秘森林 探索森隐世界的秘密

近日,一款名为《恶神》的心灵恐怖冒险游戏在PS5和PC平台上推出,支持[详细]
2023-09-09

俄罗斯外交部召见亚美尼亚驻俄大使

每经AI快讯,当地时间9月8日,俄罗斯外交部发布消息称,在近期亚美尼亚[详细]
2023-09-09

《王者荣耀》KPL 夏季赛总决赛 9 月 10 日开打:重庆狼队对战广州 TTG

快科技9月8日消息,《王者荣耀》2023KPL夏季赛总决赛将于本周日(9月10[详细]
2023-09-09

如果眼睛近视了怎么办(眼睛近视了怎么办)

开始好好保护 1 看书或者电脑电视不要时间过长,45-60分休息10-15分钟[详细]
2023-09-08

来了解下:超声炮做一次能维持多久?超声炮多久可以做第二次?

超声炮做一次能维持多久?超声炮多久可以做第二次?做一次超声炮就能够[详细]
2023-09-08

【石榴花开 籽籽同心】吉林延边:奏响乡村振兴新乐章,绘就民族团结“同心圆”

央视网消息(记者王静远隋佳桐邢明):初秋的延边,草木葱茏,天高云淡[详细]
2023-09-08

2023至2024可可托海国际滑雪度假区价格表

2023至2023年可可托海国际滑雪度假区价格表可可托海国际滑雪度假区位于[详细]
2023-09-08
版权所有: 大河制冷网 All Rights Reserved
京ICP备2022022245号-75
联系邮箱:435 226 40@qq.com