真假难辨引争议，AI语音克隆的适用边界在哪？

近日，AI孙燕姿、AI周杰伦等二创作品走红网络，并迅速引起网友热议。AI声音因其拟真性，不仅能复现知名歌手的作品，同时也引发了一系列伦理和法律问题，甚至被不法分子利用，成为了提升电信诈骗成功率的重要手段。

据科技日报，在电信诈骗中，骗子用AI软件扫描语音记录并复制，准确率高达99%。其语料数据提取自社交媒体的视频和其他上传音频中的片段，输入AI软件后，可以生成声音并说出不同短语或句子。国外学者介绍，有些模型和算法只需1分钟甚至更短时间，就能合成一段相当高质量的克隆声音。若是采用更为先进的AI模型和算法，产出的声音更能让普通人难辨真假。

更令人担忧的是，当AI克隆声音、AI换脸与个人信息泄露等黑灰产全面合流，骗子不仅能通过合成的AI视频和语音形成电诈“组合拳”，还能通过已掌握的隐私信息、高度成熟的骗术剧本，生成深度定制化的对话文本，将电诈升级为难以防范、难以察觉、难以醒悟、无处可查的“平行世界”。

此外，将AI克隆声音应用于歌手、歌曲、乐曲等艺术创作领域，也是对版权界发起的一次猛烈冲击。生成的二创作品，既可能对原声作者构成侵权，同时其版权到底归AI还是归人同样模糊难定。

正如历史上不断重复的过程那样，技术先行、制度随后，中间这段规范和秩序的空白期内，不仅存在常规的“野蛮生长”，暗面的不择手段，传统亦会被进步所打破并取代。

发布于：浙江

相关推荐

真假难辨引争议，AI语音克隆的适用边界在哪？
Veritone语音合成技术: 使名人声音克隆成为可能
克隆一个自己的 AI 来上网课
靠“老板语音”骗走182万，音频版Deepfake让员工真假难辨乖乖转账，专家：目前无解
你的数据正在被克隆？
AI软件克隆你的声音，全球诈骗案件已屡次得逞
会议多到爆炸，AI克隆一个自己来Zoom开会？
“假声音”也来了，手把手教你造一只柯南的蝴蝶结变声器
要啥给啥的写作AI：新闻评论小说都能编，题材风格随便选，真假难辨，16亿参数模型已开源
世界首次用AI成功克隆猪，南开大学做到了

网址: 真假难辨引争议，AI语音克隆的适用边界在哪？ http://www.xishuta.com/newsview78023.html