“大家好,我是你们的婵宝,今天有事请大家帮忙。婵妹就想着帮助妈妈,让家里的生活过得更好一点,同时把老家的土鸡蛋分享给粉丝们尝尝……”
在互联网上,奥运冠军的“声音”突然开始推销农产品,知名演员的“声音”24小时不间断在直播间与粉丝互动……随着AI技术的普及,“克隆”特定人物声音已实现“一键式”操作。当声音能被轻易窃取和滥用,随之而来的侵权乱象频繁上演。
利用AI仿冒奥运冠军声音带货 背后潜藏灰色产业链
记者在抖音平台发现,在网名为“我是小助理吖”的博主账号中,已发布的17件作品,内容全部是利用AI仿冒奥运冠军全红婵声音带货土鸡蛋的视频,其中一个视频点赞量高达1.1万。
评论区显示,大量粉丝误以为这就是全红婵本人,纷纷下单购买链接中的鸡蛋,该商品链接显示已售出4.7万件。今年4月,全红婵家人曾向媒体证实,全红婵并未给相关农产品代言或授权。
除全红婵外,奥运冠军孙颖莎和王楚钦也遭遇了同样的仿冒。在网名为“小兔真可爱”的账号中,两位奥运冠军的AI克隆声音同样在为土鸡蛋带货。
以假乱真的声音再加上对奥运冠军的喜爱,网络博主收获了大量粉丝的订单。
而记者发现,AI仿冒名人的乱象远不止带货,还有部分自媒体博主克隆名人的声音后进行24小时语音直播,演员靳东是被仿冒最多的对象,在这看似匪夷所思的操作背后,其实隐藏着另一个灰色产业链。
据网络安全专家潘季明介绍,通过仿冒名人进行直播,不仅可以诱骗粉丝打赏获利,还可将一个小白账号迅速打造成上万粉丝的账号,从而为后续牟利来铺路。
合作一次就能无限克隆 配音演员遭“AI盗声”困局
AI仿冒名人的行为,不仅欺骗了消费者,也侵犯了当事人的人格权。而AI克隆技术滥用盯上的远不止我们熟知的名人。记者调查发现,配音演员被AI克隆侵权的案例同样频繁发生。
武扬是一位从业十多年的职业配音演员,主要从事影视和广告配音。今年6月中旬,武扬突然在某餐饮企业的宣传片中听到了自己的声音,但这段配音并不是他录制的,该视频的转发量当时已达2800多次。
面对武扬的质问,对方承认了他们利用AI克隆武扬声音的事实,但拒绝武扬提出公开道歉的要求,声称该克隆声音由第三方公司提供,他们没有直接责任,仅愿意支付5000元来进行赔偿。武扬拒绝了这个条件,他担心这笔钱被当成了授权费,更怕妥协后侵权会变本加厉。
与武扬的情况类似,另一位配音演员浩洋的维权也陷入了“自证循环”,侵权方不仅拒绝承认对浩洋声音克隆侵权,还试图采取拖延的方式蒙混过关。浩洋告诉记者,从今年年初开始,他已遭遇多次被侵权,而他的遭遇在配音行业也并非个例。
当被滥用的AI技术成为侵权行为的掩护,合作一次就能无限克隆。目前,武扬已经收集了相关的证据,准备走法律程序起诉侵权方。
一键盗声仅需十几秒 最大隐患是被诈骗分子利用
那么,AI克隆声音是如何实现以假乱真的?又是谁在为“盗取声音”而推波助澜?
记者调查发现,在抖音、快手等网络平台上,以“声音克隆”为关键词进行搜索,能轻易找到大量相关教程视频和软件下载信息。部分博主不仅详细演示操作过程,还直接提供软件资源。
网络安全专家潘季明介绍,基于开源的语音大模型,只需一段清晰的语音样本,任何人的声音都可能在极短时间内被克隆,并能被操纵说出攻击者设定的任意内容。
潘季明表示,除了侵犯声音权等合法权益,AI克隆声音目前最大的隐患是被诈骗分子利用,一旦与AI换脸等技术结合,生成高度逼真的“数字人”实施诈骗,危害将非常严重。潘季明建议,目前相关的技术要从源头进行相应限制,在开源过程中需对代码的使用时长、应用场景等做具体限制。
民法典:未经许可 使用或授权他人使用AI合成声音属侵权
从“一听就假”到“真假难辨”,AI克隆技术的滥用不仅严重侵犯了当事者的权益,而且还涉嫌违法违规。
据法律专家介绍,我国民法典将人格权独立成编,首次以立法形式将保护“声音”写入其中,在第1023条中明确,对自然人声音的保护,参照适用肖像权保护的有关规定。
北航法学院副教授赵精武指出,若AI合成声音能让公众凭音色、风格关联到特定自然人,即具法律可识别性,可构成侵权。他还表示,任何自然人声音均应受法律保护,录音制品授权不等同于对声音AI克隆授权,未经许可使用或授权他人使用权利人的声音均属侵权。
平台应履行监管责任 多部门联合整治AI克隆声音乱象
针对目前网络上AI克隆声音的相关内容被大量传播,平台是否也应承担相应责任?此类乱象该如何治理?
专家建议,针对滥用AI克隆声音的乱象,平台层面要切实履行监管责任,建立健全对AI声音的审核和侵权举报机制,及时发现和拦截侵权、虚假、违法等不良内容。
今年3月,国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》,将于2025年9月1日起施行,其中明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识等。
另外,中央网信办近日在全国范围内部署开展“清朗·整治AI技术滥用”专项行动,将强化AI技术源头治理,清理整治违规AI应用程序,推动网站平台提升检测鉴伪能力等。
“大家好,我是你们的婵宝,今天有事请大家帮忙。婵妹就想着帮助妈妈,让家里的生活过得更好一点,同时把老家的土鸡蛋分享给粉丝们尝尝……”在互联网上,奥运冠军的“声音”突然开始...
软件故障!“星链”断网2.5小时美国太空探索技术公司(SpaceX)旗下卫星互联网系统“星链”24日发生故障,全球多地约6.1万用户遭遇断网。该公司数小时后表示,已恢复相...
7月23日-24日,由福州市住房和城乡建设局、福建建工集团有限责任公司主办,福清市住房和城乡建设局、福建建工集团科技有限公司承办的“福州市免模免撑梁板一体化装配式技术现场...
电商热销产品“苗古金贴”,号称由传承“千年秘方”的非遗传承人制作,专攻膝盖、颈椎等问题。在一些电商平台,该产品甚至排到了“热敷贴回购榜”第一名。然而,据媒体调查发现,该“...
据《人民日报》报道,“孩子今年读初二,我特意在多个手机应用上开启未成年人模式。但没过几天,孩子就找到了‘窍门’:卸载软件后,用家里老人的身份信息重新注册,或者干脆和同学在...
文 | 赛迪智库信息化与软件产业研究所智能体概念内涵不断演进(一)智能体泛指具有感知决策能力的代理体智能体泛指能够感知环境、理解信息并作出决策与行动的代理体,它可以是软件...
7月9日,周杰伦正式入驻抖音。今日11点,其账号正式发布首条抖音视频。视频用AI生成技术展现了周杰伦成长的多个重要画面,视频最后周杰伦本人现身,并说道:“哎哟,不错哟!蛮...
Transparency7月7日,由深圳市职业技能培训指导中心联合巨匠培训工坊主办的 “AI赋能黄金行业,智造未来新生态” 主题研讨会成功举行。这场聚焦黄金行业智能化升级...
IT之家 7 月 6 日消息,据《科技日报》,在今天的第 27 届中国科协年会主论坛上,中国科协发布了 2025 重大科学问题、工程技术难题和产业技术问题。IT之家汇总如...
【ZOL中关村在线原创导购】在折叠屏手机市场持续进化的2025年,大尺寸内屏已成为高端用户的核心诉求。从移动办公到沉浸式娱乐,从多任务处理到创意生产,大尺寸内屏正在重新定...