雷军AI语音问题频发，责任应由谁承担？

2024-10-15

近年来，国内外知名公众人物的声音，如马云、雷军、周杰伦、特朗普等，频繁被AI创作者通过音频应用克隆后，制作成语音角色发布在AI音频分享社区。用户只需几十秒钟，就可以生成一段几乎与真人无异的AI音频。

在“十一”假期期间，大量雷军的AI音频在结合画面后合成音视频，并上传至抖音、快手和B站等平台，其中一些内容甚至包含侮辱性语言或恶搞小米产品，引发广泛关注。而在9月底，犯罪嫌疑人利用AI音频应用Reecho睿声伪造了三只羊创始人卢文庆的录音，迫使警方介入调查。

随着雷军AI音频事件的发酵，平台上许多相关内容已被删除，然而仍有部分残留。经济观察网记者10月13日发现，用户依然可以在睿声社区使用“雷军”语音角色，该角色已经被使用超过60万次。

睿声所属公司——深圳市言域科技有限公司的创始人谢伟铎透露，小米法务已与其公司取得联系，希望其能管理相关内容。目前，言域科技已通知原作者下架涉及雷军的音频内容，并表示如果作者在7个工作日内不下架，将强制删除。

AI音频的创作涉及多个环节，从制作者、语音角色创作者、AI音频平台到互联网传播平台，共同形成了一个完整的链条。当这些音频引发负面影响时，链条中的各方应如何承担责任？被侵权人能否通过现有技术追溯到责任方？

AI音频主要通过两种方式生成公众人物的语音。第一种是制作者直接使用AI技术生成音频，如合肥警方曾通过互联网溯源，找到伪造卢文庆录音的嫌疑人，并通过睿声平台的生成记录作为证据。第二种是上传公众人物的真实声音，克隆出接近其声音的语音角色，然后其他制作者可以再利用这些语音角色生成新的AI音频。在睿声社区中，一个名为“雷军”的语音角色已被使用超过60万次，生成了数千万字符的内容。这种AI语音生成的便捷性吸引了大量用户，但他们往往忽视了未经授权使用公众人物声音可能涉及法律问题。

根据泰和泰律师事务所的律师杜双解释，未经授权使用AI生成公众人物的声音，尤其是带有侮辱、诽谤性质的内容，侵犯了其肖像权、名誉权等人格权，甚至还可能涉及侵犯公司的名誉。

在AI音频生成的两种方式中，AI音频平台分别扮演了技术提供方和运营方的角色。言域科技创始人谢伟铎认为，AI应用本质上是一个工具，内容的责任应主要由用户承担。然而，作为用户生成内容（UGC）的平台，言域科技在合规经营上采取了措施，包括提示用户合规生成内容，以及提供内容溯源服务。

在三只羊伪造录音事件发生后，睿声平台加大了技术措施的部署，包括强化的实名认证机制、多维度敏感词检测，以及可溯源音频水印等措施。

根据相关法律，AI技术提供方不仅有责任保障用户合规使用其服务，还应通过技术手段为内容追溯提供保障。一旦发现侵权行为，平台有义务及时删除相关内容，否则将承担连带责任。

在雷军AI音频事件中，抖音、快手和B站等互联网平台作为主要传播渠道，面对AI生成内容也需承担相应的责任。根据《互联网信息服务深度合成管理规定》，平台应当在AI生成内容旁显著标识，提示其为深度合成内容。

尽管目前一些平台已采取措施，要求用户声明AI内容的生成来源，但经济观察网记者在测试时发现，未声明的AI音频未被自动识别为AI生成内容。这表明，平台在AI伪造内容的管理上仍存在一定漏洞。

一位AI鉴伪公司的高管表示，由于监管成本较高，目前各大平台对AI生成内容的监管力度并不够强，AI内容的泛滥在短时间内难以有效遏制。

公众人物AI语音的生成和传播涉及多个环节的参与与责任划分。制作者、技术提供方、互联网平台等相关方应明确各自的责任，并采取有效的措施防止侵犯公众人物权益。随着技术的进步，AI音频内容的可追溯性有望进一步增强，但如何平衡技术发展与法律规制仍是一个值得持续探讨的问题。

「上海染新信息技术有限公司」