AI“复活”逝者 伪造名人声音用于视频带货是否违法？

判决被告某文化传媒有限公司向原告李某某赔礼道歉、赔偿经济损失及维权合理支出12万元，驳回原告李某某的其他诉讼请求。该案一审判决已生效，被告主动履行了判决内容。

法官说法：

随着生成式人工智能技术的迅猛发展，名人声音被“克隆”冒用越来越真假难辨，既使得声音侵权现象更加泛滥，也极易误导消费者。本案明确了利用AI深度合成技术合成的自然人声音，只要能够使一般社会公众或相关领域公众根据其音色、语调、发音风格等识别出特定自然人，即具有可识别性，应纳入该自然人声音权益的保护范围。同时，在商家委托视频发布者带货的法律关系中，作为委托方和实际获益者的平台商家，对其关联“达人”发布的推广内容负有合理审查义务，商家不能仅以“被动合作”“未参与制作”为由免责，未尽到审核注意义务的，需与带货“达人”承担连带责任，进而为规范电商推广行为、压实商家主体责任、治理AI“声替”乱象提供规范指引。

与此同时，网络平台也应加强深度合成内容审查，对利用人工智能生成合成内容进行显式标识，避免公众混淆，并建立健全的辟谣机制和投诉处理机制，及时处理利用深度合成技术制作、复制、发布、传播的虚假信息。

未来，针对AI合成声音侵权等新型侵权行为，需要进一步明确平台在内容审核、数据使用、算法推荐等方面的责任。相关技术使用者和信息发布者也应当遵守法律规定和社会公德，防止使用AI技术实施侵犯他人合法权益的行为，共同推动人工智能与深度合成技术向上向善发展，维护良好的网络生态。