法官说法：使用AI合成他人声音带货可能构成侵权，需依法承担责任。
随着生成式人工智能技术的快速发展，名人声音和肖像被“克隆”并用于商业用途的现象日益增多，且真假难辨，容易误导消费者。北京互联网法院近日公布的一起案例显示，被告在未获得权利人许可的情况下，使用AI合成的名人声音进行带货，法院最终认定其行为构成侵权。 这一事件反映出当前AI技术在带来便利的同时，也对个人权益保护提出了新的挑战。技术的进步应当建立在尊重他人合法权益的基础之上，任何利用AI进行未经授权的商业化行为，都可能触及法律与道德的边界。如何在技术创新与权利保护之间找到平衡，已成为社会亟需关注的问题。
AI合成声音或换脸行为的边界在哪儿？可能涉及哪些法律责任？近日，记者就此采访了北京互联网法院综合审判三庭（少年法庭）庭长颜君，对其进行了详细解答。 随着人工智能技术的快速发展，AI合成声音和换脸技术逐渐走入公众视野。这类技术在带来便利的同时，也引发了诸多法律与伦理问题。例如，未经授权使用他人面部或声音进行视频合成，可能侵犯个人隐私权、肖像权甚至名誉权。此外，若用于诈骗、诽谤等非法目的，还可能触犯刑法相关规定。 在司法实践中，如何界定AI技术使用的合法性，成为亟待解决的问题。法院在审理相关案件时，需综合考虑技术应用的场景、主观意图以及造成的实际影响等因素。未来，除了完善法律法规，还需加强行业自律和技术监管，以确保技术发展不偏离法治轨道。
使用AI合成名人声音带货 法院认定被告构成侵权
原告李某某在教育和育儿领域具有较高的知名度和社会影响力。2024年，原告发现被告某文化传媒有限公司在其运营的网络平台店铺中，使用其公开演讲和授课视频，并结合高度相似的AI合成声音，对多本家庭教育类图书进行宣传推广。原告认为，被告未经允许使用其肖像及通过AI技术合成的声音制作宣传内容，侵犯了其肖像权和声音权。被告作为图书销售方，与视频发布者（某带货主播）存在委托关系，共同完成销售行为，因此应对涉案视频的发布承担审查责任，应承担赔礼道歉及赔偿损失等侵权责任。 我认为，随着人工智能技术的快速发展，声音和影像的复制与使用变得更加便捷，但这也带来了新的法律风险。在缺乏明确授权的情况下，利用他人形象和声音进行商业宣传，不仅可能构成侵权，也容易引发公众对个人隐私和人格权益的关注。此案反映出当前在数字内容创作和传播过程中，权利边界亟需进一步明确，相关企业更应增强法律意识，避免因技术滥用而触碰法律红线。
法院认为，涉案视频使用了原告李某某的肖像，并通过AI技术合成其声音，该声音在音色、语调和发音风格上与李某某本人高度相似。结合李某某在教育和育儿领域的知名度，视频内容对家庭教育类书籍进行宣传，容易使观众将视频中的信息与李某某本人产生关联，部分听众能够将AI合成的声音与李某某建立一一对应的联系。因此，可以认定该AI合成声音属于李某某声音权益的保护范围。视频中大量使用李某某的肖像，并未经其授权，因此发布该视频的行为构成对其肖像权和声音权益的侵犯。 从法律角度看，随着AI技术的不断发展，声音和肖像的使用边界愈发模糊，如何在技术创新与个人权利保护之间取得平衡，已成为亟需关注的问题。本案不仅涉及个体权益的保护，也反映出当前对数字身份权利的法律界定仍需进一步明确和完善。
法院认为，被告某文化传媒有限公司与视频发布者（某带货主播）根据平台规则及相关服务协议建立了委托推广关系，双方共同旨在推广被告的书籍，并通过发布涉案视频获取相应收益。同时，被告作为平台方，具备对涉案视频进行审核和管理的能力。在涉案视频大量使用原告肖像、并合成模拟原告声音的情况下，被告理应对由此可能引发的侵权风险具有合理预见，并应尽到相应的审查义务。然而，现有证据显示被告并未履行其应尽的注意义务，因此被告某文化传媒有限公司应与视频发布者对侵权视频的发布承担连带责任。
法院判决，被告某文化传媒有限公司被判决向原告李某某赔礼道歉，并赔偿经济损失及维权合理支出，其余诉讼请求被驳回。宣判后，双方均未提出上诉，目前该判决已生效。 从本案来看，法院的判决体现了对个人名誉权和合法权益的尊重，同时也明确了企业在使用他人信息或进行相关宣传时应尽的注意义务。在信息传播日益频繁的当下，企业更应增强法律意识，避免因疏忽而引发纠纷。此次判决不仅为类似案件提供了参考，也提醒相关从业者在运营过程中需更加谨慎，以减少法律风险。
如何判断AI合成声音等行为是否构成侵权？
《中华人民共和国民法典》第1019条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，法律另有规定的除外。同时，未经肖像权人同意，肖像作品的权利人也不得以发表、复制、发行、出租、展览等方式使用或公开肖像权人的肖像。第1023条第2款进一步明确，对自然人声音的保护，参照适用肖像权的相关规定。 这一系列条款体现了我国在公民人格权保护方面的进一步细化与强化。肖像权和声音权作为个人尊严的重要组成部分，其法律保障不仅有助于遏制滥用行为，也增强了公众对自身权利的认知与维护意识。在信息化时代，技术手段的滥用可能对个人隐私和形象造成严重损害，因此，法律的明确规定具有现实意义和前瞻性。
颜君介绍，未经本人许可即通过AI换脸或AI合成他人声音，属于利用信息技术手段伪造等方式侵害他人的肖像权或声音权，若未经肖像权人同意，制作、使用、公开前述肖像或声音，亦可能构成侵权行为。
“判断是否构成侵权的核心在于，利用AI技术合成的自然人肖像和声音，只要能够使一般社会公众或相关领域公众根据其五官、轮廓等外部形象或音色、语调、发音风格等声音特征识别出特定自然人，即应纳入该自然人人身权益的保护范围。”颜君表示，例如商家“克隆”名人肖像、声音带货，让消费者误以为是名人推荐商品，这就侵犯了名人的声音权和肖像权；再如，有人通过“恶搞换脸”，把其他人的面部换到一些不雅视频或图片中并在网络上传播，这不仅侵犯了肖像权，还严重贬损了他人的名誉。
AI合成声音等行为可能涉及哪些法律责任？
当前，使用AI合成声音或换脸技术制作虚假信息、恶搞等行为在网络上屡见不鲜。颜君表示，前述行为可能涉及的法律责任主要包括三个层面：
一是民事责任。根据《中华人民共和国民法典》的规定，权益受到损害的民事主体可以向法院提起民事诉讼，要求侵权人停止侵害、赔礼道歉、消除影响，并赔偿经济损失和精神损失。需要强调的是，并非只有视频的制作者、发布者才要担责，就视频发布的委托方而言，如果未尽到合理的审核义务，也需要承担连带责任，这意味着委托推广带货的商家等不能以“不知情”为借口来推卸责任。
二是行政责任。如果利用AI技术故意散布谣言、谎报险情等扰乱公共秩序的，公安机关可依据《中华人民共和国治安管理处罚法》等规定，对行为人处以行政拘留、罚款等行政处罚。
三是刑事责任。例如利用AI换脸、AI合成声音制作淫秽物品并进行传播以牟利，可能构成传播淫秽物品牟利罪；若用于对他人实施诽谤或侮辱行为，情节严重的，可能构成诽谤罪或侮辱罪；若通过合成肖像或声音伪造场景实施诈骗，则可能涉嫌诈骗罪，从而面临相应的刑事责任。 从社会角度来看，随着AI技术的快速发展，其在娱乐、教育等领域的应用日益广泛，但同时也带来了新的法律风险。对于利用AI从事违法活动的行为，必须依法予以严惩，以维护网络环境的清朗和社会秩序的稳定。同时，也应加强公众对AI技术的认知和防范意识，避免被不法分子利用。
规范人工智能技术的应用，需要多方共同参与治理。颜君建议，提供信息内容传播服务的网络平台应依照相关法律法规，加强对人工智能生成合成内容的审核。对于属于或可能属于人工智能生成合成的内容，应采取适当方式在发布内容附近添加明显的提示标识，明确告知公众该内容为生成合成内容，防止公众产生误解。同时，应建立健全的辟谣机制和投诉处理机制，及时应对利用深度合成技术制作、复制、发布和传播虚假信息的行为。未来，针对AI合成声音侵权等新型侵权行为，还需进一步明确平台在内容审核、数据使用及算法推荐等方面的法律责任。
“此外，相关技术使用者和信息发布者也应严格遵守法律法规和社会公德，避免利用AI技术侵犯他人合法权益，共同促进人工智能与深度合成技术的健康发展，营造清朗的网络环境。颜君表示。 在当前技术快速发展的背景下，AI应用的广泛性与隐蔽性对社会秩序提出了更高要求。技术本身并无善恶之分，关键在于使用方式与责任意识。只有各方共同努力，才能确保技术进步服务于社会福祉，而非成为侵害他人权益的工具。维护良好的网络生态，需要法律规范、行业自律与公众监督的多方协同。
