优股平台 AI换脸，乱了直播间，罔顾法律红线

近日，演员温峥嵘同时现身三个不同直播间带货的异常现象登上热搜。分身术背后折射的正是AI合成名人形象声音带货的乱象。这样的AI盗播不仅让网友真假难辨，就连演员本人也难以证明自己是自己。具体情况如何？来听第一财经广播崔琦的介绍。

细心的网友发现，在这三个直播间中同时现身的演员"温峥嵘"，身着不同服装，推广着不同产品，动作神态与本人高度相似。

温峥嵘并无分身之术，这三个直播间或是录屏抠图，或是商家盗用她过往直播素材，经过AI深度合成重塑形象与语音嵌入直播间，此举也让她本人有苦难言，

【这种AI的这种手段让大家混淆大家的视听，我的形象我的肖像受这样的侵权，我觉得是对我这是莫大的一个伤害，还包括信任我的观众朋友们，下单之后如果买到就是我心里会难过。】

在发现虚假视频在网络传播后，温峥嵘团队立即展开了持续的举报行动。据透露，他们曾在一天内集中举报50个假冒账号。虽然部分造假账号被平台下架处理，但更多的则是刚下架就换个形式重新出现，让人防不胜防。对于这样的情况，工作人员坦言，部分商家只需截取一段影像，用简易工具就能生成虚假内容，而他们取证却要花费很大的精力。

【他们喜欢在凌晨3:00 4:00大家都在休息的时候，去打这个时间差，他们去来发这个东西，送达了这个律师函，包括他们的侵权行为产品，然后所对应的这个公司主体，这其实只是一部分。就是在早些前我们已经陆陆续续处理了很大一批了】

当前AI生成内容乱象丛生，而监管和治理面临多重困境。

一方面，AI视频往往具有自动生成、快速消失、跨平台传播等特点，这导致当事人很难证明视频确系伪造，难以保留有效证据，也难以快速制止侵权行为。

另一方面，传统肖像侵权多以名誉损害或商业代言损失计算赔偿，但AI伪造带来的损害更复杂：包括公众误导、品牌信任受损、长期人格风险等，法律对此尚无成熟的量化标准。赔偿机制仍基于传统侵权逻辑，无法涵盖AI人格复制的复杂损害。

北京师范大学法学院教授刘德良指出，根据《民法典》及《个人信息保护法》，未经授权使用他人肖像进行AI合成，虽涉嫌侵犯肖像权与个人信息权益，但在司法实践中，多数案件赔偿金额不足万元，远低于商家的非法收益。

【通过AI或者深度伪造技术，改变面部，改变声音，或者是把面部移到另外一个人的身上，从法律上来看，如果是未经别人允许、非法目的的话，那就有可能会涉及到，侵犯别人的肖像权、声音权。如果把这种行为利用于比如说广告宣传，直播营销的话，这里面就可能会涉及到广告法上的虚假宣传。】

值得一提的是，《民法典》虽然确认了“肖像权”，但其表述为：肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。这主要还是针对传统图像、视频拍摄，未明确“AI生成肖像”属于肖像权的保护范畴。AI合成的“数字分身”是算法重建而非直接拍摄。怎么界定它的属性？如果侵权者辩称这只是相像的数字人，又该如何应对？此外，侵权责任主体是制作人、平台还是算法公司？这些问题目前均缺乏明确法律规定。

好在面对乱象，监管部门已针对AI虚假直播出台治理措施，国家网信办联合多部门共同发布《人工智能生成合成内容标识办法》，明确要求AI生成的肖像、视频需标注“AI生成”，否则将面临最高10万元罚款。

但记者调查发现，新规执行中存在诸多规避手段。很多博主将标注藏在视频或者直播简介的角落，或者用极小的字体显示，消费者很难注意到。刘德良教授认为，网络平台应对其直播间里的内容负有监管责任。在AI时代，监管部门也可以同样使用AI手段对网络内容实施监管。

【消费者首先可以向平台投诉，如果平台拒不履行监管义务，可以要求平台承担连带责任，比如说我们一些投诉的机制，监管部门也可以利用AI来实时应对投诉，有效及时的发现假冒行为，当然技术解决不了的根本还是通过法律的。】

温峥嵘"分身"事件不仅是一个个案，更是整个行业面临挑战的缩影。业内表示，技术的完善尚需时日，立法进程也没那么快，当前，更能快速见效的方法是对平台责任和平台治理的强化。AI伪造将是人们在当下和未来必须面对的重要问题，但并非不可控。法律是“堵”，技术是“识”，平台治理则是“用”，通过法律、技术和平台治理三管齐下，合力防范打击AI乱象。

举报相关阅读