• 南方网

  • 南方日报

  • 南方都市报

  • 南方杂志

  • 南方日报出版社

南方网评:AI版“真假美猴王”,从严整治靠谁的火眼金睛?

2025-11-14 18:29 来源:南方网·粤学习 曹晓静

  近日,网信部门集中整治了一批利用AI仿冒公众人物开展直播营销的违法违规账号,目前已累计清理相关违规信息8700余条,处置仿冒公众人物账号1.1万余个。这也是对在网络上闹得沸沸扬扬的以温峥嵘为代表的一众明星被AI盗脸事件的有力回应。这场重拳出击,表明了监管部门对AI滥用行为“零容忍”的坚决态度,也为饱受虚假内容困扰的网络空间注入了一剂“强心针”。

演员温峥嵘被同时出现在三个直播间带货

  事实上,AI仿冒公众人物早已不是新话题,几年前的AI靳东事件尚历历在目,但近期这一现象呈现出规模化、隐蔽性、低门槛趋势,宛如一出现实版“真假美猴王”,令人愈发忧心。演员温峥嵘近日就遭遇了这样的荒诞场景——她竟以三种不同造型同时出现在三个直播间带货。直播看似逼真却全是假象,要么是录屏抠图,要么是盗用旧影像深度合成。她本人在直播间质问对方“你是温峥嵘,那我是谁”却反被拉黑,陷入“难以证明我是我”的困境,荒唐程度令人瞠目。

  此类AI仿冒已形成黑产链条,技术门槛低,成本仅千元即可生成虚假视频。温峥嵘团队曾一天内举报50个假账号,但“删一个冒一个”。造假者如同变身术般轮番“换壳”,维权者却疲于奔命,这正是当下AI治理的困境所在:技术门槛降低导致造假成本更低,违法收益却仍可观。在利益驱使下,AI造假屡禁不止。

  监管并非缺位。今年9月1日实施的《人工智能生成合成内容标识办法》明确要求:AI生成的视频必须“亮明身份”,违者最高可罚10万元。但在实际操作中,这些假冒账号要么把标识藏在角落,要么用极小的字体应付了事,消费者难以察觉。而且据此前的司法实践,不少AI侵权案件赔偿金额甚至不足万元,远低于商家通过AI带货获得的利润,难以形成有力威慑。

  AI换脸带货,不仅是对公众人物肖像权的侵犯,更涉嫌对消费者实施欺诈。直播间里的“六耳猕猴”越来越难辨真假,有关部门显然不能再坐视不管。此次网信部门开展集中整治,强调将保持高压严管态势,对恶意营销账号“发现一批、处置一批、曝光一批”,并督促平台压实主体责任,这是整治乱象的关键一步。

  当然,治理不能止于此,还需要更多监管手段和常态化的监管制度。AI时代的内容生产速度远超人工审核能力,平台需要提升用AI监管AI的能力,提高对深度伪造内容的识别精度。相关法规也需进一步细化,提高违法成本,让仿冒者真正付出代价。同时,公众的媒介素养也需提升,对“明星带货”保持必要警觉。

  AI技术是中性的,它既能带来便利,也可能被滥用误用。关键在于如何让技术的发展不偏离法治轨道、不被逐利者绑架。必须让“AI李鬼”无遁形,让网络空间回归清朗可信,这既是监管的使命,也是整个社会共同的责任。

  南方网、粤学习评论员 曹晓静

编辑:胡伟   责任编辑:王萍   校对:梁洁萍

相关新闻

回到首页 南方网二维码 回到顶部

南方报业传媒集团简介- 网站简介- 广告服务- 招标投标- 物资采购- 联系我们- 法律声明- 友情链接

本网站由南方新闻网版权所有,未经授权禁止复制或建立镜像 广东南方网络信息科技有限公司负责制作维护

违法和不良信息举报电话:020-87373397 18122015068

ICP备案号:粤B-20050235