警惕AI换脸行骗成风

2023-05-31 07:54:56

来源:北京日报


【资料图】

明星直播带货如今已稀松平常。但有人发现,有些“知名女星”竟然可以同时出现在多个直播间,处处可见“杨幂”,时时都有“热巴”。不过定睛一看,这些带货主播并非明星本尊,只是使用了AI实时“换脸”技术的素人主播。追半天追了个“李鬼”,网友们难免愤愤不平:“这不是明目张胆行骗吗?”

的确,很多人在直播间“买买买”,就是冲着明星去的。而商家引入“明星脸”的算计也在于此。“假面”主播堂而皇之大声吆喝,推动实质的交易买卖,不仅是对明星肖像权的侵犯,某种程度上也是对消费者的欺诈。这些年,“AI换脸”触碰伦理和法律底线的事件高发,换脸诈骗诽谤等案例也层出不穷,不仅给当事人造成困扰伤害,更影响着传播秩序和社会运行。

早在2019年,“AI换脸”技术就已大热。其甫一诞生,便伴随着伦理和法律争议,相当一部分研发创业公司对推广都保持着谨慎和克制态度。然而随着生成式AI技术浪潮爆发,“换脸”已变得越来越没有门槛,入局分羹者越来越多,更滋生出不少灰色产业。据悉,一款适合直播聊天的现成模型“实时版”费用只需2000元/套,随便什么明星,“虚拟面容随心定制”。定制美女图像也不难,价格从100元到180元不等,“付了定金便可操作”。只是当“贩卖者”凭着所谓“教程”“模型”轻轻松松赚得盆满钵满,被“李鬼”的事主本人却不得不四处求告、自证清白,为“无妄之灾”耗费巨大的人力物力成本。

技术中立并不意味着价值中立,无论是谁、拥有怎样的技术,在人类社会运行,都必须接受来自法律的规制、道德伦理的约束。而这,不能总是指望个体的自发自觉、自我保护,必须让法律跟上技术的步伐,筑牢防护的堤坝。目前,我国民法典关于肖像权的内容就这一领域进行了直接规定,网络安全法、网络信息内容生态治理规定等对信息真实性提出了具体要求,但在深度合成式人工智能技术方面,仍有待细化和强化。与此同时,有关部门和相关主体也需要“睁大眼睛”,守住各自的“一亩三分地”。特别是平台方,作为内容上线的最后一道关卡,无论是将贩卖模型者“下架”,绝不允许换套马甲再作恶,还是将直播间的“李鬼”揪出来,视情节轻重予以惩戒,只有坚决堵住魑魅魍魉出场的渠道,才能还网络空间一片清朗。

AI时代正在加速到来,虚拟和现实的边界逐渐模糊,但法律与规则必须清晰。让技术造福人类,而非骚扰社会,必须行动起来了。

关键词: