AI换脸带货成风,名人被侵权屡禁不止!你还能相信眼见为实吗?

2025-01-17 09:33:01来源:北方时空

AI换脸技术的进步背后,存在着错综复杂的商业链条。这一技术不仅引发了诸多风险和问题,还导致名人频繁遭遇侵权,该问题已受到社会各界的广泛关注。

AI换脸背后的侵权现象

近期,张文宏等知名人士遭遇了大量的侵权事件。尽管他们多次提出投诉,侵权行为却依然屡禁不止。2024年9月,北京大学教授李玲也遭遇了相似困境。尽管报警处理,侵权短视频仍在流通,且销量巨大,已售出9.7万件,这些事实都揭示了名人权益遭受严重侵害。此类侵权行为不仅扭曲了公众对名人形象和观点的认知,而且容易误导对AI技术不熟悉的消费者。

大众普遍倾向于对名人推荐深信不疑。这些伪造的视频利用AI技术制作,声音和形象几乎与真实无异,从而轻易地赢得了消费者的信任,尤其是老年消费者。

平台的打击行动

一些平台已认识到问题的严重性。例如,微信已采取措施应对,关闭了209个涉嫌利用AI技术冒充名人进行不当营销的账号。此举反映了平台在承担社会责任、维护名人和消费者权益方面的努力。然而,由于监管难度较大,尤其是在面对大量视频内容时,平台可能难以精确识别所有侵权行为。

尽管平台持续采取措施进行打击,但违法分子仍在探索新的手段。例如,部分人在二手交易平台上提供换脸服务,企图绕过平台的监管措施。这一现象显示出,遏制侵权行为的工作仍面临诸多挑战,不能仅依赖平台的力量。

AI换脸技术门槛低

技术进步使得AI换脸技术变得操作简便。深度科技研究院院长张孝荣指出,这一技术早期得益于机器学习等技术的推动。目前,众多软件已引入此类功能。

王鹏,北京社科院的副研究员,指出具备一定技术能力的团队及小型企业,凭借开源软件即可完成AI换脸操作。这一现象使得在直播等场合利用该技术进行欺诈的成本变得异常低廉。

AI换脸催生的欺诈犯罪

AI换脸技术的低成本引发了犯罪现象。此类技术已被用于多起犯罪事件中。犯罪者通过换脸换声,假扮他人进行诈骗,甚至侵犯他人隐私。这种行为不仅侵犯了财产权,更严重的是侵犯了个人的人身权益。

AI技术的广泛应用可能导致犯罪形势加剧。在公众难以辨别真伪的情况下,他们更易遭受损失,不仅财产受损,心理上也产生恐惧。

民众的自我保护

AI换脸技术引发的潜在风险需引起公众注意。个人需增强辨识能力,确保个人数据安全。网络环境中,对于看似名人推荐的视频内容,应保持警惕,切勿轻信。

民众的自我保护措施具有一定的作用,然而,它们并不能彻底解决根本问题。根本问题在于技术的不规范使用。

监管的应对措施

民众的自我保护之外,还需监管部门加大力度。制定相关法律来规范人工智能技术的应用是至关重要的。王鹏提出,应从软件研发、应用推广和平台监管等多个层面入手。

平台需识别用户换脸用途及环境,软件提供者亦需履行监管义务。通过此举,确保AI换脸商业活动合法进行,同时降低风险,助力AI技术健康发展,惠及公众。

关于当前AI换脸技术引发的侵权问题,您有何见解?欢迎读者们踊跃发表评论,积极参与讨论。此外,若您认为本文有价值,请给予点赞并分享。