快科技12月23日消息,随着科技飞速发展,AI(人工智能)已深入我们的日常生活,从智能家居到自动驾驶,从医疗辅助到教育创新,AI技术正在改变我们的生活方式。
然而,AI双刃剑的特性也逐渐显现,其中,深度伪造技术就带来了不小的隐患,比如造假名人进行直播带货。
据央视新闻介绍,今年以来AI深度伪造假冒名人的事件时有发生,不久前,就有人利用AI技术,深度伪造了张文宏医生的脸部和声音进行直播带货。
在视频中,被合成的人像反复介绍一种产品,声音也很像张文宏本人,商品中的蛋白棒产品已经售卖了1200多件。
张文宏表示,这个事情已经有几个星期了,一开始他也投诉,特别是对AI不是很熟悉的年纪比较大的市民,他们很容易就会相信。
上海市消保委方面指出,有不法商家通过AI手段去冒用张文宏的形象和声音,做的假的直播带货,这种行为是对消费者合法权的侵害,因为它就是一个赤裸裸的欺诈消费者行为。
专家称,AI假冒名人进行带货这样的行为,已经涉嫌违法,一旦消费者信以为真购买了产品,可以要求商家退一赔三。
值得注意的是,用AI制作,假冒名人欺骗网民的现象,张文宏事件并非个例。
今年国庆期间就有人用小米CEO雷军的声音和头像制作了众多恶搞视频。
对于自己的声音被恶搞的视频,雷军表示,最近两年AI特别火,技术进步特别快,前段时间在刷视频的时候经常看到很多人在玩“雷军AI”,就是“雷军语音包”,有网友跟他投诉,说国庆期间被自己“骂”了整整7天。
“的确让自己也挺困扰,也挺不舒服的,在这里希望大家不要再玩了,这个事情不太好,不过还是觉得AI是很好的技术,也非常实用。”雷军说。