前段时间广州地铁三号线裸照事件引起全城轰动,经过调查,确认是有人造黄谣。事情的真相是有人用AI软件一键去衣,把一位女博主去年在地铁上拍照的照片变成裸照在网上散播。当时该女博主衣着正常,没有不妥之处。那么号称人类未来的AI技术为何如此龌龊呢?
4月26日,有个叫Caro赖赖_的网红在社交平台控诉她被犯罪分子非法AI换脸。用AI换脸软件将她的脸换到不雅视频视频上。很久以前,就有好几个粉丝在她视频评论区里说看到他的不雅视频。最近,她朋友给她发了些截图和视频,不雅视频里面女主角的脸跟她一模一样。这时她才恍然大悟。经过她的调查有人在境外社交平台上冒充她的账号,然后把她的内容搬运到那个假的账号上面,不断地积攒粉丝数。后来还就以会员订阅方式贩卖她的不雅视视频。据她了解:“AI盗脸”技术已经形成完整产业链。
事实上“AI换脸”、“AI一键去衣”,已经是犯罪分子圈里人尽皆知的技术。犯罪分子们利用这种技术把明星、博主甚至普通人的照片制作成色情照片或者把不雅视里面的脸换成别人的来获取金钱。一个售卖卖“一键脱衣”的卖家说他们软件价格从29元到259元不等,功能和效果不一样。也可以按需定制图片。
无论是“AI换脸”还是“AI一键去衣”,他们都已经到触犯了法律。这些人一旦被捉住必定受到法律的严惩。
难道AI技术就是如此龌龊吗?其实不是的,AI本无罪,有罪的是利用这种技术开发软件的人。他们不把AI技术用于服务人类,给人们的生活带来便利,促进生产效率的提高。竟然去做一些趣味的事情,更有甚者把他们用来违法犯罪。能把世界任何一个角落变成地狱的,不是鬼,也不是神,更不是魔鬼。而是一群毫无道德的,目无法纪的人。所以AI不龌龊,龌龊的是有些人。
AI技术以前只掌握在少数的精英手里,现在普及度越来越高,管理也变得困难起来了。这样管理起来就非常难。我们需要尽快制定规则来约束使用AI技术。