AI换脸“定制”女星淫秽视频:新技术不能这么用

2019年07月19日 07:32   来源:光明网   敬一山

  新京报记者近日调查发现,随着AI技术走红以及门槛降低,售卖明星换脸的淫秽视频已经成为一门地下生意。百度贴吧中部分标榜“换脸+女明星姓名”的发帖者,售卖通过AI换脸技术合成的视频,价格可4元一部,也可158元打包购买700部视频,多位知名女明星频被提及。

  传播淫秽视频是违法犯罪,滥用女明星肖像是侵权,这都是毋庸多言的常识。可是看相关新闻后的跟帖,不少网友忧心的却是,“以后女明星真有艳照门是不是可以甩锅给被换脸”。这当然可能是玩笑话,但也从一个侧面印证:技术本身没有善恶,是人的认知和意图决定了善恶。因而最值得担忧的,其实不是新技术如何应用,而是各方对新技术的认知偏差。

  这已经不是AI新技术第一次引发争议。此前,曾有借助AI技术自动“脱掉”女性衣服的APP,也有人想做“原谅宝”产品,以检测女性是否从事过色情行业。而从保护未成年人、净化互联网空间的角度看,“398元包教会,学生打七折”的AI换脸技术,更是毫无下限。

  在一些技术主义者看来,他们只需要考虑新技术给社会带来的新可能,而无需考虑可能导致的后果。这样的想法显然太过天真:当技术走出工程师的电脑,走向社会应用,就必须考虑现实应用场景的合法、伦理性,以及不遵守合法、伦理性时可能导致的灾难。

  幸好,这两项“创新”很快遭到舆论猛烈抨击,已被扼杀在萌芽状态。“创新者”非但没有取得预想的成功,反而为之付出惨痛代价。这是一个很好的警示。

  随着AI技术的发展,追求新机会的创业者们当然可以展开想象力,但在创新过程中,最好记得法律和伦理的边界。不要侥幸于新技术的监管或者法规的滞后,因为,公共伦理、社会舆论同样是无形但却有力的约束。

  当然,这是对主观并不存在作恶意图的技术信奉者而言,对于用淫秽视频“定制”女星的这些人来说,他们本就在铤而走险,他们信奉的不是技术,而是利益。无论有没有使用新技术,都在法律打击的范畴之列。新技术的出现,只不过是给他们制造了赚钱的新噱头而已。所以,针对此种互联网乱象,重要的还是加强执法力度。除了供给方之外,还特别需要提醒淫秽视频的购买者。参与定制,甚至提供女性照片给对方,这等于是在参与违法犯罪,面临不可测的法律风险。

  互联网发展过程中,若技术被应用于此类违法行为,实际上影响的,是人们对技术本身的信任。像淫秽视频“定制”女星这种事,不会创造什么新的可能和福利,不过是用新技术满足庸俗的嗜好和盈利的冲动。对其批判和加强执法打击力度,该是最好的回应。

(责任编辑:臧梦雅)

精彩图片
博聚网