“AI换脸”被滥用 科技莫成“黑产”帮凶

2019年07月18日08:35  来源:新京报
 
原标题:“AI换脸”被滥用 科技莫成“黑产”帮凶

  AI“换脸”技巧被应用于色情视频,本身就是对科技的凌辱,借此构成“黑色家当链”,形成的社会伤害更是弗成低估。

  科技的生长推动了社会进步,同时也带来很多风险和隐患。早年,很多人只知道应用软件Photoshop(PS)可以或许修改图片,如今,AI(人工智能)直接将“修图”技巧退化成“换脸”。近日,新京报记者在查询拜访时发明,互联网上大年夜量出现经过过程“AI换脸”完成的由有名女艺人“主演”的淫秽视频,在百度贴吧、闲鱼等重要搜集平台均有出售。

  假设有人认为,明星艺人被美化也好、美化也罢,都不关本身的事,那就大年夜错而特错了。由于,在实际中,“AI换脸”曾经不只仅是一门技巧,一条依附于“AI换脸”的“黑色家当链”曾经构成。据新京报记者的查询拜访报导称,有的商家不只供给成品的视频,还接拉拢家的订制,只需买家供给20张照片,便可以弄出任何人的“小片子”。还有的商家“授人以渔”,售卖教授教化视频供人进修,出示先生证还能打七折。

  互联网不是法外之地。“AI换脸”技巧被应用于淫秽视频,本身就是对科技的凌辱,借此构成“黑色家当链”,形成的社会伤害更是弗成低估。

  起首,“AI换脸”为淫秽视频的传播供给了新的高兴点,让那些本来未必会接触淫秽视频的未成年人群体,由于“追星”情结而增长了“看一看”的兴趣,终究误入个中,难以自拔。

  其次,在“AI换脸”技巧下,每小我都能够成为受益者。特别是浅显人,一旦被“AI换脸”成为“小片子”的配角,由于身边人的辨别才能较弱,大年夜多半人在转发信息时更重视内容的轰动性和安慰性,而非靠得住性,就算是一个做工粗糙的视频,也能够会在“以讹传讹”中给无辜确当事人带来极大年夜的精力伤害。

  第三,“AI换脸”的应用处景不只是色情视频,还能够被用于电信欺骗。假设有人经过过程“换脸”向“被换脸者”的亲朋索要财帛,就算欺骗不成功,也能够形成伤害当事人荣誉的影响。

  第四,“AI换脸”技巧具有必定的兴趣性和挑衅性,会吸引更多人测验测验其练习模型的乐趣,从接收者变成参与者。特别是青少年对新事物的接收才能强,计算机技巧程度常常较高,个中一些法制不雅念或品德认识较弱的人在“小试身手”后很轻易踩过界,变成“黑色家当链”的一环。

  虽然“AI换脸”技巧的重要伤害在于应用者的滥用,但因“AI换脸”自带“混淆人格”的功能属性,是以,相干部分对“AI换脸”行动的司法限制和行动标准也应更具针对性。起首,公安部分、搜集监管者、搜集贴吧和电子商务平台的运营者,都有义务清除背法售卖的包含“AI换脸”技巧的背法色情视频。关于面向公众发卖的或代为制造换脸视频的营利性行动,应果断予以禁止。

  其次,让“AI换脸”技巧的爱好者认识到,不论能否应用“AI换脸”技巧,在中国境内,凡是传播具有性行动、性器官、赤身的图象或视频都是具有司法风险的,“换脸”技巧其实不克不及清除原始素材的背法性,将之作为“技巧成果”与大年夜家分享是有风险的。

  第三,制造者应防备本身的“换脸”视频被人应用,用于各类讹诈和侵权活动。不要由于认为“好玩”,就随便帮人制造“爸爸妈妈我要钱啊”之类的视频。

  第四,未经当事人授权的“换脸”行动,是对公平易近民格权和肖像权的侵犯。控制“AI换脸”技巧的人,应当对他人多怀尊敬之意,弗成随便马虎“戏之”,更弗成没有底线地将“换脸”技巧用于不法取利,不然不免会遭到司法的宽大。(缪因知)

(责编:杨僧宇、吕骞)