导航菜单

AI换脸火速风靡,失控前亟需伦理审查

  2019 南方都市报

  没有人希望自己“丢脸”,因为“要脸”是人作为社会性动物的一个基本特点。

  9月1日,上线三天爆红的AI换脸软件“ZAO”的微信分享链接被停止访问,究其原因,就在于这款火速蹿红的AI换脸应用软件存在巨大的争议,用户可能因此“丢脸”——丢失脸部信息。当然,微信方面暂停分享链接,基于的考虑未必完全是公共利益,而是行业竞争,但不管怎么说,ZAO所引发的争议值得认真对待。

  

  8月30晚间,打出“仅需一张照片,出演天下好戏”口号的“ZAO”刷屏朋友圈。用户通过使用这款APP,上传自拍照片,就可以将自己置换成某个影视片段的主角,跟胡歌恋爱,还是把自己当陈冠希,一切由用户自己说了算。虚拟社交的神奇之处在于,可以十分便利地创造一个新“情境”,而“ZAO”所提供的情境则十分迷人,尽管这些影片的版权问题还存在巨大争议。

  凭借着自由切换情境的功能,“ZAO”引发了病毒式的传播,短短两天之后的9月1日,在苹果应用商店App Store的免费App下载排名中,“ZAO”已经雄踞第一。然而,在这款应用刷屏的背后,却存在一个核心的争议,那就是当用户把脸部信息上传之后,用户的脸还属于自己吗?

  

  使用“ZAO”的过程非常简单,只需要下载、注册、上传一张清晰正面照。Zao还会要求用户在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作。之后,你就可以将自己的偷换植入某个影视剧中,过一把更偶像互动的瘾。整个过程中,用户还会看到《用户协议》这一环节,但这份协议涉及很多隐私问题,此前的版本提出,“用户发布到Zao的内容,必须确认允许Zao及其关联公司,以及Zao的用户在全球内完全免费、不可撤销、永久的使用、修改、编辑等等。”这一条款引发巨大的争议,Zao随即更改了这部分内容。

  不过,一般来说,忙着体验的用户都会按下“同意”按钮,毕竟你不按,就无法使用这一款软件。而对于用户而言,对于脸部信息涉及到的隐私风险显然缺乏必要的认知。

  “ZAO”的火爆,直接触发了一个巨大的技术伦理争议。因为技术带来的便利,普通人也可以随便进行换脸,这其中包含了侵权的可能,对此,责任该如何界定。而更重要的是,所有的用户“脸部信息”都汇聚于背后的平台巨头,这里又有两方面的责任争议:其一是巨头本身会拿这些数据做什么,他们的行为是否应该收到限制,如果答案是肯定的,那么又该受到哪一些具体限制;其二,如果平台出现数据泄露,造成用户的人身、财产威胁,那么又该如何处置。

  

  AI换脸技术并非刚刚出现的新生事物。在2017年,美国就出现了一位网友将色情片的女主角换成了100多位好莱坞明星的事件。此后,脸书创始人扎克伯格、美国众议院议长南希·佩洛西都曾被网友用换脸技术“以假乱真”。为此,美国国家还专门召开了一场讨论AI换脸技术的听证会。

  回到“ZAO”这款应用,当然不是要一棍子打死,但在众多质疑面前,从政府监管到舆论监督,再到学术研究,理应及时跟上,做一个审视与讨论。在“脸部信息”被滥用、濒临失控之前,AI换脸技术得好好通过伦理关的审查。

  没有人希望自己“丢脸”,因为“要脸”是人作为社会性动物的一个基本特点。

  9月1日,上线三天爆红的AI换脸软件“ZAO”的微信分享链接被停止访问,究其原因,就在于这款火速蹿红的AI换脸应用软件存在巨大的争议,用户可能因此“丢脸”——丢失脸部信息。当然,微信方面暂停分享链接,基于的考虑未必完全是公共利益,而是行业竞争,但不管怎么说,ZAO所引发的争议值得认真对待。

  

  8月30晚间,打出“仅需一张照片,出演天下好戏”口号的“ZAO”刷屏朋友圈。用户通过使用这款APP,上传自拍照片,就可以将自己置换成某个影视片段的主角,跟胡歌恋爱,还是把自己当陈冠希,一切由用户自己说了算。虚拟社交的神奇之处在于,可以十分便利地创造一个新“情境”,而“ZAO”所提供的情境则十分迷人,尽管这些影片的版权问题还存在巨大争议。

  凭借着自由切换情境的功能,“ZAO”引发了病毒式的传播,短短两天之后的9月1日,在苹果应用商店App Store的免费App下载排名中,“ZAO”已经雄踞第一。然而,在这款应用刷屏的背后,却存在一个核心的争议,那就是当用户把脸部信息上传之后,用户的脸还属于自己吗?

  

  使用“ZAO”的过程非常简单,只需要下载、注册、上传一张清晰正面照。Zao还会要求用户在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作。之后,你就可以将自己的偷换植入某个影视剧中,过一把更偶像互动的瘾。整个过程中,用户还会看到《用户协议》这一环节,但这份协议涉及很多隐私问题,此前的版本提出,“用户发布到Zao的内容,必须确认允许Zao及其关联公司,以及Zao的用户在全球内完全免费、不可撤销、永久的使用、修改、编辑等等。”这一条款引发巨大的争议,Zao随即更改了这部分内容。

  不过,一般来说,忙着体验的用户都会按下“同意”按钮,毕竟你不按,就无法使用这一款软件。而对于用户而言,对于脸部信息涉及到的隐私风险显然缺乏必要的认知。

  “ZAO”的火爆,直接触发了一个巨大的技术伦理争议。因为技术带来的便利,普通人也可以随便进行换脸,这其中包含了侵权的可能,对此,责任该如何界定。而更重要的是,所有的用户“脸部信息”都汇聚于背后的平台巨头,这里又有两方面的责任争议:其一是巨头本身会拿这些数据做什么,他们的行为是否应该收到限制,如果答案是肯定的,那么又该受到哪一些具体限制;其二,如果平台出现数据泄露,造成用户的人身、财产威胁,那么又该如何处置。

  

  AI换脸技术并非刚刚出现的新生事物。在2017年,美国就出现了一位网友将色情片的女主角换成了100多位好莱坞明星的事件。此后,脸书创始人扎克伯格、美国众议院议长南希·佩洛西都曾被网友用换脸技术“以假乱真”。为此,美国国家还专门召开了一场讨论AI换脸技术的听证会。

  回到“ZAO”这款应用,当然不是要一棍子打死,但在众多质疑面前,从政府监管到舆论监督,再到学术研究,理应及时跟上,做一个审视与讨论。在“脸部信息”被滥用、濒临失控之前,AI换脸技术得好好通过伦理关的审查。