移动触屏版
移动触屏版扫描二维码
使用触屏版
华强智慧网
上市代码000062  原华强安防网
发布询价单
官方微信 精彩呈现
官方微信 精彩呈现

从一键换脸到深裸,科技伦理屡受冲击

来源:更新时间:2019-09-06 11:34作者:佚名
[摘要]曾经刷屏的类似应用软件不止ZAO一款,还有脸萌、足记、天天P图……与ZAO一样,这些应用大多与图像相关,许多也需要用户上传个人照片,但是从未引起如此大规模的争议。
华强智慧网讯

  广被诟病的用户协议、合成视频存在的安全问题……ZAO从爆红到质疑缠身,只用了不到24小时。从人脸合成技术诞生的那一天开始,人们就没有停止过对技术被人利用作恶的忧虑。

  此次对ZAO的担忧,也折射出潜藏在每个人内心的那个疑问:如果人工智能越来越无所不能,人类该如何自处?在新一轮的产业变革中,人类的隐私和其他权益究竟如何保护?

  从一键换脸到深裸,科技伦理屡受冲击

  曾经刷屏的类似应用软件不止ZAO一款,还有脸萌、足记、天天P图……与ZAO一样,这些应用大多与图像相关,许多也需要用户上传个人照片,但是从未引起如此大规模的争议。

  据了解,能够合成视频是ZAO引爆公众讨论的关键。在此之前,图像App的玩法都是基于静态的照片,ZAO则第一次将视频换脸技术带到了普通大众的手机里。

  中国科学院神经科学博士刘耀文向《法制日报》记者介绍说,人工智能相关应用在过去几年迅猛增长,其中人脸识别是应用范围比较广的技术之一。如今在金融、安防、考勤等领域,人脸识别已被大量应用。比如,当用户向互联网金融公司借贷时,平台首先需要做的是“验证你是你”,由于与钱财直接相关,拦截伪造的人脸攻击就变得至为重要。

  因此,这次刷屏的合成视频便触到了许多人的心理底线:当视频也可以被伪造,还有什么可以确保真实?

  其实,换脸技术本身并不新奇。2016年上映的《星球大战外传:侠盗一号》还原了1977年《星球大战4》中总督塔金的角色,但其扮演者彼得·库欣早在22年前就已去世,特效团队为此找来一位长相酷似彼得的演员进行面部表情捕捉,然后用计算机动画技术将塔金复活。不过,出品方卢克斯影业和迪士尼均表示,在制作《星球大战外传》时已经取得了彼得家人和产权继承人的同意。

  将换脸推到风口浪尖的是一系列融合了AI技术的“假视频”。

  2017年12月,一个名为“深度伪造”的用户在美国某论坛上发布了多段色情视频。他让电脑软件学习好莱坞女星的图像资料,然后把女星的面部移植到色情片女主角脸上,引发大量讨论和抨击,最后以账号被封告终。

  不过,AI换脸并未消失。用户“深度伪造”随后直接开源了项目代码,手机验证领28彩金效仿者随之而来,为了纪念他,便用他的名字代称“AI换脸”技术。

  据媒体报道,今年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为,深度伪造技术对美国2020年大选具有潜在威胁,若放任伪造视频扩散,则会对美国民主选举产生不良影响,挫伤选民的积极性。

  就在听证会结束后不久,一款名为DeepNude(深裸)的App再次把AI技术应用中的法律伦理问题推到台前:只要给它一张人像照片,等待30秒,就能得到一张裸照。由于风险超出可控范围,研发团队在产品上线几天后便匆忙将这款产品下架。

  美国斯坦福大学计算机科学教授、“百度大脑”原负责人吴恩达也公开批判,称“DeepNude是AI技术最糟糕的应用之一”,AI技术的超级力量应该被用到推动世界发展的项目中。

  在业内人士看来,AI换脸技术是成熟的,之所以没有被推广,就是因为还有很多法律、伦理问题没有讨论清楚。

  各方合作共同治理,健全法律防止失范

  上个月,央行科技司司长李伟就曾警示AI人脸识别技术可能带来的新风险,他说,“人脸支付的时候,一刷脸钱就没了,很可怕。银行卡可以揣在兜里,脸是平常露在外面,识别出来非常容易,现在有的技术可以在3公里之外识别你的人脸。”这句话道出了AI应用对公共安全带来的隐忧。

  此次,换脸软件ZAO将人工智能时代的隐私问题暴露得更加彻底,甚至有评论直言,当人类制造的技术越来越强大,甚至无所不能,人类本身的领地和独特性如何维护便成为值得思考的问题。如今,人工智能的发展渐成加速之势,这个情况甚至超出了不少人最乐观的估计。

  “对于打开了潘多拉魔盒的看法我是认可的,诸如ZAO此类的换脸软件,国外几年前就出现了,之后便被禁止。这个实际就是机器学习算法,对运行系统等各方面要求都挺高的。类似换脸应用出现是将技术平民化,使用门槛降低,让普通人都能使用,但可能会出现很严重的侵权行为。”刘耀文说。

  因此,在受访的业内人士看来,对于AI应用场景安全的讨论,不能只局限于民事侵权。

  在技术至上派的人看来,如果人工智能技术能够持续进步并广泛应用,特别是人类可以制造出真正能推理和解决问题、有知觉甚至自我意识的强人工智能机器的话,将给人类社会带来巨大的好处。

  从现实情况看,人工智能技术的发展确实也已经为人类带来实际回报。但得到这些好处并非没有代价,ZAO引发的争论只是人工智能技术B面的一小部分,面对这股强大且未知的力量,围绕人工智能伦理的探讨从未停歇。

  “更积极的讨论还得基于AI技术的伦理,对其研究开发与应用行为进行规范,通过健全法律法规、健全必要的监管,实行前置的管理,防止失范失控。”采访中,中国传媒大学政法学院法律系副主任郑宁说,比如,AI应用技术应当符合正当有益的原则,应用则需要满足起码的安全保护、隐私保护等条件,形成健全清晰的规则。对于AI换脸来说,如果有前置规则的约束,就可能属于禁止应用之列。由此可见,对于AI技术的发展,法规、规则的研究也应跟上步伐,不断扎密制度的笼子。

  “目前ZAO所展现出来的问题,以及类似软件可能产生的潜在危险和不安全性,也是人们必然要面临的挑战。人工智能为社会提供产品和便利的同时,如何监管才是最现实和最严峻的问题。”郑宁说,我们身处风险社会,任何新技术都是双刃剑,在给人们带来便利的同时,也会产生一定的风险,因此需要加强政府监管、企业自律、2018送彩金白菜网大全自治等,实现各方合作治理,“AI技术的监管难点包括监管技术较为滞后、监管法律缺位,同时还要注意到,AI涉及研发者、使用者等多个主体,因此法律责任主体的界定比较困难”。

  不过,也有专家认为,对于各种AI软件,一种处理方法是,如果预感和预测到将对社会有重大威胁,就应全面禁止。还有一种方法是,现在还没出问题就可以放行,但绝非放任,等出了问题再来解决。

  “两种方式做起来的难度是比较大的,主要的难度就是怎样平衡监管的需求和新技术、新应用发展的需求。”王四新说,监管得太严,肯定会伤害这种新技术、新应用,也会增加企业的成本负担;如果不监管,那一旦有了不可预测的情况发生,政府就会很被动,对个体造成的伤害可能也无法挽回。

  对此,郑宁的看法是,对于新技术要保持一定的宽容度,不能出现问题就一棍子打死,“全面禁止不是市场经济的做法,有些问题要让市场和社会去解决,必要时有关部门再干预”。

关注华强智慧网微信公众号
推荐阅读
发表评论

展会推荐

精华文章

脉纳万象 启迪真知:脉迪用创新引领2018送彩金白菜网大全新发展
我们在谈到生物识别的时候,往往第一时间想到的就是人脸识别...
直面终端用户 宇泛智能携新品亮相安博会
随着科学技术的发展,人脸识别技术遍地生花,落地应用的成熟...
星巡人工智能亮相 打造全栈AI平台
10月23日,中国国际社会公共安全产品博览会于北京中国国际展览...
  Hikvision AI Cloud全系产品方案亮相安博会
今年年初举办的“智涌钱塘”峰会上,海康威视宣布全面开放...
颠覆传统报警方式 艾礼安网络报警系统揭开神秘面纱
10月23日,第十四届中国国际社会公共安全产品博览会(简称“安...
2018年中国国际公共安全博览会圆满落幕
安博会开幕 华强智慧网展团强势来袭10月23日,2018年中国国际社...
智能音箱“红海战场” 谁主沉浮?
智能音箱一直以来都被看作是切入智能家居的入口之一,作为新...
华强智慧网——让客户更快找到您
日光荏苒,从中国安防网,到华强智慧网,一路走来转眼已是...
机器人上岗时代 我们会失业吗?
随着人工智能技术不断发展创新,制造业进行智能化转型升级,...
2018智慧中国新产品新技术武汉研讨会圆满落幕
聚焦安防2018送彩金白菜网大全前沿,服务2018送彩金白菜网大全多样应用,由湖北省安全技术防范...
千视(KILOVIEW)推出4K NDI 编解码器新品上市立减活动
千视电子(KILOVIEW)N20 4K NDI ®编解码器新品正式上市。...
蛋科技携手日本能率协会创建的创新生态平台
成立逾半个世纪的一般财团法人日本能率协会(简称JMA)在日本...
AI与5G的结合,让物联网时代更加值得期待
清华大学微电子所所长魏少军认为,可重构AI芯片的前途可期。...
5G助力!OLED产业迎“黄金”时代
据了解,2013年大尺寸OLED面板的销售量仅为20万片,2018年销售量...
物联网不可盲目乐观,还需解决标准乱战
可以看到的是,无论是苹果、谷歌这样的软硬件厂商,还是芯片...
安防网 (www.hqps.com) 版权所有1997-2015 粤ICP备08036625号 经营许可证:粤B2-20090028 软件企业认证:深R-2008-0255
博聚网