当源源不断的科技创新成果向我们涌来,相应的制度和监管却没能及时建立和完善,这是我们不得不面对的一大困境。如何提升风险防范意识,有选择、有节制地使用新技术,在不绊住手脚的前提下尽可能地规避风险,这一过程显然考验监管者的智慧和功力。
“仅需一张照片,出演天下好戏”——据9月1日《新京报》报道,8月30晚间,一款名为“ZAO逢脸造戏”的换脸APP走红网络,用户上传个人照片后可“一键”进入明星出演的相关影视片段中,生成新视频,同时还能制作表情包。大量用户下载该APP上传自拍照片,并将生成的视频分享至社交网络,一时引发“病毒式”传播。在为用户带来新奇体验的同时,该软件背后的隐私权、肖像权、版权等相关安全问题也引起关注。
又一款主打“好玩”的软件走红。有些不同的是,这一次,对安全问题的质疑和警惕来得很快。用户敏感地发现,其注册过程需要用到手机号码,而且提交上传照片后,需要进行非公众人物验证和肖像权验证,扫描面部验证的过程本质就是在搜集用户面部的识别信息,一旦这些关键信息泄露或被盗用,则可能涉及财产安全和人身安全。此外,其用户协议中明显有过度搜集、滥用信息之嫌的条款,也令用户忧心忡忡。
舆论的强烈反应之下,目前该公司已对用户协议中的相关条款作出修正,但公众的焦虑和担忧一时仍难消弭,如何规避诸如二维码、人工智能等科技红利背后潜藏的安全陷阱,再次成为牵动人心的公共议题。
个人信息被泄露、人身和财产安全受到威胁,是当前典型的安全陷阱。其中有些是开发者别有用心,在隐私条款上玩猫腻,通过出卖用户权益而获利,有些则是开发者无意识或无能力守好防止隐私泄露的关口,任用户权益在高危环境下“裸奔”。
眼下,诸如手机号码、身份证号、指纹、面部信息等个人信息,在线上线下都有着丰富的应用场景。当AI换脸、刷脸支付、人脸开锁等场景有着相同且唯一的通行证,这一通行证本身在拥有高含金量的同时,也存在巨大的不可控的风险。
此番换脸APP风波也引发人们对科技伦理的思考。“便利越多,风险也越多”不该是科技进步与发展的副产品。杜绝类似风波的产生,就事论事式的补漏和治理显然不够,还需要从源头上对人工智能的研发、应用等环节予以详细规范和监管。比如AI人脸识别技术的商用门槛和边界在哪里?应用授权的标准和条件是什么?一旦相关数据信息被泄露、盗用,将面临怎样的惩罚?
必须承认,技术发展和应用的脚步太快,当源源不断的科技创新成果向我们涌来,相应的制度和监管却没能及时建立和完善,这是我们不得不面对的一大困境。如何提升风险防范意识,有选择、有节制地使用新技术,在不绊住手脚的前提下尽可能地规避风险,这一过程显然考验监管者的智慧和功力。
刚刚闭幕的2019世界人工智能大会上,AI已经成为最具吸引力、最有前景的创新工具,其在教育、医疗、金融、安防等多个领域的出色表现,让从全球创新引领者到初生牛犊的创业者,都对AI+充满了向往。
人工智能手握未来密码。如何驾驭好这一创新工具,全社会都责无旁贷。在立法及时跟进、监管雷厉风行之外,企业也应珍惜声誉,远离霸王条款,个人用户则需时刻绷紧个人信息保护的神经。无论如何,个人信息安全不能成为谁想捏就捏的“软柿子”。今天,在科技感爆棚的生活中,安全感、幸福感丝毫不能打折。