真实虚假界线或被打破亟待规范AI技术

　　女演员杨幂被AI技术换脸惹争议专家认为

　　□　本报记者 侯建斌

　　近日，女演员杨幂因为一段“换脸”视频上了热搜。

　　视频中《射雕英雄传》中扮演的“黄蓉”角色被替换为杨幂，一般人很难肉眼识别出这是“移花接木”的结果。

　　这段视频发布后立即引发网友热议：有人认为，以后演员可以不在拍摄现场，完全可由替身完成，后期再将脸替换上去；也有人质疑，这种做法涉嫌侵犯了当事人杨幂的肖像权；更有人担忧，刷脸识别的各类手机支付方式将不再安全。

　　面对涉嫌侵权争议，视频制作者回应称：制作视频主要用于技术交流，并无营利行为。

　　相关回应未能平息争议，视频背后的AI换脸技术让不少人细思极恐。

　　那么，视频制作者的“换脸”行为是否合法？AI换脸技术的出现将带来哪些风险？如何加以规制？就此，《法制日报》记者近日采访了业内专家。

　　无营利不能作为抗辩理由

　　前不久，一个“朱茵变杨幂”的视频在bilibili(视频弹幕网站)上火了，视频被传至微博后引起轩然大波，侵权、安全等争议声接踵而至。

　　记者注意到，这段视频节选自1994年版本《射雕英雄传》，剧中“黄蓉”角色的扮演者为朱茵，视频制作者在AI技术运用的帮助下，用杨幂的脸完美替换了朱茵，不仅毫无违和感，而且普通人根本无法看出被替换过。

　　视频引发争议后，视频制作者随即下架视频，并在微博上公开回应称：“创作初衷是希望让更多朋友认识这项技术，避免将来有人在伪造明星负面内容的视频时，会给公众人物带来更大的损失。同时也让更多人了解造假视频背后的工作原理，提高公众辨识能力。”

　　据媒体报道称，视频在被撤下之前，微博阅读量超过1.2亿、讨论数达2.8万条。

　　那么，制作并传播换脸视频是否合法呢？无营利行为是否可以用来侵权抗辩呢？

　　“杨幂换脸视频，已经侵犯了当事人的肖像权。”中国科学技术法学会人工智能专业委员会委员李晟教授告诉记者，在互联网的生产模式之下，很难以传统的“营利”标准来界定是否侵权。

　　李晟进一步指出，换脸视频制作之后在网络上流传，无论对制作者本人，还是对相关网站而言，其形成的流量已构成一种营利的新形态，并不因为视频本身无需付费，就能以非营利性质为由对侵犯肖像权进行抗辩。

　　肖像权是一种人格权，除体现商业价值外，还具有精神利益这一基本属性。李晟直言：“即便《射雕英雄传》的朱茵版本在观众心目留下了美好印象，也不能代表其他演员愿意将自己的形象代入其中，当事人可以通过主张肖像权来提起侵权诉讼。”

　　西南政法大学人工智能法学院副教授刘小红认为，依据侵权责任法有关规定，认定是否侵犯演员杨幂的肖像权，无需考虑营利因素，而应判断行为人是否有过错。

　　刘小红告诉记者，侵权责任法第二条对民事权益作了列举式规定，其中就包括肖像权、名誉权等。第六条规定，行为人因过错侵害他人民事权益，应当承担侵权责任。第七条规定，不论行为人有无过错，法律规定应当承担侵权责任，依其规定。显然，按照侵权责任法规定，对于换脸是否构成侵犯肖像权，并没有附加营利的条件。

　　换脸技术门槛大幅度降低

　　据报道，换脸这项AI技术在国外名为Deepfake,已经出现一年多。由于门槛不高，已经造出许多假视频，涉及对政治人物、明星的恶搞等，甚至还被用于制作不雅视频。

　　而在国内，“被换脸”的演员也不止杨幂一人，据网友爆料，杨颖、刘亦菲、刘诗诗、赵丽颖等演员的AI换脸视频，均在网络上出现过。

　　记者采访了解到，对视频人物的改头换面，并非全新技术。早在照相机时代，就已经出现对政治人物的改头换面。后来，随着PS技术的发展，照片改造更加容易，以至于发展出合成不雅照片进行诈骗的产业链。

　　“Deepfake技术的出现，大幅度降低了换脸的技术门槛。”在李晟看来，与此前相比，Deepfake的运用使得普通人有可能按照自己的意愿进行技术处理，恰似“旧时王谢堂前燕，飞入寻常百姓家”。

　　李晟提醒，Deepfake技术的运用将带来通过量的积累引起质变的社会效应。如果只是个别人在运用，那么，现有的法律规则足以有效应对；如果该技术被普遍运用，则现行法律体系难以仅仅通过肖像权或名誉权这样的权利规范加以应对。

　　李晟解释说，如果该技术被普遍运用，传统意义上关于“真实”与“虚假”的界线在很大程度会被打破，这也是当前面临的真正挑战。这意味着过去基于对“真实”的判定为基础而采取的法律行为，有可能都成为建构于流沙之上的“城堡”，比如，更为普遍但更难以察觉的诈骗、诉讼中的虚假证据及更容易散布的谣言等。

　　人工智能技术是把双刃剑

　　从智伴机器人到自动驾驶汽车，再到法院的智能语音识别、智能审判系统等……近年来，人工智能开始走下神坛，进入民众视野。

　　记者注意到，无论是国家层面，还是企业视角，人工智能都被提上了新的高度。

　　在国家层面，今年的政府工作报告中的“深化大数据、人工智能等研发应用”，足以说明对其重视。

　　在企业层面，全国人大代表、百度董事长李彦宏在今年两会期间提交的三份议案均涉及人工智能领域，这是李彦宏连续第五年在提案中关注人工智能话题。

　　一边是国家政策的大力扶持，人工智能的迅猛发展；另一边则是人工智能带来不容忽视的社会风险和法律挑战。

　　“AI换脸术是人工智能技术发展的一个产物，也是人工智能科技应用的一种形式，它在自我娱乐、娱乐大众的同时，也带来了一些法律风险和法律问题，比如可能侵犯隐私权、肖像权、名誉权等。”刘小红认为，人工智能技术本身是一把双刃剑，它在为人类提供便利的同时，也给人类社会带来诸多风险：AI换脸术只是其中之一，其他风险包括无人驾驶汽车撞上行人问题、无人超市引发的员工解聘潮、医疗机器人操作失误引发的手术失败等。对于人工智能产业的发展，无论是从国家战略、企业发展，还是从人民的需求来看，都应持肯定和支持态度。

　　刘小红同时指出，在人工智能产业的发展过程中，应该处理好国家干预与企业自主经营的关系，企业享有自主经营权，自主生产、设计、研发人工智能产品，但涉及到国家安全、公共安全时，政府需要积极干预。还要处理好企业与消费者的关系以及企业的社会责任问题。此外，还涉及价值的选判，如法律与伦理问题。

　　在如何应对挑战上，李晟认为，应坚持的一项基本原则是，区分其挑战属于安全、权利抑或治理层次。

　　“治理层次的挑战最值得关注，数量的累积呈几何级数增长带来的系统性风险不容忽视，例如，Deepfake换脸如果成为普遍将真假难辨。”李晟告诉记者，为此，法律规制应突出围绕AI技术本身来展开，不能局限于技术运用产生的具体个案，要注意该技术来自于什么平台，可能造成哪些全局性的影响，从而采取更有针对性的规制。

　　制图/李晓军