清明时节,AI“复活”亲人需要注意什么?
一、你能接受数字永生吗?
清明将至,又到了一年祭祀先人、寄托哀思的时节。《流浪地球2》电影里,刘德华饰演的图恒宇在女儿车祸去世后,通过技术“复活”了自己的女儿图丫丫。谁也没想到,这些电影情节以如此之快的速度走进了现实。
在今年2月,台湾音乐人包小柏因思念女儿,自学AI技术“复活”了自己的女儿Feli,女儿在数字世界里为母亲献上了生日歌。
AI“复活”乔任梁、李玟、高以翔等明星的视频也在网络热传。乔任梁的父亲回应称“看到这些视频的时候感觉到不适,这是在揭伤疤,希望对方尽快下架”。
江歌的母亲在“你接受AI复活亲人吗”的微博话题下,直接称“不能接受复活,如果能复活,也仅限于我亲自来做这件事”。
而在清明前夕,不少商家也嗅到了AI“复活”亲人的商机。打开电商APP,搜索“AI复活”,就能看到不少AI“复活”亲人的商品链接。
当我以为这是一种“割韭菜”的行为时,却意外地在评论区中发现了不少这样的评论:
如果这些评论都是真实的,也许这项技术是真的让他们的心灵得到了某种慰藉。
AI“复活”:数字人行业下的细分赛道
当前的AI“复活”亲人技术,主要是基于用户提供的逝者的音频、照片、视频、个人性格、语言风格等资料来训练模型,以生成与逝者近似的形象。随着技术的迭代,制作数字人的时间和资金成本也在不断下降,生成的数字人也越来越逼真。
在电商平台提供AI“复活”服务的商家,往往只要求用户提供数张逝者的生前照片和生前的视频,有些甚至只需要提供一张图像及一段一分钟的视频,就可以生成一段“复活”视频。当然,用户提供的照片及视频的质量越高、数量越多,生成的数字人就越像,所需的服务费可能也更高。
目前在虚拟数字人版块发展迅猛的企业不少,如天地在线、天娱数科、佳创视讯等。而AI“复活”作为数字人具体应用场景的细分赛道,除了在各大电商平台提供服务的小型团队,也有其他规模较大的企业也盯上了这块“蛋糕”,这其中既有在丧葬服务中实现“AI+殡葬”转型的传统丧葬服务企业,也有在数字人赛道主攻AI“复活”业务的技术型企业。
福寿园作为一家上市殡葬集团,早在前两年就提出“AI+殡葬”的概念,并曾经在一次活动上“复活”了知名的媒体人曹景行先生。福寿园也在去年征集数字生命体验者,推出数字礼祭服务。
成立于2017年的硅基智能,成功自研“炎帝大模型”,并在数字永生领域形成了标准化的产品——DUIX。用户能够在DUIX APP定制专属的数字生命,与数字人实现实时交互。
二、AI“复活”,风险几何?
笔者在浏览各大电商平台的AI“复活”商品时,发现不少商家已经有一定的风险意识,例如在商品详情页作出“不做人脸识别”“只做老人”“只做逝去的人怀念”等声明,但仅有这些声明,显然不足以规避“AI复活”产业潜在的法律风险。
那么,AI“复活”亲人这门AI浪潮之下的新行当,有哪些风险和合规的问题呢?
人格权侵权问题
《民法典》第九百九十四条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。同时,根据《最高人民法院关于确定民事侵权精神损害赔偿责任若干问题的解释(2020修正)》第三条的规定,依法应当对死者的近亲属进行精神损害赔偿。
无论是乔任梁、李玟这些逝世的公众人物,还是你我身边的芸芸众生,只要在未经其配偶、子女、父母或者近亲属同意的情况下,擅自利用其肖像、声音、个人隐私进行AI“复活”的,均构成对其合法权益的侵犯,依法应当停止侵权、赔礼道歉,并承担损害赔偿责任。
除了用民法典来规制近亲属以外的人的侵权行为,要想实现对逝者权益的真正保护,还应当尊重逝者的遗愿,如果逝者本人在去世之前,拒绝被人工智能技术反复强迫“开口”和“表演”,那么应当尊重逝者的权利,即便是近亲属,也不宜在逝者离世后通过AI将其“复活”。
而对于从事AI“复活”业务的团队来说,确保在提供服务之前让客户提供配偶、父母、子女或近亲属的授权书及配套证明,签订相关的协议,并做到依法处理用户提供的数据,可以在一定程度上规避自己的侵权风险。
科技伦理审查问题
为了“再见一面”使用AI技术“复活”亲人,AI技术准备好了,但人类社会的伦理可能还没准备好。
ChatGPT掀起AI浪潮的一年后,《科技伦理审查办法(试行)》于2023年12月1日正式施行。根据该办法第二条的规定,涉及以人为研究参与者的科技活动,包括以人为测试、调查、观察等研究活动的对象,以及利用人类生物样本、个人信息数据等的科技活动,需要进行科技伦理审查。
在AI“复活”亲人的场景之下,特别是基于大量人脸敏感信息进行大模型的开发与训练,属于涉及利用个人信息数据的科技活动,理论上需要进行科技伦理审查。
不过现实情况是:在使用AI技术成本极为低廉、技术难度非常低、而生成效果却远超以往的当下,有多少从事AI“复活”、“数字永生”项目的从业者,会煞有介事地开展科技伦理审查?
虽然目前该领域的适用问题上存在诸多问题,但从谨慎经营、降低违规风险、负责任地使用人工智能技术的角度上看,我们仍然建议企业在合理的成本控制下,对AI“复活”亲人项目进行科技伦理审查。具体的做法包括但不限于:
1. 合理组合内外部专家,组建科技伦理审查委员会;
2. 开展科技伦理风险评估,提供包括知情同意书、遵守科技伦理和科研诚信等要求的承诺书等申请材料;
3. 完善数据、数据安全的有关制度和流程,个人隐私数据、生物特征信息等信息处理符合个人信息保护的有关规定;
4. 对数字人使用情况是否符合家属意愿进行必要审查,由家属决定数字人的使用范围;
5. 主动对家属心理产生的影响进行综合评估等等。
算法备案问题
根据《生成式人工智能服务管理暂行办法》第十七条的规定,AI“复活”亲人项目应当进行算法备案,否则可能面临《互联网信息服务算法推荐管理规定》第三十一条规定的行政处罚、1万~10万元罚款、刑事犯罪等法律风险。
算法备案主要分为两大步骤:
第一步是“主体备案”。主体区分为提供基础模型的技术支持方“服务技术支持者”和提供AIGC产品服务的“服务提供者”,主体信息填报审核通过后方可进入第二步;
第二步是“算法备案”。算法备案具体包括算法基础属性填报、算法详细属性填报、产品及功能信息填报。根据《互联网信息服务算法推荐管理规定》,材料齐全的,网信部门应在30个工作日内予以备案,但实践中算法备案时长通常为3~6个月。
算法备案是AI“复活”亲人等项目落地的必要条件,如果没有做好备案,很可能会被监管部门约谈下架。
AI生成内容标识问题
根据《生成式人工智能服务管理暂行办法》第十二条的规定,提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。深度合成规定将进行“显著标识”的义务划分给服务提供者,并且要求“任何组织和个人不得采用技术手段删除、篡改、隐匿”这些标识。
尽管《TC260-PG-20233A网络安全标准实践指南——生成式人工智能服务内容标识方法》比较详细地规定了对AI生成内容标识的方法和标准,但作为一个“指南”性质的文件,其规制作用有限。
尤其是现在AI行业处于早期野蛮而蓬勃发展的阶段,实务中对生成物内容进行标识的问题,仍缺乏足够的标准或共识——有的扭扭捏捏似是而非地称“部分内容采用AI技术”、有的只以非常不显著的位置标识了“AI生成”的字样、有的视频更是根本就没有任何与AI有关的标识。
这些关于标识的共识和监管,还需要等待理论和应用的进一步发展。在当前,无论是从社会责任的角度,还是应对可能存在监管的角度,我们都建议参照前述标准,对AI生成物进行充分、显著地标注。
前几天抖音发布的《关于不当利用AI生成虚拟任务的治理公告》中就提到发布者应对人工智能生成内容进行显著标识。
其实真正让人觉得麻烦的是,即便做了科技伦理审查、算法备案和规范的生成物标识,对于认知水平相对有限的中老年人而言,这些举措并不足以让他们意识到——在眼前蹦蹦跳跳的俊男靓女,其实只是冰冷算法的产物。
在许多短视频平台的数字人平台之下,依旧有不少中老年用户无法辨别出AI与真人。
在现实与虚幻的边界越来越模糊的AI时代,人类的生存和死亡正在被数字世界解构。潘多拉的魔盒已经打开,我们希望能够在一个AI强大而安全的未来生存。
本文来自微信公众号:AI合规圈(ID:gh_344b08562741),作者:陈焕(北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任)、李琪瑶(北京市隆安(广州)律师事务所律师,隆安湾区人工智能法律研究中心研究员)
相关推荐
清明时节,AI“复活”亲人需要注意什么?
AI“复活”亲人,重新定义生死边界?
AI复活亲人:数字人技术引发商机
“AI复活”,安慰还是生意?
AI“复活”是当代人的招魂术
AI“复活”逝者,规范才能“长寿”
AI复活逝者相关技术需更多监管和规范
“AI复活”已加入购物车,《黑镜》真实上演
北京清明期间10万人网约祭扫
清明走一走:云扫墓是未来,但不火还挺乱
网址: 清明时节,AI“复活”亲人需要注意什么? http://www.xishuta.com/newsview113914.html
推荐科技快讯
![](http://www.xishuta.com/upload/imgs/img_20190122031342.jpg)
- 1问界商标转让释放信号:赛力斯 94522
- 2人类唯一的出路:变成人工智能 15930
- 3报告:抖音海外版下载量突破1 15370
- 4移动办公如何高效?谷歌研究了 15239
- 5人类唯一的出路: 变成人工智 15008
- 62023年起,银行存取款迎来 9755
- 7网传比亚迪一员工泄露华为机密 7611
- 812306客服回应崩了 12 6135
- 9瓜子大数据:用户提车7天内, 5599
- 10假期出游大家关注啥?如何避开 5394