用AI复活亲人音容笑貌还需完善规则体系

　　记者调查AI复活逝者现象

　　用AI复活亲人音容笑貌还需完善规则体系

　　□ 本报记者 　 赵 　丽

　　□ 本报实习生 李纪凡

　　“只需要52.1元，就能还原逝去亲人的容貌并和ta聊天。”生成式AI技术的发展浪潮之下，与逝去的亲人“再见一面”似乎日渐成为可能。

　　《法治日报》记者近日调查发现，用AI“复活”逝去的人，已经发展成了一门生意。在一些电商平台上，有不少做AI“复活”生意的商家。在某电商平台，AI“复活”的商品标价从几元、几十元到上百元乃至数千元。与此同时，近年来，AI换声、AI换脸等诈骗手段也越来越高级，欺骗用户的情感和钱财。

　　受访专家建议，AI“复活”技术提供者提供服务前，应明确要求用户提供相关证明，并加强技术防范，避免AI产品侵犯他人合法权益或被用于欺诈等不法行为。相关部门要加强监管，推动建立行业标准，既保证技术创新，也要保障人类的价值和尊严。

　　做AI复活生意商家纷纷问世

　　对于突然失去父亲的云南人柳芳(化名)来说，身在异乡没有见到父亲最后一面是人生最大的遗憾。回到家乡，办完父亲的身后事，看到父亲曾经坐过的沙发，或是无意中点开和父亲的微信聊天框……她的眼泪就会止不住地流下来。

　　“他在弥留之际想和我说什吗？是不是还会叮嘱我好好吃饭？不要和丈夫闹脾气？”难过时，柳芳总是把自己关在房间里，一遍遍地翻看自己和父亲的聊天记录。

　　直到在短视频平台上刷到有商家提供AI“复活”亲人的服务，柳芳像抓到了救命稻草一般，很快下了单。“我很想再看到我父亲，即便知道那是不真实的，但我还是很渴望听到父亲对我说话，听一听他的叮嘱”。

　　支付200多元并提供了父亲生前的录音和照片，还有她希望听到父亲说的话，柳芳收到一段短视频。视频里，父亲微笑着对她说着话，短短几十秒，柳芳看了几十遍。

　　所谓AI“复活”逝者，即利用人工智能技术，将逝去亲人的文字描述、图片、视频和声音资料输入AI算法模型，从而模拟生成一个数字形象，具备逝者的性格、记忆、图像、视频和声音。

　　在数字“复活”领域工作的陈亮(化名)介绍说，他们的产品主要分为两种。一种是以视频为媒介，通过逝者的照片和声音，创作生日祝福或安慰的视频。另一种是开发一款可对话的聊天机器人，这款机器人不仅具备逝者的声音和外貌特征，还能模拟客户亲人的性格和记忆，与用户进行对话，为客户提供个性化的体验。这些不同形式的产品对应的价格从52.1元到521元不等。

　　记者注意到，在一些电商平台上，也有不少做AI“复活”生意的商家。在某电商平台，这些AI“复活”的商品，标价从几元、几十元到上百元乃至数千元。

　　记者咨询了其中一户商家，其店铺中共有3款商品，分别是创意AI修复亲人“复活”照相、AI配音仿真模拟定制专属、AI代唱翻唱歌手声音克隆，3款商品标价均为10元。

　　还有商家告诉记者，商品具体价格要根据照片和要求来定，如果只是让照片里的人动起来，只需要提供正面照片，成片是10秒左右。如果想要让照片里的人说话，需要提供正面照片和音频，价格根据视频时长确定。如果没有音频，则提供文字内容，商家给配普通话声音。

　　至于记者提到的“可以实时互动的”AI商品，咨询的某电商平台10户商家都表示做不了。有商家解释说，要实现实时互动，需要用AI训练，这不是一个软件就能做到的。

　　AI复活面临技术限制等挑战

　　一直以来，AI“复活”都是一个备受争议的话题。

　　有观点认为，在生成式AI技术的加持下，和逝去的亲人“再见一面”成为可能，弥补了情感的缺憾。

　　也有观点认为，这样的做法没有意义，人没了就是没了，这只会让自己更难走出失去亲人的痛苦。

　　还有人质疑，用逝者生前影像样本克隆出来的“亲人”，还是我们认识的那个人吗？

　　记者注意到，在国内，像陈亮这样的制作团队并不少见，一些公司加快涉足AI“复活”亲人的领域，如地处江苏省南京市的某AI技术团队，在半年多时间里帮助600多个家庭实现“在线团圆”，平均一单的费用从几千元到1万元不等。

　　即使如此，陈亮告诉记者，团队在实操过程中遭遇多方面的挑战。例如，技术上的限制就是一大挑战，声音克隆需要清晰的声音文件，而目前的算法主要支持普通话，对方言和口音的支持较为有限。

　　“由于逝者大多年龄较大，他们生前留下的声音文件并不多，这限制了产品的扩展和适用范围。同时，人们对于通过输入文字与逝者的数字形象对话的模式也持观望态度，并非所有人都愿意尝试或信任这种创新。”陈亮说。

　　“完成和未完成的比例大概在3：2。”用AI技术帮助顾客“复活”已故亲人的超级头脑工作室负责人张泽伟透露，无法提供服务的原因有多种：委托人提供素材过少、家中有人反对等。

　　在中国传媒大学文化产业管理学院法律系主任郑宁看来，为保障逝者的人格权益，制作方只有经过逝者继承人的同意才能进行相关“复活”操作。同时，制作方在利用AI技术数字“复活”逝者后，还需要承担一些法律责任，“比如说制作出来的形象与实际偏差太大，对用户逝去亲人的形象造成一定扭曲，就有可能侵害逝者的名誉权、肖像权等相关权益”。

　　北京嘉维律师事务所律师赵占领提到，虽然已故人士不再具备隐私权，但逝者的近亲属仍需保护死者的隐私权益和肖像权益。“如果出现泄露隐私或损害名誉的情况，逝者的近亲属有权提起诉讼”。

　　陈亮告诉记者，当用户表达希望制作逝者数字人时，制作团队会要求有消费意愿的用户证明与逝者的关系并提供逝者已经去世的相关证明，以防有不良企图者将生成产品用于欺诈等不法行为。

　　陈亮说，此外，为了实现AI数字人与用户的深度对话，此类制作团队一般会将自身产品接入大型模型系统，由大型模型系统作为数据库提供语料支持，“在这个过程中，我的制作团队会去除一些敏感词汇，以防止不法用户通过视频操控数字人，诱导数字人向亲友提问类似银行卡密码等隐私信息。只要存在这种可能性，数字人就会重新启动系统，从而解决潜在的欺诈问题”。

　　目前缺专门法律法规予以规制

　　调查中，受访业内人士透露，作为生成式AI技术落地应用的一个细分领域，正在尝试提供AI“复活”逝者服务的，有初创团队，也有头部企业。由于各种原因，这门特殊的生意，整体上还处于低调谨慎的探索阶段。

　　对此，郑宁也建议，想要通过AI技术“复活”自己亲人的潜在受众，选择正规机构是确保个人信息安全和合法权益的关键。

　　“签署合同也是重要的一环，在合同中必须明确规定数字人的财产权等权利属于个人而非企业。此外，合同还应包括对违约责任的详细规定。如果发现合作企业存在违法违规行为，应及时向主管部门进行举报和投诉。这种举报可以帮助维护整个行业的合法秩序，保障广大用户的合法权益。”郑宁说。

　　此外，根据2023年7月颁布的《生成式人工智能服务管理暂行办法》，在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升守法意识，监督指导标注人员规范开展标注工作。

　　记者在调查中发现，购买AI数字“复活”产品的消费者大多并未看到有关标注以证明产品由AI制作。对于《生成式人工智能服务管理暂行办法》的相关规定，许多消费者并不了解。

　　对此，赵占领指出，如果制作方使用自己研发的人工智能软件生成产品并在销售过程中不进行标注，是一种违法行为。如果使用其他人工智能软件生成的产品上标注了相关信息，但制作方通过技术手段将其去除，是否符合法律规定则尚待商榷。目前，虽然人工智能技术在我国兴起的时间不长，《生成式人工智能服务管理暂行办法》等规定的出台相对及时，但对于数字“复活”等技术，目前尚未有专门的法律法规，可能需要在未来出现问题时逐步进行规范。

　　作为从业者，陈亮也希望未来运用数字“复活”技术需要有关部门发布资质牌照，由有关部门加强监督管理，让市场参与者更加放心。

　　“立法通常是滞后的，尤其在新技术领域。”郑宁说，期望通过出现新问题就进行立法或修法往往难以解决问题，底线问题必须通过立法解决，除此之外可以通过“软法”比如行业标准、企业自律行为等，在实际操作中发挥规范作用，“在数字‘复活’领域，行业协会可以牵头制定伦理标准，企业和从业者遵循这些标准，有助于解决问题”。

　　“任何诈骗或侵权的违法事件，都有具体的施害者，把握核心事实，运用现有的法律规则予以追究。在此过程，AI其实只是工具。”在郑宁看来，总体而言，科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。数字“复活”技术的推广需要更多的监管和规范，既保证技术的创新，也要保障人类的价值和尊严。

　　受访专家认为，针对数字“复活”技术的使用，现有法律难以规制的，可通过不断“打补丁”的方式出台新规则，逐渐完善规制数字“复活”技术的规范体系。与专门、系统立法相比，这种渐进式规则完善方式，可以给这一新领域的发展留出足够空间。 【编辑:房家梁】