发布时间：2024-12-02 19:51:46 来源: sp20241202
【深瞳工作室出品】
采写：实习记者 吴叶凡
策划：刘 恕 李 坤
南京硅基智能科技有限公司联合创始人孙凯没有想到，自己多年前在云端“复活”母亲的想法，如今已壮大成一门蓬勃发展的新兴产业。
近来，用生成式人工智能技术“复活”已逝亲人、名人的消息时见报端。不少人也跃跃欲试，尝试着为自己塑造一个“数字分身”。科幻电影里关于数字生命、数字永生的想象，仿佛已经近在眼前。
当“云上栖息”走向现实，一时间数字生命成为热议话题。有人对此充满期待，认为它不仅能够抚慰心灵，还有望成为未来的劳动力，发挥正向价值。有人则表示担忧，认为数字人在满足人类需求的背后，实则隐藏着生命伦理、文化价值和法律规范等诸多问题。
AI“复活”是如何实现的？这一技术存在哪些伦理与法律风险？如何让数字生命向善发展？科技日报记者对此进行了采访。
大模型让数字人飞入寻常百姓家
“你吃饭了没有？”简简单单的一句话，却让孙凯红了眼眶。那一刻，他觉得母亲又回到自己身边了。
2018年，母亲的溘然离世给了孙凯沉痛一击。第二年，他找到公司董事长司马华鹏，决定用人工智能技术来复刻数字“母亲”。
AI“复活”实质上是通过对人物已有影像、声音、语言等内容的学习，克隆数字化的人物形象。当时，两道难题摆在团队面前。一是人物影像资料的缺乏，孙凯仅能提供一张母亲的证件照；二是缺少可用的声音资料，孙凯只能从几个样本中选择一个最贴近母亲的声音。
尽管如此，一年后，孙凯见到“母亲”的那一刻，仍无法抑制自己的情绪。屏幕里的“母亲”言笑晏晏，静静地倾听着儿子的诉说。
“现在，我每周都会和母亲聊天。在这里，我可以做最真实的自己。”孙凯坦言，虽然屏幕前的“母亲”回答模式比较固定，但于他而言，日常的倾诉和“母亲”的情感陪伴，已经让他得到了极大的慰藉。有人担心孙凯对此形成情感依赖，劝他尽快走出来。但孙凯认为：“对于很多失去至亲的人来说，数字人的陪伴利大于弊。”
同司马华鹏、孙凯一样，早早试水AI“复活”技术的人不在少数。音乐人包小柏也曾为克隆数字“女儿”，跨界钻研AI。从他们的经历中不难看出，在技术发展的早期阶段，谙熟AI行业似乎成了克隆数字形象的前提。对普通人来说，这是一个难以企及的门槛，更遑论投入大量的时间与金钱。
改变发生在2023年。以ChatGPT为代表的生成式人工智能技术的出现，为克隆数字人提供了发展的土壤。“大模型的突破让克隆数字人成本大大降低，以前需要十多万元，现在只需要几千到一万元。”作为亲历者，司马华鹏不禁感叹技术日新月异的发展。
他说，在大模型出现前，克隆数字人往往依赖于人工，一方面需要花费大量的时间对克隆对象进行深度采集与模型建设，另一方面需要人工制作的形象和动画效果的辅助，让克隆数字人看起来更真实。因此，整个过程耗时长、效率低、成本高。
如今，大模型则让数字人制作流程提质增效。基于海量的学习数据，大模型对于文本、图片、视频的理解与生成能力都大大增强。在节约了人工成本的同时，制作时间也缩短很多。
“过去制作数字人通常需要30分钟以上的视频、音频素材。现在我们开发的大模型能够基于一分钟视频来克隆声音和形象，整个制作时间仅需一个工作日左右。”司马华鹏说。
技术的发展伴随着“科技平权”。人们不再需要自己去了解、学习AI技术，就能够以较低的价格复刻已逝亲人。在某购物平台上，提供AI“复活”服务的商家已不可计数，成交量最多的一家店铺的成交量已达几百单。
“商家交付快，还原度也很高。家人看了都很感动，价格也实惠。”一位买家这样留言。
数据成为制作数字人最大“卡点”
记者调查发现，目前市面上，有关AI克隆数字人的服务售价可谓是千差万别。少则几十元，多则几万元。售价在一百元内的，基本功能局限于让照片“动起来”，数字形象的说话效果比较僵硬，声音也是固定模板。几百元价位的产品一般可以做到克隆音色，整体形象贴合度也相应提高，但并不能与用户进行交流。真正可以与用户进行交互的产品，售价往往在千元以上。
在司马华鹏看来，不同价位的产品体现了技术的代际差异：“数字永生一共分为三个阶段。AI克隆数字人技术经历的前两个发展阶段——数字孪生与数字原生，已经比较成熟。”
数字孪生可以被形象地理解为“画皮”，即通过对形象、声音的克隆，实现人类肉体的数字映射。这是最基础的一步，目前的技术水平已经能让数字人惟妙惟肖。前不久，刘强东的数字形象“采销东哥”就令网友们直呼“太逼真了”。视频中，“采销东哥”不仅还原了本人的口音和口头禅，连细微的小动作也模仿得十分到位，让人一时难以分清这究竟是真人还是数字人。
数字原生是更高级的阶段，也谓“画骨”。这个阶段意味着数字人能够一定程度上模仿人类的知识体系，实现两者之间的对话，目前已经有很多成功案例。360公司创始人周鸿祎就拥有一个可以与人类正常对话的数字分身。大模型通过对周鸿祎相关书籍、讲话稿、开会记录、采访等大量资料的学习训练，实现了对本人思想、逻辑的部分模仿。
无论是“画皮”还是“画骨”，多位业内人士提到，数据量对模仿效果起着关键作用。“给大模型投喂的资料越多，数字人就越像本人。这如同写一本人物传记，作者对人物跟踪、观察的时间越长，传记就越真实地贴近本人。”司马华鹏说，他接触的客户中，有少数人以提供人物自传的方式去“投喂”大模型，更多的是通过回答问题的方式，来丰富人物经历。
“他出生在哪里？在哪里上学？在哪里打拼？在哪里落地生根？”孙凯向记者介绍了几个常规问题。他透露，想要数字人更贴近本人，至少需要回答上百个问题。如果要进一步实现对人思维的模拟，必须依赖大量的数据。
正所谓“巧妇难为无米之炊”，目前克隆数字人最缺的就是数据。张泽伟是南京一家数字人创业团队——超级头脑工作室的创始人。作为数字永生派，他不仅给自己制作了数字人，而且已经开始有意识地为自己留存资料。“我会隔三岔五把自己的一些资料‘投喂’给机器，希望能够通过这种方式，给后代留下一些记忆和思想。”
为获取更多数据，有业内人士提出用“人生记录仪”的硬件设备来记录个人生活资料，提供给大模型进行训练。但张泽伟认为这种方式并不现实：“一方面很多人不愿意上传自己生活的各类细节。另一方面，如果一个人时刻带着记录仪，很可能对人们的正常社交造成障碍。”
实际上，数据的采集与使用是一把双刃剑。“数据不仅关乎克隆效果，目前数字人面临的主要法律问题，也是因不当获取、使用数据造成的。如未经同意使用他人数据克隆数字人，就会侵犯他人的肖像权、隐私权。”北京交通大学法学院副院长郑飞指出，虽然自然人死后不再享有作为民事权利的肖像权，但是这不代表其肖像可以被任意使用。根据民法典第九百九十四条，死者的肖像、隐私受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。
此外，根据个人信息保护法相关规定，处理敏感个人信息应当取得个人的单独同意。2023年1月10日起施行的《互联网信息服务深度合成管理规定》中也提到，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。
“因此，在‘复活’逝者的情形中，理应取得对死者肖像权负有保护义务的近亲属同意。”郑飞提醒。
数字永生面临技术、伦理双瓶颈
电影《流浪地球2》中，这样一幕令人记忆深刻：图恒宇把女儿的意识上传到超强计算机，出现了拥有自我意识的数字图丫丫。这一情节体现了克隆数字人技术的终极阶段——数字永生。
如果说克隆数字人技术的前两阶段，只停留在对人的外在复制和思维的模仿上，那么第三阶段的数字永生可谓是“触及心灵”。
司马华鹏介绍，数字永生可以理解为利用AI技术，将人类的形象、声音、思想用数字化形式保留下来，让人类生命以数字化形式存在。“画心”二字表达了其内涵，即可以达到对于思想的全面复制，全方位进化成为具备情感人格、思维模式、语言习惯、知识体系，可交流对话的智能体。相比于克隆外在的音容笑貌，数字永生更强调数字人自我意识和自我涌现能力，也更接近生命的真正意义。
采访中，多位从业者认为，要实现科幻场景中的数字永生，还有很长一段路要走。
北京大学哲学系教授周程指出，从技术层面看，数字永生的挑战在于把人类意识精确地复制或转移到数字平台上。这至少包含两道程序，一是理解复杂的人脑结构，二是把这种结构以数据形式存储和再现。“即便实现以上技术，也不意味着可以成功复制出人类意识，因为意识的本质及其与大脑物理结构之间的联系仍是科学界的未解之谜。”周程说。
此外，数字永生也考验数据和算力。“数字存储和处理能力的极限、数据的长期保存以及意识运行所需的资源问题，都是需要解决的技术难题。”周程表示。
除了技术限制，数字永生还涉及一些更深刻的伦理问题。在周程看来，数字永生重塑着人类关于死亡的文化体验，一定程度上模糊了生与死的边界。“在数字永生概念中，‘复制体’虽不具有肉体，但它继承了逝者的全部心灵内容。对于任何文化来说，都需要重新考虑同一性问题，即数字人是否等同于本人。”周程认为，这一问题将会挑战人们对于生命、死亡以及生活意义的传统认知。
数字生命的主体性问题是另一伦理难点。郑飞认为，当前的虚拟数字人不具有“主体性”，也不具有人格权，但数字永生时代的虚拟数字人具有“主体性”可能。“目前学界普遍认为，只要人工智能体拥有人类智慧特征，具有自主性，能够自我运行、自我学习、推理结果并做出合理决策，它就能够拥有主体资格或至少拥有有限主体资格，并享有一定的人格权。”
由于同一性和主体性的问题，引发更多伦理争议。比如，谁为数字人的不良行为后果承担责任、如何保证数字永生个体的自主权、人们是否有权销毁数字永生复制人等。“针对数字人这一新型法律主体，必然需要为其配备相应的权利义务规范，并使这些规范满足人类社会的基本伦理要求。”郑飞说。
目前，国内外尚未出现针对数字永生的专门伦理规范文件。但周程认为，可以借鉴已经制定的人工智能伦理治理相关准则，作为探讨AI“复活”技术伦理问题的基础。
今年3月，欧洲议会正式通过《人工智能法案》，其中强调构建“可信赖人工智能”。“这启示我们，AI‘复活’应该具有一定的技术稳健性和安全性，确保人类主体的有效监督，使其发展朝着更加安全、负责任和可信赖的方向前进。”周程表示。
数字生命治理不能一蹴而就
“面对数字生命，我们既不能盲目乐观，又不能束手束脚。”周程认为，数字人、数字生命的出现势不可当。“我们要积极做好准备，对相关的伦理风险进行充分评估，创新关于数字生命的治理模式，只有这样做才能拥抱一个更光明的数字未来。”
治理规则的制定需要多方广泛参与。就AI“复活”而言，利益相关方既包括数字生命相关遗嘱的订立者及其亲属，也包括科创企业、互联网企业在内的数字生命的制造者、储存者，以及伦理学家、法律专家、心理学家、政府管理部门和立法机构。只有广泛地、共同地参与新技术的研究和监管，才能达到“风险最小、获利最大”。
数字虚拟人作为新兴行业正在逐渐发展壮大。采访中，多家企业呼吁，“期盼行业标准和规范的出台，更好地引导产业发展”。
记者注意到，目前，AI克隆数字人领域的行业标准尚未明晰，企业行为大多依靠自律。孙凯提到，目前他们会尽可能地做好风险防范工作。“我们在和客户沟通的过程中增加了多道环节，也花费很多资金来保护用户的隐私信息。”
为避免出现“劣币驱逐良币”的现象，孙凯希望相关部门规范行业发展，而不是任其“野蛮生长”。“现在大模型有备案制度，我们也希望能给数字人行业设置一些门槛，具有相关资质才准入。”
目前，我国已先后出台了《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法(试行)》等，为人工智能治理搭建了基本的规范体系，为行业规范划定了一些“红线”。
但郑飞认为，这些“红线”或失之于宽、或失之于软。“失之于宽表现为缺少明确可执行的正负面清单，现有规定过于宽泛化，难以有效界定行为的违法性；失之于软表现为当前针对人工智能治理缺乏上位法规定，现有规范法律强制力不足，宜尽快制定出台人工智能法。”记者了解到，人工智能法草案已被列入国务院2023年度立法工作计划。
郑飞建议，在法律不断完善的过程中，要注意明确虚拟数字人法律主体性。虚拟数字人包括以动画CG(计算机图形技术)型虚拟数字人为主的“作品型虚拟数字人”、以数字化身和弱AI驱动型虚拟数字人为主的“人格作品型虚拟数字人”，以及以强AI驱动型虚拟数字人为主的“有限主体型虚拟数字人”。“只有强AI驱动型虚拟数字人在未来具有主体性可能，其他类型的虚拟数字人均属于法律客体范畴。”
此外，郑飞还提出应根据“复活”对象及用途进行审查，明确严管私用、审慎公用的思路。“比如，对于‘复活’英烈等用于爱国主义教育的，应当在尊重亲属意愿的基础上予以前置性审慎审查。”
同时，比照人工智能在学术研究中的“披露性”原则，还应建立深度合成内容标注机制。“以显著、明确、无异议方式对虚拟数字人作出特别标注，让用户清楚知道其属性。”郑飞强调。
无论是行业标准，还是法律规范，治理的本质是为了让技术向善发展。在周程看来，治理要坚持“以人为本”的立场。尊重人、保护人、善待人、帮助人，是发展数字生命最基本的关切点，也是标准、规范制定过程中的核心要义。
数字生命的治理不是一蹴而就的过程，它需要各方共同参与，共同保障个人权利和公共利益的平衡。“只有构建符合伦理、法律的数字永生技术生态，才能让人类更安全、更幸福地享受‘云上栖居’的生存方式。”周程说。(科技日报) 【编辑:姜雨薇】