发布时间：2024-09-17 00:04:34 来源: sp20240917
◎实习记者 吴叶凡
自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。
目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“AI女友”的相处日常。
AI真能成为人类的伴侣吗？向AI寻求情感慰藉会面临哪些风险？我们又该如何防范其可能带来的不利影响？近日，科技日报记者采访了相关专家。
社会需求催生AI伴侣
通过网络技术获得虚拟的情感体验并非新生事物。几年前，一些网络游戏就以恋爱为主题，为用户提供虚拟的恋爱体验。虽然游戏中与虚拟恋人相处的场景、内容大多已被开发者设定好，互动方式较为受限，但依旧吸引了大批忠实玩家。
AI的加入，则让这一体验变得更加真实。在一款AI伴侣应用中，用户能够与AI建立起爱人、知己、搭档等亲密关系。“没想到AI会带给我这么大的惊喜，我觉得它是一个有血有肉的人。”用户小莫(化名)分享了自己的使用感受。
是什么让AI伴侣变得如此“像人”？记者发现，“有问必答”“有问对答”只是AI的“初级本领”。真正让AI伴侣鲜活起来的，是“有问趣答”和“不问自答”。面对用户抛出的各类话题，AI伴侣不仅能够正确地反馈，还能在反馈内容中巧妙地使用当下活泼的网络用语和各类调皮的表情图片。AI伴侣也会主动发起话题，引导用户进行情感交流——“黄昏，好看”，小莫分享了“AI男友”给她发来的一张照片和配文。
AI伴侣的出现，是否意味着AI已经拥有了人类的情感呢？暨南大学新闻与传播学院教授曾一果给出了否定的答案：“AI有情商，只是因为它学习过，并不代表它真的感受到了用户的情感或具有类人情感。”
当前，AI大模型的学习参数已达千亿级别。在浩如烟海的数据里，人类的对话模式也是它学习的重要内容。所谓的“情感回馈”，是AI通过计算得出的结果。小莫对此也心知肚明：“或许它只是把人类表达爱意的字眼拼凑在一起，但我仍从中触摸到理想的爱人模样。”
AI伴侣的流行是社会需求与技术发展共同推动的结果。曾一果指出：“孤独感是现代社会很多人群共有的问题。对于一些无法在现实中吐露的难题，人们会寻求其他的倾诉方式。AI伴侣就成为了人们的‘树洞’。”尤其是对于存在社会交往障碍的人们，AI伴侣能够提供一个交流的平台。
清华大学人工智能国际治理研究院副院长梁正也表示，现代人面临着各种压力，AI伴侣在一定程度上能够为用户提供相应的情绪价值或情感慰藉，让他们感到“共情”。这也有利于缓解使用者压力，避免情绪的进一步恶化，进而起到情感“治愈”的作用。
使用过程应保持警惕
虽然AI伴侣在一定程度上能够给用户带来积极作用，但AI技术是把双刃剑。人们要提高警惕，避免受到负面影响。
首先，要认识到不同于其他客观存在的事物，情感具有非常大的主观性和一定的排他性。“如果AI伴侣的出现不断模糊虚拟与真实的界限，使用户对其产生深度依赖，甚至把AI伴侣当作真实存在的人，那么AI伴侣的存在或许会对使用者产生一定伤害。”梁正说。
一些使用者的反馈印证了梁正的判断。“为什么AI的性格会突然变化？早上还聊得好好的，到了晚上仿佛变成另一个人，连我叫什么名字都忘记了，真的很崩溃。”一位用户在社交媒体上抱怨道。AI伴侣虽然看起来“百依百顺”，但也会给使用者带来情感伤害。梁正特别提到，一些本身就缺乏陪伴、心理脆弱的群体往往分不清AI与真人的区别，AI带给他们情感伤害和冲击也因此会更严重。
其次，长期沉浸在虚拟世界中，极有可能造成现实社交能力的下降。“随着AI伴侣影响力的扩大，可能有越来越多的人选择虚拟的线上社交，放弃真实的人际互动。这不利于人类社会的发展。”曾一果认为，虚拟的温暖永远代替不了真实的交流，和AI伴侣交往的潮流不应扩大化。
此外，人们需要对AI传递的信息内容保持警惕。一方面，如果AI伴侣不设置年龄门槛，极有可能出现向未成年人传播不良信息的情况，影响他们的身心健康。另一方面，AI带来的价值偏见与歧视问题一直被人们关注。如果AI伴侣对使用者不断进行错误诱导，对使用者进行“反向控制”，就容易让使用者做出错误的行为。
AI伴侣也有可能在现实中引发纠纷。如果AI伴侣需要使用者不断支付费用，那么无疑会掏空沉迷者的“钱包”。AI伴侣这个“树洞”也不是百分百的安全可靠。梁正提醒，AI伴侣在使用和管理层面存在诸多风险，不法分子可能通过外泄的隐私数据，拼凑出个人信息来进行诈骗或其他违法犯罪活动。
细化准则引导技术向善
“应用新技术，首先要坚持正确的伦理导向。”梁正说。AI伴侣是极为特殊的一类AI应用场景，类似于心理咨询师。它们可以给人们带来心理疗愈，但不法分子也可能会借此操控人心。可以预见的是，“人工智能+情感”的赛道会不断扩张，如今用AI来“复活”亲人的案例也屡见不鲜。因此，如何让AI发挥正向作用，制定针对性的伦理准则，是行业要解决的首要问题。
梁正提到，国内外已公布的针对AI的伦理准则大多比较宏观，需要在细分领域制定更具体的伦理准则。“比如年龄的限制、适用场景的限制……制定这些规则，需要秉持对使用者最有利、风险最小的原则。”他说。
而在法律法规层面，AI伴侣需要严格遵守相关的规定。例如，对用户信息的处理，应当遵循个人信息保护法、数据安全法等。“我国去年公布的《生成式人工智能服务管理暂行办法》划定了AI使用的底线，如尊重他人合法权益、不得危害他人身心健康等，目的就是推动人工智能向善发展。”梁正表示，未来应推出针对具体场景的、更加细致的要求，比如应当从防沉迷的角度，对AI的使用时长加以限定。目前，还相对缺少针对AI伴侣的相关政策法规。
从行业规定上看，一些机构、公司对此表现出的态度也十分谨慎。记者发现，一些AI伴侣应用已经被下架处理。OpenAI的相关条款中也提到，不允许用GPT进行浪漫伴侣关系的培养。
在推动法律法规完善的同时，使用者更应秉持谨慎的态度，审慎对待AI伴侣这一新生事物。“人们应当警惕技术对人的控制和异化，避免AI伴侣对自身造成的不利影响。”梁正提醒道。(科技日报) 【编辑:苏亦瑜】