东西问｜任福继：ChatGPT周岁 AI“弄潮儿”如何面对“成长的烦恼”？

　　 中新社 北京12月18日电 题：任福继：ChatGPT周岁 AI“弄潮儿”如何面对“成长的烦恼”？

　　 中新社 记者 张焕迪

　　日前，发布满一年的ChatGPT迎来了自己的周岁生日。过去的一年，ChatGPT这一AI行业“弄潮儿”不断向着更快、更安全、更便宜的目标进步，与一众后来者共同探索AI技术发展前沿。但以ChatGPT为代表的AI也引发了许多争议，如隐私泄露及ChatGPT母公司美国“开放人工智能研究中心”(OpenAI)的换帅风波等，都为AI的发展增添了几分“成长的烦恼”。

　　中国人工智能学会名誉副理事长、电子科技大学人工智能首席科学家、日本工程院院士任福继近日接受 中新社 “东西问”专访时表示，ChatGPT激发了各国科技企业和研究机构在AI领域的创新和竞争，以其为代表的AI技术将对所有拥有潜在大数据研究资源的学科或行业产生深远影响。AI发展所引发的种种问题也不可忽视，从业者、研究者及监管部门等相关方应及时采取措施。

　　现将访谈实录摘要如下：

　　 中新社 记者：ChatGPT公开发布至今已有一年时间。在这一年内，ChatGPT本身有哪些变化与改进？还存在哪些不足？

　　任福继：ChatGPT在这一年内的大幅进步主要得益于OpenAI发布的AI语言模型GPT-4。相较于GPT-3.5和其他大语言模型，GPT-4在处理复杂任务上更可靠也更有创意，还能够处理更细微的指示，更趋向于稳定、可靠、可信的多语言多功能多媒体智能系统。

　　具体来说，GPT-4拥有自然语言处理能力更强大、文本生成能力更高效、创造性和适应性能力更强、自我学习自我进化能力极强等特征。这些特征使其可以更准确地理解人类语言，并根据上下文和语义生成高质量的自然语言文本，还能处理图像和视频等视觉性内容等。GPT-4还可以根据不断积累的数据和经验不断提升性能、实现进化，更好地适应人类的需求。

　　不过，GPT-4在知识的时效性、应答的真实性、应用的合法性等方面仍存在不足，具体表现就是捏造事实、侵犯个人隐私等。

　　 中新社 记者：ChatGPT走红后，各国科技企业及研究机构陆续跟进，推出自研竞品。ChatGPT的诞生有何意义？其对一众后来者有何影响与启发？

　　任福继：目前，OpenAI的GPT系列模型是生成式AI中最具代表和引领性的大模型，且大部分大语言模型的结构都是类GPT的模式。ChatGPT的出现无疑对全球科技界产生了深远影响，激发了各国科技企业和研究机构在AI领域的创新和竞争。

　　ChatGPT展现了大语言模型的“涌现”现象。当语言模型的模型规模达到一定程度之后，模型会“涌现”出一些小模型所不具有的能力，如少样本提示、多步推理能力、指令执行、程序执行、模型矫正等。这极大地提高了人们对通用人工智能(AGI)的期待，迎合了各类人群在工作、生活、创作中对生成式人工智能内容(AIGC)的迫切需求，引领了大语言模型的技术路线，也坚定了一众后来者跟随和前进的信心。AGI是指在任何人类已经或即将涉及的专业领域中，都具备不低于人类智能程度的AI系统。

　　参考目前普遍意义上的交互案例，不难看出ChatGPT在底层数据、核心技术、应用场景、用户体验等各方面都具有里程碑式的意义，其最大亮点就在于优秀的语言理解、意图识别、逻辑推理、内容生成等能力。它的出现意味着AI的交互能力实现了跨越式发展，某种程度上满足了大众对AI的认知与使用需求，使人类意识到AI或许真的可以超越并取代人类。

　　 中新社 记者：日前，OpenAI换帅风波引发广泛关注。路透社援引消息人士的说法称，OpenAI内部的几名研究人员研发了一个功能极其先进的模型“Q-Star”，以在AGI领域寻求突破，这引发了其公司内部针对AI安全性的争议与分歧，进而引发了此次换帅风波。相关事件和有可能存在的“Q-Star”对ChatGPT及整个AI行业有何影响？

　　任福继：从目前媒体披露的情况看，OpenAI的换帅风波涉及AI安全问题。此次风波的本质是对AI发展理念的路线争议，也就是“有效加速主义”和“超级‘爱’对齐”的理念冲突。“有效加速主义”主张人类应无条件地加速技术创新，通过快速迭代来颠覆社会结构，而技术颠覆可能会带来的社会风险本质上会迫使人类不断去适应，从而达到更高的意识水平。“超级‘爱’对齐”的理念是让AI系统按照明确的指令做事，让AI符合人类要求，核心是造福人类。

　　一些供职于OpenAI的科学家认为，首席执行官奥尔特曼(Sam Altman)带领的团队一味增强AI的能力，忽视了加强AI的情感，也即对人类的热爱。

　　如果“Q-Star”真实存在，那么它可能代表了OpenAI在AGI领域的重大进步，也将会是AI领域的一个巨大飞跃，因为当前的大多数AI系统仍然是在特定任务上的专家，而不是通用的解决方案。而真正的AGI能够像人类一样理解、学习和应用知识。

　　许多AI领域专家都倾向于认为“Q-Star”存在，且能提升现有AI的能力，但距离AGI仍有相当距离。但无论“Q-Star”是否存在，OpenAI仍在AI领域处于领先地位，其研发的技术和模型将继续对整个行业产生深远影响。

　　 中新社 记者：今年以来，大众见证了AI在图像和音视频处理等领域的进步，现在的AI不仅能够写文章，还能创作画作、编写音乐甚至制作短片。您如何看待AI在各领域的发展趋势？

　　任福继：除了上知天文下知地理，AI还能撰写书面材料、创作画作和音乐、制作短片，甚至可以与人类开展持续流畅的高情商对话。AI所展现出的全能意味着其具有取代人类工作的巨大潜力，乃至于艺术创作、科学发现等“人类独有”的创造性工作。

　　传统自然科学已呈现出“AI+自然科学”的新模式。通过协助突破人类固有的认知局限，以ChatGPT为代表的AI有望成为未来推动自然科学前进的重要动力。

　　以生命科学为例，目前AI技术已经在生物信息检索抽取、小分子生成、蛋白质结构研究等领域取得实际进展。未来，AIGC将有效促进小分子生成和优化技术、小分子和蛋白结合构象预测、蛋白质及多肽序列设计、人类基因组学分析等领域的阶跃性发展。

　　总体来说，所有拥有潜在大数据研究资源的学科或行业都将受到目前“大数据+深度学习”AI范式的影响。而在AI数字内容生成领域，AI展示了在大数据学习基础上的创意潜能，“AI+文化产业”的新格局已成雏形。

　　 中新社 记者：ChatGPT的爆火“出圈”再次将AI这一概念带回大众视野，各国也加大了在AI领域的投入。当前中国的AI行业发展处于何种阶段？

　　任福继：从科研论文数量、投融资规模、企业数量、专利数量等方面来看，近年来，中国AI行业发展整体处于国际先进地位，尤其是在AI场景应用方面表现出巨大潜力。但整体发展质量还有待提高，特别是在硬件和算法等核心技术领域，多数中国企业在人才、核心技术、知识产权等方面较之国际AI巨头企业尚显逊色。

　　从AI前沿工程技术来看，中国在智能服务机器人领域的技术水平居于世界前列，特别是在视觉、传感、多模态人机交互、情感计算等领域；但在机电一体化及机器人控制方面等距国际一流水平还有一定差距。不过，得益于广阔的市场、广泛的应用场景等因素，中国在智能服务机器人领域有实现超越的可能。

　　 中新社 记者：如今在互联网上，许多人使用AI采集名人声音并经过处理后，就可以让AI假借名人之口说出任何话。一些自媒体还使用AI制作“摄影图片”以编造新闻博取流量。AI技术的继续进步可能带来哪些问题？AI从业者、研究者及监管部门等相关方当如何应对？

　　任福继：AI除了可以作为生产工具给人类带来便利外，也引发了许多问题，譬如：失业问题，传统工作甚至原来认为的创造性工作都可能会被AI取代；隐私保护问题，数据滥用威胁用户的隐私；安全问题，AIGC产生的诈骗、捏造等行为；伦理问题，包括社会责任、法律道德、知识产权、情感归属等。

　　可从四个方面应对AI可能引发的各类问题：健全科技伦理治理体制、强化科技伦理治理制度保障、强化科技伦理审查和监管、深入开展科技伦理教育和宣传。

　　在遵循科技伦理原则的同时，还要保证科技伦理治理的动态调整，不过分强调科技发展可能产生的负面影响，科学应对不可预见的问题，保证科研自由和活力。

　　 中新社 记者：您理想中的完善AI是什么样的？

　　任福继：我理想中的完善AI是 AGI(造物主)与专用人工智能(领域专家)的结合体，追求能力与情感的统一、科技与伦理的统一。

　　所谓“造物主”，并不是指有神论中的造物主，而是对AGI在能力、潜力上的类比。AGI既要在擅长的领域领先人类，也要在不擅长的领域超越人类。在此基础上形成的更先进的AIGC就会在问题求解、艺术创作、内容制作等领域展示出前所未有的方法以及出人意料、人力所不及的效果。这是AGI展示出的类似于造物主的作用。

　　AGI是AI研究的初心和终极目标，但短期内并不会实现。当下，我们将聚焦在细分领域、着眼于解决实际问题的AI系统被称为专用人工智能。现在应用相对成熟的工业视觉检测、生产线装配控制等都是专用人工智能的应用实例。

　　此外，考虑到AI可能带来的安全威胁，我们也应该先将AI系统在特定领域进行部署应用。随着AI可解释性的提高，并确认AI系统安全可控后，再逐步扩大其应用空间。(完)

　　受访者简介：

　　 任福继，日本工程院院士，日本国立北海道大学工学博士，电子科技大学人工智能首席科学家、特聘讲席教授，人工智能研究院首席科学家、深圳高等研究院首席科学家，国际高度信息化研究院长，德岛大学荣誉教授。曾先后担任日本CSK研究员、美国新墨西哥州立大学访问教授、佛罗里达国际大学客座教授、哈佛大学访问教授、日本国立德岛大学智能工程系主任、研究生院长、信息决策部门长。

　　他是国家特聘专家、长江学者奖励计划讲座教授、海外杰出青年学者基金获得者、中国人工智能学会名誉副理事长、中国科协海智专家、国务院侨办科技专家咨询委员。IEEE自然语言处理与知识工程国际会议创立者、会议主席。在日中国科学技术者联盟首届会长、日本新华侨华人会原会长、全日本中国人博士协会原会长及名誉会长。日本自然科学源内赏、康乐会奖、吴文俊人工智能科学技术奖创新一等奖、科学中国人年度人物“杰出贡献奖”、安徽省政府黄山友谊奖、中国政府友谊奖获得者。