ChatGPT，不只是机器

人工智能发展的红线在哪里？

本刊评论员：江宁

这段时间，关于ChatGPT的话题很热。这款由美国人工智能研究实验室推出的“聊天机器人”，上线仅两个月注册用户就已破亿，成为史上用户增长最快的应用。

ChatGPT突然爆红自有其道理，它似乎上知天文、下知地理，在文本生产、数据分析、代码编写、图像生成等多模态话语领域均有惊人表现——

美国北密歇根大学教授发现，获得全班最高分的论文是用ChatGPT写的；谷歌面试官发现，ChatGPT能通过年薪18万美元的工程师招聘考试；

以色列总统公开发表了ChatGPT参与撰写的演讲；

在ChatGPT续写的《红楼梦》后40回中，黛玉和宝玉爱情终得圆满；

更吊诡的是，在回答中美是否应击落进入各自领空的飞行器时，ChatGPT居然给出截然不同的答案……

这些软科幻色彩浓郁的“段子”正在实实在在地发生着，又一次引发人们对人工智能发展和人类社会变革的思考和讨论。

站在人类科技革命的浩瀚进程中观察，任何变革性的、里程碑式的科技创新都是历史潮流中的一朵浪花。立足彼时，每个新鲜事物都代表着未来；今时回望，它们又都成了逝去的历史——

16、17世纪的科学革命标志着人类知识增长的重大转折。

18世纪出现了蒸汽机等重大发明，成就了第一次工业革命，开启了人类社会现代化历程。

19世纪，科学技术突飞猛进，催生了由机械化转向电气化的第二次工业革命。

20世纪前期，量子论、相对论的诞生形成了第二次科学革命，继而发生了信息科学、生命科学变革，基于新科学知识的重大技术突破层出不穷，引发了以航空、电子技术、核能、航天、计算机、互联网等为里程碑的技术革命。

进入21世纪以来，全球科技创新进入空前密集活跃的时期，新一轮科技革命和产业变革正在重构全球创新版图、重塑全球经济结构。这当中，人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。

半个多世纪前，“图灵测试”首次界定了人工智能——如果一台机器能够与人类展开对话而不被辨别出其机器身份，那么这台机器就是智能的。

按照学界的划分，人类目前正处于弱人工智能向强人工智能迈进的重要阶段。强人工智能呈现的深度学习、跨界融合、人机协同、群智开放、自主操控等新特征，必然对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响。

人工智能的诞生自带悖论：一方面，人工智能可以帮助人类突破自身局限，使人类从众多事务中解放出来；另一方面，原本发明出来服务人类的人工智能却有可能反客为主，甚至伤害人类。

近年来，人工智能迅猛发展，也在实践层面演绎着这种悖论。信息捕捉和数据分析带来的国家安全风险，算法垄断带来的不正当竞争和权益侵害，深度合成技术带来的虚假内容和舆论操控，均已在现实中发生。

而ChatGPT对中国用户的应用限制，以及在回答中美关系问题时给出自带美国立场的答案，也不能不让人将其同美国“脱钩断链”、“政治双标”、垄断话语权等议题联系起来。

潮流来了，跟不上就会落后，就会被淘汰。我们能够做的和应该做的就是要抢抓机遇，让科技进步惠及更多国家和人民。同时也要看到，科技是发展的利器，也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战，完善相关法律法规、伦理审查规则及监管框架。

从《弗兰克斯坦》中失控的科技怪物，到《邻家特工》中恐怖分子持有的能毁灭石油的药水，再到正在热映的《流浪地球2》中一次次制造灭亡危机的MOSS，对“科技作恶”的警惕已成为文艺生产特别是科幻作品的重要主题。

MOSS所代表的，正是人工智能发展的下一阶段——超级理性并且具有自我意识的人工智能。这类的内容诠释，一次次提醒着人们，科技向善是人类社会务须秉持的主流价值和发展底线。

脱离了向善的轨道，科技成果越先进，相应危害就越大。面对电影里MOSS的作恶，人们很容易想到物理学家霍金生前的警告：人类需要控制以人工智能为代表的新兴科技，以防止它们在未来可能对人类生存带来的毁灭性威胁。

不能跨越人类社会法律、道德、伦理、制度的边界，不能跨越全人类共同价值的边界，是人工智能发展的一根红线。就如《流浪地球2》中所言，“没有人类的文明，毫无意义”。

引导人工智能向善发展已成为全球科技治理的重要课题。人工智能必须遵守科技伦理和价值准则，必须增进人类福祉、尊重生命权利、公平公正、合理控制风险，必须置于多方参与、协同共治的治理体制机制之下，从而塑造人工智能向善的文化理念和保障机制。

作为一个负责任大国，中国也必然会紧紧围绕增进人类福祉这个一切科技发展的终极目标，把造福人类作为科技创新的最强大动力，从理念倡导、技术支持、机制构建、全球治理等多个维度，推动科技创新沿着向善的轨道在轨运行、行稳致远。

当前，世界正经历百年未有之大变局，新一轮科技革命和产业变革深入发展，国际力量对比深刻调整。历史经验表明，科技革命总是能够深刻改变世界发展格局，一些国家抓住科技革命的难得机遇，实现了经济实力、科技实力、国防实力迅速增强，综合国力快速提升。

面对具有多学科综合、高度复杂特征的人工智能，我们必须以关键核心技术为主攻方向，夯实新一代人工智能发展的基础，支持科学家勇闯人工智能科技前沿的“无人区”，努力在人工智能发展方向和理论、方法、工具、系统等方面取得变革性、颠覆性突破，确保我国在人工智能这个重要领域的理论研究走在前面、关键核心技术占领制高点。

回到ChatGPT。人们惊艳于ChatGPT的“能说会道”，但ChatGPT们是否有一颗“科技向善”的芯，才是人们关心的根本问题。

总监制： 吕 鸿

监 制： 张建魁

主 编： 许陈静

编 审： 凌 云

来源：环球人物杂志