首页 > 国内新闻 > 正文

ChatGPT,不只是机器

来源:环球人物杂志

ChatGPT,不只是机器

人工智能发展的红线在哪里?

本刊评论员:江宁

这段时间,关于ChatGPT的话题很热。这款由美国人工智能研究实验室推出的“聊天机器人”,上线仅两个月注册用户就已破亿,成为史上用户增长最快的应用。

ChatGPT突然爆红自有其道理,它似乎上知天文、下知地理,在文本生产、数据分析、代码编写、图像生成等多模态话语领域均有惊人表现——

美国北密歇根大学教授发现,获得全班最高分的论文是用ChatGPT写的;谷歌面试官发现,ChatGPT能通过年薪18万美元的工程师招聘考试;

以色列总统公开发表了ChatGPT参与撰写的演讲;

在ChatGPT续写的《红楼梦》后40回中,黛玉和宝玉爱情终得圆满;

更吊诡的是,在回答中美是否应击落进入各自领空的飞行器时,ChatGPT居然给出截然不同的答案……

这些软科幻色彩浓郁的“段子”正在实实在在地发生着,又一次引发人们对人工智能发展和人类社会变革的思考和讨论。

站在人类科技革命的浩瀚进程中观察,任何变革性的、里程碑式的科技创新都是历史潮流中的一朵浪花。立足彼时,每个新鲜事物都代表着未来;今时回望,它们又都成了逝去的历史——

ChatGPT,不只是机器

16、17世纪的科学革命标志着人类知识增长的重大转折。

18世纪出现了蒸汽机等重大发明,成就了第一次工业革命,开启了人类社会现代化历程。

19世纪,科学技术突飞猛进,催生了由机械化转向电气化的第二次工业革命。

20世纪前期,量子论、相对论的诞生形成了第二次科学革命,继而发生了信息科学、生命科学变革,基于新科学知识的重大技术突破层出不穷,引发了以航空、电子技术、核能、航天、计算机、互联网等为里程碑的技术革命。

进入21世纪以来,全球科技创新进入空前密集活跃的时期,新一轮科技革命和产业变革正在重构全球创新版图、重塑全球经济结构。这当中,人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的“头雁”效应。

半个多世纪前,“图灵测试”首次界定了人工智能——如果一台机器能够与人类展开对话而不被辨别出其机器身份,那么这台机器就是智能的。

按照学界的划分,人类目前正处于弱人工智能向强人工智能迈进的重要阶段。强人工智能呈现的深度学习、跨界融合、人机协同、群智开放、自主操控等新特征,必然对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响。

人工智能的诞生自带悖论:一方面,人工智能可以帮助人类突破自身局限,使人类从众多事务中解放出来;另一方面,原本发明出来服务人类的人工智能却有可能反客为主,甚至伤害人类。

近年来,人工智能迅猛发展,也在实践层面演绎着这种悖论。信息捕捉和数据分析带来的国家安全风险,算法垄断带来的不正当竞争和权益侵害,深度合成技术带来的虚假内容和舆论操控,均已在现实中发生。

而ChatGPT对中国用户的应用限制,以及在回答中美关系问题时给出自带美国立场的答案,也不能不让人将其同美国“脱钩断链”、“政治双标”、垄断话语权等议题联系起来。

ChatGPT,不只是机器

潮流来了,跟不上就会落后,就会被淘汰。我们能够做的和应该做的就是要抢抓机遇,让科技进步惠及更多国家和人民。同时也要看到,科技是发展的利器,也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架。

从《弗兰克斯坦》中失控的科技怪物,到《邻家特工》中恐怖分子持有的能毁灭石油的药水,再到正在热映的《流浪地球2》中一次次制造灭亡危机的MOSS,对“科技作恶”的警惕已成为文艺生产特别是科幻作品的重要主题。

MOSS所代表的,正是人工智能发展的下一阶段——超级理性并且具有自我意识的人工智能。这类的内容诠释,一次次提醒着人们,科技向善是人类社会务须秉持的主流价值和发展底线。

脱离了向善的轨道,科技成果越先进,相应危害就越大。面对电影里MOSS的作恶,人们很容易想到物理学家霍金生前的警告:人类需要控制以人工智能为代表的新兴科技,以防止它们在未来可能对人类生存带来的毁灭性威胁。

不能跨越人类社会法律、道德、伦理、制度的边界,不能跨越全人类共同价值的边界,是人工智能发展的一根红线。就如《流浪地球2》中所言,“没有人类的文明,毫无意义”。

ChatGPT,不只是机器

引导人工智能向善发展已成为全球科技治理的重要课题。人工智能必须遵守科技伦理和价值准则,必须增进人类福祉、尊重生命权利、公平公正、合理控制风险,必须置于多方参与、协同共治的治理体制机制之下,从而塑造人工智能向善的文化理念和保障机制。

作为一个负责任大国,中国也必然会紧紧围绕增进人类福祉这个一切科技发展的终极目标,把造福人类作为科技创新的最强大动力,从理念倡导、技术支持、机制构建、全球治理等多个维度,推动科技创新沿着向善的轨道在轨运行、行稳致远。

当前,世界正经历百年未有之大变局,新一轮科技革命和产业变革深入发展,国际力量对比深刻调整。历史经验表明,科技革命总是能够深刻改变世界发展格局,一些国家抓住科技革命的难得机遇,实现了经济实力、科技实力、国防实力迅速增强,综合国力快速提升。

面对具有多学科综合、高度复杂特征的人工智能,我们必须以关键核心技术为主攻方向,夯实新一代人工智能发展的基础,支持科学家勇闯人工智能科技前沿的“无人区”,努力在人工智能发展方向和理论、方法、工具、系统等方面取得变革性、颠覆性突破,确保我国在人工智能这个重要领域的理论研究走在前面、关键核心技术占领制高点。

回到ChatGPT。人们惊艳于ChatGPT的“能说会道”,但ChatGPT们是否有一颗“科技向善”的芯,才是人们关心的根本问题。

北京延庆山区雪花飘落 部分道路出现积雪 一地倡导女婿赡养岳父母,当地人发声