
据美国消费者新闻与商业频道(CNBC)9月11日报道,美国总统特朗普驳斥了有关人工智能可能对人类构成生存威胁的警告。此前,前沿人工智能实验室 Anthropic 和 OpenAI 的多名内部人士纷纷加大力度,公开警告这项技术可能带来的风险。
当被问及是否担心人工智能会导致人类灭绝时,特朗普表示:“不,我一点也不担心。”
特朗普周四对记者表示:“我担心的是,如果我们不能赢得人工智能竞赛,我们将陷入非常不利的境地。我们目前领先中国相当长一段时间,我会说大约领先一年,而你们知道,这已经被认为是很大的领先优势。”
报道称,美国和中国正在围绕人工智能主导地位展开激烈竞争。随着中国人工智能模型日益先进,并在全球范围内得到越来越广泛的采用,双方的紧张态势也在不断升级。
特朗普发表上述言论之前,包括 OpenAI 和 Anthropic 在内的多家前沿人工智能实验室的研究人员已经就这项技术迅猛的发展速度发出警告。
Anthropic 研究员雅各布·考克森(Jacob Coxon)周二表示,他将离开公司,因为他担心 Anthropic 及其竞争对手 OpenAI 正在“拿我们的生命做赌注”。
他还表示,那些开发人工智能的人认为,人工智能可能“在本世纪末之前杀死我们所有人”——此后,这一观点也得到了这些实验室其他员工的呼应。
许多有关人工智能安全的担忧,都集中在模型可能获得自行提升自身性能的能力上,这种技术被称为“递归式自我改进”(recursive self-improvement,RSI)。
OpenAI 首席科学家雅库布·帕霍茨基(Jakub Pachocki)周六表示,他“强烈预期”,人工智能目前的发展速度可能会一直持续到进入递归式自我改进阶段。“我担心,没有人为机器智能持续快速提升所带来的后果做好准备。”
特朗普发表上述言论之际,一些共和党议员已经与民主党议员一道,支持加强对先进人工智能系统的监管。
今年7月,加利福尼亚州共和党籍联邦众议员杰伊·奥伯诺尔特(Jay Obernolte)和马萨诸塞州民主党籍联邦众议员洛丽·特拉汉(Lori Trahan)宣布,计划提出一项名为《FRONTIER法案》(FRONTIER Act)的法案,旨在建立一个监管先进人工智能模型部署的框架。
特拉汉周三在社交平台 X 上发文称:“安全研究人员正在辞职,强大的人工智能模型正在突破实验室的控制,而企业却依然在竞相向前冲。国会早就该停止袖手旁观,履行自己的职责了。”
本月早些时候,佛蒙特州独立派联邦参议员伯尼·桑德斯(Bernie Sanders)和得克萨斯州民主党籍联邦众议员格雷格·卡萨尔(Greg Casar)提出了一项名为《禁止人工超级智能法案》(Ban Artificial Superintelligence Act)的法案。该法案拟暂时停止先进人工智能的开发,直至联邦政府制定相关安全规则。
中方多次强调,中国人工智能的发展是高水平科技自立自强的成果,也得益于中方始终秉持共商共建共享和开放合作理念。我们始终认为,各国应推动人工智能开放、包容、普惠、向善发展,服务全人类福祉。
