【文/本报 阮佳琪】
据《华尔街日报》4日报道，美国人工智能（AI）初创公司Anthropic周四发布公开信，呼吁全球顶尖实验室暂停或减缓前沿AI的研发速度。
该公司警告称，当前AI技术迭代速度过快，短期内可能就会出现脱离人为干预、自主优化升级的能力，由此或将衍生难以预见的重大社会风险。
Anthropic方面宣称，为了给社会和对齐研究（alignment research，让AI与人类价值观、意图保持一致）留出必要缓冲时间，其主张建立一项类似于“核武器协议”的全球性协议，以约束AI研发节奏。同时配套核查机制，确保各国竞争者履约。
文章进一步称，核查AI训练情况并不容易，“AI训练项目远比导弹发射井更容易隐匿。当其他人暂停时，谁继续前进谁就可能取得领先。”
未来数月，Anthropic计划邀请各国政策制定者、科研从业者，围绕递归自主进化技术、全球核验机制展开研讨。文章称，“共同探讨这些问题的窗口已经开启，AI公司之外的人士也应参与到这场讨论中来。”
当地时间4月17日，Anthropic首席执行官达里奥·阿莫迪被拍到现身白宫。
据报道，这篇长文由Anthropic内部研究机构负责人与联合创始人撰写，文章披露了内部测试数据，以佐证其旗舰模型迭代提速的情况。
文章指出，当前AI模型正朝着“递归式自主进化”的方向发展，届时AI无需人类介入便可自我优化。不少业内从业者将这一技术临界点视作潜在隐患，预判其或将引发剧烈的社会动荡。
文章认为，减缓全球AI发展速度“可能是一件好事”，“我们认为，如果世界拥有放缓或暂时中止前沿AI研发的选择权，以便社会结构和对齐研究能够跟上技术发展的步伐，这将是有益的。”
文中还称，递归式自我进化目前尚未发生，也并非必然发生，“但可能会比大多数机构准备得更快到来”。
《华尔街日报》指出，尽管Anthropic自创立以来便以AI安全为核心标榜，但其始终深陷舆论争议，外界频频指责其推动的各类政策倡议，本质是借机打压同行、拖慢竞品的AI研发节奏。
