Anthropic 呼吁全球暂缓前沿人工智能研发，警示 AI 自主迭代风险

　　Anthropic 正呼吁全球顶尖人工智能实验室考虑放缓研发进度，理由是人工智能系统迭代速度过快，或将在不久后实现脱离人类干预的自主进化，进而对社会构成重大安全隐患。

　　该企业于周四在一篇官方博客文章中表示，拥有暂缓全球人工智能研发的选择权 “大概率是一件好事”，博文同时披露内部实验数据，佐证其旗舰大模型的性能提升速度。

　　这篇由公司研究院负责人玛丽娜・法瓦罗与政策主管杰克・克拉克联合执笔的文章提到，当前模型的迭代趋势正走向递归式自我优化：也就是人工智能无需人类介入就能自主升级能力。不少业内从业者将这一技术临界点视作危险信号，认为其有可能引发大规模社会动荡。

　　二人在博文中写道：“我们认为，全球拥有放缓或临时叫停前沿人工智能研发的备选方案，对世界有利，这样各类社会配套机制与人工智能对齐研究才有时间跟上技术发展的脚步。” 文章提议各国签署全球性协定，敲定前沿 AI 研发的限速细则，并设立核查机制，监督同业企业遵守相关约定。

　　博文提醒，递归自主优化目前尚未成为现实，也并非必然出现，“但其落地时间或许会早于绝大多数机构的准备周期。”

　　这家自创立起便主打人工智能安全理念的企业，长期饱受外界质疑：业内指责其出台各类监管相关政策，本质意在拖累竞品的技术研发节奏。风投投资人、特朗普总统非正式顾问戴维・萨克斯就指责 Anthropic 管理层在推行一套 “监管俘获议程”。

　　萨克斯在近期一档播客节目中称，这套在华盛顿推进的监管俘获议程，或将推动美国出台禁令限制开源大模型；开源 AI 可供各类机构低成本落地使用、自主二次开发。

　　长期以来，人工智能行业在两大议题上分歧显著：现有模型距离通用人工智能（AGI，拥有比肩人类的智能水平）、递归自主优化究竟还有多远。

　　Meta 前首席人工智能科学家、行业先驱扬・勒昆等学者认为，依托大语言模型打造的前沿产品永远无法进化至媲美人类的智力水准。他认可 AI 是强大工具，但将现有模型的智能类比为猫咪水准，并与担忧 AI 会给人类带来生存级风险的研究者展开论战。