当AI巨头开始要求减速,一文看懂来龙去脉
据媒体报道,一批AI巨头高管近期公开呼吁给前沿AI研发“减速”。
当AI巨头开始要求减速怎么回事?先看三句大白话
很多人第一次刷到“当AI巨头开始要求减速”这个话题时,第一反应是:造车的人怎么会喊着让车开慢点?这事儿确实有点反常识,但梳理下来其实一句话能说清——最积极造AI的那批人,开始担心自己造得太快了。
具体来说:
- 谁在说:不是外行,而是OpenAI、Anthropic、DeepMind这类头部AI公司的高管、创始人,以及一批拿过图灵奖的研究者。
- 说了什么:呼吁对能力最强的“前沿模型”加强安全测试、放慢发布节奏,甚至有人主张暂停训练更强的模型。
- 为什么值得关心:这些人掌握着最先进的技术细节,他们的态度变化,往往比监管文件更早透露出行业风向。
下面按时间顺序梳理一下,当AI巨头开始要求减速是怎么回事。
时间线梳理:这股“减速”呼声是怎么一步步出现的
- 2023年3月——生命未来研究所发布一封公开信,明确呼吁“所有AI实验室立即暂停训练比GPT-4更强大的系统,至少6个月”。签署者包括马斯克、图灵奖得主本吉奥、苹果联合创始人沃兹尼亚克等。据当时媒体报道,签名人数很快突破万人。
- 2023年5月——OpenAI首席执行官奥特曼出席美国参议院听证会。他在会上说,如果这项技术出了问题,“可能会出很大问题”,并主动建议设立新的监管机构,对高能力模型实行许可和测试要求。一个做AI的人,跑到国会去要监管,这在当时相当罕见。
- 2023年11月——OpenAI董事会突然解雇奥特曼,几天后又在员工压力下让他复职。据多家媒体援引知情人士说法,这场风波背后,与公司内部对AI安全进度和商业化速度的分歧有关。
- 2024年5月——OpenAI联合创始人、首席科学家苏茨克维离职,负责对齐(可理解为“让AI按人类意图行事”)的团队负责人莱克也离开。莱克公开表示,在他所在的公司,“安全文化和流程已经让位于闪亮的产品”。超级对齐团队随后解散。
- 2024年9月——美国加州提出的SB 1047法案被州长否决。该法案要求大型AI模型开发者做安全测试。有意思的是,Anthropic一边支持监管框架,一边提出修改意见;OpenAI、谷歌等则明确反对,认为会把公司赶出加州。
- 2025年2月——巴黎AI行动峰会上,六十多个国家签署了一份关于“包容与可持续AI”的宣言,而美国和英国没有签。
- 2025年5月——据媒体报道,OpenAI宣布放弃完全转为营利性公司的计划,继续由非营利实体控制。
- 2025年8月2日——欧盟《人工智能法案》中针对通用AI模型的义务条款正式生效,对模型能力评估、透明度提出要求。
背景补充:为什么“要求减速”的偏偏是造AI的人
圈外人喊“慢一点”没人听,圈内人说才有分量,这里头有几层原因。
第一层是技术层面。能力越强的模型,行为越难预测。现有对齐手段更多是“事后打补丁”,而模型能力是提前几个月甚至几年跑出来的,安全研究跟不上节奏。
第二层是商业层面。几家头部公司正在拼算力、拼参数、拼发布时间,谁先停谁吃亏。所以他们的诉求往往不是“停”,而是“大家一起慢一点,并且由规则说了算”——本质上是希望把竞争关进笼子里。
第三层是监管层面。欧盟法案已经落地,美国各州各自出招,企业与其被动挨管,不如主动参与制定规则。
需要说明的是,“减速”不等于“停机”。多数表态者说的是“有节奏地推进”“先建安全评估再发布”,而不是放弃研发。
各方反应:支持、反对和骑墙派
- 支持方:部分研究者、安全倡议组织和一些立法者认为,前沿模型的风险是系统性的,靠企业自觉不够。
- 反对方:包括一些知名投资人和研究者,认为风险被夸大了,放慢只会让监管更严、创新更慢,甚至让其他国家抢先。2024年SB 1047的争论中,这种声音就很集中。
- 骑墙派:更多公司选择“支持原则、反对具体条款”,公开表态支持安全,私下又游说削弱条文。
当AI巨头开始要求减速后续:接下来看什么
从公开信息看,后续最值得盯的有三点:一是欧盟法案的执行力度,处罚和豁免会怎么落;二是美国联邦层面会不会推出统一规则,避免各州各管一套;三是头部公司自己定的“扩展政策”会不会真的在模型发布前踩一脚刹车。
另外,人才流向也是个观察窗口。安全方向的研究者往哪走、哪些团队被拆,往往比公关稿更能说明问题。
当AI巨头开始要求减速最新消息(本页持续更新)
截至本文整理时,公开可查的信息主要是上述这些:企业高管在听证会和峰会上的表态、安全团队的变动、以及欧盟法案条款的生效。至于网传的“某公司秘密暂停训练”“某实验室内部叫停新模型”等说法,目前没有权威信源证实,看到这类内容建议先打个问号。
如果你搜索“当AI巨头开始要求减速最新消息”,建议优先看三类来源:公司官方声明、监管机构公告、以及主流媒体带信源的报道。
本页持续更新。