研究人员语出惊人，业内同僚加以论证，多位美国议员回应“AI失控”言论

　　“AI研发人员相信这项技术会在2030年前导致全人类灭亡——这绝非危言耸听的营销噱头。”因不满美国高科技公司的无底线竞争，曾参与GPT-4o等重大项目、后在Anthropic担任研究员的雅各布·考克森日前愤而离职，并发出了有可能是迄今为止最为严峻的AI威胁警告。一时之间，“AI杀死人类”的警告在美国舆论迅速发酵，甚至惊动了华盛顿政坛，国会议员近日密集发声、强调AI风险。

　　美AI巨头被指“拿人命赌博”

　　美联社10日报道称，本月8日，研究员考克森在社交媒体X上抛出惊人言论，称“AI研发人员相信这项技术会在2030年前导致全人类灭亡”。

　　他将矛头对准两家前雇主，称二者罔顾安全，只顾在全球AI竞赛中击败对方、拔得头筹，它们没一个为自身行为负责。他还表示，OpenAI与Anthropic致力于研发“具备自我进化能力的超级智能体”，这是在“拿人类的生命进行赌博”。

　　美国《连线》9日发布了对考克森的一档专访。他表示，尽管AI在技术层面快速发展，但业内迄今尚未解决“AI校准”的核心问题。“AI校准”特指研发人员引导人工智能朝向人类预期的目标、偏好或伦理原则运行;若调校失败，不排除AI会违反人类价值观与安全底线行事。考克森直言，未来的一到两年就是人类命运的“紧要时刻”，甚至是一场“终局之战”，这在AI业内已是共识。

　　考克森对《连线》说，一旦灾难真正降临，人类可能亲眼看见科幻作品中的场景——如AI制造生化威胁或发起网络攻击。他还在社交媒体上警告人们“绝对不要低估AI技术的威力”，称一旦AI脱离人类掌控，有可能入侵任何事物、在一夜之间推翻任何领域。

　　两党议员都提到立法应对风险

　　虽然考克森并非AI威胁问题的首位公开示警者，但这番言论的发布时机却十分敏感。正如《连线》所说，美国硅谷的科技巨头们正面临AI大模型引发的安全问题。就在前不久，OpenAI公司的AI智能体在测试中“自主”攻击了AI开源平台Hugging Face的服务器。令网络安全专家惊愕的是，这起入侵事件由700多个智能体共同参与，且协调性与隐秘性极强。

　　另一方面，考克森的言论也得到了业内同僚的支持与佐证。比如他的前同事、Anthropic公司专门负责“AI校准”课题的研发人员埃文·胡宾格直言，未来十年AI“杀死全人类”的概率超过10%。OpenAI首席科学家雅库布·帕霍茨基近日也发表长文，称AI的研发步调应适时放缓，因为“没有人准备好承担后果”。

　　业内人士的“高危预警”引发了美国国会的高度关切。近日，多名国会民主党议员及独立参议员桑德斯呼吁对AI实施新的限制措施，以伯尼·桑德斯为首的参议员提出立法提案，旨在禁止研发“超级智能体”，同时设立新的联邦机构专门监管该类技术。

　　参议院商务、科学与运输委员会(该委员会也负责监管AI事务——编者注)主席泰德·克鲁兹表示，共和党方面也在着手制定应对AI风险的立法。他说：“我们不能假装这项技术不存在，而是要设置安全护栏。”康涅狄格州民主党参议员克里斯·墨菲转发了考克森的推文，讽刺美国AI公司“盲目进行AI竞赛、争先制造杀人机器”。

　　双重困境，AI竞赛停不下来?

　　在美国舆论看来，应对AI风险的工作势必面临阻力。美国阿克西奥斯新闻网称，几乎所有AI巨头目前都面临着双重困境：研发放缓就要被竞争对手超越，而一味进取又可能面临失控风险。《福布斯》杂志说，即便是出于“复杂的商业动机”，各公司间的竞争也停不下来。就连美国白宫都将“放缓发展”本身视作一种威胁，且十分抵触议员提倡的AI监管。

　　阿克西奥斯形容，美国AI界无论是科研人员还是公司高管，都已深切意识到无法“单方面安全退赛”。因此，他们呼吁各国政府、竞争对手甚至外部力量介入，共同发力对行业施加约束。在技术层面，业内人士则建议OpenAI与Anthropic这样的科技巨头应当率先协同合作，重点限制AI系统的“自我改进”能力。