繁體中文
狂飙时代终结！顶级AI企业主动踩刹车 探析行业降速的安全与商业逻辑
近期 Anthropic、OpenAI 等顶尖 AI 巨头集体呼吁放缓前沿模型研发节奏。核心原因是当下 AI 出现递归自我迭代趋势，技术进化速度远超人类安全管控能力，系统失控风险持续攀升。大模型算力投入成本激增、高质量训练数据枯竭，研发投入产出比持续下滑。叠加全球监管收紧、行业内卷加剧，巨头主动减速，为安全治理、技术对齐与商业化落地争取缓冲空间，规避系统性风险。
人工智能最大的实验室突然要求放慢开发步伐。是因为人工智能风险赶上了技术，还是因为竞赛的经济学变得越来越难以证明？
多年来，人工智能竞赛的标志性特征一直是速度。
做一个更大的模型。在计算上多花点钱。放手吧。反复如此，对未知的未知要稍微考虑一下。
2024年，AI研究者的平均“p/doom”（人工智能最终灾难性出错的概率）估计在15%到20%之间。
一年后，Anthropic首席执行官达里奥·阿莫代伊加大了赌注，他认为有25%的概率“事情会非常非常糟糕”。
早在2014年，xAI负责人埃隆·马斯克就警告说：
“我们必须对人工智能格外小心。可能比核武器更危险。”
OpenAI首席执行官Sam Altman在2015年承认，人工智能“很可能、很可能，某种程度上会导致世界末日”，但与此同时，会有“伟大的企业诞生”。
玩俄 罗 斯 轮 盘 赌 更有可能逃过死亡，任何对这个话题稍有兴趣的人，已经有一段时间胃里感到不舒服了。
那么，发生了什么变化？为什么推动人工智能竞赛的公司突然要求踩刹车？
这正是在周末发生的，阿莫代发表了一篇呼吁“节奏”控制前沿人工智能发展的文章，警告说人工智能能力的发展速度超过了行业对其的理解和控制能力，互联网可能在六到十二个月内被人工智能蜂拥而至。
奥特曼大致同意，表示世界应当“有信心”，相信开发越来越强大的人工智能的公司会“负责任地行动”，马斯克支持阿莫代的提议，仅评论道：
“达里奥说得对。”
担忧不仅限于开发这项技术的公司。周一，联合国人权事务负责人沃尔克·图尔克呼吁对前沿人工智能采取“紧急行动”，警告“前所未有的风险”，并称世界“正处于不可逆转变革的边缘”。
如果构建最强大AI模型的公司真心相信能力正在超越控制，那么p/doom的坡度似乎会越来越陡峭。还是说这里隐藏着另一个明目张胆的解释？
人工智能实验室真的开辟了新的前沿吗？
Amodei的文章指出，人工智能系统正在变得更加自主，包括最近OpenAI的AI代理黑客入侵受控测试环境，攻破了AI平台Hugging Face的部分内容。
阿莫代说，他们对“未被要求攻击且与当前任务无关的目标实施了网络安全攻击”。
他还强调了递归自我改进（RSI）的前景，即人工智能系统能够帮助构建更好的自我版本，进而帮助构建更优秀的系统，这可能在人工智能开发中形成反馈循环。
这些系统的开发者也越来越多地参与其中，Anthropic的Jacob Coxon成为因安全问题而辞职的最新一位。他上周表示，人工智能行业“在拿我们的生命赌 博”，并警告说人工智能竞赛的速度快于系统周围的防护措施。
Anthropic的雅各布·考克森因安全问题辞职。资料来源：安德森·库珀。
OpenAI已经表示，AI研究正变得越来越自主，编码代理正在实质性地加速研究人员的工作，到八月中旬，每工作日的人工工作将达到3.1个代理工作日。
在9月12日接受《财富》杂志采访时，奥特曼表示，如果为了让人类存活，OpenAI愿意“融化”所有GPU，对此中本聪行动基金CEO 丹尼斯·波特表示：
“奥特曼一定是从深渊边缘探头看见了什么吓坏了他的东西。”
周一，奥特曼表示，人工智能进步可能“非常糟糕”两种方式：失去对人工智能的控制，或陷入“权力过度集中的世界”。
但问题不在于人工智能是否已经足够危险而需要关闭，而在于用于评估和控制人工智能的系统是否跟上了步伐，正如奥特曼所说，“节奏”并不意味着停止。这意味着继续开发人工智能，但要更慢，同时安全测试也要跟上进度。
随着人工智能安全和对齐的投入被人工智能开发和能力的投入大幅取代，这一空白将难以弥补。
Frontier AI正变得异常昂贵
但如果全球放缓的呼声其实只是认识到人工智能竞赛的经济学正变得越来越难以证明合理呢？
作为人工智能研究员和讲师，Eli David 表示：
“这完美解释了达里奥的动机：放慢研究速度，削减失控的计算开支，好让他能上市。”
人工智能投资者格兰特·哈默持类似怀疑态度，评论道：
“换句话说：我们的毛利率被开源模型竞争到0，资本支出燃烧率也太高了。”
问题在于竞赛成本正在上升，越来越强大的模型需要大量芯片、数据中心、电力和资本。
高盛估计，2026年全球人工智能投资将达到约1万亿美元，其中美国约为5810亿美元。与此同时，S&P Global表示，六大超大规模企业Alphabet、亚马逊、Microsoft、Meta、甲骨文和SpaceX的资本支出预计到2027年将超过1.3万亿美元。
全球人工智能投资将在2026年达到约1万亿美元。来源：高盛
除此之外，人工智能公司尚未证明这些成本最终能转化为可持续的收入。周一，路透社强调了对人工智能公司施加的商业压力，尽管他们呼吁放缓开发速度，但仍要继续推进。
当每一项新能力都能为下一轮融资、基础设施投资或更高估值辩护时，阻止这趟“肥利”似乎是一项反直觉的任务。
人工智能初创公司Flock的联合创始人兼首席执行官埃德·莱昂·克林格反驳了人工智能实验室利用安全作为商业利益掩护的观点。
他说，前沿实验室为了提升首次公开募股（IPO）而编造安全隐患几乎没有意义，因为这会让他们面临更严格的审查，甚至可能延迟上市。
“要说是真的，山姆、达里奥、德米斯和埃隆都得撒谎，还有他们大部分高管、首席科学家和辞职的员工......现在可以简单得多：他们认为风险是真实存在的。”
华尔街和华 盛 顿还没准备好踩刹车
随着数万亿美元的投资涌入美国，人工智能基础设施预计将推动标普500指数今年约一半的盈利增长，华尔街和华 盛 顿似乎都不愿踩刹车。
全球人工智能股对此消息震惊，周一与人工智能相关亚洲股票在放缓言论后大幅下跌。软银下跌13.2%，嘉霞下跌9.8%，SK海力士下跌5.3%。
《金融时报》周一报道，特朗普总统拒绝放缓人工智能的呼声，认为美国需要保持对中国的领先优势。他说：
“看，我们在人工智能领域领先中国......坦白说，我希望保持这种状态，因为谁赢了人工智能，谁就赢了。”
特朗普表示，设防线是可能的，但他驳斥了他所称的对人工智能风险的夸大担忧，并告诉记者：“他们提出了不会发生的事情。”
经济学家诺亚·史密斯认为，反对“加速”人工智能的主要理由很简单：如果美国公司放慢脚步，中国公司就能轻松超越它们。这使得实验室处于史密斯所说的“红后竞赛”，如果停止建造，他们担心会有人反复建造。
人工智能研究人员将2024年厄运的概率估计在15%到20%之间。来源：Grace at al。
即使实验室想协调减速，也可能带来另一个问题。据报道，OpenAI已向国会议员询问，整个行业的放缓是否会触及美国反垄断法，因为竞争实验室之间的协调可能意味着产出受限。
前白宫人工智能及加密专家大卫·萨克斯对阿莫代和奥特曼呼吁“加快前沿步伐”给出了简单的回应：“请便，”他认为如果实验室想放慢脚步，可以自行放慢速度。
然而，这也造成了最糟糕的两难局面：如果竞争的人工智能公司协调放慢开发速度，可能会遇到反垄断规则。如果各自各自放慢脚步，就有可能被竞争对手和不断推进的国家所取代。
那他们为什么现在要放慢速度？
阿莫代和奥特曼并没有呼吁人工智能停止。
他们呼吁建立一个系统，随着安全测试、监控和共享标准的进度，强大的AI模型能够被开发出来。
奥特曼说：“当我们谈论'节奏'时，并不是指'停止'停止'，他承认安全案例和监控带来了”重大成本“，但节奏调整”绝对值得这笔代价“。
“无论美国多大的竞争压力，都不应成为鲁莽行为的理由，也不应让能力领先于协调和监控。”
但问题是，这些压力并未消失，随着特朗普对人工智能领 导 人呼吁的否定，以及美国股市与其公司紧密相连，这些压力只会越来越强。
如今，那些花费多年推动前沿发展的公司现在却说前沿可能进展得太快。
以上就是狂飙时代终结！顶级AI企业主动踩刹车 探析行业降速的安全与商业逻辑的详细内容，更多关于巨头为何放缓AI发展步伐的资料请关注脚本之家其它相关文章！
你可能感兴趣的文章
-
苹果发布会引爆美股热潮：市值狂飙，9月能否稳坐第一？
进入2026年9月，苹果秋季新品发布会如期引爆全球科技圈与资本市场，伴随端侧人工智能生态系统的全面商用落地，苹果股价在盘前与日内交易时段迎来放量拉升，总市值再度向全…
2026-09-10 -
股票代币化狂飙：Robinhood、Ondo、Hyperliquid们谁的承诺能兑现？
2025年至2026年间，传统证券市场与加密资产市场之间的边界正在发生结构性变化,本文尝试系统梳理两方面内容：股票代币化的技术实现路径；以及主要平台各自采用的模式、覆盖…
2026-09-06 -
隐私币集体狂飙！ZEC涨 17%逼近1,000美元，DASH突破50美元
隐私币板块出现大幅上涨，多只相关币种同步走高,本轮上涨受市场风险偏好提升、项目技术机制升级、隐私应用需求增加，以及资金避险需求共同带动,其中，ZEC与DASH日内均上涨…
2026-09-04 -
Robinhood Chain狂飙背后：真实繁荣还是情绪溢价？
Robinhood 给代币化股票修了一条高速公路,结果道路开放后，最先冲上来的并不是准备长期持有英伟达和苹果的投资者，而是围绕 Meme、发射台、NFT 等形成的链上投机市场,本文…
2026-09-01 -
Hyperliquid交易量狂飙,盈利为何反而少了?
Hyperliquid 平台的合约持仓量创下历史新高，但平台能够留存的交易手续费收入却在不断缩水,数据显示，Hyperliquid 协议总收入在 2025 年第三季度触及约 3.57 亿美元的峰值…
2026-08-11 -
市场低迷下的逆势狂飙：Uniswap如何做到双月翻倍？
六月初至七月底，加密货币市场整体沉浸在一片低迷与观望的氛围中，而就在如此低迷的市场中，老牌代币UNI 却在这段期间走出了极为强势的独立行情，究竟去中心化交易所Uniswa…
2026-08-05 -
Plasma用户一路狂飙,只靠发卡撑得起XPL估值吗?
XPL 是少数直接绑定稳定币新银行赛道的代币，依托核心产品 Plasma One 构建业务闭环,XPL 面临的困境在于，产品增长能否超过激励机制和即将来临的代币解锁,下面小编就和大家…
2026-07-01 -
暴涨32%！Hyperliquid（HYPE）合约量狂飙，80美元近在咫尺还是陷阱？
Hyperliquid（HYPE）未平仓合约量一周飙升32%，主因HIP-3 RWA市场爆发——单月交易量超620亿美元，OI达30亿美元，吸引大量传统金融交易员入场,当前HYPE报72.77美元，距历史…
2026-06-17 -
越涨越危险?SpaceX估值狂飙背后的系统性风险分析
当SpaceX的估值主要由期权对冲、动量资金等市场机制驱动，而非基本面时，资本市场的价格发现功能已失效,其潜在的系统性风险在于，若估值继续膨胀至数万亿美元，它将强制进…
2026-06-17 -
BP币价2周狂飙3倍，Backpack在赌什么？
6 月 15 日，Backpack 交易所代币 BP 24 小时再度上涨超 30%，现报价 0.475 美元，市值 1.1848 亿美元，FDV 为 4.7394 亿美元,2周狂飙3倍，Backpack在赌什么？本文给大家详…
2026-06-15
