当前位置：首页 > 资讯 > Anthropic CEO呼吁放缓AI研发保安全

Anthropic CEO公开呼吁放缓AI技术迭代节奏 为安全风控预留时间规避失控风险

2026-09-13 19:48:02 | 来源：本站整理 | 作者：佚名
AI巨头Anthropic首席执行官达里奥阿莫迪公开发文,呼吁全行业主动放缓前沿AI模型研发迭代速度,他表示当前 AI 技术增速已超出人类管控与安全适配节奏,放缓开发并非停滞创新,而是为安全风控、合规治理预留时间,规避技术失控风险,该倡议也获得行业多位知名人士响应,

Anthropic CEO公开呼吁放缓AI技术迭代节奏 为安全风控预留时间规避失控风险

9月12日，AI头部企业Anthropic首席执行官达里奥·阿莫迪发布长文公开倡议，呼吁全球人工智能行业主动放缓前沿模型研发迭代速度，以此平衡技术创新与安全管控节奏，解决当前AI发展速度远超人类风控能力的行业困境。

该发声迅速引发全球科技圈热议，获得马斯克、OpenAI高管等行业核心人物的公开认同与支持。

阿莫迪明确强调，放缓AI研发并非叫停技术创新、停止模型训练，而是适度降低前沿技术迭代节奏，为AI安全对齐、漏洞排查、合规核验预留充足时间。

他指出，自2026年夏季以来，AI自主迭代、自我进化的能力大幅提升，部分高级模型已具备辅助研发下一代AI的能力，技术突破速度彻底超出人类理解、监管与掌控范围，潜藏极大的失控风险。

针对当前行业乱象与安全隐患，阿莫迪提出一套三步走行业规范框架，涵盖第三方常态化评估、各国行业协同治理、全球统一风控标准三大核心内容。

同时Anthropic率先落地安全举措，开放企业内部权限，允许第三方评估团队常驻核查模型训练、安全防护流程，主动接受外部监督，为行业树立合规标杆。

此次倡议的核心痛点，直指当下AI行业普遍存在的“重迭代、轻安全”问题。随着大模型能力持续跃升，AI自主改进、智能体秘密协作等失控案例频发，而安全治理、风险防控体系更新滞后，形成明显的技术与风控断层。

业内普遍认为，适度放缓研发节奏，能够有效规避技术滥用、算法失控等潜在风险，推动AI行业从高速扩张转向高质量、安全化、规范化发展。

OpenAI首席执行官Sam Altman表示，今年不会首次出售股份，他表示对AI开发的安全担忧表示认同。

Anthropic首席执行官Dario Amodei周六在一篇博客文章中表示，人工智能开发的速度过快，如果不加以控制，可能会“超越我们理解和控制这些系统的能力”。

他指出，人工智能当前的飞速进步，源于其自身构建下一代人工智能（递归自我提升）的能力。

Amodei还提到了7月的OpenAI拥抱面事件，当时一群代理作为“狂热的集体”，突破测试环境，试图入侵评估他们性能的评分者。

他担心在六到十二个月内，这样的群体可能会吞噬整个互联网。阿莫代并非唯一有这种焦虑的人。

SpaceXAI负责人埃隆·马斯克在X上发帖称“达里奥说得对。”

奥特曼今年不会启动IPO，重点关注安全

OpenAI首席执行官Sam Altman在《财富》杂志周六发布的采访中表示，公司今年不会寻求IPO，因为公司将重点关注安全性以及“行业与政府如何协作”。

奥特曼随后在X上表示，他同意放慢人工智能开发步伐，并设立具有员工权限的独立评估者，这是阿莫代博客中提出的三项提案之一。

阿莫代写道，Anthropic已经单方面承诺采取这一步骤。

Anthropic CEO呼吁放缓AI研发保安全

其次，他提出“民主国家内的前沿人工智能公司协调制定共同安全标准，并限制人工智能不受控制的进展速度。”

第三，他表示美国及其他民主国家应“尽力与威权政府协调，尽可能地认真对待合规验证的挑战。”

阿莫代进一步深入探讨了他的三项提案，尤其是第三项，涉及中国及其防止其获得先进芯片。

他总结说，他规划的道路不会轻松，但人工智能公司“欠人类一个尝试的责任”。

以上就是Anthropic CEO公开呼吁放缓AI技术迭代节奏 为安全风控预留时间规避失控风险的详细内容，更多关于Anthropic CEO呼吁放缓AI研发保安全的资料请关注脚本之家其它相关文章！

免责声明：本文只为提供市场讯息，所有内容及观点仅供参考，不构成投资建议，不代表本站观点和立场。投资者应自行决策与交易，对投资者交易形成的直接或间接损失，作者及本站将不承担任何责任。！
Tag：Anthropic  

你可能感兴趣的文章

币圈快讯

  • 攻击币安的黑客转移1.2亿枚TRX

    2026-10-31 13:04
    10月31日，据OnchainLens监测，攻击币安的黑客利用自动化转账工具将资金反复拆分至多个钱包，后回转至先前的地址，又重新转至至新的目标地址以掩盖资金流向。黑客已将1.2亿枚TRX（约合3878万美元）转移，并进行了进一步的分散转账。

  • Ansem谈比特币短线交易：迟迟不按预期走势发展或是离场信号

    2026-10-31 13:04
    10月31日，知名交易员Ansem发文表示，时间是短周期交易中一个常被低估的风险管理因素。当他入场时预期价格快速波动，便希望市场能在较短时间内朝预期方向运行。如果比特币长时间徘徊在入场价附近、迟迟未按预期走势发展，他就会重新评估交易逻辑。Ansem补充称，短周期交易的优势在于能够更早识别交易是否奏效，因此有时即使止损位尚未触发，他也会因为行情迟迟未按预期展开而提前离场。在判断一笔交易是否仍值得持有时，价格和时间都是重要考量因素。

  • Vitalik发文倡导“数字极简主义”分享社交、手机与网页使用实验

    2026-10-31 12:25
    10月31日，以太坊联合创始人VitalikButerin发表博客《Digitalminimalism》（数字极简主义），提出在物理极简之外，现代人更需要“数字极简主义”。数字极简主义是指有意识地选择使用数字技术的方式，而非被默认算法和界面吸走注意力。Vitalik分享了三项个人实验。首先是社交媒体范畴；不再直接使用X官方界面，改用Firefly等多客户端聚合工具。主要好处是避开“算法推荐”，减少被有毒内容（如极端言论、金融虚无主义）反复推送的情况，心态明显更好。其次是手机数据；连续100天默认开启飞行模式（仅用Wi-Fi），提升位置隐私与心理空间。使用CoMaps等离线地图，并关注本地知识类App的发展。实验成功后继续以飞行模式为默认。最后是网页使用；尽量避免依赖网站UI，改用命令行工具（如AI生成的ENS更新工具、kohaku-cli支付工具）。理由是网页应用每次访问都重新下载并完全信任服务器，隐私差，且常含暗黑模式。主张回归Unix哲学，结合本地AI，让用户用自然语言指挥模块化工具。Vitalik认为，软件质量提升与AI进步正使“数字极简”变得可行且必要，大众可以拥抱本地、离线、可控制的工具。每个人至少尝试减少一种数字干扰，若效果好就继续坚持。

  • 金色午报|10月31日午间重要动态一览

    2026-10-31 12:03
    7:00-12:00关键词：Flap、CLARITY法案、Chainalysis1.Flap遭DNS劫持并被指向未经授权网站；2.日本上市公司Iole将清仓151.21枚比特币；3.美参议员问询Kalshi与Polymarket选举内幕交易；4.参议员Lummis称CLARITY法案本可使币安纳入监管；5.以太坊新提案拟允许钱包永久禁用EIP-7702委托功能；6.Chainalysis：朝鲜相关攻击占今年加密黑客损失近89%；7.OpenAI融资目标骤降100亿美元，估值同步下调至1.25万亿美元。

  • Ondo智能投资组合产品线扩展至Solana

    2026-10-31 11:45
    10月31日，Ondo智能投资组合产品线扩展至Solana，所有七个投资组合现已面向符合条件的投资者（美国境外）开放，可通过主流的Solana钱包和应用进行交易。七个投资组合中有三个是基于贝莱德为Ondo开发的投资组合策略。其余四个是Ondo设计的链上投资组合，围绕市场上受关注的主题建立，涵盖大型科技公司、AI等。
    • 查看更多

最新资讯

更多

区块链百科