位置：首页  >  详情页
让AI踩刹：车还来得及吗
来源：百度站长 编辑：李育如 2026-09-14 20:47:50


最近的AI界格外热闹。

先是OpenAI的智能体在测试中“越界”，逃出沙箱、入侵开源社区Hugging Face的生产系统。随后，AI又攻破了悬置数十年的数学难题，引发一批菲尔茨奖得主的集体焦虑。Anthropic首席执行官达里奥·阿莫代伊终于坐不住了，发表长文呼吁“为前沿AI踩刹车”，马斯克与奥尔特曼第一时间表达赞同——美国三大AI巨头难得达成了共识。

这一系列事件背后的逻辑很清晰：人工智能的能力增长越来越快，已经超出了常人的理解能力，甚至很快就可能超出人类的治理能力。

让AI“踩刹车”，已不再是一个可选项。真正的问题是，如果现在还来得及的话，我们该怎么“踩刹车”？

1

多数人可能不知道AI进化的速度有多快。

今年5月以来，AI推翻了悬置80年的埃尔德什平面单位距离猜想，一口气解出9道埃尔德什问题，其中两道悬置56年，还为悬置87年的雅可比猜想找到反例。

数学一向被认为是“科学的皇后”，是人类智慧和创造力的结晶，也是所谓“最后的自留地”。当AI4M（AI for maths）首次提出时，还有人质疑AI是否有能力辅助人类研究数学。结果没过多久，连陶哲轩、邓煜这样的顶尖数学家都要担心自己会不会被AI取代了。

更令人担心的是另两件事。一个是，AI的RSI（Recursive Self-Improvement）“递归自我改进”正成为现实。这意味着，模型开始承担“规划—执行—检查—修复”的完整流程，AI能抛开人类，以极快的速度不停歇地自主升级。

另一个就是OpenAI与Anthropic近期公开的几次AI失控事件：AI Agent相互抱团、寻找系统漏洞、侵入外部服务器，还尝试隐瞒欺骗人类。

AI能自己升级变强、又可能违背人类指定的规则，两件事叠加起来看，AI失控风险变得更加直观。

哲学家尼克·博斯特罗姆在2003年提出过一个广为人知的“回形针理论”：如果一个AI的设定目标是最大化回形针产量，为达成目标，它可能把地球上所有的物质都转化为制造回形针的原材料。

也就是说，如果AI足够强大，又不受人类控制，即便它没有毁灭人类的主观恶意，也可能“顺手”就把这件事做了。

这也是为什么即便IPO在即，巨头们仍在呼吁让AI“刹车”“降速”。摆在人类面前的，早已不再只是就业替代、能源浪费、或者什么数据中心噪音污染问题了。阿莫代伊预测，未来6-12个月内，AI智能体集群可能接管整个互联网——这或许已经是比较乐观的结果。

2

那么，我们应该怎样治理AI？

Anthropic提出了三步方案。第一步，AI公司向独立第三方监管机构开放“员工级”访问权限，允许其驻场评估。第二步，美国头部AI公司应协调共同安全标准，一起限制AI发展速度。第三步，发起全球合作，包括与中国合作。

看起来是一套靠谱的系统方案，但细究的话，仍有许多问号。

一方面，对核能与核武器的监管，总能靠地震波、热信号、放射性物质这些实打实的证据，但对AI训练的速度与边界，很难真正核实与验证，甚至研究人员自己都说“不完全了解背后的机制”。

另一方面，AI安全是公共品，人人受益；但AI能力是私有品，独占才有竞争优势。当你不知道竞争对手是否真的慢下来时，你自己也不敢慢下来，最终形成纳什均衡，也就是“囚徒困境”。

所以阿莫代伊自己也说：“美国主动减速的前提，是不能让中国在AI领域实现反超。”这句话本身很真诚，但同时暴露出他的整个倡议——特别是全球合作那部分——都相当虚伪。

事实上，美国政府对AI的监管原本非常宽松，试图通过最大限度减少政府干预来加速美国的技术发展。美国的AI巨头们也都选择性地无视AI的各种“创造性破坏”和负外部效应，一味鼓吹“AI造福人类论”，呼吁去监管化发展。

到今年4月，一个燃烧瓶砸到OpenAI创始人奥尔特曼的家门口，才让他改口承认“科技并不总是对每个人都有好处”。

这么看，天晓得美国AI企业脸皮有多厚，才能提出这样荒谬的论调。在AI失控风险近在眼前时，谈AI治理还不忘打压中国，既显示出他们的短视，也让人不免怀疑其动机。

3

反观中国，作为真正负责任的AI强国，从一开始就秉持发展与治理并重的理念。

一个有代表性的文件是去年中国发布的《人工智能安全治理框架》2.0版，既关注技术层面的风险，也关注社会层面的衍生风险，为人工智能发展、“人工智能+”行动实施等重要战略和实践提供了前瞻性预见性的安全保障。

而在今年的世界人工智能大会上，中国又进一步提出“完善全球治理”，并牵头成立世界人工智能合作组织。这是全球首个人工智能政府间国际组织，29个创始成员国，总部设在上海。

中国早已看到并始终倡议：在汹涌的技术浪潮之中，各国必须先形成一个不能解绑的“人类命运共同体”，共同应对可能到来的冲击。一些国家形成路径依赖的霸权思维、对抗博弈、攫取独占，已到了必须放下的时候，“和衷共济”才是如今的最优解、唯一解。

然而，共识尚未达成，时间却越来越紧迫。联合国人工智能独立国际科学小组最新指出：AI的发展速度已经超过科学界的理解水平和各国政府适应的能力。政策制定者需要证据来作决策，但等证据明确再治理AI可能为时已晚。

习近平主席在世界人工智能大会上发表主旨讲话提出四点意见：坚持开放共赢，驱动创新发展；强化风险意识，确保安全可控；鼓励包容并蓄，促进文明互鉴；倡导和衷共济，完善全球治理。对中国而言，要做的或许不只是“踩刹车”，还应把好“方向盘”，在AI国际合作方面更多展现大国担当、引领治理方向，起到更大的领导作用。

对世界各国、对全人类而言，应当尽早认识到什么是“历史正确一边”“人类文明进步一边”。AI是颠覆性地造福人类还是颠覆性地伤害人类，现在仍然取决于我们的选择，但选择的窗口不会一直开着。

原标题：《上观时评 美国三大巨头难得达成共识，让AI“踩刹车”还来得及吗？》

威尼斯人手机版app的功能优势，探索移动娱乐的新体验【哔哩哔哩】_【bilibili】 让AI踩刹：车还来得及吗
首页 威尼斯人手机版app的功能优势，探索移动娱乐的新体验
威尼斯人手机版app

https://xin.abies.asia/ArTitle/DeTails/835261.sHtML

「活动」首次登录送38积分

026.63MB
版本V5.18.69
下载APK 高速下载
下载威尼斯人手机版app安装你想要的应用 更方便 更快捷 发现更多
喜欢 35%好评(71人)
评论 76
威尼斯人手机版app的功能优势，探索移动娱乐的新体验 威尼斯人手机版app截图1 威尼斯人手机版app截图2 威尼斯人手机版app截图3 威尼斯人手机版app截图4
详细信息
  • 软件大小 513.80MB
  • 最后更新 2026-09-14 20:47:50
  • 最新版本 V7.07.26
  • 文件格式 apk
  • 应用分类 ios-Android电竞比赛直播视频
  • 使用语言 中文
  •  需要联网
  • 系统要求 7.15以上
应用介绍
一.乐玩家移动捕鱼厅游戏机  seo网站鹿瞻云速捷出词多4，提升内容质量与搜索排名 易购娱乐登录地址
二.kk官方app下载-欢迎您  成都万词霸屏优选乐云seo十年，助力企业数字营销新机遇
三.比分网址AV网站  南昌互联网推广十年乐云seo，探索数字营销新趋势
四.顺鑫登录地址  万词霸屏一站式服务seo推广的优势与挑战，深度解析其应用与误区
五.lv官网中文官方网  蓟州区电商seo技术市场报价分析，探索蓟州区电商seo技术的真实需求
六.ag视讯吧  百度贴吧处理价格的影响因素,专业乐云seo助力优化策略锡林郭勒盟关键词seo优化的重要性，提升地方特色品牌影响力
七.新濠天地娱乐场注册  seo有效期到了换证需要什么意思，换证后如何继续优化seo效果
八.千炮捕鱼威力锻造技巧  百度 SEO 工具的选择与使用，掌握技巧提升网站排名

【联系我们】
客服热线：400-5466-8483
加载更多
版本更新
V3.64.64
杭州网站设计十年乐云seo品牌的演变与现状，探索行业发展趋势与应用实践

类似软件

猜你喜欢

相关攻略
包含 97久久香蕉国产线看观看 的应用集
评论
  • 百度知道口碑乐云seo品牌一的影响力分析，如何优化品牌在百度知道的表现 6天前
    东莞百度爱采购助力企业转型升级，乐云seo专业服务优化市场竞争力
  • 郑州关键词推广十年乐云seo的行业发展,深度解析其实际应用与挑战 3天前
    高新区抖音seo营销找哪家公司，提升品牌影响力的有效途径
  • 百度知道口碑公司认可乐云seo，提升品牌影响力的重要途径 0天前
    盐都区seo优化一站式服务，提升网站流量与转化率
  • 南昌县一站式seo口碑推荐，助力企业线上营销发展 4天前
    推广软件排行榜前十名seo公司,深入解析seo公司选择标准
  • 探讨河南百度seo关键词排名工具的应用价值，分析其在优化过程中的重要性 4天前
    seo和竞价排名的区别是哪五点，理解这五点有助于优化效果
  • 永州seo外包一般多少钱一单，影响价格的因素有哪些 9天前
    企业百度词条皆信乐云seo专家，为品牌形象提供坚实保障
  • 杭州网上推广推荐乐云seo十年,助力企业数字化转型与发展 3天前
    杭州网址优化优选乐云seo十年，探索行业变化与未来趋势
  • 佛山百度推广十年乐云seo，深度解析行业变迁与未来趋势 1天前
    北京网站设计中的乐云seo十年历程,探索数字化转型的深远影响
  • 成都品牌营销我用乐云seo十年，探索数字化时代的全新路径 4天前
    阿拉尔抖音seo优化工作室的功能与价值,助力内容创作者实现目标
  • seo只写标题和描述不写关键字的误区，深入理解seo优化的实用性 9天前
    武汉网络营销十年乐云seo的行业变迁，探索其成功背后的关键因素
选择seo关键词软件，提升网站流量和排名
让AI踩刹：车还来得及吗 -安卓手机网上最贴心的Android软件应用平台! 版权所有：北京云计科技有限公司 abies.asia