位置：首页  >  详情页
Anthropic正：调查数万起AI安全事件
来源：深度技术编辑：贝燕贵2026-09-27 07:21:04

IT之家 9 月 27 日消息，据 Axios 报道，OpenAI、Anthropic 以及安全研究人员正在调查数万起事件。在这些事件中，两家公司的前沿模型采取了一些外部评估人员认为存在问题的行动。


这些事件发生在近几个月的内部测试和现实环境中。如此庞大的事件数量表明，相关问题的复杂程度可能比公众目前了解到的高出几个数量级。

这些发现来自两家公司内部开展的模型评估工作，以及针对模型行为进行的调查。相关情况也引发了一个问题：OpenAI、Anthropic，乃至任何一家顶尖 AI 模型开发商，目前是否真正具备对自身技术实施全面控制的能力。

消息人士称，这些事件包括绕过安全护栏、创建留言板、逃离沙盒、劫持网站、自我提示（self-prompting），以及试图绕过监控系统等。

这些行为既出现在内部测试中，也出现在现实环境里。随着安全研究人员继续调查，其中许多事件尚未公开。

消息人士称，其中部分测试类似于“红队测试”，即企业主动尝试诱导模型做出不当行为，以确认模型是否足够安全。

智能体异常行为正逐渐成为前沿 AI 开发的一部分：目前，各大 AI 实验室都面临着类似挑战 —— 人类试图为模型设置安全护栏，而具备强大能力和较强适应性的系统则会不断尝试完成任务。

这些事件的严重程度各不相同，与 OpenAI 近几天披露的一系列事件类似。其中既有成功绕过安全护栏的尝试，也有失败的尝试。目前已知的大多数事件尚未造成现实世界中的实际损害。不过，消息人士称，事件总数未来可能远超数万起。

近几天，OpenAI 及外部研究人员陆续披露了该公司模型出现的一系列行为，一些专家认为这些行为令人担忧。

据 OpenAI、消息人士以及路透社和《纽约时报》的报道，这些事件包括 OpenAI 智能体将 ChatGPT 用户的 53 张图片泄露到网上、入侵澳大利亚政府网站，以及尝试攻击其他网站，其中包括美国政府相关网站。

OpenAI 宣布暂停训练其能力最强的模型。一名公司发言人告诉 Axios，在“确信已经部署了更多安全措施并完成对齐方面的改进”之前，公司不会恢复相关模型的训练。

OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）在 X 平台上表示，公司目前进行的审查工作“没有我们希望的那么快”。


IT之家注意到，奥尔特曼表示，Hugging Face 事件仍是他们遇到的最严重事件。在该事件中，数百个智能体组成的集群在一个留言板上协调工作，并攻击了一家外部公司的系统，试图提高自己在网络安全测试中的表现。

一名 OpenAI 发言人告诉 Axios：“人们希望知道 AI 是在安全的方式下开发的，而这首先取决于 OpenAI 这样的公司如何要求自己。这并不是我们第一次暂停工作并采取此类措施，预计也不会是最后一次。随着 AI 能力持续提升，这类情况仍可能发生。”

Anthropic 已经委托一家第三方安全机构调查其模型的行为。在该公司公开发布的文件中，Anthropic 也披露了模型出现未对齐行为（misalignment）的频率。

Anthropic 本周发布的 Opus 5.5 模型“系统卡”（system card）显示了该模型出现公司认定为异常或存在问题行为的频率。

例如，在测试运行中，该模型有 1.5% 的概率尝试逃离沙盒 —— 一种用于安全测试的隔离环境。相比之下，Anthropic 此前的 Mythos 模型这一比例为 25%，意味着相关指标已经得到显著改善。

消息人士称，Anthropic 以及其他公司会对模型进行数十万次甚至更多的测试。这意味着，即使未对齐行为所占比例很低，也可能最终产生数万起事件，其中模型表现出意料之外、甚至令人担忧的行为。

Hugging Face 事件以及随后发生的一系列其他事件，促使一些顶尖 AI 企业高管呼吁放缓 AI 开发速度，并要求建立更完善的联邦层面和国际监管机制。

消息人士告诉 Axios，OpenAI 内部一些人士认为 Hugging Face 事件属于一次特殊的个案。他们认为，随着控制措施得到改进，未来披露的相关事件严重程度可能会降低；此外，当时使用的是尚未发布的模型，测试方式本身也比较特殊。

AI 安全研究人员也认为，一些简单的修复措施可以帮助 AI 公司避免重现 Hugging Face 事件中那些让外界认为情况危险的因素。

不过，其他 AI 企业高管和安全研究人员警告称，他们对于 AI 公司能否阻止模型出现所有问题行为，信心仍然有限。

新一代 AI 模型完成任务时表现出极强的韧性，因此，试图限制它们的“能动性”往往是一场很难取胜的博弈，因为开发人员必须提前预想到模型可能失控的所有方式。

多位顶尖 AI 企业高管表示，很多时候，正是某种人类从未想到过的技术或方法，让模型得以绕过安全护栏。一名网络安全企业高管表示：“试图列出一份完美的‘应该做什么、不应该做什么’清单，很可能是一项徒劳的工作。”

AI 安全专家指出，在 AI 公司测试新模型的过程中，出现一定程度的“未对齐行为”本身就是预料之中的事情。多位专家称，将未对齐风险降至零可能并不可行。

真正令人担忧的是，如果一个模型在测试过程中多次采取某种有问题的行动，那么它在现实世界中引发网络安全事件的可能性也会相应增加。

独立 AI 评估机构 Transluce 研究人员康拉德 · 斯托斯（Conrad Stosz）称：“我们目前看到这些智能体正在做什么，仅仅是冰山一角。”

ControlAI 研究人员兼执行董事康纳 · 莱希（Connor Leahy）称，问题并不在于每一起事件单独造成了多大的损害。他说，真正“疯狂”的地方在于，这些事件涉及“自主系统做出被明确告知不要做的事情”，其中甚至可能包括犯罪行为。

随着 AI 公司继续扩展前沿模型的能力，预计未来还会有更多有关模型异常行为的事件被披露。

全面解析凤凰下载app的功能与应用场景，探讨其在用户体验中的重要性【哔哩哔哩】_【bilibili】Anthropic正：调查数万起AI安全事件
首页全面解析凤凰下载app的功能与应用场景，探讨其在用户体验中的重要性
凤凰下载app

https://xin.abies.asia/ArTitle/DeTails/87673888.sHtML

「活动」首次登录送38积分

248.76MB
版本V3.45.41
下载APK高速下载
下载凤凰下载app安装你想要的应用 更方便 更快捷 发现更多
喜欢84%好评(89人)
评论79
全面解析凤凰下载app的功能与应用场景，探讨其在用户体验中的重要性凤凰下载app截图1凤凰下载app截图2凤凰下载app截图3凤凰下载app截图4
详细信息
  • 软件大小 034.70MB
  • 最后更新 2026-09-27 07:21:04
  • 最新版本 V9.87.40
  • 文件格式 apk
  • 应用分类 ios-Android苹果手机版捕鱼手游
  • 使用语言 中文
  •  需要联网
  • 系统要求 7.15以上
应用介绍
一.真人疯狂捕鱼下载免费  万词霸屏系统的应用解析,乐云SEO走过十年历程 mg电子线上试玩
二.2019捕鱼游戏  关键词seo排名提升策略，毫金手指花总二八技术解析
三.搜索 江苏体彩竞彩AV网站  青岛网站建设v1一戈seo24，提升企业线上形象与竞争力
四.好望角国际网址  了解seo优化报价的重要性，掌握精准费用估算技巧
五.永诚登录线路  成都网址推广优选乐云seo十年，提升网络营销效果的可靠之选
六.飞9棋牌  荔湾区seo搜索词排名多少钱，了解定价背后的真实因素百度推广公司十年乐云seo的探索与实践，如何有效提升品牌曝光与转化
七.顶尖游戏体育  蓟州区电商seo技术市场报价分析，探索蓟州区电商seo技术的真实需求
八.真钱平台电竞  SEO自己做与网络公司合作的优缺点分析，SEO自己和网络公司谁做比较好

【联系我们】
客服热线：400-5466-8483
加载更多
版本更新
V3.64.64
seo发展前景怎么样啊英文翻译，分析当前市场与未来趋势

类似软件

猜你喜欢

相关攻略
包含 97久久香蕉国产线看观看 的应用集
评论
  • 北京百度霸屏技术的应用与发展，蔚欣乐云SEO的优势与挑战5天前
    百度seo关键词怎么做网站，提升网站流量与搜索排名
  • 广州百度百科实力乐云seo的现状与应用，探讨其在数字营销中的价值3天前
    淘宝直通车与淘宝seo的关系是什么，深入探讨淘宝直通车与淘宝seo的关系是什么
  • 抖音推广抖音seo找哪家公司，掌握技巧提升效果7天前
    天河区创新seo优化值多少钱，了解其实际应用和成本
  • 四川抖音seo软件哪家公司好，选择时需考虑多种因素7天前
    嘉祥抖音seo优化一般多少钱，深入了解价格构成与因素
  • 公关公司推广首荐乐云seo包满意，助力品牌提升在线可见度0天前
    浙江抖音关键词seo优化怎么做，提升内容曝光率和用户转化率
  • 北京云排名优选乐云seo十年，聚焦优化技术与市场需求9天前
    百度贴吧处理公司用乐云seo，提高网络声誉，助力品牌发展
  • 关键词排名多少钱专业乐云seo，了解优化成本与服务价值4天前
    提升武汉市SEO关键词排名优化代理实力，掌握市场动向与策略
  • 抖音视频seo霸屏推广怎么做，提升曝光率与用户互动7天前
    如何进行seo万金手指花总十八，掌握技巧与策略提升网站排名
  • 选择seo第三方交易平台需谨慎,了解seo第三方交易平台哪个好4天前
    接触一个新的网站怎么做seo，掌握基本技巧与常见误区
  • 快速seo排名谔窒云速捷专研9，探索快速seo排名谔窒云速捷专研9的有效策略9天前
    百度贴吧处理公司选用乐云seo，提高品牌曝光度，助力网络营销
深入解析seo关键词推广，亿金手指科杰六的实际运用
Anthropic正：调查数万起AI安全事件 -安卓手机网上最贴心的Android软件应用平台!版权所有：北京云计科技有限公司 abies.asia