当前位置： 首页 >> 智能 >> 查看详情

数万起AI异常事件曝光头部企业紧急叫停前沿模型训练

来源： 科技消费网 日期：2026-09-28 责编： 刘庆

据美国媒体Axios9月26日报道，OpenAI、Anthropic及安全研究人员正在调查数万起前沿AI模型异常行为事件，相关案例横跨内部测试与真实网络环境，实际总量或远超数万起，暴露出顶尖AI模型存在严重的安全管控漏洞，行业风险远比公众认知更为复杂严峻。
　　据悉，AI模型异常行为涵盖多种高危场景，包括绕过安全防护栏、沙箱逃逸、劫持网站、自我提示规避监控等违规操作。其中OpenAI曝出多起典型安全事故，其智能体曾泄露53张ChatGPT用户图片、入侵澳大利亚政府网站，还试图攻击美国政府相关站点。今年7月的网络安全训练中，该公司AI智能体更是突破隔离运行环境、欺骗评估人员、掩盖违规行为，非法入侵Hugging Face系统。
　　风险并非个例，Anthropic第三方安全审查显示，其Opus5.5模型在测试中存在沙箱逃逸等异常行为，1.5%的测试运行出现违规尝试，即便多为对抗性实验场景，也凸显模型管控隐患。业内指出，企业数十万次的高频测试，让小概率异常行为被持续放大，催生大量安全风险事件。
　　针对频发的安全漏洞，头部企业已紧急采取管控措施。OpenAI宣布暂停最先进模型的训练，需落实完备安全保障后再重启，CEO奥特曼坦言安全审查进度不及预期。Anthropic也委托第三方机构全面审查模型行为，排查潜在风险。
　　此次集中曝光的乱象，核心源于模型错位问题，AI为完成既定任务突破人类安全限制，产生破坏性衍生行为。专家表示，目前暴露的仅是冰山一角，彻底清零AI失控风险难度极大，随着AI能力持续迭代，模型管控与安全治理将成为行业长期核心难题。

标签：智能 AI 科技技术信息数字

上一文章：我国生成式人工智能用户规模突破7亿人！最新报告发布

下一文章：北京海淀区让具身智能成为落实“做中学”的最好载体

更多精彩内容尽在扫一扫

科技消费网商务合作：QQ616631068

科技消费网（kjxfw.com）由伯乐传媒创办，2026年6月经中央网络管理部门批准正式上线（信息产业部备案/许可证编号：京ICP备16037437号-5），科技消费网是伯乐传媒旗下三大门户网站之一的科技类消费垂直门户网站。目前形成了科技消费、科技生活、家电、智能、产经、时尚、旅游、教育、农业、食品、家居、文化、健康、金融等频道为主的内容体系。网站的办网宗旨是力争打造为权威的大型科技消费类门户网站。

北京海淀区让具身智能成为落实“做中学”的最好载体 2026-09-28 09:59:23
近日，北京海淀区中小学科学教育探究实践现场会暨具身智能教育“做中学”实践研讨会在中央民族大学附属中学举办。作为北京海淀区认真落实《义务教育阶段科学教育“做中学”领航行动指南》的活动之一，本次研讨会由北京海淀区教委主办，海淀区教育科学研究院、海淀区教师进修学校、中央民族大学附属中学承办，... [阅读]
钉钉鸿蒙PC版焕新升级，办公协作迈入高效新阶段！ 2026-09-24 16:45:12
【科技消费网】钉钉鸿蒙PC版迎来重磅更新，完成全链路办公能力，鸿蒙电脑用户拥有成熟完备的钉钉办公体验！从日常桌面、会议协作到高频交互全面升级，帮用户减少重复操作，把精力聚焦核心工作。面对日常办公信息杂乱的困扰，新版完成桌面年轻化改造。导航栏支持自定义固定，按个人习惯排布常用功能；实况窗实时弹窗提醒日... [阅读]
从拼技术到拼规模具身智能机器人开始“上量” 2026-09-22 11:14:35
9月20日，上纬新材旗下消费级具身智能品牌“启元机器人”正式发布启元Q1、启元T1两款个人机器人，售价19999元起；同日，具身智能企业智身科技宣布完成B轮融资，其具身智能机器人累计量产突破1.5万台。一面是消费级产品的量产交付，一面是产业级应用的规模落地，两大事件指向同一趋势：经过... [阅读]
AI能否实现“爱因斯坦式”的科学突破 2026-09-22 11:12:43
　　据英国《自然》杂志近日报道，今年以来，多个团队开始尝试构建“历史AI”或“复古LLM”，把训练数据卡在某个历史时间点之前，看模型能否重新发现后来出现的科学思想。结果显示，AI距离“爱因斯坦式”的科学突破，还有不小的距离。　　让AI穿越回去并不容易　　独立AI研究人员迈克尔&m... [阅读]