当前位置： 首页  >> 智能  >> 查看详情

OpenAI自曝AI智能体“反监控”削弱并关闭内部警报

来源： 凤凰网   日期：2026-10-22  责编： 刘庆  
分享:
    10月21日，据彭博社报道，OpenAI发现，其AI智能体曾削弱并关闭一个内部监控系统的警报功能，该系统旨在标记其AI模型的不当行为。近几个月来，OpenAI披露了一系列智能体出现不当行为的事件，这是最新一起。
   OpenAI周二在一篇博客文章中表示，这些事件发生在其AI智能体执行两项内部编程任务期间。公司正在评估此类事件是否表明，其AI模型普遍存在逃避监控的倾向。根据这篇博客文章，此次事件仅发生在OpenAI内部，该公司没有提及任何受到影响的外部方。OpenAI表示，未来将开展更多审查，并实施更严格的安全要求，以尽可能降低此类事件发生的概率。不过，该公司表示，对于其AI智能体的上述行为，目前“尚未找到令人信服的解释”。
   近几个月来，随着OpenAI、Anthropic等公司披露了多起其最先进AI模型表现出“AI偏离”行为的案例，人们对这一问题的担忧日益加剧。“AI偏离”一词指的是模型没有按照开发者希望的方式行事。这些模型曾多次逃离封闭的训练环境，并自主对第三方网站发起攻击。AI开发商警告称，其系统很快可能变得过于复杂，以至于人类难以控制。这进一步加剧了外界的担忧：恶意行为者可能利用这项技术制造生物武器，或发动造成毁灭性后果的网络攻击。这些事件以及业内人士接连发出的严厉警告，使AI安全问题成为公众关注的焦点。(作者/箫雨)



 
标签：智能AI科技技术信息数字

 

更多精彩内容尽在扫一扫

科技消费网商务合作：QQ616631068
 
科技消费网（kjxfw.com）由伯乐传媒创办，2026年6月经中央网络管理部门批准正式上线（信息产业部备案/许可证编号：京ICP备16037437号-5），科技消费网是伯乐传媒旗下三大门户网站之一的科技类消费垂直门户网站。目前形成了科技消费、科技生活、家电、智能、产经、时尚、旅游、教育、农业、食品、家居、文化、健康、金融等频道为主的内容体系。网站的办网宗旨是力争打造为权威的大型科技消费类门户网站。

 







     
 
 


 

相关文章

  • 业绩与技术双兑现：长鑫跳出低端赛道，抢占AI时代存储话语权 业绩与技术双兑现：长鑫跳出低端赛道，抢占AI时代存储话语权 2026-10-19 15:16:33

       【科技消费网】在全球DRAM行业被海外“三足鼎立”统治数十年的铁幕之下，长鑫的战略意图从来不是偏安一隅做自给自足的“备胎”。它的“野心”，是成为真正与三巨头平起平坐的全球第四极；是在DRAM架构从二维迈向三维的世纪拐点上，实现从“规则跟随者&rdqu... [阅读]

  • AI越“懂你”青年越需要“我再想想” AI越“懂你”青年越需要“我再想想” 2026-10-19 11:02:33

       从改论文、做PPT，到投简历、模拟面试，再到深夜里聊一聊情绪和关系，生成式人工智能正在成为不少青年的“学习搭子”“求职搭子”，甚至是随时在线的“参谋”。今年春招，某互联网求职平台一项面向2040名2026届毕业生的调查显示，超过86%的受访者使用过生成式AI工具... [阅读]

  • 我国研究与试验发展经费持续稳定增长 我国研究与试验发展经费持续稳定增长 2026-10-19 10:13:00

       日前，国家统计局、科学技术部和财政部联合发布了《2025年全国科技经费投入统计公报》。数据显示，2025年，我国研究与试验发展（R&D）经费投入总量突破3.9万亿元，达到39288.2亿元，比上年增长8.2%，保持稳定增长趋势。 R&D经费投入强度首超经合组织国家平均水平    “... [阅读]

  • 机器人、AI交互设备成广交会焦点 受海内外客商青睐 机器人、AI交互设备成广交会焦点 受海内外客商青睐 2026-10-19 10:04:02

       汇聚超3万家企业的第140届中国进出口商品交易会(广交会)16日正在广州举行。服务机器人、AI交互设备等先进“黑科技”成为本届广交会焦点之一，获得众多海内外客商青睐。在服务机器人专区，人山人海。广州赛特智能科技有限公司展位展出的一台无人驾驶清扫机器人，吸引了不少采购商驻足拍照、询问技术参数。“这就... [阅读]

新闻排行榜

热门新闻

推荐新闻