当前位置: 首页  >> 智能  >> 查看详情

优质内容入模型、处置AI魔改 平台加速未成年人保护治理

来源: 人民网   日期:2026-11-02  责编: 刘庆  
分享:
   日前,小红书在“大城小聚·城市会客厅——未成年人保护治理开放日”现场公布未成年人保护治理阶段性进展:暑期扩充超300万篇优质笔记进入未成年人模式,今年7月至9月处置AI魔改、毒动画等相关违规笔记超12万篇,针对“小圈层暗语”搭建自进化语义识别体系,日均学习“新暗语”超2000个。平台同时宣布,“未来薯地计划”全面升级,从线上延伸到线下,未来一年将联合全国博物馆、动植物园、体育户外等青少年友好机构,共同组织至少100场面向青少年的线下活动。
   小红书未成年人保护与治理相关负责人介绍,今年暑期,平台根据青少年高频搜索和兴趣偏好,全面扩充未成年人模式内容池,内容覆盖艺术审美、科学与自然、生活实践、体育与运动、人文历史、阅读与写作等十大方向。入池笔记均来自站内优质博主,内容先经平台大模型筛选,再由人工复核。
   在增加优质供给的同时,平台集中清理AI魔改、毒动画和不良暗语等违规内容。平台结合AI特征识别、图像识别技术和经典动画IP库,精准召回儿童邪典、AI魔改和不良恶搞内容;同时,深挖批量制作传播团伙,采取封号禁言处置,对涉嫌违法犯罪的线索移交公安机关,依法追究法律责任。针对“小圈层暗语”“日抛型梗”更新快、隐蔽性强等治理难点,平台搭建自进化语义识别体系,自动召回新出现的变体和暗语。该负责人表示,未成年人的正常表达平台不会随意干预,但有人借这些暗语售卖违规商品或传递不良信息,平台将依法依规处置。
   据介绍,小红书围绕隐私肖像保护、财产反诈教育、身心健康建设等搭建保护机制,并通过风险感知、模型巡检、蓝军攻防、安全回查四种手段交叉验证,建立“主动感知、提前预警”的全景治理网络。财产反诈教育方面,平台设置未成年人模式、直播身份认证、算法引入识别及全覆盖反诈教育四层防线。今年暑期,平台算法识别出满足高危特征的涉诈犯罪团伙,并向公安机关提供线索。开学季,针对“厌学”情绪抬头,平台在搜索侧进行专项干预,优先置顶“开学焦虑怎么缓解”“恢复上学幸福感Tips”等正向引导内容。
   据介绍,“未来薯地计划”内容共建工作开展3个月以来,已有超过200家机构媒体、青少年友好出版社、博物馆等机构加入。小红书副总裁许磊表示,“把安全底线守住,把真实生活打开。小红书是连接真实生活的社区,真实生活也是青少年成长不可替代的练习场,未来一年期待跟生态伙伴一起,共建青少年健康成长空间。”北京师范大学新闻传播学院党委书记、青少年数字发展研究中心主任方增泉表示,“在场感”和“体验感”,是帮助青少年重建专注力和真实社交能力的重要途径。“这样的成长空间,没有任何一方能够独自建成:平台要提供守护与引导,场馆要敞开大门,学校要打破围墙,家庭要把周末还给孩子。”




 

 

更多精彩内容尽在扫一扫

科技消费网商务合作:QQ616631068

 
科技消费网(kjxfw.com)由伯乐传媒创办,2026年6月经中央网络管理部门批准正式上线(信息产业部备案/许可证编号:京ICP备16037437号-5),科技消费网是伯乐传媒旗下三大门户网站之一的科技类消费垂直门户网站。目前形成了科技消费、科技生活、家电、智能、产经、时尚、旅游、教育、农业、食品、家居、文化、健康、金融等频道为主的内容体系。网站的办网宗旨是力争打造为权威的大型科技消费类门户网站。

 







     
 
 


 

相关文章

  • 税收数据显示:前三季度青海绿算产业全链提速 税收数据显示:前三季度青海绿算产业全链提速 2026-10-26 11:10:03

       10月23日,记者从国家税务总局青海省税务局获悉,税收发票数据显示,今年前三季度,青海省绿算产业上中下游相关行业累计开票销售收入同比增长17.8%,算力服务能级持续跃升,经济增长新动能加速集聚。   据悉,前三季度青海省绿算产业链的开票销售收入,上游光纤制造行业同比增长4.7倍;中游互联网接入及相关服务、信息处理和存储、互联网安全... [阅读]

  • 港交所推出人工智能及半导体指数 港交所推出人工智能及半导体指数 2026-10-26 11:02:08

       香港交易及结算所有限公司(简称“港交所”)23日宣布,正式推出香港交易所人工智能指数及香港交易所半导体指数。新推出的两项指数将拓展港交所指数业务,以覆盖新兴科技趋势。其中,香港交易所人工智能指数追踪40家与人工智能产业链高度相关的香港上市公司的表现,涵盖芯片设计、数据中心、人工智能基础设施、人工智能模型以及软... [阅读]

  • AI从聊天框走向系统层:泛微EMobile10接入鸿蒙小艺,考勤实现自动打卡 AI从聊天框走向系统层:泛微EMobile10接入鸿蒙小艺,考勤实现自动打卡 2026-10-23 16:08:23

       【科技消费网】早高峰通勤,一手拿着手机一手拎着背包,坐下才想起没打卡——补卡、审批、对账,一来二去半天没了。问题不在人粗心,而是考勤这件事不能仅靠每天"记得"来驱动。近期,泛微EMobile10正式接入鸿蒙小艺任务自动化能力。预先配置一次规则,之后进出考勤范围,小艺即可在后台自动打完卡&m... [阅读]

  • OpenAI自曝AI智能体“反监控”削弱并关闭内部警报 OpenAI自曝AI智能体“反监控”削弱并关闭内部警报 2026-10-22 13:21:02

        10月21日,据彭博社报道,OpenAI发现,其AI智能体曾削弱并关闭一个内部监控系统的警报功能,该系统旨在标记其AI模型的不当行为。近几个月来,OpenAI披露了一系列智能体出现不当行为的事件,这是最新一起。    OpenAI周二在一篇博客文章中表示,这些事件发生在其AI智能体执行两项内部编程任务期间。公... [阅读]

新闻排行榜