网信部门通报：部分儿童智能设备存在违法违规内容，督促 AI 服务自查自纠涉未成年人不良内容

感谢本站网友 風見暉一 的线索投递！

本站 12 月 19 日消息，2024 年是《未成年人网络保护条例》的实施之年。网信部门高度重视未成年人网络保护工作。

今天，微信公众号“网信中国”发布了七种网上侵害未成年人合法权益行为的典型案例，本站汇总如下：

1.恶意炮制发布“沙雕动画”短视频。

巡查发现，短视频平台部分账号集纳“沙雕动画”，包含大量血腥、惊悚等负面内容。部分账号恶意改编经典动画，发布“暴力海绵宝宝”“惊悚米奇”等内容。部分短视频内容借动画形式，模拟校园欺凌情节，美化自杀自残行为，严重危害未成年人身心健康。网信部门对相关平台予以行政处罚，关闭一批集纳发布“沙雕动画”的违规账号。

2.隐匿传播涉未成年人软**内容。

专项行动期间发现，有用户在未成年人分享日常生活内容页面的评论区，恶意发布低俗表情包和“找同城”等不良交友信息，企图对未成年人实施性引诱。在一些未成年人集中的频道版块、兴趣圈子等环节，部分用户使用分隔符、替代词等方式，发布传播低俗**内容。网信部门指导网站平台持续加大对各类违规暗语的识别打击力度，深入清理涉未成年人违规外链信息。相关违法线索已转公安机关。

3.利用“网红儿童”违规牟利。

根据网民举报线索，部分账号频繁发布涉未成年人不良导向内容，炮制所谓“网红儿童”，违规引流牟利。包括让未成年人摆拍校园霸凌视频，售卖所谓“小混混鞋”等商品；以未成年人结婚怀孕等为噱头，发布“07 年宝妈在婆家带娃的一天”等内容；让未成年人演绎“做一个绿茶的自我修养”“良心没了可以挣更多”等不良价值观内容，引流售卖商品。网信部门对相关账号依法采取清理粉丝、取消营利权限、关闭等处置措施，坚决打击借“网红儿童”牟利行为。

4.诱导未成年人参与“直播拆卡”。

巡查发现，部分直播间售卖动漫、游戏等卡牌盲盒，鼓动诱导未成年人过度消费。个别商家使用“蜜桃”“欲望”“女神”等暗示词汇，诱导网民购买加热或遇水后显示低俗内容的“温感卡”“水感卡”。有主播在直播时刻意遮挡、快速闪现卡牌封面，违规售卖展示动漫人物敏感部位、挑逗姿势的低质盗版卡牌。网信部门指导直播和电商平台优化未成年人消费风险提示功能，对盲盒类产品强化年龄确认，平台主动开展店铺商家合规指导，累计处置违规直播 1700 余场，下架商品 2.8 万余个。

5.利用新技术新应用生成涉未成年人不良内容。

专项行动期间发现，部分用户利用 AI 绘图技术，恶意将未成年人图片转换成儿童怀孕状态、身穿裸露服装等恶俗低俗漫画。一些“AI 恋人”类 App 存在涉未成年人不良人物角色，通过 AI 对话服务变相传播低俗信息。网信部门依法从严处置处罚问题突出的平台和账号，督促此类 AI 服务平台开展自查自纠，及时下线存在涉黄风险的 AI 人物，健全未成年人网络保护机制。

6.青少年模式下呈现违法不良信息。

巡查发现，个别社交平台开启青少年模式后，在搜索框搜索“正能量”“吃瓜”“福利”等关键词，搜索结果呈现**引流信息，诱导未成年人添加群组、下载 App，传播涉黄涉赌内容。个别平台开启青少年模式后，存在擦边图片或低俗评论内容。网信部门依法从严处置处罚问题突出平台。同时，督促平台积极推进模式建设升级，强化评论、弹幕、留言等互动环节管理，严防信息内容风险。

7.儿童智能设备存在违法违规内容。

根据网民举报线索，部分儿童智能手表通过产品搭载的语音问答服务，传播危害未成年人身心健康的信息。个别学习平板电脑的应用商店提供短视频 App 下载服务，下载后呈现低俗擦边舞蹈视频，评论区等环节存在****网站引流信息。网信部门及时约谈有关儿童智能设备企业，督促全面排查设备自带及第三方 App 内容安全，并对违规企业予以行政处罚。

网信部门表示，将依托“清朗”系列专项行动，聚焦可能影响未成年人身心健康的各类新问题新情况，重拳出击、精准施策，持续净化未成年人上网环境。

相关阅读：

《周鸿祎就 360 儿童手表错误问答致歉：非 AI，已启动整改迭代》