您的位置 首页 教育资讯

又一个青少年模式取消了搜索 为什么内容净化这么难做?

  今年年初,中国互联网络信息中心发布的第四十七次《中国互联网络发展状况统计报告》显示,截至2020年12月,我国网民人数已达9.89亿,其中19岁以下的网民占到16.6%。

  今年年初,中国互联网络信息中心发布的第四十七次《中国互联网络发展状况统计报告》显示,截至2020年12月,我国网民人数已达9.89亿,其中19岁以下的网民占到16.6%。

  8月6日,据正义网报道,北京市海淀区人民检察院在履行职责中发现,深圳市腾讯计算机系统有限公司的微信产品“青少年模式”不符合《中华人民共和国未成年人保护法》相关规定,侵犯未成年人合法权益,涉及公共利益,将支持对腾讯提起民事公益诉讼。

  未成年人上网内容净化这一重要而复杂的问题,再次引发关注。

  新修订的《中华人民共和国未成年人保护法》新增了“网络保护专章”,要求各大网络平台“不得向未成年人提供诱导沉迷的产品和服务”,如果发现用户发布或传播有害未成年人身心健康的内容,平台应“立即停止传输相关信息,采取删除、屏蔽、断开链接等处置措施”。

  这也是目前各大平台青少年模式的设计思路。

  砍功能,是青少年模式的主流

又一个青少年模式取消了搜索 为什么内容净化这么难做?

  澎湃新闻以主流视频/短视频平台为例,梳理了青少年模式的功能逻辑。如上图所示,为了防止沉迷,几乎所有平台都设置了时间限制。比如,快手在开启青少年模式的页面上写道:每天使用时长不超过40分钟,晚上10点至早上6点无法使用。

  除了限制时长,青少年模式还砍掉了许多功能,包括不能主动搜索、不能查看发布者账号、不能阅读评论等等,以防未成年用户一层一层往下探索,掉进无穷无尽的内容旋涡。这样既能阻止未成年用户沉迷于应用,又能让平台有效地过滤掉未成年人不宜的内容。

  软色情,漏网之鱼?

  根据腾讯微信8月7日对公益诉讼的回应,接下来的优化方向将主要集中于微信视频号的“青少年模式”上。

  如图一所示,微信视频号曾拥有最宽松的青少年模式,既没有标出时间限制,也没有拒绝搜索评论等功能。不过,

  澎湃新闻是在7月14日收集的数据,截至发稿日,微信视频号的青少年模式已经更新,最新的版本已经砍掉了搜索和查看评论的功能

  此次功能缩水前,澎湃新闻曾用8个关键词搜索了青少年模式下的微信视频号:游戏、两性、酒吧、热舞、比基尼、鬼故事、恐怖,并将头部的搜索结果放入百度AI开放平台进行内容审查测试。

又一个青少年模式取消了搜索 为什么内容净化这么难做?

  青少年模式下的微信视频号会过滤掉很多短视频内容,因此搜索结果往往展示的是名称包含关键词字样的视频号。我们在每个关键词的搜索结果中,收集了前5个视频号的账号首屏短视频截图。首屏一般包含5到6条短视频。

  上图每个小方块表示一条短视频。青少年模式下,一些短视频会被事先过滤,因此不是所有账号的页面首屏都有6条短视频。

  颜色表示这条短视频内容的合规程度。红色代表不合规,黄色是疑似不合规,蓝色则表示合规。如图所示,“比基尼”和“游戏”是两个重灾区,许多软色情内容未被系统识别过滤,包括性暗示文本和性感卡通人物等。

  而恐怖血腥相关的内容,则相对容易被系统过滤。“鬼故事”和“恐怖”关键词相关账号下的短视频内容,要么已经被事先过滤掉了很多,要么就是合规的内容。

  根据腾讯8月7日的回应,将在视频号“青少年模式”的弹窗提示、时间管理、权限管理等功能上继续优化。

  青少年模式的升级难题

  功能删减和内容过滤的初衷固然是好的,但仅凭重重限制,恐怕也会削弱青少年模式的吸引力,从而导致青少年模式难以推广。

  青少年模式应该如何平衡?到底什么样的内容适合青少年?这也是值得被探讨的问题。

  《网络传播杂志》曾刊文指出,青少年模式的内容和吸引力存在矛盾,许多青少年模式的内容偏向幼龄化和少儿化,对于中学生群体来说,这些内容就不合适。

  中国青少年研究中心青少年法律研究所所长郭开元曾撰文写道,70.8%的受访的未成年人家长建议优化青少年模式中的内容池,因为内容池的丰富度不够,未成年人没有足够的动力去使用。短视频平台需要投入更多的资本和人力,去发展适合青少年模式的内容,去考量内容精选、推送模型和执行效果等。同时,文章也建议引入第三方评估机构,对相关算法进行定期或不定期的评估,并由行业协会牵头制定统一标准,确保青少年模式的良性运作。

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注