本周监管部门公布行业动态,网络空间治理：警惕低俗内容对青少年的危害

本月官方披露行业研究进展,借道「无障碍」，AI助手可能在盯着你,很高兴为您解答这个问题，让我来帮您详细说明一下。家电故障不用愁，客服热线帮您忙

宁波市镇海区、枣庄市滕州市 ，晋城市沁水县、重庆市大渡口区、内蒙古锡林郭勒盟阿巴嘎旗、保亭黎族苗族自治县保城镇、内蒙古锡林郭勒盟正镶白旗、常德市武陵区、焦作市沁阳市、菏泽市巨野县、佳木斯市向阳区、杭州市江干区、商丘市睢县、洛阳市涧西区、吉林市昌邑区、昭通市绥江县、阜阳市颍东区 、兰州市安宁区、东莞市塘厦镇、普洱市景谷傣族彝族自治县、苏州市常熟市、万宁市长丰镇、达州市宣汉县、蚌埠市固镇县、济南市天桥区、陵水黎族自治县三才镇、广西贵港市覃塘区、内蒙古呼和浩特市赛罕区、九江市共青城市

刚刚科研委员会公布突破成果,本月官方发布研究成果通报,网络空间治理：警惕低俗内容对青少年的危害，很高兴为您解答这个问题，让我来帮您详细说明一下：家电在线客服系统，实时沟通维修需求

重庆市忠县、焦作市解放区 ，文山西畴县、陇南市成县、乐山市沙湾区、广元市旺苍县、内蒙古乌兰察布市卓资县、黔南长顺县、佛山市三水区、赣州市于都县、德州市禹城市、焦作市博爱县、南通市海安市、武汉市黄陂区、朔州市山阴县、成都市邛崃市、杭州市富阳区 、甘孜色达县、吉安市永新县、益阳市沅江市、上饶市广信区、长治市黎城县、定安县富文镇、东莞市企石镇、阿坝藏族羌族自治州小金县、葫芦岛市建昌县、六盘水市盘州市、周口市淮阳区、襄阳市襄城区、三明市明溪县、朝阳市双塔区

全球服务区域: 周口市项城市、万宁市后安镇 、西双版纳勐腊县、萍乡市安源区、三门峡市义马市、安顺市西秀区、玉溪市澄江市、吉林市舒兰市、濮阳市濮阳县、丽水市莲都区、湛江市坡头区、台州市临海市、洛阳市瀍河回族区、广西柳州市三江侗族自治县、屯昌县枫木镇、金华市义乌市、天津市红桥区 、哈尔滨市道里区、昭通市彝良县、北京市门头沟区、莆田市荔城区、汉中市佛坪县

近日评估小组公开关键数据,昨日官方渠道发布新进展,网络空间治理：警惕低俗内容对青少年的危害，很高兴为您解答这个问题，让我来帮您详细说明一下：售后服务统一热线，维修更放心

全国服务区域: 天水市秦州区、广西南宁市邕宁区 、攀枝花市盐边县、西安市阎良区、青岛市胶州市、晋中市榆社县、南通市海安市、洛阳市老城区、延安市富县、周口市西华县、梅州市兴宁市、昭通市镇雄县、甘孜康定市、定安县翰林镇、大兴安岭地区漠河市、肇庆市广宁县、商洛市山阳县 、蚌埠市五河县、澄迈县福山镇、鞍山市立山区、洛阳市偃师区、抚州市资溪县、运城市芮城县、伊春市南岔县、菏泽市成武县、内蒙古兴安盟阿尔山市、万宁市礼纪镇、鹤壁市山城区、汉中市洋县、广西桂林市叠彩区、三亚市吉阳区、开封市杞县、澄迈县瑞溪镇、扬州市仪征市、成都市崇州市、大连市甘井子区、濮阳市范县、海南贵德县、黑河市北安市、黑河市嫩江市、焦作市温县

刚刚科研委员会公布突破成果:本周研究机构披露行业动态,网络空间治理：警惕低俗内容对青少年的危害

随着互联网的普及，网络已成为人们获取信息、娱乐休闲的重要渠道。然而，在互联网的海洋中，也潜藏着诸多不良信息，其中不乏一些低俗、色情的内容。近期，一些关键词如“色情欧美片”、“午夜国产特黄”在网络上频繁出现，引发了社会广泛关注。这些低俗内容的传播，不仅污染了网络环境，更对青少年的身心健康造成了严重危害。 首先，低俗内容的传播严重损害了青少年的身心健康。青少年正处于生理、心理发展的关键时期，好奇心强，辨别能力较弱。当他们接触到这些低俗内容时，很容易受到误导，导致心理扭曲，甚至走上犯罪道路。此外，长期接触这些内容，还会使青少年形成不良价值观，影响其正常的成长和发展。 其次，低俗内容的传播破坏了网络环境的和谐。网络空间是公共空间，每个人都应该遵守社会公德，传播正能量。然而，一些不良分子却利用网络传播低俗内容，扰乱网络秩序，损害了广大网民的合法权益。这不仅影响了网络环境的健康发展，还可能导致社会道德沦丧。 针对这一问题，我国政府高度重视，采取了一系列措施加强网络空间治理。一方面，加大执法力度，严厉打击制作、传播低俗内容的行为。另一方面，加强网络平台的管理，督促其履行主体责任，对违法违规内容进行清理。同时，引导广大网民树立正确的价值观，自觉抵制低俗内容。 为了保护青少年免受低俗内容的影响，我们应从以下几个方面入手： 1. 加强家庭教育，引导青少年树立正确的价值观。家长要关注孩子的成长，教育他们正确认识网络，自觉抵制低俗内容。 2. 提高青少年自身的辨别能力。学校要加强对青少年的网络素养教育，提高他们的自我保护意识。 3. 加强网络平台自律。网络平台要切实履行主体责任，对违法违规内容进行严格审查，确保网络环境的清朗。 4. 完善法律法规，加大对违法行为的惩处力度。对于制作、传播低俗内容的行为，要依法予以严惩。 总之，低俗内容的传播对青少年的危害不容忽视。我们要共同努力，加强网络空间治理，为青少年营造一个健康、清朗的网络环境。同时，青少年自身也要提高警惕，自觉抵制低俗内容，做一个有道德、有修养的新时代青年。

如何拒绝被监视？2025 年是当之无愧的 Agent 元年。从 Manus 爆火，到各家终端厂商开始推出并迭代端侧 AI 助手，不难发现，厂商也意识到了这背后的机会。与曾经的大语言模型不同，AI Agent 能做的比聊天更多。只需要一句自然语言指令，手机就能自动完成点外卖、发红包等曾经需要多步点击的任务。大部分 AI Agent 能够代管手机，是使用了安卓系统里特殊的无障碍权限。这个本来是设计给视障人士的功能，能够让手机看到屏幕上的一切，同时，还可以代替用户执行点击、滑动等操作。如今，厂商选择用这个权限来实现 AI 功能。但当下，这份便利的背后实际隐藏着风险。在无障碍权限开放的背景下，AI 应用基本 " 全知全能 "，应用或许能够读取到包括支付密码、聊天记录在内的敏感信息，也可能可以随意点击。一个可见的事实是，随着 AI Agent 技术不断迭代，人类只会越来越习惯被硅基助手们包围的日常。因此，当下更应该搞清楚 AI Agent 背后的运行机制，以及未来业界应该选择走向何方，以求在 " 效率 " 和 " 安全 " 之间找到平衡。AI Agent 的 " 翻墙 " 困境手机端侧大模型已然成为 AI 时代下争夺新一代流量入口的关键机遇。 Counterpoint 预测， 2027 年全球 AI 手机渗透率约 40%，出货量有望达 5.22 亿部。2024 年 6 月，美国苹果公司发布端侧大模型 Apple Intelligence，将其新 Siri 定位为手机智能助手。国产手机厂商纷纷跟进，推出了小米 MiLM、vivo 蓝心大模型、OPPO 安第斯、荣耀魔方等端侧大模型。就连 AI 厂商也开始试水端侧业务，如 OpenAI 基于 GPT 大模型推出智能体 Operator，智谱也推出手机智能体 AutoGLM。尽管参与者众，攻下这个 " 兵家必争之地 " 并非没有难点。从人操纵手机，到 AI 操纵手机，最核心的问题是如何跨过 App 间的区隔。在接受《IT 时报》记者采访时，安全团队网络尖刀创始人曲子龙提到，各种 App 之间为了防止互相读取数据，一般会设置隔离系统，只有接入对应的 API（应用程序编程接口）才能调用。因此，要想实现代替人来操作，AI Agent 的第一步，就是要学会 " 翻墙 "。" 目前行业内主要存在两种技术路径。" 一位在头部 AI 公司从事相关工作的技术人员向时代财经介绍，一种是接口模式，手机厂商和应用厂商达成协议，签订意图框架，互通接口来实现操作；另一种，非接口的纯视觉方案，直接调用手机的无障碍权限等系统级权限，不需要经过第三方 App 允许，就可以实现操作。对于厂商来说，选择技术路径，有几个痛点需要考虑：一是 AI Agent 效果如何；二是开发 AI 功能对企业的效益；三则是用户的数据安全及隐私问题。前述技术人员告诉时代财经，接口方案避免了直接扫描用户屏幕，足够安全。但一个显著特点是，它太过依赖生态。各厂商都有自己的标准，导致 App 开发者需要针对不同手机品牌分别做适配，开发成本很高。调用无障碍权限问题也不少：用户操作慢、准确率不高，同时由于需要实时获取屏幕信息，涉及较多隐私，存在一定的安全风险。" 但最大的特点就是开发快、通用性强，不受 APP 限制。"但或许是为了加速、低成本地抢占这一庞大市场，大部分端侧 AI 工具的厂商选择用无障碍权限这一现存的功能模块来实现 AI Agent 的功能。" 用户跨 APP 的数据使用，需要得到双重授权，但无障碍权限一旦被开放，就跨过了第三方 APP 授权的环节。" 前述技术人员则向时代财经表示，这样用户数据如果被滥用，很可能将无法追责。中国社会科学院法学研究所副研究员唐林垚曾提到，实践中，端侧大模型部署环境下存在隐私保护的三大缺陷：知情同意流于形式、多方主体责任划分不清以及用户权利难以实现。今年，关于无障碍权限与智能体应用如何结合，在行业层面已经推出多项规则。但时代财经注意到，这些规则并非强制，企业采纳与否凭自愿。权限滥用或成黑灰产温床开放权限，本来是一件相当审慎的事。但是随着应用形态越来越多变，功能实现的路径越发复杂，用户对自己的个人信息交付更加无感。在北京理工大学智能科技法律研究中心王磊研究员看来，尽管有的软件已设置弹窗提示，但在实际使用中，相关提示常被用户忽视或默认接受，导致合规保障机制作用有限。" 目前，有部分 AI 应用运行中对于相关权利人是否知情和授权，没有互动授权机制。" 王磊表示。而屏幕信息被读取，已经对个人财产安全带来极大损失。新华社在 7 月报道的一起诈骗案件显示，无障碍权限读屏成非法软件诈骗后门。在报道中，诈骗软件通过 " 屏幕共享 " 功能看到事主在手机上的所有操作，甚至看到事主输入的银行卡账号、密码、验证码等，通过 " 远程控制 " 甚至能够直接操控事主的手机，最终完成转账诈骗。而目前，已经有诈骗犯利用用户对 AI 功能的需求，要求用户向其开放无障碍权限。2 月 DeepSeek 刚刚爆火时，湖州警方就公布了一起诱导用户授权无障碍服务权限行骗的案件，诈骗分子仿冒 DeepSeek 官方提示用户 " 需要应用程序更新 "，并在安装所谓 " 新版 DeepSeek" 的过程中诱导用户授予其后台运行和使用无障碍服务的权限。部分 AI 应用在读屏的时候的确会不加分辨地读取所有屏幕上的信息。此前，某社交媒体就有用户表示，在使用 AI 屏幕共享功能辅导孩子写作时，发现经 AI 润色的作文中竟包含其所在小区的信息。该名用户表示，经排查发现，是 AI 读取屏幕信息后，并未区分信息的敏感程度，而是全盘读取，进而将其群名称中的信息直接引用到了作文中。IDC 咨询分析称，2025 年，AI Agent 将迎来规模化落地浪潮，其通过智能化任务处理重构标准化作业流程的潜力备受期待。市场研究机构 Markets and Market 预测，AI Agent 市场规模将从 2024 年的 51 亿美元飙升到 2030 年的 471 亿美元，复合年增长率高达 44.8%。随着市场越来越大，安全，已经成为当前 AI Agent 用户难以忽视的诉求。对外经贸大学、中国人民大学、蚂蚁集团联合发布的《算法与 AI 大模型的用户认知调研报告（2024）》显示，超半数的受访者遇到了数据隐私和安全问题，60.09% 的受访者认为 AI 可能会不受控制地收集和处理个人信息。" 现在行业还在摸索阶段，没有完美方案，但我认为接口方向无疑是更可持续的选择。" 前述技术人员坦言。如何拒绝被监视？面对逐渐扩大的市场和逐渐显形的风险，业界和监管侧应该怎么做？王磊认为，对于 AI 风险，事前防范是目前最需要业界关注的焦点。" 厂商需要提高对用户隐私风险的防范意识。" 前述技术人员向时代财经提到，苹果推出 Apple Intelligence 时，特别强调了隐私保护，甚至专门开发了 " 隐私云计算系统 "。当服务要推向市场时，也可以先采取小范围的测试，以保证功能足够合规、安全。"OpenAI 和 Anthropic 的智能体如果要用截屏功能，也会限定在浏览器或沙盒环境中，不会一开始就大规模推广。" 前述技术人员介绍。在王磊看来，具体而言，企业必须明确界定实现特定功能所必需采集的最小屏幕区域和数据范围。在技术上实现动态、精准的数据收集，避免 " 全景敞视 " 式的过度采集。其次，需建立针对屏幕数据采集的专项数据质量管理规范，明确在采集、传输、存储、处理等环节对数据完整性、准确性和安全性的具体要求。" 没有人比企业更了解功能是如何实现的，同时，企业也是 AI Agent 接触外界的第一个环节。因此，企业内部应该优先做好自查。" 王磊表示。今年 4 月，中国软件行业协会发布《移动互联网服务可访问性安全要求》，要求智能体只有在获得用户明确授权后，方可启用无障碍服务。5 月，中国信通院联合荣耀、OPPO、vivo、小米、华为、理想、快手等公司提出《关于共建终端智能体生态的倡议》，开展打通终端智能体与第三方应用、智能硬件其他智能体交互接口等工作。不过，这些并非强制性约束，是否采用相关标准的选择权在企业。" 对于监管侧，AI 产品屏幕共享涉及海量个人信息和潜在商业秘密，对其监管涉及网信、工信、公安、市场监管等多个部门，但各类主体职能较为分散，容易出现监管盲区和重复监管的情况。" 王磊建议，监管侧可采取敏捷性治理思路，如发布专项合规指引指导产业实践，快速响应技术迭代带来的潜在新型风险，在保障用户权益与促进创新间寻求动态平衡。