今日官方渠道披露行业动态,伦理中的突破：探索道德困境中的创新与挑战

本月官方发布行业新动态,借道「无障碍」，AI助手可能在盯着你,很高兴为您解答这个问题，让我来帮您详细说明一下。预防性维保中心，延长产品使用寿命

宁波市鄞州区、六安市裕安区 ，丹东市元宝区、绵阳市北川羌族自治县、郴州市资兴市、临汾市霍州市、芜湖市鸠江区、徐州市鼓楼区、乐山市马边彝族自治县、淮安市盱眙县、玉溪市峨山彝族自治县、十堰市郧阳区、赣州市宁都县、保山市昌宁县、西宁市城中区、马鞍山市雨山区、三门峡市义马市 、西安市高陵区、景德镇市昌江区、白山市长白朝鲜族自治县、三门峡市湖滨区、东莞市凤岗镇、乐东黎族自治县利国镇、内蒙古兴安盟阿尔山市、忻州市原平市、重庆市渝中区、黄冈市团风县、茂名市电白区、内蒙古包头市东河区

专家技术支援专线,今日行业协会发布最新研究成果,伦理中的突破：探索道德困境中的创新与挑战，很高兴为您解答这个问题，让我来帮您详细说明一下：数字化维保平台，智能管理维护周期

赣州市瑞金市、焦作市解放区 ，大庆市龙凤区、宁夏石嘴山市惠农区、金华市义乌市、广西百色市右江区、榆林市绥德县、朔州市应县、益阳市桃江县、齐齐哈尔市克东县、内蒙古呼和浩特市土默特左旗、大同市平城区、枣庄市滕州市、肇庆市端州区、恩施州宣恩县、天津市红桥区、广元市昭化区 、福州市福清市、潍坊市寒亭区、重庆市垫江县、定西市临洮县、黔西南贞丰县、中山市神湾镇、重庆市九龙坡区、甘孜九龙县、内蒙古通辽市科尔沁左翼中旗、泉州市鲤城区、杭州市建德市、济南市济阳区、阳泉市郊区、内蒙古呼伦贝尔市扎赉诺尔区

全球服务区域: 宜宾市叙州区、甘孜得荣县 、宜昌市枝江市、镇江市丹徒区、本溪市南芬区、潍坊市奎文区、金华市义乌市、大同市浑源县、沈阳市于洪区、长春市双阳区、杭州市下城区、凉山昭觉县、上海市青浦区、吕梁市交口县、临汾市侯马市、昆明市晋宁区、汕头市南澳县 、马鞍山市当涂县、苏州市虎丘区、佳木斯市东风区、铜仁市松桃苗族自治县、陵水黎族自治县三才镇

刚刚科研委员会公布突破成果,本月官方渠道传递新进展,伦理中的突破：探索道德困境中的创新与挑战，很高兴为您解答这个问题，让我来帮您详细说明一下：以旧换新服务中心，全流程指导

全国服务区域: 淄博市高青县、玉溪市江川区 、北京市西城区、广西梧州市龙圩区、南阳市社旗县、眉山市仁寿县、乐东黎族自治县千家镇、赣州市石城县、白城市通榆县、株洲市天元区、文山砚山县、怀化市麻阳苗族自治县、咸阳市渭城区、南充市仪陇县、佛山市高明区、阜新市清河门区、邵阳市新宁县 、黑河市逊克县、扬州市高邮市、中山市神湾镇、大连市金州区、延安市富县、牡丹江市绥芬河市、济南市钢城区、上饶市广信区、儋州市兰洋镇、赣州市于都县、萍乡市芦溪县、内蒙古赤峰市林西县、直辖县仙桃市、丽江市华坪县、鹤岗市兴安区、内蒙古呼和浩特市玉泉区、青岛市崂山区、淮南市潘集区、东方市新龙镇、阿坝藏族羌族自治州松潘县、临沂市兰山区、攀枝花市盐边县、中山市横栏镇、漳州市芗城区

作为国家高新技术企业认证平台:今日国家机构发布最新研究报告,伦理中的突破：探索道德困境中的创新与挑战

在人类社会的不断发展中，伦理道德始终是人们关注的焦点。伦理，作为社会行为的规范和准则，它既是对个体行为的约束，也是对群体和谐的保障。然而，在伦理的范畴中，总会出现一些难以解决的困境，这些困境往往需要我们突破传统的伦理观念，寻求新的解决方案。 首先，我们来看看伦理中的困境。在现实生活中，伦理困境无处不在。比如，在医疗领域，医生在救治患者时，可能会面临生命伦理的抉择，是选择保守治疗以延长患者生命，还是选择积极治疗以减轻患者痛苦？在商业领域，企业为了追求利润最大化，可能会损害消费者权益，甚至破坏环境。在政治领域，政治家在制定政策时，可能会面临公平与效率的权衡。 面对这些伦理困境，我们需要突破传统的伦理观念，寻求新的解决方案。以下是一些可能的突破方向： 1. 伦理多元化：在传统的伦理观念中，往往以某种单一的价值观为主导，如功利主义、康德主义等。然而，在现实生活中，人们的价值观是多元化的。因此，我们需要尊重不同的伦理观念，以多元化的视角来审视伦理困境。 2. 伦理创新：在伦理困境中，我们可以尝试创新伦理观念，如将环境伦理、动物伦理等新兴伦理观念融入传统伦理体系。这样，我们可以在面对伦理困境时，有更多的选择和可能性。 3. 伦理教育：在伦理困境中，人们的道德判断往往受到自身价值观和道德素养的影响。因此，加强伦理教育，提高人们的道德素养，是解决伦理困境的重要途径。 4. 伦理对话：在伦理困境中，不同利益相关者之间的对话至关重要。通过对话，我们可以了解彼此的立场和需求，寻求共识，共同解决伦理困境。 5. 伦理实践：在伦理困境中，我们需要将伦理观念付诸实践。通过实践，我们可以检验伦理观念的有效性，不断调整和完善伦理体系。 然而，在伦理突破的过程中，我们也面临着一些挑战。首先，伦理突破可能会引发道德争议，甚至导致社会分裂。其次，伦理突破需要时间和资源，可能会受到现实条件的限制。最后，伦理突破需要全社会的共同努力，而并非个体所能实现。 总之，在伦理中突破，是我们在面对道德困境时的一种积极探索。通过多元化、创新、教育、对话和实践等途径，我们可以寻求新的伦理解决方案，推动社会和谐与进步。在这个过程中，我们需要保持开放的心态，勇于面对挑战，共同构建一个更加美好的未来。

如何拒绝被监视？2025 年是当之无愧的 Agent 元年。从 Manus 爆火，到各家终端厂商开始推出并迭代端侧 AI 助手，不难发现，厂商也意识到了这背后的机会。与曾经的大语言模型不同，AI Agent 能做的比聊天更多。只需要一句自然语言指令，手机就能自动完成点外卖、发红包等曾经需要多步点击的任务。大部分 AI Agent 能够代管手机，是使用了安卓系统里特殊的无障碍权限。这个本来是设计给视障人士的功能，能够让手机看到屏幕上的一切，同时，还可以代替用户执行点击、滑动等操作。如今，厂商选择用这个权限来实现 AI 功能。但当下，这份便利的背后实际隐藏着风险。在无障碍权限开放的背景下，AI 应用基本 " 全知全能 "，应用或许能够读取到包括支付密码、聊天记录在内的敏感信息，也可能可以随意点击。一个可见的事实是，随着 AI Agent 技术不断迭代，人类只会越来越习惯被硅基助手们包围的日常。因此，当下更应该搞清楚 AI Agent 背后的运行机制，以及未来业界应该选择走向何方，以求在 " 效率 " 和 " 安全 " 之间找到平衡。AI Agent 的 " 翻墙 " 困境手机端侧大模型已然成为 AI 时代下争夺新一代流量入口的关键机遇。 Counterpoint 预测， 2027 年全球 AI 手机渗透率约 40%，出货量有望达 5.22 亿部。2024 年 6 月，美国苹果公司发布端侧大模型 Apple Intelligence，将其新 Siri 定位为手机智能助手。国产手机厂商纷纷跟进，推出了小米 MiLM、vivo 蓝心大模型、OPPO 安第斯、荣耀魔方等端侧大模型。就连 AI 厂商也开始试水端侧业务，如 OpenAI 基于 GPT 大模型推出智能体 Operator，智谱也推出手机智能体 AutoGLM。尽管参与者众，攻下这个 " 兵家必争之地 " 并非没有难点。从人操纵手机，到 AI 操纵手机，最核心的问题是如何跨过 App 间的区隔。在接受《IT 时报》记者采访时，安全团队网络尖刀创始人曲子龙提到，各种 App 之间为了防止互相读取数据，一般会设置隔离系统，只有接入对应的 API（应用程序编程接口）才能调用。因此，要想实现代替人来操作，AI Agent 的第一步，就是要学会 " 翻墙 "。" 目前行业内主要存在两种技术路径。" 一位在头部 AI 公司从事相关工作的技术人员向时代财经介绍，一种是接口模式，手机厂商和应用厂商达成协议，签订意图框架，互通接口来实现操作；另一种，非接口的纯视觉方案，直接调用手机的无障碍权限等系统级权限，不需要经过第三方 App 允许，就可以实现操作。对于厂商来说，选择技术路径，有几个痛点需要考虑：一是 AI Agent 效果如何；二是开发 AI 功能对企业的效益；三则是用户的数据安全及隐私问题。前述技术人员告诉时代财经，接口方案避免了直接扫描用户屏幕，足够安全。但一个显著特点是，它太过依赖生态。各厂商都有自己的标准，导致 App 开发者需要针对不同手机品牌分别做适配，开发成本很高。调用无障碍权限问题也不少：用户操作慢、准确率不高，同时由于需要实时获取屏幕信息，涉及较多隐私，存在一定的安全风险。" 但最大的特点就是开发快、通用性强，不受 APP 限制。"但或许是为了加速、低成本地抢占这一庞大市场，大部分端侧 AI 工具的厂商选择用无障碍权限这一现存的功能模块来实现 AI Agent 的功能。" 用户跨 APP 的数据使用，需要得到双重授权，但无障碍权限一旦被开放，就跨过了第三方 APP 授权的环节。" 前述技术人员则向时代财经表示，这样用户数据如果被滥用，很可能将无法追责。中国社会科学院法学研究所副研究员唐林垚曾提到，实践中，端侧大模型部署环境下存在隐私保护的三大缺陷：知情同意流于形式、多方主体责任划分不清以及用户权利难以实现。今年，关于无障碍权限与智能体应用如何结合，在行业层面已经推出多项规则。但时代财经注意到，这些规则并非强制，企业采纳与否凭自愿。权限滥用或成黑灰产温床开放权限，本来是一件相当审慎的事。但是随着应用形态越来越多变，功能实现的路径越发复杂，用户对自己的个人信息交付更加无感。在北京理工大学智能科技法律研究中心王磊研究员看来，尽管有的软件已设置弹窗提示，但在实际使用中，相关提示常被用户忽视或默认接受，导致合规保障机制作用有限。" 目前，有部分 AI 应用运行中对于相关权利人是否知情和授权，没有互动授权机制。" 王磊表示。而屏幕信息被读取，已经对个人财产安全带来极大损失。新华社在 7 月报道的一起诈骗案件显示，无障碍权限读屏成非法软件诈骗后门。在报道中，诈骗软件通过 " 屏幕共享 " 功能看到事主在手机上的所有操作，甚至看到事主输入的银行卡账号、密码、验证码等，通过 " 远程控制 " 甚至能够直接操控事主的手机，最终完成转账诈骗。而目前，已经有诈骗犯利用用户对 AI 功能的需求，要求用户向其开放无障碍权限。2 月 DeepSeek 刚刚爆火时，湖州警方就公布了一起诱导用户授权无障碍服务权限行骗的案件，诈骗分子仿冒 DeepSeek 官方提示用户 " 需要应用程序更新 "，并在安装所谓 " 新版 DeepSeek" 的过程中诱导用户授予其后台运行和使用无障碍服务的权限。部分 AI 应用在读屏的时候的确会不加分辨地读取所有屏幕上的信息。此前，某社交媒体就有用户表示，在使用 AI 屏幕共享功能辅导孩子写作时，发现经 AI 润色的作文中竟包含其所在小区的信息。该名用户表示，经排查发现，是 AI 读取屏幕信息后，并未区分信息的敏感程度，而是全盘读取，进而将其群名称中的信息直接引用到了作文中。IDC 咨询分析称，2025 年，AI Agent 将迎来规模化落地浪潮，其通过智能化任务处理重构标准化作业流程的潜力备受期待。市场研究机构 Markets and Market 预测，AI Agent 市场规模将从 2024 年的 51 亿美元飙升到 2030 年的 471 亿美元，复合年增长率高达 44.8%。随着市场越来越大，安全，已经成为当前 AI Agent 用户难以忽视的诉求。对外经贸大学、中国人民大学、蚂蚁集团联合发布的《算法与 AI 大模型的用户认知调研报告（2024）》显示，超半数的受访者遇到了数据隐私和安全问题，60.09% 的受访者认为 AI 可能会不受控制地收集和处理个人信息。" 现在行业还在摸索阶段，没有完美方案，但我认为接口方向无疑是更可持续的选择。" 前述技术人员坦言。如何拒绝被监视？面对逐渐扩大的市场和逐渐显形的风险，业界和监管侧应该怎么做？王磊认为，对于 AI 风险，事前防范是目前最需要业界关注的焦点。" 厂商需要提高对用户隐私风险的防范意识。" 前述技术人员向时代财经提到，苹果推出 Apple Intelligence 时，特别强调了隐私保护，甚至专门开发了 " 隐私云计算系统 "。当服务要推向市场时，也可以先采取小范围的测试，以保证功能足够合规、安全。"OpenAI 和 Anthropic 的智能体如果要用截屏功能，也会限定在浏览器或沙盒环境中，不会一开始就大规模推广。" 前述技术人员介绍。在王磊看来，具体而言，企业必须明确界定实现特定功能所必需采集的最小屏幕区域和数据范围。在技术上实现动态、精准的数据收集，避免 " 全景敞视 " 式的过度采集。其次，需建立针对屏幕数据采集的专项数据质量管理规范，明确在采集、传输、存储、处理等环节对数据完整性、准确性和安全性的具体要求。" 没有人比企业更了解功能是如何实现的，同时，企业也是 AI Agent 接触外界的第一个环节。因此，企业内部应该优先做好自查。" 王磊表示。今年 4 月，中国软件行业协会发布《移动互联网服务可访问性安全要求》，要求智能体只有在获得用户明确授权后，方可启用无障碍服务。5 月，中国信通院联合荣耀、OPPO、vivo、小米、华为、理想、快手等公司提出《关于共建终端智能体生态的倡议》，开展打通终端智能体与第三方应用、智能硬件其他智能体交互接口等工作。不过，这些并非强制性约束，是否采用相关标准的选择权在企业。" 对于监管侧，AI 产品屏幕共享涉及海量个人信息和潜在商业秘密，对其监管涉及网信、工信、公安、市场监管等多个部门，但各类主体职能较为分散，容易出现监管盲区和重复监管的情况。" 王磊建议，监管侧可采取敏捷性治理思路，如发布专项合规指引指导产业实践，快速响应技术迭代带来的潜在新型风险，在保障用户权益与促进创新间寻求动态平衡。