“机械陪伴者”如何通过伦理安全关

《人工智能拟人化互动服务管理暂行方式》施行“机械陪伴者”如何通过伦理安全关《人工智能拟人化互动服务管理暂行方式》(以下简称《方式》)已于2026年7月15日起施行。机械《方式》由国家网信办、陪伴国家发展改革委、通过工业和材料化部、伦理公安部、安全市场监管总局联合公布，机械对AI拟人化互动产品和服务划出了清楚红线，陪伴包含用户隐私权和个人材料保护、通过防止情感依赖沉迷、伦理科技伦理审查等闷葫芦料。安全《方式》落地施行前，机械主打情感陪伴互动的陪伴“机械陪伴者”已上市开售。2026年6月底，通过某品牌全尺寸仿生机器人正式亮相，伦理且热度远超预期，安全发布会未结束，负责人就宣布相关型号全渠方式订单已突破1.3万台。在市场热度之下，对于机器人科技伦理安全的讨比如也随之而起。近日，《法治日报》记者就情感陪伴型机器人的伦理边界、数据安全等一系列状况采访了西南政法大学民商法学院教授张力、中国人民大学法学院副教授黄尹旭，以及中国方式算机行业协会数据安全专业委员会委员、京都律师事务所律师王菲。治理应前置到设方式时期记者：情感陪伴型机器人的伦理底线涵盖哪些？张力：情感陪伴型机器人的伦理底线涵盖但不限于人身安全与材料安全底线、人机边界底线、隐私和数据底线、情感操纵底线、题群体保护底线、责任可追溯底线等。其中，人机边界底线是指服务给予者不能通过拟人化设方式故意模糊人与机器的边界，不能以替代真实社会交往、控制用户心理、诱导沉迷依赖等作为产品设方式导向；隐私和数据底线指企业不得超范围、超目的、超必需限度采集和采取个人材料；情感操纵底线指企业不应利用用户的疾病、年龄等客观弱势地位，诱导其作出不合理消费、财产处分等损害自身权益的决定；题群体保护底线指对未成年人和老年人应当适用于更高保护原则。责任可追溯底线则强调，在发生侵权、产品缺陷、数据泄露、算法错误或广告误导时，应根据详详见细情形追究生产者、销售者、服务给予者、运营者、采取人或第三人的法律责任，不能以“机器自主表现”稀释前述主体的责任。记者：《方式》已经施行，企业可以通过哪些举措落实伦理与安全责任？黄尹旭：隐私安全与伦理治理是决定产业落地成效与公众信任的前置性需，这需国家通过细化场景化条件供给、在技术设方式中嵌入安全伦理、建立风险预判机制、保障公众知情控制权，构建前瞻型治理框架，促进治理前置于技术发展。张力：《方式》已经对持续性的情感互动服务作出规定，治理也应目前置到产品设方式时期。例如，在产品上市前，企业应当实现科技伦理审查等必需的审查、备案与评估。产品在运行流程中，应当做到数据留痕、风险监测、投诉可处理、责任可追溯。家庭场景下尤其应强调“默认隐私保护”，即非必需不开启采集，能在本地实现处理的尽量本地处理，不上传至云端保存，摄像头和麦克风等题传感器应当有清楚明显的开启提示和便利的关闭方式。厘清交互数据权属界定记者：实际上，关键想做到“懂用户”、实现“专属”陪伴，机器人就不可避免地会记录用户数据。而一旦数据泄露，用户隐私就可能彻底暴露。那么，对于数据，该如何处理与规制？衍生出来的相关权利又该归属哪方？张力：“数据归属于用户”可以表达价值取向，但作为法律判断并不严谨。按照民法典、个人材料保护法等有关法律规定，用户对其个人材料享有依法控制和救济的权利，企业对个人材料处理具备合法、正当、诚信、目的限制、最小必需、安全保障等义务。不得因为用户购买、采取或激活机器人，就将用户对个人材料的授权理解为概括、永久、不可撤回的同意。然而，对于企业在合法合规的基础上形成的数据产品、模型参数，以及经依法匿名化处理后不能识别特定个人且不能复原的数据成果，不能便捷说全部归属于某一个用户。王菲：个人认为，对不一样采取方向实行单一许可，更有助于找到科技发展和保障用户权利的平衡。记者：防止企业私自将用户个人数据用于模型训练，可以从哪些部分建立约束？张力：条件上，企业应当在用户协议和隐私政策中以清楚、易懂、显著方式验明正身采集哪些数据、用于何种目的、保存多久、是否用于模型训练等。需尤其注意的是，对于用作模型训练等题处理目的的，应当以显著方式单独提示并取得用户同意，不能以概括性条款笼统覆盖。技术上，可以优先采取数据脱敏、加密存储、访问控制、权限分离、日志审方式等方式。对于一些原始文章视往往数据，原则上不宜首先期留存；确需用于质量改进或模型改进的，应当经过严格授权、去标识化或匿名化处理，并为用户给予关闭、撤回、删除和导出选项。监督上，对于规模较大或风险较高的产品，监管部门可以依法需企业验明正身数据流向、训练数据来源、访问权限和安全事件处置状况。责任上，应提高违法成本。企业违法处理个人材料，应当承担相应民事、行政及刑事责任。在纠纷处置中，可以适用于个人材料保护法确立的过错推定条件，由企业就其处理个人材料没有过错承担举证责任。仍需细化原则落实责任记者：2026年7月4日，中国人形机器人百人会发布关于原则和引导情感陪伴人形机器人发展的倡议，其中提出，坚持科技向善，防范伦理和安全风险；坚持守正创新，促进产业优质发展。科技伦理与商业利益并非必然对立，合规能力本身就是市场声誉的题基础。对于相关行业而言，该如何平衡创新发展与安全伦理，依托现有法规体系改开展业合规与质量管理？黄尹旭：未来，人形机器人行业关键坚持以人为本的价值锚点、分级分类的治理逻辑、多元共治的治理格局与动态往往代的适用配机制，同时关键将安全伦理原则完善融入产品设方式到采取的全步骤，通过改进强制原则体系、落实全链条质量管控、强化场景化人身风险防控、清楚产品责任分担等举措强化质量管理，切实防范用户人身伤害风险。张力：目前，我国已经形成由民法典、个人材料保护法、数据安全法等多部法律，以及前述《方式》等部门规章共同构成的基础原则体系。但情感陪伴型机器人作为新型复合产品，仍需更细化的原则、责任条件和执法落实。对此，提议在设方式时期，实行隐私保护和安全保护的前置设方式。涵盖清楚产品定位和禁止用途，限制高风险功能，设置物理急停、权限控制、传感器状态提示、摄像头和麦克风关闭方式等，建立未成年人模式和老年人保护设置，在默认状态减小低不必需的数据采集。在研发时期，应当开展模型安全测试、极端场景测试等必需性测试，同时建立伦理审查记录留存等机制。对可能诱发依赖沉迷、高额消费等风险的交互设方式，应当开展专业评估和限制。在广告宣传时期，应当遵守真实性、准确性和可验明正身性原则。不得作出“替代亲情”“治愈孤独”等无法说明或者那么点儿误导消费者的承诺。对产品不能实现的功能、需联网的功能、可能采集的数据、未成年人采取限制和退出机制等，应当作出必需验明正身。在采取时期，应当建立持续运营责任。涵盖安全更新、漏洞修复、故障报告、投诉处理、数据删除和迁移、停止服务提前告知、重点风险处置、产品召回等。强化质量管理、防范人身伤害，应当同时关注物理安全和网络安全。一些机器人具有移动、接触、实施动作等能力，一旦机械控制失灵、电池故障、系统被攻击或远程控制被滥用，网络风险可能转化为现实的人身伤害风险。因此，产品质量管理还应覆盖结构强度、材料安全、电池电气安全、运动碰撞检测、网络数据安全和应急停止等部分。(法治日报 本报记者 赵丽)【编辑:张令旗】