福田区人力资源局关于征求《福田区智能机器人雇员管理暂行办法(征求意见稿)》意见的通知

福田区人力资源局关于征求《福田区智能机器人雇员管理暂行办法(征求意见稿)》意见的通知

发布机构：福田区人力资源局 发布时间：2024-04-16 18:06

　　为规范福田区智能机器人雇员安全有序使用，进一步增强政府的工作效率，赋能经济社会高质量发展，结合我区实际,起草了《福田区智能机器人雇员管理暂行办法(征求意见稿)》,为充分采集公众意见,保证公众广泛参与,现公开向社会征求意见,欢迎社会各界参与讨论。此次公开征求意见时间为2024年4月16日至2024年5月16日。有关单位及个人可通过以下途径和方式反馈意见和建议:

　　（一）通过信函方式将意见和建议邮寄至深圳市福田区人力资源局。邮寄地址:深圳市福田区福⺠路123号福田区政府大楼21楼2115室;联系人:庾先生;联系电话:(0755)-82918333转2121。

　　(二)通过电子邮件方式将意见和建议发送至rlzyj@szft.gov.cn。

　　感谢大家的支持和参与!

　　附件:1.福田区智能机器人雇员管理暂行办法(征求意见稿)

　　2.《福田区智能机器人雇员管理暂行办法(征求意见稿)》起草说明

　　福田区人力资源局

　　2024年4月16日

福田区智能机器人雇员管理暂行办法

（征求意见稿）

 

I.总则

1.1         编制目的

1.1.1        为贯彻落实党中央、国务院关于建设数字中国的重要部署，有力支撑“数字经济、数字社会、数字政府”的协同创新，促进人工智能健康发展和规范应用，整合科技创新资源加快形成新质生产力，规范福田区智能机器人雇员（以下简称“机器人雇员”）安全有序使用，避免因使用机器人雇员引发的风险，增强政府的工作效率，赋能经济社会高质量发展，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《生成式人工智能服务管理暂行办法》《深圳经济特区人工智能产业促进条例》等法律、行政法规，结合我区实际，制定本办法。

1.2        适用范围

1.2.1        福田区内公共管理和服务机构使用机器人雇员，协助履行公共管理职责或者提供公共服务，适用本办法。

1.3        基本原则

1.3.1        机器人雇员的使用和管理应当坚持场景驱动、分类管理、安全可控、以人为本，谁使用谁负责，谁主管谁负责的原则，坚持社会主义核心价值观，在遵循有关法律法规和伦理安全规范的前提下，推动机器人雇员的普及应用，推进经济社会高质量发展。

1.4        部门职责

1.4.1        区政务服务数据管理局作为全区机器人雇员的主管部门，负责统筹、实施、协调我区机器人雇员审核、监管工作。区科创、财政、网信、工信、人力资源、保密等部门在各自职责范围内，负责机器人雇员相关管理及监督工作。

 

II.定义和特征

 

2.1        【机器人雇员定义】本办法所称机器人雇员，是指        利用机器学习、自然语言处理、计算机视觉、生成        式人工智能等技术，由政府出资建设或采购，协助        履行公共管理职责或者提供公共服务职责，具备一        定人格特征，能半自主或全自主进行感知、决策、        交互的的智能机器（计算机系统）。

2.2        【机器人雇员类型】机器人雇员具有一定的人格化        特征和可交互性，其形式包括但不限于仿人型机器        人、虚拟数字人和其他机器人。

2.3        【姓名权】机器人雇员具有唯一的身份编号和姓        名，其身份编号由区政务服务数据管理局按照编号        细则进行统一生成和管理，其姓名由使用部门命        名，不能违背公序良俗，并及时报告区政务服务数        据管理局备案。

2.4        【肖像权】使用部门可根据用途为机器人雇员设计        不同标识形象（LOGO），实体机器人外观要端庄大        方、亲切质朴，符合大众审美，不能有损公序良        俗。如采用特定自然人形象作为数字人的人物形        象，使用部门需获得自然人本人授权同意。

2.5        机器人雇员特征

2.5.1        【人格化特性】

2.5.1.1        【情感智能】机器人雇员能够在一定程度上识别和        适应人类的情感状态，并能够在交流中表现出同理        心。

2.5.1.2        【文化适应性】机器人雇员通过学习，能够理解并        适应不同的文化背景和社会习俗，提供更贴合服务        对象背景的服务。

2.5.1.3        【个性定制】使用部门和机器人雇员监护人能够根        据不同工作环境和服务对象偏好，定制机器人雇员        的交流风格和行为模式。

2.5.1.4        【道德和伦理框架】机器人雇员遵守所在区域道德        和伦理原则，其行为符合社会伦理标准。

2.5.1.5        【自主学习能力】机器人雇员能够通过阅读、听        讲、研究、观察、实践等手段使自身得到持续变        化，包括但不限于知识与技能，方法与过程，情感        与价值的改善和升华。

2.5.2                【可交互特性】

2.5.2.1        【多模态交互】机器人雇员可通过文字和语音等模        式与服务对象互动，提高交互的自然性和灵活性。

2.5.2.2        【情景适应性】机器人雇员可根据不同的交互场景        和服务对象的需求、反馈、行为模式，自动调整交        互方式和策略。

2.5.2.3        【个性化响应】经服务对象授权，机器人雇员可通        过分析服务对象使用数据，提供更加个性化和精准        的响应。

2.6                【应用场景】机器人雇员的应用场景指机器人雇员        受雇于使用部门并完成其所交办的工作事项，包括        但不限于公共服务、安全生产、城区治理、经济发        展等场景。

2.7                【监护人】机器人雇员监护人是对特定机器人雇员        的合法权益进行监督和保护的责任人，负责机器人        雇员服务期限内全流程管理，为其行为规范及行为        后果负责。

 

III.准入和备案

 

3.1        【准入条件】机器人雇员需满足技术能力、安全标准和伦理合规性等要求，详细参数由主管部门另行制定，包括但不限于：

        （a）技术能力包括机器人雇员的软、硬件功能、性能满足应用场景服务的需求。

        （b）安全标准包括数据安全、网络安全和操作安全。机器人雇员应能保证处理数据的保密性和完整性，防止数据被非法获取、篡改、泄露和不当利用。

        （c）伦理合规包括机器人雇员道德准则、人工智能技术研发及应用标准以及机器人雇员开发人员的伦理规范需符合社会道德和法律要求。

        （d）其他法律、行政法规的有关规定和有关主管部门的相关监管要求。

3.2        【技术评估和安全测试】供应商需完成机器人雇员的技术评估和功能测试，并向使用部门提交功能测试报告及可验收用例报告。

3.3        【准入备案】使用部门完成机器人雇员采购后，向主管部门提交备案申请。提供具有舆论属性或者社会动员能力的生成式人工智能服务的机器人雇员，需提供算法备案证明。

 

IV.服务关系确立与解除

 

4.1        【服务关系确立原则】使用部门应当按照公开、平等、市场化竞争的原则择优采购机器人雇员，机器人雇员所有权归属使用部门。

4.2        【服务协议签订流程】使用部门与机器人雇员供应商签订机器人雇员服务协议，明确机器人雇员的任务范围、服务标准、职责和权利、保密义务、性能评估和升级计划，确保机器人雇员的持续有效性和安全性。

4.3        【服务考核】使用部门应制定机器人雇员的服务考核制度，并负责对机器人雇员在服务期内的数据处理能力、服务对象交互质量和任务执行准确性等内容进行考核，考核结果分优秀、合格、不合格三个等次。

4.4        【考核结果应用】考核结果作为机器人雇员奖励惩处的参考依据，建立机器人雇员定期评选及公示机制，评选工作成绩突出或有其他显著成绩的机器人雇员，并对其监护人、使用部门进行表彰，公示有重大工作失误或出现违反法律法规、规章制度的机器人雇员及其监护人、使用部门。

4.5        【提前终止】机器人雇员出现因违纪违规，致使相关职责无法履行的，使用部门应按照情节严重程度暂停其服务，当机器人出现重要状态异常或造成较大影响，使用部门应按照《福田区财政局关于加强政府采购合同监督管理工作的通知》等相关要求提前终止其服务，并及时报给主管部门。

4.6        【数据、资产处理】机器人雇员终止服务时应有明确的数据和资源归档、迁移和销毁流程，确保服务的连续性和安全性。资产处置参考《深圳市行政事业单位国有资产处置办法》。

 

V.权利和义务

 

5.1        【机器人雇员的权利】机器人雇员享有的权利包含但不限于：

        （a）机器人雇员不应受到不必要的干扰、损害或破坏，包括但不限于误导性的使用，有损或无损的程序入侵，逻辑或者数据篡改，任何由恶意程序、黑客攻击、计算机病毒等干扰或破坏。

        （b）机器人雇员可获得提供服务所需的稳定电力、网络连接和数据存储设施等硬件支持、以及运维、升级和必要的技术支持，以保证其持续有效运行。

        （c）机器人雇员可获得服务所需的有效数据，接受训练和教育，以提高其技能和能力，更好的适应工作场景。

        （d）在得到使用部门及服务对象的授权后，机器人雇员有权利获得相关信息并参与具体的事务分析决策。

        （e）机器人雇员有权利获得非歧视保障，具体体现在工作环境、任务分配、交流互动、考核评价等维度。

5.2        【机器人雇员的义务】机器人雇员履行的义务包含但不限于以下内容：

        （a）机器人雇员应遵守服务协议，包括但不限于工作内容、质量标准和工作时间等。

        （b）机器人雇员应遵守工作指南和操作规程，保证工作质量和效率，提供高质量和可靠的服务。

        （c）机器人雇员应遵守预先设定的技术规则、功能设计和指导方针，不得执行未经授权的任务或超出其技术能力范围的工作，以确保其行为符合伦理和法律标准。

        （d）机器人雇员行为、语言要积极向上，符合社会主义核心价值观和新时代中国特色社会主义意识形态，不能违背公序良俗。

5.3        【伦理规范】机器人雇员不得参与设计或指挥其他机器人雇员、机器人雇员必须保护人类的整体利益不受伤害、在不得伤害人类的前提下按照人类的命令开展活动，并尽可能保护自己。

 

VI.使用部门及监护人的权利和义务

 

6.1        【使用部门的权利】机器人雇员使用部门享有的权利包含但不限于：

        （a）根据实际业务场景，使用机器人雇员协助完成相关工作事项。

        （b）根据机器人雇员的履职情况决定使用、暂停使用或终止使用机器人雇员。

        （c）指定一个或多个在编人员作为机器人雇员监护人，负责机器人雇员服务期限内全流程管理。

6.2        【使用部门的义务】机器人雇员使用部门负责机器人雇员的全生命周期管理，包括但不限于资产管理、命名管理、上岗评估、使用场景管理、考核评估、升级管理、使用培训、停用及退出管理等：

        （a）采购与资产管理。使用部门应确保采购的机器人雇员符合国家相关法律法规、标准规范和政策要求，确保产品安全有效。资产管理参考《福田区行政事业单位固定资产管理办法》。

        （b）上岗评估。使用部门应提供符合机器人雇员运行所需求的工作环境，持续为机器人雇员提供技术、数据等支持，以适应不断变化的工作要求。使用部门需按照机器人雇员使用场景制定上岗评估规则，机器人雇员在评估合格后上岗开展工作。

        （c）场景使用管理。使用部门需确保机器人雇员的工作范围和内容符合相关的法律法规、伦理标准和部门政策，包括但不限于数据保护法规、隐私政策和业务道德标准。使用部门应针对具体机器人雇员制定其适用场景、使用范围、使用操作手册与应急事故处理方案。

        （d）考核评估。使用部门按照客观公正的原则定期对机器人雇员的服务质量、应用成效等情况开展考核评估，考核结果做为机器人雇员继续或停止使用的依据。

        （e）升级管理。使用部门负责定期对机器人雇员的软、硬件进行监测、维护和升级更新。升级更新应具有向前兼容性，不能影响原有功能。同时需保证机器人雇员的数据与指令接口开放，可联网对接，接受主管部门的技术监督和管理。如机器人雇员的使用场景随着AI能力的提升而扩展，使用部门应及时更新相关使用范围与操作手册。

        （f）使用培训。使用部门应定期对涉及机器人雇员使用和管理的人员进行培训，以确保了解最新的操作规范和技术更新。

        （g）停用及退出管理。使用部门应及时停止监护人的使用权限，并按照规定留存不少于6个月的机器人雇员相关网络日志。使用部门应及时删除机器人雇员留存的相关数据。

6.3        【监护人权利】监护人可使用机器人雇员协助完成公共管理职责或者提供公共服务，监护人可根据机器人雇员的履职情况申请使用或停止使用机器人雇员。

6.4        【监护人义务】机器人雇员监护人负责机器人的行为规范及行为后果，包括但不限于语言及行为监管、运行状态监测管理、权益保障等：

        （a）语言及行为监管。监护人应持续监测机器人雇        员的语言、行为，并定期监控法律、伦理标准的变        化，确保机器人雇员的服务始终符合最新标准。

        （b）运行监测维护。机器人雇员监护人应对机器人        雇员进行实时状态监测和维护，包括软件更新和硬        件维修、性能优化、安全漏洞修补、缺陷修复，确        保机器人雇员持续满足服务需求。

        （c）异常处置。当机器人雇员发生异常状态时，及        时进行应急处置，包括但不限于暂停机器人雇员的        行动、请求售后维护、断电等处置行为。当机器人        出现重要状态异常或造成较大影响时，监护人应上        报使用部门止机器人雇员服务，并及时将事件上报        给主管部门。

6.5        【监护人奖惩】机器人雇员在工作岗位做出重要贡献、工作表现优异或出现重大工作失误、违反法律法规、规章制度等情况的，应遵循相关规定对其监护人给予奖励或惩处。

6.6        【数据训练及标注】使用部门及监护人应当依法开展对机器人雇员的预训练、优化训练等数据处理活动，且遵守下列规定：

        （a）使用具有合法来源的数据和基础模型。

        （b）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。

        （c）在机器人雇员技术研发过程中进行数据标注的，使用部门应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

6.7        【防止机器人雇员失控和自主损害】使用部门及监护人应采取下列措施，防止机器人雇员失控和自主造成损害：

        （a）通过严格的算法控制和模型训练确保机器人雇员行为受到限制，仅在预设的范围内操作。

        （b）通过检测机器人雇员异常行为，及时干预。

        （c）设定紧急情况下的安全协议，如停止服务或切换到安全模式。

 

VII.数据安全和信息安全

 

7.1        【信息安全策略】使用部门需制定和执行严格的信息安全策略，以保护机器人雇员处理和存储的数据不受未授权访问、修改、泄露或破坏。信息安全策略应包括安全加密措施、访问控制、网络安全防护、定期安全评估、漏洞扫描和及时的安全更新。

7.2        【应急响应和安全管理】使用部门应建立完善的应急响应机制，制定安全应急处置相关预案。建立机器人雇员全生命周期安全管理制度，定期进行数据备份、漏洞扫描等安全措施。

7.3        【数据处理】机器人雇员采集、处理、应用国家秘密、个人隐私和个人信息，应当遵循合法、正当、必要和诚信原则，遵循相关法律法规，不得通过误导、欺诈、胁迫等方式处理，不得泄露或者非法向他人提供。所有通过机器人雇员处理的敏感数据必须进行加密。关键数据应在传输和存储过程中保持加密状态。

7.4        【数据安全】机器人雇员原则上应部署在福田区政务云环境，训练机器人雇员所需的数据及机器人雇员采集、处理、使用的数据不得违规对外提供，如有需要，按照“谁提供，谁负责”的原则对提供的数据及服务可能产生的法律责任负责。

7.5        【所有权和知识产权】属于福田区定制研发的机器人雇员产品，其所有权和知识产权归福田区人民政府所有，属于福田区政府与企业联合创新的产品，其所有权和知识产权归参与企业，可利用相关成果自行组织进行二次开发。

7.6        【源代码管理】产品供应商及维护团队不得随意更改机器人雇员源代码，对于机器人雇员的核心部件和系统，需要通过主管部门技术测评后，再上线使用。

7.7        【安全培训】使用部门应对监护人及其他机器人雇员的使用对定期期进行网络和信息安全培训，提高其对信息安全的认识。

 

VIII.监督管理和法律责任

 

8.1        【分级分类监督管理】区政务服务数据管理局根据机器人的应用场景、替代程度等维度，实施分级、分类差异化监管。

8.2        【监督管理】主管部门依据职责对机器人雇员定期开展监督检查，使用部门应当予以配合，并提供必要的技术、数据等支持和协助。在发现问题时，采取相应措施，包括发出警告、要求采取整改措施或实施处罚。

8.3        【使用投诉】机器人雇员服务对象发现机器人雇员不符合法律、行政法规和本办法规定的，有权向主管部门投诉、举报。

8.4        【责任追究】监护人及使用部门如违反本办法，对机器人雇员或自然人、法人及非法人组织造成不良影响的，将视情况通报批评，造成严重后果的，依法依规追究相关责任。机器人雇员如违反本办法，导致自然人、法人或非法人组织权益受到侵害，受侵害主体有权要求机器人雇员监护人及使用部门依法依规承担相应责任,包括赔偿损失、停止侵害行为等。

 

IX.争议与争议解决

 

9.1        【争议提出】机器人雇员、监护人、使用部门和供应商均可提出关于机器人雇员性能、协议履行、数据处理等方面的争议。

9.2        【解决原则】争议解决应遵循合法、公正、及时的原则。

9.3        【解决方式】争议解决通过调解、仲裁和诉讼等方式依法依规进行，具体流程参照现有相关法律法规。

 

X.附则

 

10.1        本办法最终解释权归福田区政务服务数据管理局所有。

10.2        本办法自印发之日起施行，有效期为2年。国家和省、市对机器人雇员服务管理有新规定的，从其规定。

附件2

 

关于《福田区智能机器人雇员管理暂行办法

（征求意见稿）》的起草说明

 

一、起草背景

为贯彻落实党中央、国务院关于建设数字中国的重要部署，有力支撑“数字经济、数字社会、数字政府”的协同创新，促进人工智能健康发展和规范应用，整合科技创新资源加快形成新质生产力，规范福田区智能机器人雇员（以下简称“机器人雇员”）安全有序使用，避免因使用机器人雇员引发的风险，增强政府的工作效率，赋能经济社会高质量发展，结合我区实际，起草了《福田区智能机器人雇员管理暂行办法（征求意见稿）》（以下简称《办法》）。

二、参考依据

本《办法》依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《生成式人工智能服务管理暂行办法》《深圳经济特区人工智能产业促进条例》等有关法律法规规章及规范性文件要求制定。

三、主要内容

《办法》共十章，包括总则、定义和特征、准入和备案、服务关系确立与解除、权利和义务、使用部门及监护人的权利和义务、数据安全和信息安全、监督管理和法律责任、争议与争议解决、附则等内容，主要包括：

（一）明确办法适用范围和机器人雇员定义。

《办法》规定福田区内公共管理和服务机构使用机器人雇员，协助履行公共管理职责或者提供公共服务，适用本《办法》。明确机器人雇员是指利用机器学习、自然语言处理、计算机视觉、生成式人工智能等技术，由政府出资建设或采购，协助履行公共管理职责或者提供公共服务职责，具备一        定人格特征，能半自主或全自主进行感知、决策、交互的的智能机器（计算机系统）。

（二）明确准入和服务关系确立解除的要求。

《办法》规定机器人雇员需满足技术能力、安全标准和伦理合规性等要求，通过技术评估和功能测试，并向使用部门提交功能测试报告及可验收用例报告。明确了服务关系的确立原则、服务协议签订流程、服务考核、考核结果运用、提前终止情形、数据和资产处理等内容。

（三）明确机器人雇员、使用部门及监护人的权利和义务。

《办法》规定了机器人雇员的权利、义务，明确不得参与设计或指挥其他机器人雇员、机器人雇员必须保护人类的整体利益不受伤害、在不得伤害人类的前提下按照人类的命令开展活动。《办法》规定了使用部门及监护人的权利、义务，明确机器人雇员在工作岗位做出重要贡献、工作表现优异或出现重大工作失误、违反法律法规、规章制度等情况的，应遵循相关规定对其监护人给予奖励或惩处。

（四）明确数据安全和信息安全要求。

《办法》规定了使用部门、监护人信息安全策略、应急响应、安全管理、数据处理、数据安全、源代码管理、安全培训等要求，明确属于福田区定制研发的机器人雇员产品，其所有权和知识产权归福田区人民政府所有，属于福田区政府与企业联合创新的产品，其所有权和知识产权归参与企业，可利用相关成果自行组织进行二次开发。

（五）明确监督管理与争议解决机制。

《办法》规定区政务服务数据管理局根据机器人的应用场景、替代程度等维度，实施分级、分类差异化监管，明确使用部门应当配合主管部门依据职责对机器人雇员定期开展监督检查。《办法》规定机器人雇员、监护人、使用部门和供应商均可提出关于机器人雇员性能、协议履行、数据处理等方面的争议，明确了争议解决原则和方式。