• 文件類型：
• 政策問答平臺：點(diǎn)擊進(jìn)入
• 發(fā) 文 號：
• 信息索取號： /2024-11582750
• 責(zé)任部門：
• 公開類型：主動公開

各街道辦事處、區(qū)政府直屬各單位，市駐區(qū)各單位：

　　《福田區(qū)政務(wù)輔助智能機(jī)器人管理暫行辦法》已經(jīng)區(qū)政府同意，現(xiàn)予印發(fā)，請結(jié)合實(shí)際認(rèn)真貫徹落實(shí)。

　　深圳市福田區(qū)人民政府辦公室

　　2024年9月30日

福田區(qū)政務(wù)輔助智能機(jī)器人管理暫行辦法

　　I.總則

　　1.1 編制目的

　　1.1.1為貫徹落實(shí)中央和省、市關(guān)于人工智能的文件精神，規(guī)范福田區(qū)政務(wù)輔助智能機(jī)器人（以下簡稱“政務(wù)機(jī)器人”）安全有序使用，提高政府工作效率，促進(jìn)高質(zhì)量發(fā)展，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》《生成式人工智能服務(wù)管理暫行辦法》《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》等法律法規(guī)，結(jié)合我區(qū)實(shí)際，制定本辦法。

　　1.2本辦法下列用語的含義：

　　（a）政務(wù)機(jī)器人，是指運(yùn)用人工智能技術(shù)，輔助履行公共管理職責(zé)或者提供公共服務(wù)，具備一定人格特征，能半自主或全自主進(jìn)行感知、決策、交互的智能機(jī)器或計算機(jī)系統(tǒng)。

　　（b）人工智能，是利用計算機(jī)或者其控制的設(shè)備，通過感知環(huán)境、獲取知識、推導(dǎo)演繹等方法，對人類智能的模擬、延伸或者擴(kuò)展。

　　（c）政務(wù)機(jī)器人使用部門（以下簡稱“使用部門”），是指使用政務(wù)機(jī)器人的公共管理和服務(wù)機(jī)構(gòu)。

　　（d）政務(wù)機(jī)器人監(jiān)護(hù)人（以下簡稱“監(jiān)護(hù)人”），是指使用、監(jiān)督和保護(hù)特定政務(wù)機(jī)器人的自然人，為其行為后果負(fù)責(zé)。

　　（e）政務(wù)機(jī)器人供應(yīng)商（以下簡稱“供應(yīng)商”），是使用部門采購的開發(fā)政務(wù)機(jī)器人軟、硬件系統(tǒng)或提供政務(wù)機(jī)器人服務(wù)的法人或者其他組織。

　　（f）政務(wù)機(jī)器人運(yùn)維商（以下簡稱“運(yùn)維商”），是使用部門采購的負(fù)責(zé)政務(wù)機(jī)器人軟、硬件系統(tǒng)運(yùn)維服務(wù)的法人或者其他組織。

　　1.3適用范圍

　　1.3.1福田區(qū)內(nèi)公共管理和服務(wù)機(jī)構(gòu)使用政務(wù)機(jī)器人，在經(jīng)濟(jì)發(fā)展、社會治理、公共服務(wù)等領(lǐng)域，輔助履行公共管理職責(zé)或者提供公共服務(wù)的，適用本辦法。涉及國家秘密或國家有專門規(guī)定的，按有關(guān)規(guī)定執(zhí)行。

　　1.4基本原則

　　1.4.1政務(wù)機(jī)器人的使用和管理應(yīng)當(dāng)遵循“以人為本、應(yīng)用驅(qū)動、科技引領(lǐng)、安全可控”和“誰使用誰負(fù)責(zé)，誰管理誰負(fù)責(zé)”的原則，遵守有關(guān)法律法規(guī)和倫理安全規(guī)范，推動政務(wù)機(jī)器人的普及應(yīng)用。

　　1.5部門職責(zé)

　　1.5.1區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局作為全區(qū)政務(wù)機(jī)器人的統(tǒng)籌單位，負(fù)責(zé)統(tǒng)籌編制規(guī)劃計劃和標(biāo)準(zhǔn)規(guī)范，提供技術(shù)保障。區(qū)人力資源局負(fù)責(zé)研究制訂政務(wù)機(jī)器人能力考核認(rèn)定。區(qū)科技和工業(yè)信息化局負(fù)責(zé)研究制訂政務(wù)機(jī)器人相關(guān)技術(shù)的產(chǎn)業(yè)扶持政策，區(qū)財政局、區(qū)網(wǎng)信辦、區(qū)保密局、福田公安分局等單位在各自職責(zé)范圍內(nèi)，負(fù)責(zé)政務(wù)機(jī)器人相關(guān)管理、監(jiān)督及保障工作。

　　II.應(yīng)用場景

　　2.1【總體定位】政務(wù)機(jī)器人在工作中是輔助性角色，其主要職責(zé)是協(xié)助使用人及使用部門完成其所交辦的工作事項(xiàng)。政務(wù)機(jī)器人原則上不得進(jìn)行獨(dú)立決策，所有決策制定均需在使用人監(jiān)督和指導(dǎo)下進(jìn)行。

　　2.2【基本條件】政務(wù)機(jī)器人需滿足技術(shù)能力、安全標(biāo)準(zhǔn)和倫理合規(guī)性等要求，詳細(xì)參數(shù)遵循國家和省、市相關(guān)標(biāo)準(zhǔn)規(guī)范，包括但不限于：

　　（a）技術(shù)能力包括政務(wù)機(jī)器人的軟件功能、硬件功能和性能滿足應(yīng)用場景服務(wù)的需求。

　　（b）安全標(biāo)準(zhǔn)包括數(shù)據(jù)安全、網(wǎng)絡(luò)安全和操作安全。政務(wù)機(jī)器人應(yīng)保證處理數(shù)據(jù)的保密性和完整性，防止數(shù)據(jù)被非法獲取、篡改、泄露或不當(dāng)利用。

　　（c）倫理道德包括政務(wù)機(jī)器人道德準(zhǔn)則、人工智能技術(shù)研發(fā)及應(yīng)用標(biāo)準(zhǔn)以及政務(wù)機(jī)器人開發(fā)人員的倫理規(guī)范，以上內(nèi)容應(yīng)符合社會道德和法律法規(guī)要求。

　　（d）政務(wù)機(jī)器人向中華人民共和國境內(nèi)公眾提供生成式人工智能服務(wù)的，遵循《生成式人工智能服務(wù)管理暫行辦法》相關(guān)規(guī)定，其中具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　（e）其他法律、行政法規(guī)等有關(guān)規(guī)定和有關(guān)主管部門的監(jiān)管要求。

　　2.3【規(guī)范應(yīng)用】政務(wù)機(jī)器人的應(yīng)用場景包括但不限于經(jīng)濟(jì)發(fā)展領(lǐng)域的統(tǒng)計分析、經(jīng)濟(jì)運(yùn)行等場景，社會治理領(lǐng)域的城市管理、應(yīng)急管理等場景，公共服務(wù)領(lǐng)域的醫(yī)療、教育、養(yǎng)老、文化等場景。

　　2.3.1【違規(guī)行為】政務(wù)機(jī)器人的使用部門、監(jiān)護(hù)人、供應(yīng)商、運(yùn)維商和其他相關(guān)團(tuán)隊(duì)不得使用政務(wù)機(jī)器人從事下列行為：

　　（a）危害國家安全或者社會公共安全等違法犯罪行為。

　　（b）危害使用對象的人身或者財產(chǎn)安全、侵害個人隱私或者個人信息權(quán)益以及其他對使用對象造成權(quán)益侵害的行為。

　　（c）涉及民族、種族、性別、年齡、職業(yè)和宗教信仰歧視的行為。

　　（d）利用算法技術(shù)實(shí)施價格歧視或者消費(fèi)欺詐等侵害消費(fèi)者權(quán)益的行為，實(shí)施壟斷或者不正當(dāng)競爭等行為。

　　（e）利用深度合成技術(shù)或生物特征識別技術(shù)實(shí)施國家禁止的行為。

　　（f）未按照合規(guī)流程處理涉及國家秘密、敏感群體相關(guān)數(shù)據(jù)、個人隱私或者個人信息權(quán)益等可能影響公共服務(wù)的有效性和信息安全的敏感數(shù)據(jù)。

　　（g）其他違反有關(guān)法律法規(guī)和公序良俗的行為。

　　2.4【政務(wù)機(jī)器人等級劃分】根據(jù)政務(wù)機(jī)器人的使用領(lǐng)域和能力等級，分為初級、中級和高級政務(wù)機(jī)器人，具體標(biāo)準(zhǔn)由區(qū)人力資源局另行制定，并定期更新調(diào)整。

　　2.5【政務(wù)機(jī)器人類型】政務(wù)機(jī)器人形式包括但不限于具身機(jī)器人、仿人型機(jī)器人、虛擬數(shù)字人和其他機(jī)器人。

　　2.6【姓名權(quán)】政務(wù)機(jī)器人具有唯一的身份編號和姓名，其身份編號由區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局按照編號細(xì)則統(tǒng)一生成和管理，其姓名由使用部門命名，不能違背公序良俗。

　　2.7【人格權(quán)】使用部門可根據(jù)用途為政務(wù)機(jī)器人設(shè)計不同標(biāo)識形象和聲音，外觀需端莊大方、親切質(zhì)樸，符合大眾審美，不能有損公序良俗，不得侵害他人知識產(chǎn)權(quán)。如采用特定自然人形象作為其人物形象或特定自然人聲音作為其人物聲音，使用部門需獲得自然人本人授權(quán)同意，不得侵害自然人權(quán)益。

　　2.8政務(wù)機(jī)器人特征

　　2.8.1【人格化特性】

　　2.8.1.1【情感智能】政務(wù)機(jī)器人可在一定程度上感知和分析人類的情感表達(dá)，包括語氣、表情和語言中的情感傾向，并根據(jù)所感知到的情感做出適當(dāng)?shù)姆答仭?/p>

　　2.8.1.2【文化適應(yīng)性】政務(wù)機(jī)器人通過學(xué)習(xí)，可理解并適應(yīng)不同的文化背景和社會習(xí)俗，提供更貼合服務(wù)對象背景的服務(wù)。

　　2.8.1.3【個性定制】使用部門和監(jiān)護(hù)人可根據(jù)不同工作環(huán)境和服務(wù)對象偏好，定制政務(wù)機(jī)器人的交流風(fēng)格和行為模式。

　　2.8.1.4【道德和倫理框架】政務(wù)機(jī)器人遵守所在區(qū)域道德和倫理原則，其行為符合社會倫理標(biāo)準(zhǔn)。

　　2.8.1.5【自主學(xué)習(xí)】政務(wù)機(jī)器人可在監(jiān)護(hù)人管理監(jiān)督下，通過對數(shù)據(jù)的分析處理及與服務(wù)對象互動使自身得到持續(xù)變化，包括但不限于知識與技能，方法與過程，情感與價值的改善和升華。

　　2.8.2【可交互特性】

　　2.8.2.1【多模態(tài)交互】政務(wù)機(jī)器人可通過文字、語音、圖像、手勢、視頻等模式與服務(wù)對象互動，并根據(jù)使用對象的選擇和場景的需要，靈活切換和綜合運(yùn)用不同的交互模式，提高交互的自然性和靈活性。

　　2.8.2.2【情景適應(yīng)性】政務(wù)機(jī)器人可根據(jù)不同的交互場景和服務(wù)對象的需求、反饋、行為模式，自動調(diào)整交互方式和策略。

　　2.8.2.3【個性化響應(yīng)】經(jīng)服務(wù)對象授權(quán)，政務(wù)機(jī)器人可通過分析服務(wù)對象使用數(shù)據(jù)，提供更加個性化和精準(zhǔn)的響應(yīng)。

　　III.權(quán)利和義務(wù)

　　3.1 【政務(wù)機(jī)器人的權(quán)利】使用部門采購時，應(yīng)確保供應(yīng)商提供的政務(wù)機(jī)器人應(yīng)予以下保障條件：

　　（a）政務(wù)機(jī)器人不應(yīng)受到不必要的干擾、損害或破壞，包括但不限于誤導(dǎo)性的使用，有損或無損的程序入侵，邏輯或者數(shù)據(jù)篡改，任何由惡意程序、黑客攻擊、計算機(jī)病毒造成的干擾或破壞。

　　（b）政務(wù)機(jī)器人可獲得提供服務(wù)所需的穩(wěn)定電力、網(wǎng)絡(luò)連接、數(shù)據(jù)存儲設(shè)施和訓(xùn)練算力等硬件支持以及運(yùn)維、升級和必要的技術(shù)支持，以保證其持續(xù)有效運(yùn)行。

　　（c）政務(wù)機(jī)器人可獲得服務(wù)所需的有效數(shù)據(jù)，接受訓(xùn)練和教育，以提高其技能和能力，更好的適應(yīng)工作場景。

　　（d）在得到使用部門及服務(wù)對象的授權(quán)后，政務(wù)機(jī)器人有權(quán)利獲得相關(guān)信息并進(jìn)行分析。

　　（e）政務(wù)機(jī)器人有權(quán)利獲得非歧視保障，具體體現(xiàn)在工作環(huán)境、任務(wù)分配、交流互動、考核評價等維度。

　　3.2【政務(wù)機(jī)器人的義務(wù)】使用部門采購時，應(yīng)確保供應(yīng)商提供的政務(wù)機(jī)器人符合以下要求：

　　（a）政務(wù)機(jī)器人應(yīng)遵守工作指南和操作規(guī)程等服務(wù)要求，包括但不限于工作內(nèi)容、質(zhì)量標(biāo)準(zhǔn)和工作時間等，保證工作質(zhì)量和效率，提供高質(zhì)量和可靠的服務(wù)。

　　（b）政務(wù)機(jī)器人應(yīng)遵守預(yù)先設(shè)定的技術(shù)規(guī)則、功能設(shè)計和指導(dǎo)方針，經(jīng)監(jiān)護(hù)人或使用部門授權(quán)后協(xié)助監(jiān)護(hù)人或使用部門開展工作，不得執(zhí)行未經(jīng)授權(quán)的任務(wù)或超出其技術(shù)能力范圍的工作，以確保其行為符合法律法規(guī)和倫理安全規(guī)范要求。

　　（c）政務(wù)機(jī)器人行為、語言要積極向上，符合社會主義核心價值觀和新時代中國特色社會主義意識形態(tài)，不能違背公序良俗。

　　3.3【使用部門的權(quán)利】使用部門享有的權(quán)利包含但不限于：

　　（a）根據(jù)實(shí)際業(yè)務(wù)場景，使用政務(wù)機(jī)器人協(xié)助完成相關(guān)工作事項(xiàng)。

　　（b）根據(jù)政務(wù)機(jī)器人的履職情況決定使用、暫停使用或終止使用政務(wù)機(jī)器人。

　　3.4【使用部門的義務(wù)】使用部門應(yīng)履行的義務(wù)包括但不限于以下內(nèi)容:

　　（a）負(fù)責(zé)政務(wù)機(jī)器人的全生命周期管理，包括但不限于資產(chǎn)管理、上崗評估、使用場景管理、考核評估、升級管理、使用培訓(xùn)、停用及退出管理等。供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)按要求配合使用部門開展全生命周期管理。

　　（b）指定一個或多個在編人員作為監(jiān)護(hù)人，負(fù)責(zé)政務(wù)機(jī)器人服務(wù)期限內(nèi)全流程管理。

　　3.5【監(jiān)護(hù)人權(quán)利】監(jiān)護(hù)人可使用政務(wù)機(jī)器人協(xié)助履行公共管理職責(zé)或者提供公共服務(wù)，監(jiān)護(hù)人可根據(jù)政務(wù)機(jī)器人的履職情況申請使用或停止使用政務(wù)機(jī)器人。

　　3.6【監(jiān)護(hù)人義務(wù)】監(jiān)護(hù)人負(fù)責(zé)機(jī)器人的行為規(guī)范及行為后果，包括但不限于以下內(nèi)容：

　　（a）語言及行為監(jiān)管。監(jiān)護(hù)人應(yīng)持續(xù)監(jiān)測政務(wù)機(jī)器人的語言、行為，并定期跟蹤法律、倫理標(biāo)準(zhǔn)的變化，確保政務(wù)機(jī)器人的服務(wù)始終符合最新標(biāo)準(zhǔn)。

　　（b）運(yùn)行監(jiān)測維護(hù)。監(jiān)護(hù)人應(yīng)對政務(wù)機(jī)器人進(jìn)行實(shí)時狀態(tài)監(jiān)測和維護(hù)，包括軟件更新和硬件維修、性能優(yōu)化、安全漏洞修補(bǔ)、缺陷修復(fù)，確保政務(wù)機(jī)器人持續(xù)滿足服務(wù)需求。

　　（c）異常處置。當(dāng)政務(wù)機(jī)器人發(fā)生異常狀態(tài)時，及時進(jìn)行應(yīng)急處置及人工干預(yù)，包括但不限于暫停政務(wù)機(jī)器人的行動、請求售后維護(hù)、斷電等處置行為。

　　IV.服務(wù)關(guān)系確立

　　4.1【采購準(zhǔn)備】使用部門采購前應(yīng)完成需求梳理、立項(xiàng)申報環(huán)節(jié)，流程如下：

　　（a）使用部門根據(jù)實(shí)際業(yè)務(wù)需求、業(yè)務(wù)流程、人力資源狀況及市場調(diào)研梳理政務(wù)機(jī)器人的項(xiàng)目需求申報材料，包括但不限于軟、硬件性能指標(biāo)、算力需求、采購金額以及語言支持、外形尺寸等特殊要求。

　　（b）政務(wù)機(jī)器人價格制定可參考從事該崗位人力投入費(fèi)用、市場競爭、政務(wù)機(jī)器人軟硬件功能取費(fèi)標(biāo)準(zhǔn)、場景應(yīng)用及事件處理次數(shù)、模型調(diào)用次數(shù)等方式。

　　（c）使用部門通過政務(wù)信息化項(xiàng)目建設(shè)的方式申請立項(xiàng)，政府投資項(xiàng)目遵循《福田區(qū)政府投資全過程管理辦法》，采購服務(wù)項(xiàng)目遵循《福田區(qū)政務(wù)信息化項(xiàng)目管理辦法》。

　　4.2 【采購環(huán)節(jié)】使用部門應(yīng)當(dāng)按照公平、公正、市場化競爭的原則，根據(jù)政府采購流程開展政務(wù)機(jī)器人采購工作。

　　4.3 【企業(yè)資質(zhì)】使用部門采購時，應(yīng)確保政務(wù)機(jī)器人的供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)需滿足行業(yè)、人員配備、技術(shù)等要求，包括但不限于：

　　（a）中華人民共和國境內(nèi)依法注冊的法人或其他組織，具有有效的營業(yè)執(zhí)照、稅務(wù)登記證、組織機(jī)構(gòu)代碼證（或三證合一的營業(yè)執(zhí)照）。

　　（b）具有良好的商業(yè)信譽(yù)，在近三年內(nèi)經(jīng)營活動中沒有重大違法記錄，未被列入失信被執(zhí)行人名單、重大稅收違法案件當(dāng)事人名單、政府采購嚴(yán)重違法失信行為記錄名單。

　　（c）具備一定規(guī)模的研發(fā)團(tuán)隊(duì)，研發(fā)人員應(yīng)具有相關(guān)專業(yè)背景、研發(fā)經(jīng)驗(yàn)、技能、職業(yè)操守和價值觀等綜合能力。（d）具備持續(xù)進(jìn)行產(chǎn)品技術(shù)升級和創(chuàng)新的能力，擁有自主知識產(chǎn)權(quán)，如機(jī)器人相關(guān)的專利、軟件著作權(quán)等，以證明其在技術(shù)研發(fā)方面的投入和成果。

　　（e）供應(yīng)商應(yīng)提供至少3年的技術(shù)支持、維護(hù)以及產(chǎn)品跟蹤觀察服務(wù)，包括但不限于定期的軟件更新、硬件檢修、產(chǎn)品質(zhì)量監(jiān)測、產(chǎn)品質(zhì)量信息反饋、缺陷產(chǎn)品召回或強(qiáng)制銷毀。

　　（f）擁有本地化的服務(wù)團(tuán)隊(duì)，能夠在24小時內(nèi)響應(yīng)緊急維修需求。

　　（g）其他法律、行政法規(guī)等有關(guān)規(guī)定和有關(guān)主管部門的相關(guān)監(jiān)管要求。

　　4.4 【合同簽訂】確定中標(biāo)或成交供應(yīng)商后，使用部門按照采購規(guī)定與供應(yīng)商簽訂采購合同。合同內(nèi)容包括但不限于政務(wù)機(jī)器人的具體規(guī)格、數(shù)量、價格、交付時間、質(zhì)量標(biāo)準(zhǔn)、售后服務(wù)、培訓(xùn)要求等關(guān)鍵條款。合同應(yīng)明確雙方在數(shù)據(jù)安全、信息安全、知識產(chǎn)權(quán)保護(hù)等方面的責(zé)任和義務(wù)。

　　4.5 【采購后備案】使用部門在完成政務(wù)機(jī)器人采購后一個月內(nèi)向區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局提交備案申請，審核通過后分配政務(wù)機(jī)器人編號。在本辦法施行日期前已投入使用的政務(wù)機(jī)器人需按照本辦法相關(guān)規(guī)定補(bǔ)充審核政務(wù)機(jī)器人及其供應(yīng)商資質(zhì)條件，并于2024年12月31日前完成備案，未完成備案的政務(wù)機(jī)器人應(yīng)暫停服務(wù)。

　　4.6 【所有權(quán)和知識產(chǎn)權(quán)】屬于福田區(qū)人民政府定制研發(fā)的政務(wù)機(jī)器人產(chǎn)品，其所有權(quán)和知識產(chǎn)權(quán)歸福田區(qū)人民政府所有，屬于福田區(qū)人民政府與企業(yè)聯(lián)合創(chuàng)新的產(chǎn)品，其所有權(quán)和知識產(chǎn)權(quán)通過協(xié)議另行約定。

　　V.使用管理

　　5.1【政務(wù)機(jī)器人訓(xùn)練】使用部門及監(jiān)護(hù)人組織供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)于政務(wù)機(jī)器人上崗前在安全環(huán)境下依法依規(guī)開展預(yù)訓(xùn)練、微調(diào)、優(yōu)化訓(xùn)練等數(shù)據(jù)處理活動，遵守下列規(guī)定：

　　（a）使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型。

　　（b）建立容錯機(jī)制，采取數(shù)據(jù)來源核實(shí)、數(shù)據(jù)更新、數(shù)據(jù)去偏見、數(shù)據(jù)統(tǒng)一規(guī)則標(biāo)注、數(shù)據(jù)平衡等有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。

　　（c）涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律、行政法規(guī)等規(guī)定的其他情形。

　　（d）訓(xùn)練數(shù)據(jù)涉及不予公開的政府內(nèi)部信息和國家秘密等，應(yīng)在使用之前按照相關(guān)流程和規(guī)范完成脫敏處理，確保原始數(shù)據(jù)不出域。

　　（e）數(shù)據(jù)處理和模型訓(xùn)練過程應(yīng)符合社會倫理標(biāo)準(zhǔn)、社會主義核心價值觀和新時代中國特色社會主義意識形態(tài)。

　　（f）法律、行政法規(guī)等其他有關(guān)規(guī)定和有關(guān)主管部門的相關(guān)監(jiān)管要求。

　　5.2【上崗準(zhǔn)備】使用部門應(yīng)組織供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)在政務(wù)機(jī)器人上崗前完成準(zhǔn)備工作，包括但不限于以下內(nèi)容：

　　（a）針對具體政務(wù)機(jī)器人制定其使用場景、使用管理規(guī)范、使用操作手冊、倫理道德規(guī)范和應(yīng)急事故處理方案。

　　（b）對監(jiān)護(hù)人依法依規(guī)開展崗前培訓(xùn)，培訓(xùn)內(nèi)容包括但不限于基礎(chǔ)操作、異常處置、安全規(guī)范、倫理及法律法規(guī)教育、認(rèn)證考核等。

　　（c）如涉及向公眾提供服務(wù)或履職的政務(wù)機(jī)器人，使用部門應(yīng)在其上崗前制定宣傳推廣方案，包括但不限于制定宣傳計劃、編寫宣傳材料、建立宣傳渠道等。

　　（d）政務(wù)機(jī)器人具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　5.3【上崗評估】使用部門按照政務(wù)機(jī)器人使用場景為政務(wù)機(jī)器人及其監(jiān)護(hù)人分別制定上崗評估規(guī)則，政務(wù)機(jī)器人及其監(jiān)護(hù)人在評估合格后上崗開展工作，對于重大項(xiàng)目，區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局配合進(jìn)行評估。

　　5.4【日常維護(hù)管理】監(jiān)護(hù)人及使用部門負(fù)責(zé)政務(wù)機(jī)器人日常維護(hù)管理工作，包括但不限于：

　　（a）提供符合政務(wù)機(jī)器人運(yùn)行所需的工作環(huán)境，持續(xù)為政務(wù)機(jī)器人提供電力、技術(shù)、數(shù)據(jù)、通信連接、推理算力等支持，確保其能適應(yīng)工作需求。

　　（b）按照使用要求進(jìn)行政務(wù)機(jī)器人的部署、調(diào)試，通過模擬實(shí)際工作場景，調(diào)優(yōu)參數(shù)設(shè)置，確保其保持最佳性能。

　　（c）根據(jù)機(jī)器人的使用頻率和工作環(huán)境，制定日常維護(hù)計劃，建立維護(hù)記錄檔案，包括但不限于記錄維護(hù)時間、內(nèi)容和結(jié)果。

　　（d）對政務(wù)機(jī)器人的軟件功能和硬件功能進(jìn)行升級更新。升級更新應(yīng)具有向前兼容性，如政務(wù)機(jī)器人的使用場景升級內(nèi)容涉及隨著人工智能能力的提升而擴(kuò)展，使用部門應(yīng)組織專家評估，及時更新相關(guān)使用范圍與操作手冊，確保升級內(nèi)容符合法律法規(guī)和倫理安全規(guī)范要求。

　　（e）對政務(wù)機(jī)器人全流程使用的數(shù)據(jù)處理、模型訓(xùn)練等活動進(jìn)行記錄和備份，必要時進(jìn)行追溯與審查，確保供應(yīng)商、監(jiān)護(hù)人、使用部門、用戶等各主體責(zé)任清晰可追溯。

　　5.5【異常處置】使用部門及監(jiān)護(hù)人應(yīng)建立應(yīng)急響應(yīng)機(jī)制，防止政務(wù)機(jī)器人失控和自主造成損害，采取包括但不限于下列措施：

　　（a）通過嚴(yán)格的算法控制和模型訓(xùn)練確保政務(wù)機(jī)器人行為受到限制，僅在預(yù)設(shè)的范圍內(nèi)操作。

　　（b）對政務(wù)機(jī)器人進(jìn)行實(shí)時監(jiān)測，設(shè)置獨(dú)立的實(shí)時遠(yuǎn)程應(yīng)急控制模塊和獨(dú)立的應(yīng)激處置模塊，當(dāng)政務(wù)機(jī)器人發(fā)生異常狀態(tài)時，立即自行啟動應(yīng)激處理程序，實(shí)時遠(yuǎn)程應(yīng)急控制程序并行啟動，進(jìn)行人工干預(yù)。

　　（c）根據(jù)政務(wù)機(jī)器人的工作環(huán)境和任務(wù)要求，安裝必要的傳感器、防撞條、急停按鈕等安全防護(hù)裝置。

　　（d）設(shè)定緊急情況下的安全協(xié)議，如停止服務(wù)或切換到安全模式。

　　（e）政務(wù)機(jī)器人出現(xiàn)違法情形的，應(yīng)當(dāng)及時采取停止生成、停止傳輸、消除等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報告。

　　5.6【考核機(jī)制】區(qū)人力資源局制定全區(qū)政務(wù)機(jī)器人考核總則，使用部門根據(jù)實(shí)際情況細(xì)化考核內(nèi)容，按照客觀公正的原則對政務(wù)機(jī)器人的服務(wù)質(zhì)量、應(yīng)用成效等情況制定考核指標(biāo)定期開展考核評估，考核評估按照評估對象分為政務(wù)機(jī)器人考核、監(jiān)護(hù)人評估和使用部門評估：

　　（a）政務(wù)機(jī)器人考核：使用部門負(fù)責(zé)對政務(wù)機(jī)器人在服務(wù)期內(nèi)的數(shù)據(jù)處理能力、服務(wù)對象交互質(zhì)量和任務(wù)執(zhí)行準(zhǔn)確性等內(nèi)容進(jìn)行考核，考核結(jié)果分優(yōu)秀、合格、不合格三個等次。考核結(jié)果作為政務(wù)機(jī)器人繼續(xù)或停止使用的依據(jù)。

　　（b）監(jiān)護(hù)人考核：使用部門定期對監(jiān)護(hù)人開展考核工作。評選工作成績突出或有其他顯著成績的監(jiān)護(hù)人進(jìn)行表彰。公示或者處罰有重大工作失誤或出現(xiàn)違反法律法規(guī)、規(guī)章制度的監(jiān)護(hù)人。

　　（c）使用部門考核：區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局、區(qū)人力資源局根據(jù)政務(wù)機(jī)器人使用成效對使用部門開展考核評估，對政務(wù)機(jī)器人成效顯著、亮點(diǎn)突出的部門，給予其使用部門在后續(xù)項(xiàng)目運(yùn)維、升級等方面的優(yōu)先保障。對政務(wù)機(jī)器人偏離預(yù)期使用效果的部門，視情況暫緩撥付政務(wù)機(jī)器人項(xiàng)目資金、暫停政務(wù)機(jī)器人使用權(quán)限，直至終止使用。

　　5.7【提前終止、停用及退出管理】政務(wù)機(jī)器人停用時視情況采取相應(yīng)的退出管理措施：

　　（a）暫停服務(wù)情形：當(dāng)政務(wù)機(jī)器人出現(xiàn)因軟硬件功能、模型、算法失控、違紀(jì)違規(guī)等情況致使其無法履職時，使用部門應(yīng)按照情節(jié)嚴(yán)重程度暫停其服務(wù)，在完成修復(fù)且重新評估合格后重新上崗。  

　　（b）提前終止服務(wù)情形：當(dāng)政務(wù)機(jī)器人出現(xiàn)重要狀態(tài)異常、性能落后等情況，無法通過升級、修復(fù)等方式滿足工作需求時，使用部門應(yīng)按照《福田區(qū)財政局關(guān)于加強(qiáng)政府采購合同監(jiān)督管理工作的通知》等相關(guān)要求提前終止其服務(wù)，并及時報有關(guān)主管部門。

　　（c）退出情形：當(dāng)政務(wù)機(jī)器人服務(wù)期滿后，使用部門應(yīng)參考《深圳市政務(wù)信息化項(xiàng)目檢測與驗(yàn)收管理辦法》相關(guān)規(guī)定開展驗(yàn)收工作。

　　5.8【退出數(shù)據(jù)及資產(chǎn)管理】政務(wù)機(jī)器人停用時應(yīng)執(zhí)行數(shù)據(jù)及資產(chǎn)管理措施，包括但不限于以下內(nèi)容：

　　（a）用戶管理：使用部門應(yīng)及時停止監(jiān)護(hù)人的使用權(quán)限，并通過適當(dāng)?shù)那捞崆巴ㄖ脩簦蚩赡苁艿接绊懙挠脩籼峁┍匾闹С趾椭笇?dǎo)。

　　（b）歸檔和遷移：按照規(guī)定制定數(shù)據(jù)、資源和模型的歸檔和遷移流程，關(guān)鍵信息包括但不限于訓(xùn)練數(shù)據(jù)、模型參數(shù)、用戶記錄等，確保服務(wù)的連續(xù)性和安全性。使用部門應(yīng)在停止服務(wù)后留存不少于6個月的政務(wù)機(jī)器人網(wǎng)絡(luò)日志等相關(guān)數(shù)據(jù)，保證數(shù)據(jù)可審計性。

　　（c）數(shù)據(jù)及模型銷毀：如涉及數(shù)據(jù)刪除及銷毀，應(yīng)在處理前按要求進(jìn)行脫敏處理。如涉及模型銷毀，應(yīng)視情況對模型文件、源代碼與算法等內(nèi)容安全徹底銷毀。

　　（d）如涉及資產(chǎn)管理，應(yīng)遵循《福田區(qū)行政事業(yè)單位國有資產(chǎn)處置辦法》。

　　（e）在政務(wù)機(jī)器人退出服務(wù)時，供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)原則上未經(jīng)區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局技術(shù)審查和評估，不得以任何方式向其他組織和個人提供訓(xùn)練該政務(wù)機(jī)器人涉及的數(shù)據(jù)、模型及其衍生成果。

　　5.9【源代碼管理】供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)不得隨意更改政務(wù)機(jī)器人源代碼，對于政務(wù)機(jī)器人的核心部件和系統(tǒng)，應(yīng)通過區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局評估合格后，再上線使用。

　　VI.安全管理

　　6.1【信息安全策略】使用部門應(yīng)制定和執(zhí)行嚴(yán)格的信息安全策略，以保護(hù)政務(wù)機(jī)器人處理和存儲的數(shù)據(jù)不受未授權(quán)訪問、修改、泄露或破壞。信息安全策略應(yīng)包括安全加密措施、訪問控制、網(wǎng)絡(luò)安全防護(hù)、定期安全評估、漏洞掃描和及時的安全更新。政務(wù)機(jī)器人訓(xùn)練、處理、應(yīng)用數(shù)據(jù)涉及已公開的政府信息，可在公有云、私有云等互聯(lián)網(wǎng)環(huán)境開展；涉及不予公開的政府內(nèi)部信息，可在政務(wù)云環(huán)境開展，與互聯(lián)網(wǎng)環(huán)境邏輯隔離；涉及國家秘密的政府信息，可在符合國家保密規(guī)定的網(wǎng)絡(luò)環(huán)境處理，與其他網(wǎng)絡(luò)環(huán)境物理隔離。

　　6.2【應(yīng)急響應(yīng)和安全管理】使用部門應(yīng)制定安全應(yīng)急處置相關(guān)預(yù)案。建立政務(wù)機(jī)器人全生命周期安全管理制度，定期開展數(shù)據(jù)備份、漏洞掃描等安全管理工作。

　　6.3【數(shù)據(jù)處理】政務(wù)機(jī)器人采集、處理、應(yīng)用國家秘密、個人隱私和個人信息，應(yīng)當(dāng)遵循合法性、正當(dāng)性、必要性和誠實(shí)信用原則及相關(guān)法律法規(guī)，不得通過誤導(dǎo)、欺詐、脅迫等方式處理，不得泄露或者非法向他人提供。所有通過政務(wù)機(jī)器人處理的敏感數(shù)據(jù)必須進(jìn)行加密。關(guān)鍵數(shù)據(jù)應(yīng)在傳輸和存儲過程中保持加密狀態(tài)。

　　6.4【數(shù)據(jù)安全】政務(wù)機(jī)器人原則上應(yīng)部署在福田區(qū)政務(wù)云環(huán)境，訓(xùn)練政務(wù)機(jī)器人所需的數(shù)據(jù)及政務(wù)機(jī)器人采集、處理、使用的數(shù)據(jù)不得違規(guī)對外提供，確有需要，按照“誰提供，誰負(fù)責(zé)”的原則對提供的數(shù)據(jù)及服務(wù)可能產(chǎn)生的法律責(zé)任及后果負(fù)責(zé)。

　　VII.監(jiān)督管理和倫理道德

　　7.1【分級分類監(jiān)督管理】區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局根據(jù)政務(wù)機(jī)器人的應(yīng)用場景、替代程度等維度，實(shí)施分級、分類差異化監(jiān)管。高風(fēng)險的政務(wù)機(jī)器人應(yīng)當(dāng)采用事前評估和風(fēng)險預(yù)警的監(jiān)管模式，中低風(fēng)險的政務(wù)機(jī)器人應(yīng)當(dāng)采用事前披露和事后跟蹤的監(jiān)管模式。監(jiān)管細(xì)則由區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局另行制定。

　　7.2【倫理委員會】福田區(qū)組建政務(wù)機(jī)器人倫理委員會，由人大代表、政協(xié)委員、人工智能行業(yè)專家、社會學(xué)者、法律專家等獨(dú)立組成，履行下列職責(zé)：

　　（a）對全區(qū)政務(wù)機(jī)器人應(yīng)用的科學(xué)性、倫理合理性進(jìn)行審查、監(jiān)督和管理。

　　（b）建立健全人工智能倫理安全規(guī)范管理制度，引導(dǎo)和規(guī)范政務(wù)機(jī)器人領(lǐng)域的倫理安全規(guī)范的制訂和實(shí)施。

　　（c）評估并監(jiān)督本區(qū)政務(wù)機(jī)器人的倫理安全規(guī)范執(zhí)行情況。

　　（d）分析研判數(shù)據(jù)和算法對信息權(quán)益保護(hù)、社會倫理道德、勞動就業(yè)等造成的影響。

　　（e）協(xié)調(diào)解決涉及倫理道德的政務(wù)機(jī)器人爭議等活動。

　　區(qū)政務(wù)機(jī)器人倫理委員會的日常工作由區(qū)統(tǒng)籌部門承擔(dān)。

　　7.3【監(jiān)督管理】區(qū)有關(guān)主管部門依據(jù)職責(zé)對政務(wù)機(jī)器人定期開展監(jiān)督檢查，在發(fā)現(xiàn)問題時采取相應(yīng)措施，包括發(fā)出警告、要求采取整改措施或?qū)嵤┨幜P。使用部門應(yīng)當(dāng)予以配合，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。參與監(jiān)督檢查的相關(guān)機(jī)構(gòu)和人員對在履行職責(zé)中知悉的國家秘密、商業(yè)秘密、個人隱私和個人信息應(yīng)當(dāng)依法予以保密，不得泄露或者非法向他人提供。

　　7.4【使用投訴】政務(wù)機(jī)器人、監(jiān)護(hù)人、使用部門、供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)均可提出關(guān)于政務(wù)機(jī)器人性能、協(xié)議履行、數(shù)據(jù)處理等方面的爭議。政務(wù)機(jī)器人服務(wù)對象發(fā)現(xiàn)政務(wù)機(jī)器人不符合法律法規(guī)和本辦法規(guī)定的，有權(quán)向有關(guān)主管部門投訴、舉報。

　　7.5【爭議解決】爭議解決應(yīng)遵循合法、公正、及時的原則。涉及倫理道德爭議解決通過區(qū)政務(wù)機(jī)器人倫理委員會組織集體討論、專家評審等方式協(xié)調(diào)解決。其他爭議解決通過調(diào)解、仲裁和訴訟等方式依法依規(guī)進(jìn)行，具體流程參照現(xiàn)有相關(guān)法律法規(guī)。

　　7.6【責(zé)任追究】監(jiān)護(hù)人及使用部門如違反本辦法，對政務(wù)機(jī)器人或自然人、法人及非法人組織造成不良影響的，將視情況通報批評，造成嚴(yán)重后果的，依法依規(guī)追究相關(guān)責(zé)任。政務(wù)機(jī)器人如違反本辦法，導(dǎo)致自然人、法人或非法人組織權(quán)益受到侵害，受侵害主體有權(quán)要求監(jiān)護(hù)人、使用部門依法依規(guī)承擔(dān)相應(yīng)責(zé)任,包括賠償損失、停止侵害行為等，如涉及政務(wù)機(jī)器人軟件功能、硬件功能和性能的，使用部門根據(jù)實(shí)際情況有權(quán)要求政務(wù)機(jī)器人的供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)依法依規(guī)承擔(dān)相應(yīng)責(zé)任。

　　7.7【倫理規(guī)范】政務(wù)機(jī)器人不得參與設(shè)計或指揮其他政務(wù)機(jī)器人，政務(wù)機(jī)器人必須保護(hù)人類的整體利益不受傷害，在不得傷害人類的前提下按照人類的命令開展活動，并盡可能保護(hù)自己。

　　VIII.生態(tài)建設(shè)

　　8.1【人工智能創(chuàng)新應(yīng)用實(shí)驗(yàn)室】區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局負(fù)責(zé)建立人工智能應(yīng)用創(chuàng)新實(shí)驗(yàn)室，分期分批發(fā)布場景清單，以“揭榜掛帥”方式引入優(yōu)秀人工智能企業(yè)和科研機(jī)構(gòu)，通過應(yīng)用場景帶動產(chǎn)業(yè)發(fā)展。

　　8.2【創(chuàng)新激勵】區(qū)科技和工業(yè)信息化局負(fù)責(zé)制訂裝備首臺套、軟件首版次、首應(yīng)用等相關(guān)政策支持，以應(yīng)用場景賦能產(chǎn)業(yè)發(fā)展。

　　8.3【基礎(chǔ)支撐】區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局負(fù)責(zé)為我區(qū)政務(wù)機(jī)器人應(yīng)用場景提供算力、語料集等基礎(chǔ)能力支撐。

　　（a）鼓勵發(fā)展社會側(cè)算力資源，為政務(wù)機(jī)器人應(yīng)用場景提供充足、穩(wěn)定的算力支撐。

　　（b）建立深圳中文語料基地（福田），分批推出金融、交通、教育、具身智能等多個行業(yè)數(shù)據(jù)集，為政務(wù)機(jī)器人應(yīng)用場景提供高質(zhì)量語料數(shù)據(jù)集。

　　IX.附則

　　9.1本辦法最終解釋權(quán)歸福田區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局所有。

　　9.2本辦法自印發(fā)之日起施行，有效期為2年。國家和省、市對政務(wù)機(jī)器人服務(wù)管理有新規(guī)定的，從其規(guī)定。