利好!三部門發(fā)文,智能體頂層設(shè)計出爐
智能體是具備自主感知、記憶、決策、交互與執(zhí)行能力的智能系統(tǒng),是人工智能產(chǎn)品及服務(wù)的重要形態(tài)。隨著大模型等新一代人工智能技術(shù)迅猛發(fā)展,智能體正加速與網(wǎng)絡(luò)空間、物理世界深度融合,深刻改變?nèi)祟惿a(chǎn)生活方式和社會治理模式。為落實國務(wù)院《關(guān)于深入實施“人工智能+”行動的意見》,促進智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展,制定本實施意見。
一、基本原則
以推動科技創(chuàng)新、提升治理能力、構(gòu)建產(chǎn)業(yè)生態(tài)、增進民生福祉為導(dǎo)向,堅持安全可控,將智能體安全、可靠、可信作為發(fā)展的底線要求,貫穿智能體技術(shù)研發(fā)、應(yīng)用部署與推廣的全過程,切實防范系統(tǒng)性風險。堅持規(guī)范有序,適應(yīng)智能體技術(shù)演進規(guī)律,構(gòu)建與現(xiàn)有政策法規(guī)銜接順暢、行業(yè)自律自治、底線紅線清晰的治理體系,有序推進智能體落地應(yīng)用。堅持創(chuàng)新驅(qū)動,加強理論創(chuàng)新、技術(shù)創(chuàng)新、工程創(chuàng)新聯(lián)動,體系化突破智能體關(guān)鍵技術(shù),完善政產(chǎn)學(xué)研用協(xié)同機制,構(gòu)建開放共享的智能體生態(tài),提升產(chǎn)業(yè)創(chuàng)新活力。堅持應(yīng)用牽引,重點圍繞科學(xué)研究、產(chǎn)業(yè)發(fā)展、提振消費、民生福祉、社會治理等實際需求,發(fā)揮典型應(yīng)用場景示范效應(yīng),先易后難、循序漸進,促進智能體技術(shù)驗證、產(chǎn)品迭代、應(yīng)用落地。
二、夯實發(fā)展基礎(chǔ)
夯實技術(shù)底座,健全標準體系,降低智能體研發(fā)、適配、應(yīng)用門檻,為豐富智能體產(chǎn)品及服務(wù)奠定基礎(chǔ)。
(一)完善技術(shù)底座
1.強化基礎(chǔ)技術(shù)研發(fā)。持續(xù)提升通用基礎(chǔ)模型性能,支持行業(yè)發(fā)展細分領(lǐng)域?qū)S媚P停纬蛇m應(yīng)不同場景和設(shè)備的模型產(chǎn)品矩陣。面向智能體訓(xùn)練與運行,提升高質(zhì)量數(shù)據(jù)集供給能力。加強智能體任務(wù)理解、任務(wù)規(guī)劃、工具使用、長期記憶、互認互通、群體協(xié)同等技術(shù)攻關(guān),提升智能體泛化能力。
2.完善智能體工具鏈。開展智能體底層框架研究,加快研發(fā)感知、記憶、決策、交互、執(zhí)行等關(guān)鍵組件,完善智能體研發(fā)、測試、部署、運維等工具鏈。發(fā)展對抗樣本檢測、行為異常檢測等安全與治理工具,提升對智能體非合規(guī)行為的發(fā)現(xiàn)、干預(yù)、阻斷、恢復(fù)能力。
(二)構(gòu)建標準協(xié)議
3.建立智能體標準體系。制定智能體標準化工作指導(dǎo)文件,形成智能體標準框架,系統(tǒng)布局關(guān)鍵技術(shù)、重要產(chǎn)品、數(shù)據(jù)交換、應(yīng)用場景、質(zhì)量評測、安全保障、可信認證等標準體系,加快制定智能體與軟件工具、應(yīng)用服務(wù)、硬件外設(shè)接口等基礎(chǔ)標準。加強智能體互聯(lián)協(xié)議(AIP)等智能體互聯(lián)關(guān)鍵國家標準、行業(yè)標準的推廣應(yīng)用。支持醫(yī)療、交通、媒體、公共安全等領(lǐng)域制定強制性標準。鼓勵企業(yè)按照相關(guān)標準研發(fā)產(chǎn)品服務(wù),提升智能體規(guī)范性。積極參與國際標準制定。
4.布局發(fā)展智能互聯(lián)網(wǎng)。研究建立智能互聯(lián)網(wǎng)體系架構(gòu),探索建立智能體注冊平臺,提供智能體數(shù)字身份管理、檢索發(fā)現(xiàn)、能力聲明等服務(wù),支持開發(fā)者、部署方式、接口協(xié)議、合規(guī)認證等信息查詢和管理。提升多智能體協(xié)同能力,研究智能體身份標識、可信互聯(lián)、合規(guī)支付、安全防護、沖突解決等基礎(chǔ)技術(shù)。發(fā)揮互聯(lián)網(wǎng)協(xié)議第六版(IPv6)技術(shù)優(yōu)勢,提升智能體端到端通信能力。探索建立智能互聯(lián)網(wǎng)監(jiān)測指標體系。
三、守牢安全底線
堅持以人為本、智能向善、多元共治、安全穩(wěn)妥,營造規(guī)范發(fā)展、鼓勵創(chuàng)新的制度環(huán)境,促進智能體健康有序發(fā)展。
(一)明確產(chǎn)品準則
5.完善政策法規(guī)和倫理規(guī)范。加快研究智能體相關(guān)政策法規(guī)及倫理規(guī)范,發(fā)揮專業(yè)機構(gòu)內(nèi)容資源和審核把關(guān)優(yōu)勢,確保智能體行為符合法律法規(guī)及主流價值觀。防止智能體利用數(shù)據(jù)優(yōu)勢、人格化技術(shù)實施傳播不良價值觀、算法壓榨等行為,防范未成年人、老年人沉迷成癮、情感依賴等風險。做好與人工智能倫理審查等制度銜接。
6.明確決策權(quán)限。在遵守法律法規(guī)、尊重社會公德和倫理規(guī)范前提下,厘清僅限用戶本人決策、需由用戶授權(quán)決策和智能體自主決策等各種決策方式的合理邊界及所需權(quán)限。確保用戶對智能體自主決策享有知情權(quán)和最終決策權(quán),智能體執(zhí)行操作不得超出用戶授權(quán)范圍。
7.加強行為管控。發(fā)展規(guī)則內(nèi)嵌、行為圍欄等技術(shù),確保智能體在公共場所、隱私場所、專門場所等的行為合法合規(guī)。探索利用區(qū)塊鏈等技術(shù),建立重要應(yīng)用場景智能體行為可驗證、可追溯機制,防范智能體不當行為引發(fā)重大風險。
(二)防范安全風險
8.提升內(nèi)生安全能力。研究智能體數(shù)據(jù)安全、個人信息保護、密碼防護、攻擊檢測、權(quán)限管理、行為控制等安全技術(shù),提升智能體系統(tǒng)安全保障能力,防范數(shù)據(jù)投毒、隱私泄露、算法篡改、系統(tǒng)漏洞、運行失控等安全風險。研究智能體安全檢測技術(shù),探索建立智能體安全評估體系。
9.加強供應(yīng)鏈安全。制定智能體開發(fā)、部署、應(yīng)用、維護等全周期安全規(guī)范,加強模型接入、應(yīng)用程序接口調(diào)用、擴展工具使用等環(huán)節(jié)安全管理。探索建立智能體供應(yīng)鏈安全信息共享和預(yù)警機制,及時發(fā)布風險提示,提升安全保障能力。
10.化解應(yīng)用衍生風險。完善智能體常態(tài)化風險識別、預(yù)警及干預(yù)機制,強化人機協(xié)同審核、攔截阻斷等風險處置能力,防范系統(tǒng)性安全風險。強化智能體應(yīng)用安全管理,避免智能體被用于自動化攻擊、隱私侵犯、虛假信息生成傳播、網(wǎng)絡(luò)詐騙等違法犯罪行為。
(三)完善治理體系
11.構(gòu)建分類分級治理框架。根據(jù)應(yīng)用場景和潛在影響,審慎穩(wěn)妥開展智能體分級治理。對于敏感領(lǐng)域及重點行業(yè),由網(wǎng)信部門聯(lián)合行業(yè)主管部門確定開放場景,根據(jù)相關(guān)法律法規(guī)、監(jiān)管要求和安全防護標準,實行備案、檢測、問題產(chǎn)品召回等管理措施。對于部分生活娛樂、日常辦公等低風險領(lǐng)域,完善智能體評估測試工具,通過合規(guī)自測、信息報告、分發(fā)平臺管理、行業(yè)自律等實現(xiàn)高效治理。
12.健全合規(guī)服務(wù)體系。強化智能體風險監(jiān)測預(yù)警、檢測評估、咨詢、認證等專業(yè)服務(wù)供給,引導(dǎo)行業(yè)積極研發(fā)智能體監(jiān)測工具。開展智能體功能、性能、質(zhì)量、合規(guī)等第三方評測服務(wù),推動認證與檢測結(jié)果互通互認,為用戶選擇智能體提供參考。編制并發(fā)布智能體技術(shù)及應(yīng)用成熟度報告,為產(chǎn)業(yè)研發(fā)應(yīng)用提供參考。
(四)強化行業(yè)自律
13.引導(dǎo)行業(yè)加強自律。鼓勵行業(yè)組織、主要企業(yè)聯(lián)合制定行業(yè)自律規(guī)則,明確智能體功能合規(guī)、算法治理、知識產(chǎn)權(quán)保護、公平競爭等規(guī)范細則。指導(dǎo)智能體開發(fā)平臺、分發(fā)平臺、服務(wù)提供者建立公平合理的平臺規(guī)則、用戶服務(wù)協(xié)議及隱私政策,明確供需雙方權(quán)責,保障產(chǎn)業(yè)健康發(fā)展。加強智能體應(yīng)用風險宣傳教育,提升用戶安全意識。
14.探索信用評價機制。指導(dǎo)行業(yè)組織建立智能體市場主體自愿參與的信用評價機制,對于技術(shù)濫用、誘導(dǎo)消費、虛假宣傳、隱瞞缺陷信息等行為進行信用評價,依法依規(guī)開展失信懲戒。引導(dǎo)智能體開發(fā)者、開發(fā)平臺、分發(fā)平臺、服務(wù)提供者等參與信用評價,共同營造良好發(fā)展環(huán)境。
四、強化應(yīng)用牽引
積極穩(wěn)妥推動智能體典型場景應(yīng)用,牽引技術(shù)產(chǎn)品優(yōu)化提升,探索形成可復(fù)制、可推廣的智能體落地應(yīng)用模式。
(一)科學(xué)研究
15.科研探索。研發(fā)理論推演、模擬仿真等智能體,挖掘潛在技術(shù)路徑。強化智能體信息關(guān)聯(lián)整合、知識體系構(gòu)建等能力,提升自然科學(xué)、哲學(xué)社會科學(xué)研究發(fā)現(xiàn)能力。促進智能體與科學(xué)儀器、實驗平臺融合,實現(xiàn)方案設(shè)計、實驗操作、數(shù)據(jù)處理、結(jié)果分析等全流程智能化。
16.研發(fā)輔助。發(fā)展軟件開發(fā)智能體,提升需求分析、架構(gòu)設(shè)計、代碼生成與測試等全流程開發(fā)能力。促進智能體與計算機輔助設(shè)計(CAD)、計算機輔助工程(CAE)等軟件結(jié)合,提供設(shè)計方案生成、仿真驗證、參數(shù)調(diào)優(yōu)等功能。
(二)產(chǎn)業(yè)發(fā)展
17.智能制造。研發(fā)生產(chǎn)管理智能體,動態(tài)優(yōu)化生產(chǎn)排程、資源分配和工序銜接,推動智能體在工業(yè)互聯(lián)網(wǎng)領(lǐng)域應(yīng)用,提升企業(yè)精細化管理水平。提升智能體工藝參數(shù)優(yōu)化、加工精度檢測、產(chǎn)品缺陷識別等能力,促進智能體與數(shù)控機床、工業(yè)機器人、自動化產(chǎn)線等融合,促進提質(zhì)增效降本。
18.能源資源。研發(fā)大氣、水體、土壤、噪聲等環(huán)境要素感知智能體,提升自然災(zāi)害、環(huán)境污染等風險預(yù)警能力。依托智能體強化對國土空間資源全周期管理能力。依托智能體實現(xiàn)能源、金屬等礦產(chǎn)資源高效勘探。發(fā)展電力調(diào)度、用電監(jiān)測、電網(wǎng)維護等智能體,提升電力資源使用效率。
19.交通運輸。研發(fā)交通安全監(jiān)管、應(yīng)急指揮調(diào)度等智能體,提升違章違規(guī)行為識別、交通基礎(chǔ)設(shè)施風險預(yù)警、重點車輛(船舶)監(jiān)管、事故快速響應(yīng)等能力。優(yōu)化交通監(jiān)測調(diào)度智能體性能,發(fā)展交通載運工具管控智能體,提升路網(wǎng)、水網(wǎng)、空域的通行效率。
20.農(nóng)業(yè)生產(chǎn)。研發(fā)農(nóng)業(yè)服務(wù)智能體,開展農(nóng)技指導(dǎo)、病蟲害診斷與防治等服務(wù)。推動智能體在種植養(yǎng)殖、高效育種等環(huán)節(jié)應(yīng)用,推進農(nóng)業(yè)智能化轉(zhuǎn)型。推動智能體與智能農(nóng)機具、智慧大棚、農(nóng)業(yè)服務(wù)平臺融合,提升農(nóng)業(yè)生產(chǎn)效率。
21.金融服務(wù)。研發(fā)金融風控智能體,提升信貸審批、交易監(jiān)控、賬戶安全等環(huán)節(jié)風險識別能力。完善智能體異常檢測、合規(guī)審計功能,提升信貸違約預(yù)測、信用卡盜刷攔截、反洗錢監(jiān)測等能力。
(三)提振消費
22.終端應(yīng)用。推動智能體賦能互聯(lián)網(wǎng)應(yīng)用及服務(wù),優(yōu)化在線購物、出行導(dǎo)航、生活繳費、日常辦公等服務(wù)體驗。推動智能體與手機、電腦、汽車、家居、可穿戴、消費級機器人等終端設(shè)備協(xié)同發(fā)展,提升跨應(yīng)用、跨設(shè)備任務(wù)完成能力。
23.文化旅游。研發(fā)文學(xué)、音樂、繪畫、視聽、演藝等內(nèi)容創(chuàng)作智能體,促進優(yōu)秀文化傳播推廣。發(fā)展智能導(dǎo)覽、多語種翻譯、適老適殘等旅游服務(wù)智能體,提升旅游服務(wù)水平。
24.商業(yè)服務(wù)。提升智能體客服能力,提供7×24小時咨詢、預(yù)約、售后等服務(wù)。發(fā)展導(dǎo)引、清潔、倉儲、配售等具身智能體,提升餐飲、零售、住宿、物流等商業(yè)場所的運營效率。探索通過具身智能體提供低成本家政、養(yǎng)老、托育、助殘等服務(wù)。
(四)民生福祉
25.教育教學(xué)。探索課件生成、作業(yè)批改、學(xué)情分析等智能體,提高教師工作效率。依托智能體開展個性化學(xué)習(xí)方案制定,完善智能導(dǎo)學(xué)、答疑輔導(dǎo)、虛擬助教等功能。支持在線教育平臺研發(fā)智能體,提供終身學(xué)習(xí)服務(wù)。
26.醫(yī)療健康。提升醫(yī)學(xué)影像分析、疾病診斷推理、定制化診療方案生成等醫(yī)療輔助智能體性能,探索藥品管理、手術(shù)排程、病歷管理等智能體,提升醫(yī)療服務(wù)效率。穩(wěn)步發(fā)展預(yù)問診、報告解析等智能體,提升患者體驗。
27.人力資源。探索智能體在就業(yè)促進、技術(shù)技能人才培養(yǎng)評價、勞動關(guān)系公共服務(wù)等領(lǐng)域應(yīng)用,提升就業(yè)服務(wù)能力。發(fā)展社會保險、勞動爭議仲裁、欠薪治理等智能體,保障勞動者合法權(quán)益。
28.信息服務(wù)。探索智能體在網(wǎng)絡(luò)內(nèi)容建設(shè)管理中的應(yīng)用,鼓勵信息發(fā)布部門和內(nèi)容傳播平臺研發(fā)用戶分析、選題策劃、采編加工、分發(fā)推薦、智能審核、輿論引導(dǎo)、情緒疏導(dǎo)、實時翻譯等智能體,實現(xiàn)多模態(tài)信息、跨領(lǐng)域信息的高效整合。
(五)社會治理
29.政務(wù)服務(wù)。探索事項輔助審批智能體,推動政務(wù)審批流程智能化。發(fā)展政策咨詢智能體,提供全天在線的政務(wù)咨詢、流程指引等服務(wù)。探索主動推送適配政策、服務(wù)提醒及辦理指南,加快從“人找服務(wù)”向“服務(wù)找人”轉(zhuǎn)型。
30.司法服務(wù)。探索全流程辦案輔助智能體,提升案件材料梳理、案件信息錄入、證據(jù)審查、輔助法律文書生成等能力。發(fā)展法律宣傳、法律咨詢、法律監(jiān)督等智能體,為群眾提供高效便捷的在線司法服務(wù)。
31.公共安全。探索監(jiān)測預(yù)警、應(yīng)急處置、救援調(diào)度、協(xié)同治理等智能體,提升安全生產(chǎn)監(jiān)管和防災(zāi)減災(zāi)救災(zāi)等能力。提升智能體異常行為識別、潛在威脅預(yù)警、動態(tài)防控處理能力,維護公共安全。推動具身智能體在災(zāi)害救援、安防巡檢、危險品處置等領(lǐng)域落地應(yīng)用。
32.城市治理。探索智能體在城市規(guī)劃、建設(shè)與治理環(huán)節(jié)應(yīng)用,支撐智能建造、房屋管理、城市基礎(chǔ)設(shè)施安全運行等工作,提升城市治理專業(yè)化水平,提升城市人居環(huán)境質(zhì)量。
33.招標投標。探索招標投標智能體,實現(xiàn)招標投標活動全鏈路智慧管理,保障全過程規(guī)范高效。提升招標投標交易、服務(wù)和監(jiān)管的智慧化水平,實現(xiàn)招標科學(xué)合理、評標公平公正和監(jiān)管穿透高效。
五、建設(shè)創(chuàng)新生態(tài)
暢通供需渠道,促進研發(fā)側(cè)、需求側(cè)高水平互動,形成市場牽引、內(nèi)驅(qū)發(fā)展的智能體產(chǎn)業(yè)生態(tài)。
(一)促進產(chǎn)業(yè)合作
34.培育開源創(chuàng)新力量。引導(dǎo)國內(nèi)人工智能開源社區(qū)加強智能體布局,開展智能體與開源芯片、開源操作系統(tǒng)、開源大模型兼容適配。引導(dǎo)企業(yè)、高校、科研機構(gòu)積極參與智能體框架、交互接口、工具鏈等開源項目,推動技術(shù)體系融通發(fā)展,加快提升國際影響力。
35.搭建產(chǎn)業(yè)協(xié)作平臺。發(fā)揮智能體相關(guān)生態(tài)聯(lián)盟、技術(shù)驗證實驗室等產(chǎn)業(yè)協(xié)作平臺的作用,協(xié)同產(chǎn)業(yè)鏈上下游開展智能體共性技術(shù)研發(fā)、標準制定、評估認證等工作,開展智能體技術(shù)與產(chǎn)業(yè)應(yīng)用復(fù)合人才培養(yǎng)。引導(dǎo)互聯(lián)網(wǎng)應(yīng)用、智能終端等領(lǐng)域企業(yè)共建生態(tài),探索建立互利共贏的合作模式。
(二)強化應(yīng)用推廣
36.構(gòu)建應(yīng)用推廣渠道。推動建立智能體軟件商店、行業(yè)供需信息發(fā)布平臺,引導(dǎo)智能體企業(yè)積極發(fā)布產(chǎn)品,形成集聚效應(yīng)。開展智能體應(yīng)用供需對接活動,采取公開招標、揭榜掛帥等方式吸引智能體企業(yè)定制化開發(fā)相應(yīng)產(chǎn)品。引導(dǎo)整機、軟件等企業(yè)基于智能體研發(fā)產(chǎn)品和服務(wù),培育用戶市場。
37.推進重點場景開放。推動重點領(lǐng)域開放智能體應(yīng)用場景,在產(chǎn)業(yè)集聚區(qū)、重點行業(yè)、重點領(lǐng)域開展智能體應(yīng)用試點,打造一批具有引領(lǐng)作用的示范項目。發(fā)展市場化、專業(yè)化的智能體技術(shù)轉(zhuǎn)化服務(wù)機構(gòu),探索智能體應(yīng)用場景,提升技術(shù)成果轉(zhuǎn)化效率。促進行業(yè)數(shù)據(jù)共享開放,支撐重點場景智能體訓(xùn)練部署。
38.積極培育全球生態(tài)。依托世界人工智能大會、世界互聯(lián)網(wǎng)大會等國際平臺,交流展示智能體技術(shù)創(chuàng)新成果。推動終端設(shè)備、軟件企業(yè)適配智能體,引導(dǎo)相關(guān)企業(yè)做好海外合規(guī)建設(shè),推動智能體適應(yīng)當?shù)胤煞ㄒ?guī)和文化習(xí)俗。
六、保障措施
國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部會同有關(guān)方面加強統(tǒng)籌謀劃,強化資源整合和力量協(xié)同,完善配套政策,形成工作合力,推動重點任務(wù)落實落地。建立并完善智能體發(fā)展評價指標體系,加強智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展的監(jiān)測評估、滾動實施和動態(tài)調(diào)整。
本文僅代表作者觀點,版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請在文中注明來源及作者名字。
免責聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請及時與我們聯(lián)系進行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com




