國信辦發(fā)文〔2021〕7號

各省、自治區(qū)、市委網(wǎng)信辦、黨委宣傳部、教育廳(教委)、科技廳(委、局)、通信管理局、公安廳(局)、文化和旅游廳(局)、市場監(jiān)管局(廳、委)、廣播電視局,新疆生產(chǎn)建設兵團網(wǎng)信辦、黨委宣傳部、教育局、科技局、公安局、文化體育廣電和旅游局、市場監(jiān)管局:

為加強互聯(lián)網(wǎng)信息服務算法綜合治理,促進行業(yè)健康有序繁榮發(fā)展,國家互聯(lián)網(wǎng)信息辦公室、中央宣傳部、教育部、科學技術部、工業(yè)和信息化部、公安部、文化和旅游部、國家市場監(jiān)督管理總局、國家廣播電視總局等九部委制定了《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》。現(xiàn)印發(fā)給你們,請結(jié)合實際,認真貫徹執(zhí)行。

國家互聯(lián)網(wǎng)信息辦公室

中央宣傳部

教育部

科學技術部

工業(yè)和信息化部

公安部

文化和旅游部

國家市場監(jiān)督管理總局

國家廣播電視總局

2021年9月17日

關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見

近年來,互聯(lián)網(wǎng)信息服務算法(以下簡稱“算法”)在加速互聯(lián)網(wǎng)信息傳播、繁榮數(shù)字經(jīng)濟、促進社會發(fā)展等方面發(fā)揮了重要作用。與此同時,算法不合理應用也影響了正常的傳播秩序、市場秩序和社會秩序,給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權益帶來挑戰(zhàn)。為深入貫徹落實黨中央、國務院決策部署,管理好使用好發(fā)展好算法應用,全面提升網(wǎng)絡綜合治理能力,現(xiàn)就加強互聯(lián)網(wǎng)信息服務算法安全治理提出如下意見。

一、總體要求

(一)指導思想

堅持以習近平新時代中國特色社會主義思想特別是習近平總書記關于網(wǎng)絡強國的重要思想為指導,深入貫徹黨的十九大和十九屆二中、三中、四中、五中全會精神,堅持正能量是總要求、管得住是硬道理、用得好是真本事,以算法安全可信、高質(zhì)量、創(chuàng)新性發(fā)展為導向,建立健全算法安全治理機制,構建完善算法安全監(jiān)管體系,推進算法自主創(chuàng)新,促進算法健康、有序、繁榮發(fā)展,為建設網(wǎng)絡強國提供有力支撐。

(二)基本原則

堅持正確導向,強化科技倫理意識、安全意識和底線思維,充分發(fā)揮算法服務正能量傳播作用,營造風清氣正的網(wǎng)絡空間;堅持依法治理,加強法律法規(guī)建設,創(chuàng)新技術監(jiān)管模式,打擊違法違規(guī)行為,建立健全多方參與的算法安全治理機制;堅持風險防控,推進算法分級分類安全管理,有效識別高風險類算法,實施精準治理;堅持權益保障,引導算法應用公平公正、透明可釋,充分保障網(wǎng)民合法權益;堅持技術創(chuàng)新,大力推進我國算法創(chuàng)新研究工作,保護算法知識產(chǎn)權,強化自研算法的部署和推廣,提升我國算法的核心競爭力。

(三)主要目標

利用三年左右時間,逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

——治理機制健全。制定完善互聯(lián)網(wǎng)信息服務算法安全治理政策法規(guī),算法安全治理的主體權責明確,治理結(jié)構高效運行,形成有法可依、多元協(xié)同、多方參與的治理機制。

——監(jiān)管體系完善。創(chuàng)新性地構建形成算法安全風險監(jiān)測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規(guī)行為處置等多維一體的監(jiān)管體系。

——算法生態(tài)規(guī)范。算法導向正確、正能量充沛,算法應用公平公正、公開透明,算法發(fā)展安全可控、自主創(chuàng)新,有效防范算法濫用帶來的風險隱患。

二、健全算法安全治理機制

(一)加強算法治理規(guī)范。健全算法安全治理政策法規(guī),加快制定算法管理規(guī)定,明確算法管理主體、管理范圍、管理要求和法律責任等,完善算法安全治理措施,制定標準、指南等配套文件。

(二)優(yōu)化算法治理結(jié)構。進一步明確政府、企業(yè)、行業(yè)組織和網(wǎng)民在算法安全治理中的權利、義務和責任,科學合理布局治理組織結(jié)構,規(guī)范運作、相互銜接,打造形成政府監(jiān)管、企業(yè)履責、行業(yè)自律、社會監(jiān)督的算法安全多元共治局面。

(三)強化統(tǒng)籌協(xié)同治理。網(wǎng)信部門會同宣傳、教育、科技、工信、公安、文化和旅游、市場監(jiān)管、廣電等部門,建立部門協(xié)同聯(lián)動長效機制,履行監(jiān)管職責,共同開展算法安全治理工作。

(四)強化企業(yè)主體責任。企業(yè)應建立算法安全責任制度和科技倫理審查制度,健全算法安全管理組織機構,加強風險防控和隱患排查治理,提升應對算法安全突發(fā)事件的能力和水平。企業(yè)應強化責任意識,對算法應用產(chǎn)生的結(jié)果負主體責任。

(五)強化行業(yè)組織自律。互聯(lián)網(wǎng)信息服務行業(yè)應當加強行業(yè)自律,積極開展算法科學技術普及工作,逐步組建算法安全治理力量,吸引專業(yè)人才隊伍,匯聚多方資源投入,承擔算法安全治理社會責任,為算法安全治理提供有力支撐。

(六)倡導網(wǎng)民監(jiān)督參與。鼓勵廣大網(wǎng)民積極參與算法安全治理工作,切實加強政府、企業(yè)、行業(yè)組織和網(wǎng)民間的信息交流和有效溝通。政府積極受理網(wǎng)民舉報投訴,企業(yè)自覺接受社會監(jiān)督并及時做好結(jié)果反饋。

三、構建算法安全監(jiān)管體系

(七)有效監(jiān)測算法安全風險。對算法的數(shù)據(jù)使用、應用場景、影響效果等開展日常監(jiān)測工作,感知算法應用帶來的網(wǎng)絡傳播趨勢、市場規(guī)則變化、網(wǎng)民行為等信息,預警算法應用可能產(chǎn)生的不規(guī)范、不公平、不公正等隱患,發(fā)現(xiàn)算法應用安全問題。

(八)積極開展算法安全評估。組織建立專業(yè)技術評估隊伍,深入分析算法機制機理,評估算法設計、部署和使用等應用環(huán)節(jié)的缺陷和漏洞,研判算法應用產(chǎn)生的意識形態(tài)、社會公平、道德倫理等安全風險,提出針對性應對措施。

(九)有序推進算法備案工作。建立算法備案制度,梳理算法備案基本情況,健全算法分級分類體系,明確算法備案范圍,有序開展備案工作。積極做好備案指導幫助,主動公布備案情況,接受社會監(jiān)督。

(十)持續(xù)推進監(jiān)管模式創(chuàng)新。持續(xù)研判算法領域技術發(fā)展新形勢,推進監(jiān)管模式與算法技術協(xié)同發(fā)展,不斷完善、升級、創(chuàng)新監(jiān)管的方式方法和治理舉措,防范監(jiān)管模式落后導致的算法安全風險。

(十一)嚴厲打擊違法違規(guī)行為。著力解決網(wǎng)民反映強烈的算法安全問題,對算法監(jiān)測、評估、備案等工作中發(fā)現(xiàn)的、以及網(wǎng)民舉報并查實的涉算法違法違規(guī)行為,予以嚴厲打擊,堅決維護互聯(lián)網(wǎng)信息服務算法安全。

四、促進算法生態(tài)規(guī)范發(fā)展

(十二)樹立算法正確導向。弘揚社會主義核心價值觀,在算法應用中堅持正確政治方向、輿論導向、價值取向。提高正能量傳播的精準性和有效性,規(guī)范信息分發(fā)行為和秩序,推動企業(yè)借助算法加強正能量傳播,引導算法應用向上向善。

(十三)推動算法公開透明。規(guī)范企業(yè)算法應用行為,保護網(wǎng)民合理權益,秉持公平、公正原則,促進算法公開透明。督促企業(yè)及時、合理、有效地公開算法基本原理、優(yōu)化目標、決策標準等信息,做好算法結(jié)果解釋,暢通投訴通道,消除社會疑慮,推動算法健康發(fā)展。

(十四)鼓勵算法創(chuàng)新發(fā)展。提升算法創(chuàng)新能力,積極開展算法研發(fā)工作,支持算法與社會、經(jīng)濟各領域深度結(jié)合。提高算法自主可控能力,加強知識產(chǎn)權保護,提高自研算法產(chǎn)品的推廣和使用,增強算法核心競爭力。

(十五)防范算法濫用風險。維護網(wǎng)絡空間傳播秩序、市場秩序和社會秩序,防止利用算法干擾社會輿論、打壓競爭對手、侵害網(wǎng)民權益等行為,防范算法濫用帶來意識形態(tài)、經(jīng)濟發(fā)展和社會管理等方面的風險隱患。