AI治理的八個趨勢

宏觀戰(zhàn)略與落地政策并舉，培育國家AI競爭力

自2013年2月發(fā)布的《關于推進物聯網有序健康發(fā)展的指導意見》提出“經濟社會智能化發(fā)展”以來，AI便進入國家宏觀戰(zhàn)略的視野，成為國家頂層政策文件的重要議題。例如，2015年《關于積極推進“互聯網+”行動的指導意見》首次提出“培育發(fā)展人工智能新興產業(yè)”。此后，國家對AI的重視程度不斷提高，持續(xù)在戰(zhàn)略層面對發(fā)展AI做出部署，確保實現核心技術自主可控，推進高水平科技自立自強(表1)。

落地政策同樣重要。AI是新興技術與新興產業(yè)的綜合體，AI技術創(chuàng)新只有轉化為可持續(xù)的產業(yè)生態(tài)，并和實體經濟深度融合，才能發(fā)揮好其作為新的增長引擎的強大作用。在這方面，試驗區(qū)、先導區(qū)等先行先試模式發(fā)揮著重要作用。科技部著力推進的人工智能創(chuàng)新發(fā)展試驗區(qū)建設成果顯著，全國已經批復建設18個國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)，在政策工具、應用模式、經驗做法等方面起到了很好的引領帶動作用。2019年至今，工信部批復建設11個國家人工智能創(chuàng)新應用先導區(qū)，促進AI和實體經濟深度融合；2022年7月，科技部等六部門發(fā)布《關于加快場景創(chuàng)新以人工智能高水平應用促進經濟高質量發(fā)展的指導意見》，著力解決AI應用和產業(yè)化問題，以“數據底座+算力平臺+場景開放”三駕馬車驅動AI與經濟社會發(fā)展深度融合，更好支撐高質量發(fā)展。

在國家宏觀戰(zhàn)略和落地政策的持續(xù)支持下，cnAI領域的創(chuàng)新創(chuàng)業(yè)持續(xù)活躍，AI領域的國家級實驗室陸續(xù)建立，在AI領域的技術創(chuàng)新、產業(yè)應用、人才規(guī)模等方面均取得了重要成就。cn科學技術信息研究所發(fā)布的《2021全球人工智能創(chuàng)新指數報告》顯示，目前全球AI發(fā)展呈現中美兩國引領、主要國家激烈競爭的總體格局。[4]cnAI發(fā)展成效顯著，AI創(chuàng)新水平已經進入世界第一梯隊，與美國的差距進一步縮小。cn的超算中心、AI企業(yè)規(guī)模、專利注冊數量、人才隊伍建設和科研實力均處在全球領先行列，未來，AI對cn經濟增長和社會發(fā)展的貢獻將持續(xù)放大。普華永道的研究報告預測，全球來看，到2030年AI對全球經濟的貢獻將達到15.7萬億美元，cn將從AI中收獲最大的經濟收益，達到7萬億美元，意味著AI將推動cnGDP增長約26.1%；美國和北美其次，將達到3.7萬億美元。[5]

科技倫理制度不斷完善，成為AI創(chuàng)新的重要保障

在數字時代，AI等新興數字技術，具有不同于工業(yè)時代的技術應用的獨特性和復雜性。主要體現為：(1)更廣泛的聯通性，網絡的連接和數據的收集、處理無處不在；(2)更強的自主性，AI系統驅動各種產品和服務獨立運行，無須人類干預；(3)更深的不透明性，AI系統的“算法黑箱”難以被理解和解釋；[6](4)更高的擬真性，AI生成、合成的內容、數據和虛擬世界越來越逼近現實。正因如此，AI等新技術應用可能引發(fā)的社會倫理問題越來越具有突發(fā)性、隱蔽性、規(guī)模性、不可預測性等諸多特征，這給科技倫理治理提出新的挑戰(zhàn)。在AI的發(fā)展應用過程中，同步考慮甚至提前考慮科技倫理問題變得越來越必要和重要。[7]科技倫理制度的調整完善，由此成為AI時代的重要議題，需要從關注人的倫理轉向關注技術的倫理，實施對智能體進行道德約束，構建友善的數字社會秩序。[8]更進一步而言，隨著全球科技競爭日益激化，科技倫理不僅事關科技安全風險挑戰(zhàn)之防范，而且關乎國家科技競爭力之打造。

黨的十八大以來，國家對科技倫理的重視程度不斷提升，明確提出科技倫理是科技活動必須遵守的價值準則，并將科技倫理納入頂層政策設計，作為科技創(chuàng)新的重要支撐和保障。《中共中央關于堅持和完善cn特色社會主義制度推進國家治理體系和治理能力現代化若干重大問題的決定》和《十四五規(guī)劃和2035年遠景目標綱要》對科技倫理做出了頂層部署，要求健全科技倫理治理體制，健全科技倫理體系。目前，國家持續(xù)建立健全科技倫理制度，塑造科技向善的文化理念和保障機制。主要體現在以下三個方面：

第一，組建國家科技倫理委員會，負責指導和統籌協調推進全國科技倫理治理體系建設工作。2019年7月，中央全面深化改革委員會第九次會議審議通過了《國家科技倫理委員會組建方案》，正式確立了cn國家級的科技倫理管理機構。2022年3月發(fā)布的《關于加強科技倫理治理的意見》進一步明確了國家科技倫理委員會的管理職責。

第二，出臺科技倫理相關的政策法規(guī)，支持科技倫理治理落地實施。2021年12月修訂的《科學技術進步法》的一大亮點就是增加了科技倫理相關條款，一方面對健全科技倫理治理體制做出了整體規(guī)定，另一方面要求科學技術研究開發(fā)機構、高等學校、企業(yè)事業(yè)單位等主體履行科技倫理管理主體責任，對科學技術活動開展倫理審查，同時明確科學技術研究開發(fā)和應用活動的法律倫理底線。《關于加強科技倫理治理的意見》則對科技倫理治理提出了更為全面的要求，涉及總體要求、原則、體制、制度保障、審查和監(jiān)管以及教育和宣傳六大方面，為科技倫理治理的落地實施奠定了基礎。后續(xù)還將制定科技倫理審查辦法、科技倫理高風險科技活動清單、細分領域的科技倫理規(guī)范等配套規(guī)定。

第三，強調AI領域的科技倫理治理。國家新一代人工智能治理專業(yè)委員會先后發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》和《新一代人工智能倫理規(guī)范》，為發(fā)展負責任的AI提供倫理指南。《數據安全法》《互聯網信息服務算法推薦管理規(guī)定》《關于加強互聯網信息服務算法綜合治理的指導意見》等法律法規(guī)，對數據和算法活動提出科技倫理要求和管理措施。《關于加強科技倫理治理的意見》將AI、生命科學、醫(yī)學作為“十四五”期間的三個重點領域，要求制定專門的科技倫理規(guī)范、指南等，加強科技倫理立法，并要求相關行業(yè)主管部門推出科技倫理監(jiān)管舉措。可以預見，未來AI領域的科技倫理監(jiān)管將得到加強。此外，地方層面的立法如《深圳人工智能產業(yè)促進條例》和《上海促進人工智能產業(yè)發(fā)展條例》都把AI倫理治理作為支持AI產業(yè)健康發(fā)展的重要保障。

從以上分析可以看出，目前在AI的科技倫理治理方面，一個顯著的趨勢是把創(chuàng)新主體的科技倫理管理主體責任作為一個主要的抓手，這和互聯網平臺監(jiān)管強調平臺主體責任具有一定的相似性。政府對平臺的監(jiān)管，在很大程度上是通過落實、壓實平臺主體責任來實現的，網絡領域的相關立法構建了事前、事中、事后全方位的平臺義務體系，市場監(jiān)管總局發(fā)布的《互聯網平臺落實主體責任指南(征求意見稿)》嘗試對不同類型的平臺的主體責任進行細化。政府對AI的監(jiān)管，呈現出類似的思路。目前的相關政策法規(guī)嘗試對科技倫理管理主體責任進行細化，要求創(chuàng)新主體建立倫理委員會、堅持科技倫理底線、進行科技倫理審查、開展科技倫理風險監(jiān)測預警和評估、開展科技倫理培訓等。

互聯網領域算法應用成為AI監(jiān)管的重點對象

算法推薦、算法自動化決策、AI深度合成等互聯網領域的算法應用，由于應用廣泛、社會公眾關注度高、負面問題持續(xù)凸顯等因素，成為政府在AI領域重點監(jiān)管的對象。近年來，國家出臺了一系列法律法規(guī)，積極規(guī)范互聯網領域算法應用。[9]國家互聯網信息辦公室等九部門出臺的《關于加強互聯網信息服務算法綜合治理的指導意見》提出了較為全面的管理要求，希望利用三年左右時間，逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。該意見同樣強調強化企業(yè)主體責任，包括算法安全責任、科技倫理審查等。

在算法推薦方面，《網絡信息內容生態(tài)治理規(guī)定》提出針對算法推薦技術健全人工干預和用戶自主選擇機制。2022年3月1日起施行的《互聯網信息服務算法推薦管理規(guī)定》則是cn第一部聚焦算法治理的立法，該規(guī)定針對算法推薦服務提供者提出全方位的義務和禁止性要求，提出算法安全風險監(jiān)測、算法安全評估、算法備案管理等一系列監(jiān)管舉措，進一步強化平臺企業(yè)的算法安全責任。業(yè)內人士以此為標志，將2022年稱為算法監(jiān)管元年。

在算法自動化決策方面，《中華人民共和國個人信息保護法》《中華人民共和國電子商務法》《在線旅游經營管理服務暫行規(guī)定》等都有相關條款對算法歧視、大數據殺熟等不公平、不正當的算法決策行為進行規(guī)制，提出了向個人提供選擇權限、開展影響評估、個人可以要求說明和享有拒絕權限等規(guī)制方式，更好地平衡個人權益保護和算法商業(yè)應用活動。

在AI深度合成(主要是指利用AI技術生成、合成信息內容)方面，相關立法積極為AI深度合成技術劃定應用紅線，促進技術正向應用，如《網絡音視頻信息服務管理規(guī)定》《網絡信息內容生態(tài)治理規(guī)定》《互聯網信息服務算法推薦管理規(guī)定》等都禁止將深度合成算法用于虛假新聞信息和其他違法違規(guī)活動。2022年11月通過的《互聯網信息服務深度合成管理規(guī)定》，總結既往監(jiān)管經驗，從深度合成服務提供者主體責任、深度合成信息內容標識管理等方面，對深度合成技術應用進行全面規(guī)范，通過內容標識、檢測識別、內容溯源等必要的安全保障措施確保深度合成技術應用安全可靠，更好地促進技術創(chuàng)新發(fā)展和積極正向應用。

整體而言，互聯網領域的算法監(jiān)管強調安全可控、權益保護、公平公正、公開透明、濫用防范等多元目的，在算法應用分級分類基礎上，重點規(guī)制高風險類算法應用。算法分級分類監(jiān)管和《歐盟人工智能法案》對AI系統的監(jiān)管思路是類似的，后者按照不可接受風險、高風險、有限風險、最小風險對AI系統進行分級，并對不同風險程度的AI系統提出不同的監(jiān)管要求。在此背景下，學界對算法治理的研究興趣濃厚，提出了算法解釋、算法影響評估、算法審計等諸多思路。未來，各界還需進一步探索完善算法監(jiān)管的方式方法和治理舉措，更好地保障算法應用向上、向善。

以監(jiān)管創(chuàng)新促進AI在傳統強監(jiān)管領域應用落地

對于交通、醫(yī)療等傳統強監(jiān)管領域而言，自動駕駛汽車、載人無人機(無人駕駛的飛行汽車)、AI醫(yī)療軟件等新生事物面臨的主要問題是，其商業(yè)化應用仍面臨較大的法律和監(jiān)管障礙。這些障礙不僅影響消費者和公眾對技術的信任，而且打擊創(chuàng)新者和投資者的積極性。因此，有效的監(jiān)管創(chuàng)新是這些新事物發(fā)展應用的關鍵所在。以自動駕駛汽車為例，只有加快革新旨在規(guī)制傳統汽車和人類司機的立法和監(jiān)管框架，進而建立新的、有效的監(jiān)管框架，才能加快實現自動駕駛汽車的商業(yè)化應用。

cn的政策制定者積極創(chuàng)新監(jiān)管方式和手段，通過“監(jiān)管沙盒”(Regulatory Sandbox，詳見后文介紹)、試點、示范應用等方式支持、促進AI新事物應用落地。在自動駕駛汽車領域，國家出臺了一系列立法和規(guī)范性文件，鼓勵、支持和規(guī)范自動駕駛汽車道路測試與示范應用活動，探索自動駕駛汽車安全標準的“監(jiān)管沙盒”，完善自動駕駛汽車準入和上路通行規(guī)則，保障自動駕駛汽車運輸安全。由于監(jiān)管政策利好，北上廣深等各地紛紛搶占發(fā)展高地，部分城市已向自動駕駛廠商發(fā)放了允許車內無駕駛人、可以收費運營的無人駕駛汽車試運營牌照；深圳則在全國率先出臺《深圳智能網聯汽車管理條例》，為商業(yè)化應用奠定立法和監(jiān)管框架。在AI醫(yī)療領域，由于AI醫(yī)療軟件具有不同于傳統醫(yī)療器械的諸多全新特征，包括自主性、學習進化能力、持續(xù)迭代性、算法黑箱、不可預測性等，這使得傳統審批程序難以有效適應AI醫(yī)療軟件的發(fā)展需求。為此，監(jiān)管部門積極完善AI醫(yī)療器械的注冊申報和審批程序、使用管理規(guī)范，支持智能醫(yī)學影像等輔助診斷和輔助治療的AI醫(yī)療軟件加快臨床應用；目前國內已有AI醫(yī)療軟件獲得審批，如騰訊覓影的AI輔助診斷青光眼軟件、肺炎AI輔助診斷系統都已獲批第三類醫(yī)療器械注冊證(“三類證”)。未來，監(jiān)管部門還需持續(xù)完善、優(yōu)化針對AI醫(yī)療軟件的注冊申報和審批程序，讓AI醫(yī)療應用更好地增進民生福祉。

加快探索AI的知識產權保護規(guī)則

AI生成內容(AI-Generated Contents，縮寫AIGC)已經成為AI的新疆域，代表著AI的未來發(fā)展方向[10]。在互聯網領域，AIGC是PGC(專業(yè)生產內容)和UGC(用戶生產內容)之后的內容生產形態(tài)，帶來自動化內容生產的巨大變革。目前，AIGC技術已能自主生產多種形式的內容，包括文本、圖片、音頻、視頻、3D內容(3D物品、3D虛擬場景)等。AIGC技術及其應用的知識產權保護規(guī)則由此成為繞不過去的重要議題，諸如“AIGC內容的著作權保護及歸屬如何確立”“AIGC技術使用他人版權內容是否侵權”等都是亟待解決的問題。[11]國外有學者提出，需要建立專門的AI知識產權保護規(guī)則和國際條約，因為AI技術打破了創(chuàng)作者和發(fā)明人只能是人類的既有模式。

在國內，北京菲林律師事務所訴百度“百家號”著作權侵權案中，法院雖然認為只有自然人創(chuàng)作完成的獨創(chuàng)性作品才可獲得版權保護，由此否定了AI直接且獨立生成的作品的版權保護可能性，但卻指出可以通過競爭法等方式對AI生成內容的相關權益(如競爭性權益)進行保護。深圳市騰訊計算機系統有限公司訴上海盈訊科技有限公司侵害著作權及不正當競爭糾紛案中，法院基于AI領域的人機協作現實，指出AI寫稿軟件Dream writer在技術上“生成”作品只是創(chuàng)作過程的一個環(huán)節(jié)，原告主持的多團隊、多人分工形成的整體智力活動才是創(chuàng)作的核心環(huán)節(jié)，并由此認定涉案文章是原告主持的法人作品。關于Dream writer案的認定更符合當前AIGC技術及其應用的發(fā)展狀況，對將來通過立法進一步明確AI生成內容的知識產權保護規(guī)則具有較大的借鑒意義。在立法上，2020年新修訂的《中華人民共和國著作權法》采用開放性的作品認定方式，在明確作品構成要件、列舉主要作品類型的同時，規(guī)定了開放式的兜底條款，為AIGC等新技術應用帶來的新客體保護預留出制度空間。

標準化建設是AI治理的關鍵一環(huán)

《國家標準化發(fā)展綱要》指出，標準化在推進國家治理體系和治理能力現代化中發(fā)揮著基礎性、引領性作用。對于AI領域而言，AI標準不僅是支持、促進AI發(fā)展進步和廣泛應用的重要手段(如技術標準)，而且是推進落實AI治理的有效方式(如治理標準、倫理標準)，因為AI治理標準可以起到“承接立法和監(jiān)管、對接技術實踐”的重要作用。再者，AI治理領域的標準相比立法和監(jiān)管更具敏捷性、靈活性和適應性。因此，AI治理標準已經成為AI技術和產業(yè)發(fā)展中的一個制高點，國際社會紛紛提出落地舉措。典型代表有歐盟的可信AI標準，美國國家標準與技術研究院(NIST)主導的AI風險管理、AI歧視識別等治理標準，英國的AI認證生態(tài)系統發(fā)展規(guī)劃，IEEE的AI倫理標準等。在落地方面，IEEE已面向行業(yè)推出了AI倫理認證項目；英國希望通過5年時間培育一個世界領先、價值數十億英鎊規(guī)模的AI認證行業(yè)，通過中立第三方的AI認證服務(包括審計、影響評估、認證)來評估、交流AI系統的可信性和合規(guī)性。

cn非常重視AI領域的標準化建設，《國家標準化發(fā)展綱要》要求在AI、量子信息、生物技術等領域，開展標準化研究。近年來，各界持續(xù)推進AI治理領域的國家標準、行業(yè)標準、地方標準、團體標準等標準化工作。例如，國家標準化管理委員會成立國家人工智能標準化總體組，全國信息技術標準化技術委員會設立人工智能分技術委員會，都旨在推進制定AI領域的國家標準。2020年7月印發(fā)的《國家新一代人工智能標準體系建設指南》明確了AI標準領域的頂層設計，該指南將安全/倫理標準作為AI標準體系的核心組成部分，旨在通過安全/倫理標準為AI建立合規(guī)體系，促進AI健康、可持續(xù)發(fā)展。未來，AI治理相關標準需加快制定并落地實施，從而為AI領域的技術創(chuàng)新和產業(yè)發(fā)展提供更多保障。

行業(yè)主動探索AI治理的自律措施，踐行負責任創(chuàng)新和科技向善理念

有效的AI治理需要政府、企業(yè)、行業(yè)組織、學術團體、用戶或消費者、社會公眾等多元主體的共同參與，其中，科技企業(yè)的自我治理和自律管理是落實“倫理先行”理念的重要方式。之所以呼吁“倫理先行”，在很大程度上是因為面對AI的快速發(fā)展，“法律的滯后性”現象變得越來越突出。在AI領域，“倫理先行”首先表現為科技企業(yè)的科技倫理自律管理，而且領先企業(yè)的最佳實踐做法往往能夠起到很好的引領帶動作用，推動整個行業(yè)踐行負責任創(chuàng)新和科技向善理念。

在行業(yè)層面，近年來，相關研究機構和行業(yè)組織紛紛提出AI的倫理指南、自律公約等，為企業(yè)的AI活動提供倫理指引。這方面的典型代表有cn人工智能產業(yè)發(fā)展聯盟(AIIA)的《人工智能行業(yè)自律公約》和《可信AI操作指引》、北京智源人工智能研究院的《人工智能北京共識》和《人工智能產業(yè)擔當宣言》、全國信息安全標準化委員會的《網絡安全標準實踐指南——人工智能倫理安全風險防范指引》等。

在企業(yè)層面，科技企業(yè)作為AI技術創(chuàng)新和產業(yè)應用的主體，擔負著負責任地研發(fā)應用AI的重要責任。在國外，從提出AI倫理原則，到成立內部的AI倫理治理機構，再到開發(fā)管理和技術工具甚至商業(yè)性的負責任AI解決方案，科技公司探索出了較為成熟的經驗，積累了很多可資推廣的實踐做法(表2)[13]。近年來，國內科技公司積極落實監(jiān)管要求，探索相關自律措施，主要包括：發(fā)布AI倫理原則，建立內部的AI治理組織(如倫理委員會)，針對AI活動開展倫理審查或安全風險評估，對外披露算法相關信息、促進算法公開透明，探索應對AI倫理問題的技術解決方案(如針對合成信息內容的檢測識別工具、AI治理測評工具、聯邦學習等隱私計算方案)，等等。