傅瑩:中國在AI治理問題上向國際社會釋放了合作信號

2020年12月18日，清華大學人工智能國際治理研究院名譽院長傅瑩在首屆清華大學人工智能合作與治理國際論壇上發表以“人工智能與國際安全治理”爲題的講話。

她表示，中國在人工智能治理問題上向國際社會釋放了清晰的合作信號。中國對人工智能的發展、應用乃至治理都是高度重視的，在治理和立法方面也邁出實際步伐。例如，2018年中國國家標準化委員會發布《人工智能標準化白皮書》；2019年國家新一代人工智能治理委員會發布了8條治理原則；2019年國務院頒佈了《兒童個人信息網絡保護規定》，加強對未成年人的信息保護；2020年經全國人大通過頒佈的《民法典》中對保護個人隱私做出明確規定，要求不得泄露、出售或非法向他人提供個人信息等。傅瑩，1978年進入中國外交部，2009-2013年任外交部副部長，負責過歐洲和亞洲事務。目前擔任清華人工智能國際治理研究院名譽院長、清華大學戰略與安全研究中心主任。傅瑩近年來關注人工智能治理研究。她所在的清華大學戰略與安全研究中心的人工智能治理項目小組，着眼於國際共同規則，在世界和平論壇上提出“人工智能六點原則”，探討人工智能綜合性治理的宏觀框架。

以下爲傅瑩演講全文：

尊敬的主持人，各位嘉賓，大家好！ 感謝主持人的介紹。上午大家談到宏觀的看法和主張。 我想呼應一下許多人談到的，尤其是聯合國副秘書長法布里齊奧·霍奇爾德、外交部國際經濟司司長王小龍和科技部戰略規劃司司長許倞他們談到的，關於構建人工智能國際治理體系和機制的重要性和必要性。希望能在人工智能領域建立包容性很強的國際治理委員會，通過共同探討、研究、吸納好的意見和建議，形成共同的國際規範，這是非常必要而且緊迫的。

下面我主要從最近中美學者“人工智能與國際安全治理”合作項目的角度，談談這個問題。論壇開始之前發佈了我作爲中方項目牽頭人和美方項目牽頭人John Allen介紹研究成果的文章，今晚9點在關於《人工智能與國際安全：挑戰與機遇》的第三個分論壇上，中方團隊的李彬老師和美方團隊會作更詳細的介紹，歡迎大家去聽。

中國在人工智能治理問題上向國際社會釋放了清晰的合作信號。

今年9月，中國國務委員兼外長王毅提出《全球數據安全倡議》，表示希望國際社會在普遍參與的基礎上就人工智能的安全問題達成國際協議，支持通過雙邊或多邊協議的形式確認倡議中的承諾。他提出有效應對數據安全風險應遵循的三項原則,包括秉持多邊主義、兼顧安全發展和堅守公平正義。

確實，技術革命往往伴隨不可預知的安全挑戰，在這方面，國際關注的焦點之一是智能武器的道德和技術風險。清華大學戰略與安全研究中心與多家國際機構圍繞這個問題開展了研討，包括與美國布魯金斯學會的專家學者進行的三輪系列研討，結合國際軍控經驗，尋找管控智能武器風險和國際安全治理的路徑。

專家們梳理了智能武器可能帶來的風險。一是由於人工智能技術不完善，智能武器可能導致更大的連帶傷害。二是智能武器的訓練需要大量數據，數據的污染和形成的偏見可能導致嚴重後果。三是人機協同的挑戰，機器在可解釋性、學習性、常識性等方面的不足有可能放大發生衝突的風險，等等。當然這些研判都是基於目前人工智能技術的狀況，希望隨着技術的不斷完善有些問題能得以避免。

無論如何，專家們認爲，既然人工智能武器化不可避免，需要尋找合適的治理路徑。大家談到，人類必須汲取歷史教訓，例如對核武器的治理共識就發生的太晚，導致人類曾經面臨巨大威脅，互聯網的治理也沒有能夠在早期實現。大家希望這次對人工智能，尤其是智能武器的治理，人類能走在技術變革的前面，充分認識其風險，早些達成治理共識。

專家們提出，需要採取軍事剋制態度，限制智能武器的損害範圍，這一點也需要反映在公共教育當中。在路徑方面，最重要的是如何使智能武器的發展和使用與現行國際法基本原則保持一致，包括《聯合國憲章》和武裝衝突法裡面的相關原則，都是討論的重要依據。有中方學者主張建構關於人工智能軍事行動的國際規範，切實保證人在智能武器使用中的決定性作用等等。

誠然，這都是學術層面的探討，參加項目的專家們都撰寫了專題論文，可以提供給決策部門參考，這些路徑是否可行，還需要經過大量的政策研究和論證。

這兩年中美關係出現緊張狀況，但是這個項目的研討並沒有受到大的影響，充分顯示了兩國學界的專業精神和對人類共同命運的責任感和使命感。專家們認識到，現階段是構建人工智能國際安全規範的關鍵窗口期，希望兩國抓住這一難得的歷史性機遇，制定人工智能的國際通用規範。

中國對人工智能的發展、應用乃至治理都是高度重視的。2017-2018年間，中央政治局分別圍繞大數據和人工智能進行了兩次集體學習。

中國國內在人工智能的治理和立法方面也邁出實際步伐。例如，2018年中國國家標準化委員會發布《人工智能標準化白皮書》；2019年國家新一代人工智能治理委員會發布了8條治理原則；2019年國務院頒佈了《兒童個人信息網絡保護規定》，加強對未成年人的信息保護；2020年經全國人大通過頒佈的《民法典》中對保護個人隱私做出明確規定，要求不得泄露、出售或非法向他人提供個人信息等。

總之，目前中美兩國是人工智能技術研究和應用發展最快的國家，兩國需要也有條件加強協調與合作。近年其他許多國家學界也表現出對人工智能應用的安全擔憂，說明這是人類共同的難題，不是一國兩國能夠解決的。中美開展對話與合作至關重要，將能夠爲全球合作貢獻智慧。希望和相信這不是一場“零和遊戲”，人工智能最終應使得全人類受益。

謝謝大家。

傅瑩論壇上還回答了澎湃新聞記者的在線提問：“我們是否應該制定全球性的人工智能治理準則？”

她表示，當今國際社會並沒有成立一個世界政府，要有一個大家一致遵守的、嚴格和嚴密的規則比較難，但是聯合國在一定程度上發揮着協調國際治理的作用。剛纔聯合國副秘書長（法布里齊奧·霍奇爾德）在講話中就談到在國際治理方面加強合作和構建機制的必要性。

傅瑩說，大家在討論人工智能的國際治理時，經常引用在覈武器治理方面享有國際威望和影響力的Pugwash機構（帕格沃什科學和世界事務會議）。“這個機構最初是由科學家組織起來，對後來核武器的治理給予了很多技術上的指導和政治上的影響。在生物科學等領域裡，一些科研人員組成的機構也有很強的影響力。”

“所以希望在人工智能領域，能夠出現被大家所接受的，由科研人員、政府和政策專業人士組成的機構，能把目前大家提出的關切和解決辦法綜合起來，形成對爲未來治理的指導性意見。”

“在政府的作用方面，進入21世紀，各國之間的全球性合作比過去強很多，G20開會時領導人們也多次提到這方面的問題。所以我對在國家層面形成更多的共識和有約束力的指導方向也寄予期待。”