科普新聞網

科普新聞網

如何監管人工智能成焦點 《治理原則》的誕生有點特別

發布時間:2019-06-18 14:00:32 來源:科技日報微信公眾號 責任編輯:caobo

斯蒂芬·霍金曾說過,人工智能的崛起,要么是人類歷史上最好的事,要么是最糟的。人工智能在帶動巨大技術進步的同時,也給經濟社會治理帶來了新的挑戰。

最近一段時間,人們關于人工智能的討論可真不少——換臉、反換臉技術斗得不可開交;無人駕駛引發事故如何追責讓人憂心忡忡;智能機器人該不該有公民身份的爭論也已經反復了好幾輪。

隨著人工智能越來越滲透進人類生活的方方面面,全社會對人工智能的關注也從最開始的懷揣美好期望,變成了期待之外有擔憂。在人工智能迅速發展,深刻改變人類社會生活、改變世界的背景下,我們在不斷尋求人工智能效益最大化時,如何應對其倫理和監管問題,成為新的焦點。

6月17日,國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》(以下簡稱《治理原則》),提出了人工智能治理的框架和行動指南。(見《治理原則》全文)

清華大學蘇世民書院院長,國家新一代人工智能治理專業委員會主任薛瀾參與了《治理原則》制定和出臺的全過程,他在接受科技日報采訪時表示,《治理原則》旨在更好協調人工智能發展與治理的關系,確保人工智能安全可控可靠,推動經濟、社會及生態可持續發展,共建人類命運共同體。

各方共同擔責

“負責任”是主題

《治理原則》突出了發展負責任的人工智能這一主題,強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八條原則。薛瀾說,這里的“負責任”是多方的責任——既有人工智能研發者,也有使用者、管理者等其他相關方,各方應具有高度的社會責任感和自律意識,嚴格遵守法律法規、倫理道德和標準規范。在這個基礎上建立人工智能問責機制,明確研發者、使用者和受用者等的責任。人工智能應用過程中應確保人類知情權,告知可能產生的風險和影響。防范利用人工智能進行非法活動。

發展的眼光看問題

敏捷治理是這個意思

人工智能的發展日新月異,技術更迭之快、新產品出現之頻繁遠超出人們的預期,所以過往在人工智能治理過程中最大的麻煩就是老政策解決不了新問題,這一次《治理原則》推出了“敏捷治理”。

“這是一個全新的思路”,中科院自動化所研究員,國家新一代人工智能治理專業委員會委員曾毅向科技日報表示,《治理原則》針對人工智能獨特的發展規律,在推動人工智能創新發展、有序發展的同時,更應該具有前瞻性和預判性,這樣才能及時發現和解決可能引發的未知的風險。

“敏捷治理”可以讓我們對未來更高級人工智能的潛在風險持續開展研究和預判,確保人工智能始終朝著有利于人類的方向發展。

尊重隱私

禁止濫用、惡用人工智能

這些年來,我國的人工智能技術取得了長足發展,中國的人工智能發展動力從哪里來?坊間有過各種說法。上海大學教授,國家新一代人工智能治理專業委員會委員李仁涵表示,我國的人工智能發展得益于數據量的快速增長、計算能力的大幅提升、機器學習算法的持續優化,以及政府、企業對人工智能技術的大力支持。

曾毅表示,長期以來,我國對于人工智能發展中的安全問題、隱私問題都十分重視。因此在《治理原則》中,尊重隱私被放在一個十分重要的位置。要求充分保障個人的知情權和選擇權的同時,在個人信息的收集、存儲、處理、使用等各環節應設置邊界,建立規范。

曾毅更強調,此次在《治理原則》中首提“個人數據授權撤銷機制”。他表示,我們反對任何竊取、篡改、泄露和其他非法收集利用個人信息的行為,基于此個人有權在同意個人信息授權后,有權利隨時撤銷授權,這一點在全世界也屬于領先。他認為,人工智能應以保障社會安全、尊重人類權益為前提,避免誤用,禁止濫用、惡用。

共治共管

《治理原則》的誕生有點特別

《治理原則》的出臺,為的推動我國人工智能行業的自律,凝聚全社會共識,促進人工智能健康發展,所以“共治共管”的理念貫穿始終。早在《治理原則》起草前,科學技術部就在官方網站上發布消息,征求社會各界的意見。

“我們征集到了百余條十分有價值的意見,其中一些意見被采納,還有許多提意見的人員被請來與我們一起探討”,薛瀾向科技日報介紹說。

一位中醫科學院的專家提出以醫學倫理為鑒確定人工智能的監管思路,一位南開大學的哲學專家建議以傳統文化中的哲學思路倡導人工智能向善的理念等等,這些意見和建議都被國家新一代人工智能治理專業委員會的專家們廣泛聽取。

曾毅告訴科技日報,《治理原則》出臺整個過程經歷了網上建議征集、專家反復研討、多方征求意見等環節,凝聚了廣泛共識。值得一提的是,與許多國家先出草案再聽意見不同,我們最初的意見征集階段完全是發散性的,所有人各抒己見不設方向、不設門檻。

薛瀾表示,《治理原則》是一個框架,后續將有更細化的政策法規、行業標準規范、區域共識等來規范人工智能的發展。他強調,人工智能的治理已經不是某個地區或者國家的問題,而是需要全球協同;人工智能發展應以增進人類共同福祉為目標,符合人類的價值觀和倫理道德。中國的專家們盼著與全世界的科學家一起建立共識、協同發展,為促進人機和諧,服務人類文明進步共同努力。

百度网球比分直播