人工智慧産業先過“安全可控”關

　　人工智慧正加速各行各業的智慧化轉型，但數據隱私、演算法偏見、技術濫用等安全問題也給人工智慧的治理與産業發展帶來嚴峻挑戰。

　　未來人工智慧如何兼顧創新發展與安全可控？在前不久舉辦的北京智源大會AI安全與産業治理論壇上，中國科學院院士、清華大學人工智慧研究院院長張鈸表示，未來人工智慧産業發展在擴大應用場景的同時，必須實現數據、演算法與應用層的安全可控。

　　“人工智慧的安全可控問題要從技術層面來解決。”在具體實現路徑上，張鈸提出了發展“第三代人工智慧”，即融合第一代知識驅動和第二代數據驅動的人工智慧，利用數據、知識、演算法和算力4個要素，發展安全、可信、可靠和可擴展的AI技術。

　　如何定義人工智慧“安全可控”？北京瑞萊智慧科技有限公司CEO田天認為，“安全”是指打造數據安全與演算法安全兩大核心能力，解決數據強依賴帶來的隱私洩露等隱患，同時提升演算法的可靠性，從而保證系統在網路過載或有意攻擊情況下，依然穩定運作不崩潰；“可控”既指應用層面的合規可控，更指核心技術的自主可控，以自主可控為根基，通過理論創新、技術突破形成核心競爭力。安全可控是發展第三代人工智慧的核心基準，也是加快人工智慧高品質發展的有力支撐。

　　數據的不安全和演算法的不安全是制約當前人工智慧産業發展的主要因素，也是發展安全可控人工智慧需要解決的核心問題。在中國資訊通信研究院安全所資訊安全研究部主任魏薇看來，人工智慧與數據産業互促發展的同時，安全問題也相互影響。一方面，人工智慧對數據強依賴的發展特性導致其面臨的自身數據安全風險、應用導致的數據安全風險以及應用加劇的數據治理挑戰日益凸顯；另一方面，人工智慧也為數據治理工作提供自動化、智慧化、高效化、精準化的智慧支撐。

　　相較數據安全，演算法安全問題初露端倪。阿裏安全資深演算法專家何源介紹，雖然人工智慧技術已經在凈化網路環境、智慧財産權保護、生物識別、線下安防等安全工作中發揮著越來越大的助力作用，讓安全更智慧，但其本身也面臨著魯棒性不夠、可解釋性差、技術濫用等安全風險。比如，演算法漏洞的存在可以針對圖像檢索系統開展攻擊，導致非原創圖片逃逸檢測，對網站安全與商家權益造成威脅。

　　發展安全可控的人工智慧是一項系統性的工作，需要從行業標準、法律規範、技術發展等多個維度打造與之配套的“基礎設施”，其中技術基礎設施的打造仍將發揮基礎性作用。比如，基於安全多方計算、聯邦學習、匿蹤查詢等技術打造數據安全共用平臺解決數據隱私難題，讓數據安全共用流通；打造人工智慧系統防火牆，為人臉識別、目標檢測、圖像分類等系統提供安全檢測與防禦加固，從根本上提升系統安全性。

　　在新基建浪潮驅動下，人工智慧産業即將迎來與傳統産業深度融合的機遇期。田天表示，在安全可控的核心支撐下，人工智慧能夠實現從“單點自動化”到“深度智慧化”的價值提升。例如，在金融領域，人工智慧的創新融合正為金融行業打造出一個兼具決策分析與感官感知的“智慧大腦”。而在安全可控的支撐下，“智慧大腦”能夠拓展全新能力邊界，形成更好的“決策左腦”與更加安全可靠的“感知右腦”。

　　在安全可控的助力下，“深度智慧”時代正加速到來，人工智慧在各行業領域的應用廣度和深度將不斷得到拓展。“第三代人工智慧通過釋放‘數據、知識、演算法、算力’的全新維度，為實現安全可控的新一代人工智慧提供可能，讓人工智慧走出‘淺層智慧’的舒適區，重塑産業價值。”田天説。（記者李芃達）

　　網路傳播視聽節目許可證號:0105123 京公網安備9號 京網文[2011]0252-085號經濟日報