人工智慧（Artificial Intelligence，AI）發軔於20世紀50年代，至今已經歷了三次發展浪潮，不管是實驗室階段還是大規模產業化階段，研究者們幾十年如一日不變的都是推進其技術的進步，希望機器真的有一天能具有一般人類智慧，執行全方位的人類認知能力。
近年來，為了讓AI更健康發展，有一項技術領域正在成為產業界和學術界研究的重點：可信AI，即將人類社會的正面價值觀，透過技術賦予到人工智慧上，包括可解釋、公平性、隱私保護和公平性。
從學術研究層面來說，可信任AI主要是針對演算法和系統層面的研究，包括安全性/穩健性、可解釋性、隱私性、公平性、可審計性/問責性、環境保護。可解釋性包括學習方法或模型的理論可解釋、演算法可解釋、行為可解釋；穩健性主要針對模型穩定性研究、攻擊模型和防禦模型；隱私保護指的是攻擊與保護方法直接的博弈，如差分隱私、多中心聯邦學習；公平性針對的是各種數據、模型的偏置研究，平等和公正的平衡；而環保指的是尋求高能效策略，更高能效的計算硬體。
與可信任AI學術研究不同，企業較多是針對當下的問題，提出解決方案。如2015年，螞蟻集團啟動基於「端特徵」的手機遺失風險研究項目，旨在以AI技術保護使用者的隱私安全。為了解決了AI中的公平性（Fairness），IBM於2018年開發了多個AI可信工具，在AI系統中採用不帶偏見的數據集和模型，從而避免對特定群體的不公平。產業界對可信AI的應用加更加苛刻，容錯率更高。很多可信AI白皮書提到，可信AI真正落地起來，需要放到生產流程裡面，讓其成為機制，發揮技術的約束作用。
青年學生是重要的技術人才儲備。對於研究可信AI的青年學生來說，對從事可信AI怎麼準備，在他們現在的學習和生活中，就應了解學術的前沿，以及業界最新技術趨勢，思考哪些技術可以應用到哪些問題上，主動觀察了解所處的世界，以及業界的需求痛點和技術瓶頸。例如，最近一檔可信AI實戰科技真人秀，就聯動了全國一些頂尖高校，透過可信AI在工業界「科技反詐」當中的應用，還原了可信AI技術在實際應用中的能力，把學術界和產業界正在做的事，透過大家都能理解的形式打通起來，讓技術從業人員、技術研究者都深度參與其中。
做AI研究，「複雜度」是關鍵字。環境複雜度、任務複雜度、系統複雜度決定了AI的程度。對它的研究可以揭示AI產生原理，也可以回答AI的終極問題，即對人類命運的最終影響。未來可信AI研究，也要從複雜度分析來看AI為人類帶來的價值，更需要學界和產業界共同努力來推動。
以上是北大王亦洲：擦亮可信AI研究名片，需產學研結合的詳細內容。更多資訊請關注PHP中文網其他相關文章！
