可解釋AI（XAI）是人工智慧的一個新興分支，用於解析人工智慧能力所做的每一個決策背後的邏輯，是人工智慧能夠持續發展核心關注點之一。隨著大模型時代的到來，模型變得越來越複雜，關注可解釋性對於提升人工智慧系統的透明度、安全性和可靠性具有重要意義。
可解釋AI國際標準IEEE P2894發布，開啟A# I「黑盒子」
近期，IEEE標準協會關於可解釋AI體系架構的標準P2894（Guide for an Architectural Framework for Explainable Artificial Intelligence）正式發布。 IEEE是全球最大的非營利專業技術學會，在學術及國際標準等領域具有公認權威性，已經制定了900多個現行工業標準。 
標準原文連結：//m.sbmmt.com/link/b252e54edce965ac4408effd7ce41fb7
本次發布的可解釋AI體系架構標準為產業提供了建構、部署和管理機器學習模型的技術藍圖，同時透過採用各種可解釋AI方法來滿足透明和可信賴AI的要求。標準定義了可解釋AI的架構框架和應用指南，包括可解釋AI的描述和定義、可解釋AI方法的分類和每種類型適用的應用場景，以及可解釋AI系統在準確性、隱私和安全方面的性能評估方法。
早在2020年6月，微信銀行、華為、京東、百度、依圖、海信、中電科大數據研究院、中科院計算所、中國電信、中國移動、中國聯通、上海電腦軟體技術開發中心、新奧集團、華夏基金、創新工場等20餘家企業及機構基於金融、零售、智慧城市等多領域業務場景對AI技術安全規範、可解釋性的深刻理解，在IEEE標準協會共同成立可解釋性工作小組，並於當月組織了第一次標準工作小組會議。微信銀行人工智慧首席科學家範力欣博士擔任標準工作小組主席，由美國華盛頓大學教授陳一昕博士擔任副主席。此後，標準工作小組召開多次會議，最終標準草案於2024年2月由IEEE標準協會通過正式發布。
標準工作小組主席範力欣博士表示：「可解釋性是當下AI技術發展階段中不可忽視的重要議題，但是相關的行業標準和規範文件仍然不夠完善。此次的標準制定吸收了來自金融、通訊、零售、互聯網等各個領域的頭部企業和研究機構的前沿實踐經驗，相信能為AI的更廣泛落地提供具有價值的參考。」
##可信聯邦學習與可信任AI相關標準將陸續出台，聚焦AI資料安全與隱私保護
《資料範力欣博士介紹，此次發布的可解釋AI系統架構標準也是“可信任聯邦學習”新典範研究與落地的重要里程碑。 「可信任聯邦學習」是一種能夠滿足使用者和監管等各方面需求的分散式機器學習範式。在這個範式中，隱私保護、模型效能、演算法效率是核心的三角基石，與模型的決策可解釋性和模型的可監管性兩大支柱，共同構成了更安全可信的聯邦學習。 》這是一篇介紹「可信聯邦學習」新典範的文章。在這個範式中，隱私保護、模型性能、演算法效率是核心的三角基石，與模型的決策可解釋性和模型的可監管性兩大支柱，共同構成了更安全可信的聯邦學習。此範式可以滿足各方面的需求，是一種新的分散式機器學習方式。這篇文章是介紹這個範式的重要性和構成要素的。 資料安全流通具有關鍵性作用，可信任聯邦學習對於推動資料要素的安全流通具有關鍵性作用。國家資料局印發的《「資料要素」三年行動計畫（2024—2026年）》提出「打造安全可信任流通環境，深化隱私運算、聯邦學習等技術應用，增強資料利用可信度、可控制性、可計量能力，促進資料合規高效流通使用。」可信任聯邦學習作為一種基於隱私運算、聯邦學習等技術的資料合規流通方式，可以增強資料利用的可信度、可控性、可計量能力，促進資料在合規高效流通和使用方面的應用，從而實現資料價值的最大化。隨著工業界和學術界對聯邦學習和可信賴人工智慧的關注，IEEE標準協會批准立項的多個可信賴聯邦學習和可信賴人工智慧標準也將陸續出台。其中，關於聯邦學習的隱私和安全架構的標準IEEE P2986 （Recommended Practice for Privacy and Security for Federated Machine Learning）草案已完成，預計不久將正式發布。該標準在業界首次提出聯邦學習的隱私風險等級和安全風險等級評估方法。具體包括聯邦機器學習中的常見故障及對抗方法、聯邦機器學習的隱私和安全要求、及聯邦機器學習隱私和安全評估指南。
此外，以IEEE P2986為基礎，更加聚焦聯邦學習的可信賴、可解釋、可優化、可監管的可信聯邦學習標準IEEE P3187（Guide for Framework for Trustworthy Federated Machine Learning）也已完成初步審核。該標準提出了可信聯邦學習的框架和特性，對實現這些特性做了具體約束，並對實現可信聯邦學習的方案進行了介紹。
大模型AI Agent#聯邦學習，打造大模型時代的可信賴人工智慧
近期，中國電信和微眾銀行也共同發起成立了關於語意資訊智能體的聯邦學習標準IEEE P3427（Standard for Federated Machine Learning of Semantic Information Agents）工作小組。該標準計劃討論議題包括基於聯邦機器學習的語義認知網絡中不同語義智能體的角色定義、激勵機制、語義通信，語義智能體上便於人類理解的語義信息表徵，以及語義智能體之間的聯邦資訊安全、高效互動等。該標準工作小組計畫於2024年3月底進行標準研製，目前正廣泛吸收各行業的相關專家加入，共同完善標準，促進產業發展。
相關行業標準的陸續發布將進一步推動跨行業、跨領域的技術合作與創新，打開AI的“黑盒子”，推動數據要素的安全高效流通，高準確性和高可解釋性的人工智慧將有助於實現技術廣泛、負責任、有效地應用，為人類帶來福祉。
以上是IEEE可解釋AI體系架構標準P2894正式發布的詳細內容。更多資訊請關注PHP中文網其他相關文章！
