組織面對AI治理的時間炸彈

Trustmarque最近的一份報告顯示，許多組織在人工智能係統的開發和部署過程中未能解決AI特定的風險。

儘管AI引入了獨特的挑戰，例如模型偏見，缺乏透明度和幻覺，業務領導者繼續依靠傳統的軟件開發框架，這些框架不適合管理這些新興威脅。

該報告強調，雖然93％的組織已經以某種形式使用了AI，但很少有人對其現有流程進行了調整以處理與AI相關的漏洞。令人震驚的是，只有7％的人完全實施了治理結構，超過一半的人沒有治理或極有限的監督。

此外，只有8％的人成功地將AI治理納入了其軟件開發生命週期（SDLC），大多數人將他們的努力描述為各個部門的分散或不一致。

AI模型帶來了固有的危險，包括偏見的產出和幻覺，這是事實。儘管許多公司進行了安全檢查或監視異常情況，但只有28％的人在開發過程中積極測試偏見，而僅22％的模型可解釋性。

一個主要的障礙是基礎設施不足。只有4％的組織表示他們的數據和技術環境完全有能力支持大規模AI計劃。至關重要的是，基本組件（例如模型註冊表，審核跟踪和版本控制）通常是手動或根本無法處理的。

Trustmarque AI負責人Seb Burrell說：“ AI的採用顯然超過了治理。” “由於有93％的組織使用AI，但只有7％的組織擁有全面的治理，因此存在很大的脫節。創新的移動速度比系統更快，並且支持結構可以跟上。”

他補充說：“開發團隊缺乏必要的工具和基礎設施，而領導力支持不足來建立強大的治理框架，這使情況惡化了。”

問責制仍然分散，只有9％的受訪者表明IT領導與治理責任之間的一致性。全部有19％的人報告沒有指定的AI治理所有者。

大多數治理計劃都在部門層面領導，而不是由企業範圍的戰略驅動。連續監控很少見，只有18％的組織使用KPI來跟踪AI的性能和隨著時間的合規性。

還缺乏跨職能合作。法律，道德和人力資源團隊僅在AI決策（40％）中進行諮詢，而只有20％的人建立了正式的多部門治理機構。

根據該報告，野心和實施之間的這種脫節是當今利用AI的企業的最大障礙。作者建議將AI計劃與核心業務目標保持一致，將治理直接嵌入開發工作流程中，並投資於技術基礎設施和勞動力能力。

他們還強調了跨職能的共同責任的必要性，而不是孤立的責任。

Burrell警告說：“組織的生成AI速度比管理的速度更快，而且風險是明顯的。” “如果沒有適當的監督，我們會看到增加對隱私侵犯，運營失敗，道德失誤和利益相關者信任的侵蝕的增加。這些不僅是監管問題，而且對長期業務穩定性和信譽的基本威脅。”

以上是組織面對AI治理的時間炸彈的詳細內容。更多資訊請關注PHP中文網其他相關文章！