组织面对AI治理的时间炸弹

Trustmarque最近的一份报告显示，许多组织在人工智能系统的开发和部署过程中未能解决AI特定的风险。

尽管AI引入了独特的挑战，例如模型偏见，缺乏透明度和幻觉，业务领导者继续依靠传统的软件开发框架，这些框架不适合管理这些新兴威胁。

该报告强调，虽然93％的组织已经以某种形式使用了AI，但很少有人对其现有流程进行了调整以处理与AI相关的漏洞。令人震惊的是，只有7％的人完全实施了治理结构，超过一半的人没有治理或极有限的监督。

此外，只有8％的人成功地将AI治理纳入了其软件开发生命周期（SDLC），大多数人将他们的努力描述为各个部门的分散或不一致。

AI模型带来了固有的危险，包括偏见的产出和幻觉，这是事实。尽管许多公司进行了安全检查或监视异常情况，但只有28％的人在开发过程中积极测试偏见，而仅22％的模型可解释性。

一个主要的障碍是基础设施不足。只有4％的组织表示他们的数据和技术环境完全有能力支持大规模AI计划。至关重要的是，基本组件（例如模型注册表，审核跟踪和版本控制）通常是手动或根本无法处理的。

Trustmarque AI负责人Seb Burrell说：“ AI的采用显然超过了治理。” “由于有93％的组织使用AI，但只有7％的组织拥有全面的治理，因此存在很大的脱节。创新的移动速度比系统更快，并且支持结构可以跟上。”

他补充说：“开发团队缺乏必要的工具和基础设施，而领导力支持不足来建立强大的治理框架，这使情况恶化了。”

问责制仍然分散，只有9％的受访者表明IT领导与治理责任之间的一致性。全部有19％的人报告没有指定的AI治理所有者。

大多数治理计划都在部门层面领导，而不是由企业范围的战略驱动。连续监控很少见，只有18％的组织使用KPI来跟踪AI的性能和随着时间的合规性。

还缺乏跨职能合作。法律，道德和人力资源团队仅在AI决策（40％）中进行咨询，而只有20％的人建立了正式的多部门治理机构。

根据该报告，野心和实施之间的这种脱节是当今利用AI的企业的最大障碍。作者建议将AI计划与核心业务目标保持一致，将治理直接嵌入开发工作流程中，并投资于技术基础设施和劳动力能力。

他们还强调了跨职能的共同责任的必要性，而不是孤立的责任。

Burrell警告说：“组织的生成AI速度比管理的速度更快，而且风险是明显的。” “如果没有适当的监督，我们会看到增加对隐私侵犯，运营失败，道德失误和利益相关者信任的侵蚀的增加。这些不仅是监管问题，而且对长期业务稳定性和信誉的基本威胁。”

以上是组织面对AI治理的时间炸弹的详细内容。更多信息请关注PHP中文网其他相关文章！