Les organisations sont confrontées à une bombe temporelle sur la gouvernance de l'IA

Un récent rapport de TrustMarque révèle que de nombreuses organisations ne parviennent pas à lutter contre les risques spécifiques à l'IA pendant le développement et le déploiement de systèmes d'intelligence artificielle.

Malgré les défis uniques qui introduisent, comme les biais modèles, le manque de transparence et les hallucinations - les chefs de file continuent de s'appuyer sur des cadres de développement de logiciels traditionnels, qui sont mal adaptés à la gestion de ces menaces émergentes.

Le rapport souligne que si 93% des organisations utilisent déjà l'IA sous une forme ou une autre, très peu ont adapté leurs processus existants pour gérer les vulnérabilités liées à l'IA. Étonnamment, seulement 7% ont pleinement mis en œuvre des structures de gouvernance et plus de moitié fonctionnent sans gouvernance ou surveillance extrêmement limitée.

De plus, seulement 8% ont réussi à intégrer la gouvernance de l'IA dans leur cycle de vie de développement logiciel (SDLC), la plupart décrivant leurs efforts comme fragmentés ou incohérents entre les départements.

Les modèles d'IA comportent des dangers inhérents, y compris les sorties biaisées et les hallucinations - réponses falsifiées présentées comme faits. Bien que de nombreuses entreprises effectuent des contrôles de sécurité ou surveillent les anomalies, seulement 28% testent activement les biais pendant le développement, et seulement 22% évaluent l'interprétabilité du modèle.

Un obstacle majeur est une infrastructure inadéquate. Seulement 4% des organisations affirment que leurs données et leurs environnements techniques sont entièrement équipés pour prendre en charge les initiatives d'IA à grande échelle. Surtout, les composants essentiels comme les registres du modèle, les sentiers d'audit et le contrôle des versions sont souvent traités manuellement ou pas du tout.

"L'adoption de l'IA dépasse clairement la gouvernance", a déclaré Seb Burrell, chef de l'IA à Trustmarque. «Avec 93% des organisations utilisant l'IA mais seulement 7% ayant une gouvernance complète en place, il y a une déconnexion importante. L'innovation se déplace plus rapidement que les systèmes et les structures de soutien ne peuvent suivre.»

Il a ajouté: «Les équipes de développement n'ont pas les outils et les infrastructures nécessaires, et cela est aggravé par un soutien à la direction insuffisant pour la construction de cadres de gouvernance solides.»

La responsabilité reste diffuse, avec seulement 9% des répondants indiquant l'alignement entre le leadership informatique et les responsabilités de gouvernance. Un complet 19% ont déclaré n'avoir aucun propriétaire désigné pour la gouvernance de l'IA.

La plupart des initiatives de gouvernance sont dirigées au niveau départemental plutôt que motivées par la stratégie à l'échelle de l'entreprise. La surveillance continue est rare - seulement 18% des organisations utilisent des KPI pour suivre les performances et la conformité de l'IA au fil du temps.

La collaboration interfonctionnelle fait également défaut. Les équipes juridiques, éthiques et RH ne sont consultées qu'occasionnellement dans la prise de décision de l'IA (40%), et seulement 20% ont établi des organismes de gouvernance multi-départementaux formels.

Selon le rapport, cette déconnexion entre l'ambition et la mise en œuvre représente le plus grand obstacle pour les entreprises tirant parti de l'IA aujourd'hui. Les auteurs recommandent d'aligner les initiatives d'IA sur les objectifs commerciaux de base, d'intégrer la gouvernance directement dans les flux de travail de développement et d'investir à la fois dans des infrastructures technologiques et des capacités de main-d'œuvre.

Ils soulignent également la nécessité d'une responsabilité partagée entre les fonctions, plutôt que la responsabilité cloisonnée.

«Les organisations déploient une IA générative plus rapidement qu'elles ne peuvent le gérer, et les risques sont tangibles», a averti Burrell. «Sans une surveillance appropriée, nous constatons une exposition accrue aux violations de la vie privée, aux défaillances opérationnelles, aux tours éthiques et à l'érosion de la confiance des parties prenantes. Ce ne sont pas seulement des préoccupations réglementaires - ce sont des menaces fondamentales pour la stabilité et la crédibilité des entreprises à long terme.»

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!