Organisationen sehen sich der Timing Timebomb gegenüber AI Governance ausgesetzt

Ein aktueller Bericht von TrustMarque zeigt, dass viele Unternehmen während der Entwicklung und Bereitstellung künstlicher Intelligenzsysteme nicht mit KI-spezifischen Risiken eingehen.

Trotz der einzigartigen Herausforderungen stützt sich AI-wie Modellverzerrung, mangelnde Transparenz und Halluzinationen-, die Führungskräfte weiterhin auf traditionelle Softwareentwicklungsrahmen verlassen, die für die Verwaltung dieser aufkommenden Bedrohungen nicht geeignet sind.

In dem Bericht wird hervorgehoben, dass 93% der Organisationen KI bereits in irgendeiner Form verwenden, aber nur sehr wenige ihre vorhandenen Prozesse für die Behandlung von KI-bezogenen Schwachstellen angepasst haben. Schockierend, nur 7% haben die Governance -Strukturen vollständig umgesetzt und über die Hälfte ohne Governance oder äußerst begrenzte Aufsicht betrieben.

Darüber hinaus haben nur 8% die KI -Governance erfolgreich in ihren Softwareentwicklungslebenszyklus (SDLC) integriert, wobei die meisten ihre Bemühungen als fragmentiert oder inkonsistent beschrieben haben.

KI -Modelle haben inhärente Gefahren, einschließlich voreingenommener Outputs und Halluzinationen - erreichte Antworten, die als Fakten dargestellt werden. Obwohl viele Unternehmen Sicherheitschecks oder Monitor für Anomalien durchführen, testen nur 28% aktiv auf Verzerrungen während der Entwicklung und nur 22% der Modellinterpretierbarkeit.

Ein wichtiges Hindernis ist eine unzureichende Infrastruktur. Nur 4% der Organisationen sagen, dass ihre Daten und technischen Umgebungen voll ausgestattet sind, um groß angelegte KI-Initiativen zu unterstützen. Entscheidend ist, dass wesentliche Komponenten wie Modellregister, Prüfungswege und die Versionskontrolle häufig manuell oder gar nicht behandelt werden.

"Die Annahme von KI ist eindeutig die Governance", sagte Seb Burrell, Leiter der AI bei Trustmarque. "Da 93% der Organisationen, die KI verwenden, jedoch nur 7% umfassende Governance -Governance haben, gibt es eine erhebliche Unterbrechung. Innovation bewegt sich schneller als Systeme und Unterstützungsstrukturen können Schritt halten."

Er fügte hinzu: "Entwicklungsteams fehlen die erforderlichen Werkzeuge und Infrastrukturen, und dies wird durch unzureichende Unterstützung für die Führung von Führungskräften für den Aufbau starker Governance -Rahmenbedingungen verschlechtert."

Die Rechenschaftspflicht bleibt diffus, wobei nur 9% der Befragten eine Ausrichtung zwischen IT -Führung und Governance -Verantwortlichkeiten angeben. Volle 19% gaben an, keinen ausgewiesenen Eigentümer für die KI -Governance zu haben.

Die meisten Governance-Initiativen werden eher auf Abteilungsebene als auf unternehmensweite Strategie angetrieben. Die kontinuierliche Überwachung ist selten - nur 18% der Organisationen nutzen KPIs, um die KI -Leistung und -konformität im Laufe der Zeit zu verfolgen.

Es fehlt auch eine funktionsübergreifende Zusammenarbeit. Rechts-, Ethik- und HR-Teams werden nur gelegentlich in der KI-Entscheidungsfindung konsultiert (40%), und nur 20% haben formelle, mehrfach abteilte Governance-Körperschaften festgelegt.

Laut dem Bericht stellt diese Trennung zwischen Ehrgeiz und Umsetzung die größte Hürde für Unternehmen dar, die die KI heute nutzt. Die Autoren empfehlen, AI -Initiativen mit den Kerngeschäftszielen auszurichten, die Governance direkt in Entwicklungsworkflows einzubetten und in die Funktionen für technologische Infrastrukturen und Belegschaft zu investieren.

Sie betonen auch die Notwendigkeit einer gemeinsamen Rechenschaftspflicht über Funktionen hinweg und nicht die Verantwortung.

"Organisationen veranstalten die generative KI schneller als sie verwalten können, und die Risiken sind greifbar", warnte Burrell. "Ohne ordnungsgemäße Aufsicht verzeichnen wir eine zunehmende Exposition gegenüber Datenschutzverstößen, operativen Fehlern, ethischen Verfällen und Erosion des Stakeholder-Trusts. Dies sind nicht nur regulatorische Bedenken, sondern grundlegende Bedrohungen für langfristige Geschäftsstabilität und Glaubwürdigkeit."

Das obige ist der detaillierte Inhalt vonOrganisationen sehen sich der Timing Timebomb gegenüber AI Governance ausgesetzt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!