NIST: KI-Voreingenommenheit geht weit über die Daten selbst hinaus

​Mittlerweile sollte niemand mehr bestreiten, dass die meisten künstlichen Intelligenzen auf einer problematischen Voreingenommenheit basieren und diese derzeit anwenden. Dies ist eine Herausforderung, die hundertfach beobachtet und nachgewiesen wurde. Die Herausforderung für Unternehmen besteht darin, KI-Vorurteile auszumerzen, anstatt sich nur mit besseren, unvoreingenommenen Daten zufrieden zu geben.

In einer umfassenden Überarbeitung seiner Veröffentlichung „Toward Standards for Identifying and Managing Bias in Artificial Intelligence“ (NIST 1270 Special Publication) bringt das National Institute of Standards and Technology NIST nach einer öffentlichen Kommentierungsphase im letzten Jahr ein starkes Argument vor dafür, dass wir über Daten und sogar ML-Prozesse hinausgehen, um KI-Vorurteile aufzudecken und zu zerstören.

Anstatt schlecht gesammelte oder schlecht gekennzeichnete Daten dafür verantwortlich zu machen, sagen die Autoren, dass die nächste Grenze der Verzerrung in der KI „institutionelle und soziale Faktoren bei Menschen und Systemen“ seien, und drängen auf eine soziotechnische Perspektive, um bessere Antworten zu finden.

„Kontext ist alles“, sagte Reva Schwartz, NISTs leitende Forscherin für Voreingenommenheit in der künstlichen Intelligenz und eine der Autoren des Berichts. „KI-Systeme funktionieren nicht isoliert. Wenn wir vertrauenswürdige KI-Systeme entwickeln wollen, müssen wir alle Faktoren berücksichtigen, die das Vertrauen der Öffentlichkeit in KI untergraben könnten Vieles geht über die Technologie selbst hinaus und wirkt sich auf die Technologie aus, was durch die Kommentare, die wir von einer Vielzahl von Menschen und Organisationen erhalten haben, unterstrichen wird.“

Welche menschlichen und systemischen Vorurteile tragen zur Voreingenommenheit in der KI bei? Dem NIST-Bericht zufolge werden Menschen grundsätzlich in zwei Hauptkategorien eingeteilt: Einzelpersonen und Gruppen, und in jeder Kategorie gibt es viele spezifische Vorurteile.

Zu den individuellen menschlichen Vorurteilen gehören Automatisierungs-Selbstzufriedenheit, bei der sich Menschen zu sehr auf automatisierte Fähigkeiten verlassen, also eine unbewusste Überzeugung, Einstellung, Assoziation oder ein Stereotyp, das die Entscheidungen einer Person beeinflusst, und Bestätigungs-Voreingenommenheit, bei der Menschen Informationen bevorzugen im Einklang mit ihren bestehenden Überzeugungen stehen oder mit ihnen übereinstimmen.

Zu den menschlichen Grundlagen von Gruppen gehört das Gruppendenken, das Phänomen, bei dem Menschen aus dem Wunsch heraus, sich der Gruppe anzupassen oder Meinungsverschiedenheiten zu vermeiden, suboptimale Entscheidungen treffen; Dies wiederum kann zusätzlichen persönlichen/gruppenbezogenen Vorurteilen unterliegen.

Systemische Voreingenommenheit wird im NIST-Bericht als historisch, sozial und institutionell definiert. Im Wesentlichen wurden seit langem bestehende Vorurteile im Laufe der Zeit in der Gesellschaft und in den Institutionen kodifiziert und werden weitgehend als „Fakten“ oder „so wie die Dinge sind“ akzeptiert.

Der Grund, warum diese Vorurteile wichtig sind, liegt darin, wie viel Einfluss der KI-Einsatz auf die Art und Weise hat, wie Unternehmen heute arbeiten. Aufgrund rassistisch voreingenommener Daten werden Menschen Hypotheken verweigert, wodurch ihnen die Möglichkeit verwehrt wird, zum ersten Mal ein Eigenheim zu besitzen. Arbeitssuchenden werden Vorstellungsgespräche verweigert, weil die KI darauf trainiert ist, Einstellungsentscheidungen zu treffen, die in der Vergangenheit Männer gegenüber Frauen begünstigten. Vielversprechenden jungen Studenten werden Vorstellungsgespräche oder die Zulassung zu Hochschulen verweigert, weil ihre Nachnamen nicht mit den Vornamen erfolgreicher Menschen aus der Vergangenheit übereinstimmen.

Mit anderen Worten: Voreingenommene KI schafft ebenso viele verschlossene Türen wie effiziente Öffnungen. Wenn Unternehmen nicht proaktiv daran arbeiten, Voreingenommenheit bei ihren Einsätzen zu beseitigen, werden sie schnell einen gravierenden Mangel an Vertrauen in ihre Denk- und Arbeitsweise erleben.

Welche soziotechnische Perspektive empfiehlt NIST?

Im Kern steht die Erkenntnis, dass die Ergebnisse jeder KI-Anwendung mehr sind als nur mathematische und rechnerische Eingaben. Sie werden von Entwicklern oder Datenwissenschaftlern erstellt, ihre Positionen und Institutionen variieren und alle sind mit einem gewissen Maß an Belastung verbunden.

NISTs Bericht lautet: „Ein soziotechnischer Ansatz für KI berücksichtigt die aus Datensätzen modellierten Werte und Verhaltensweisen, die Menschen, die mit ihnen interagieren, und die komplexen organisatorischen Faktoren, die bei ihrer Delegation, ihrem Design, ihrer Entwicklung und ihrem endgültigen Einsatz eine Rolle spielen.“

NIST glaubt, dass Organisationen aus soziotechnischer Sicht durch „Genauigkeit, Erklärbarkeit und Verständlichkeit, Privatsphäre, Zuverlässigkeit, Robustheit, Sicherheit und Sicherheitsresilienz“ größeren Erfolg erzielen können.

Eine ihrer Empfehlungen besteht darin, dass Organisationen ihre Test-, Bewertungs-, Validierungs- und Validierungsprozesse (TEVV) implementieren oder verbessern. Es sollte Möglichkeiten geben, Verzerrungen in einem bestimmten Datensatz oder trainierten Modell mathematisch zu überprüfen. Sie empfehlen außerdem, unterschiedliche Bereiche und Positionen stärker in die KI-Entwicklungsbemühungen einzubeziehen und mehrere Stakeholder aus verschiedenen Abteilungen oder außerhalb der Organisation einzubeziehen. Im „Human-in-the-Loop“-Modell korrigieren Einzelpersonen oder Gruppen kontinuierlich die grundlegende ML-Ausgabe, was auch ein wirksames Instrument zur Beseitigung von Verzerrungen ist.

Zusätzlich zu diesen und überarbeiteten Berichten gibt es das Artificial Intelligence Risk Management Framework (AI RMF) des NIST, eine konsensbasierte Reihe von Empfehlungen zum Management der mit KI-Systemen verbundenen Risiken. Nach seiner Fertigstellung wird es Transparenz, Design und Entwicklung, Governance und Tests von KI-Technologien und -Produkten umfassen. Die erste Kommentierungsfrist für das AI RMF ist abgelaufen, aber wir haben immer noch viele Möglichkeiten, mehr über KI-Risiken und -Minderungen zu erfahren.

Das obige ist der detaillierte Inhalt vonNIST: KI-Voreingenommenheit geht weit über die Daten selbst hinaus. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!