Fairness-Technologie mit künstlicher Intelligenz ist für die Rettung von Leben von großer Bedeutung

Daphne Yao, Professorin für Informatik an der Virginia Tech, hofft, die Vorhersagegenauigkeit von Modellen des maschinellen Lernens in medizinischen Anwendungen zu verbessern. Ungenaue Vorhersagen können lebensbedrohliche Folgen haben. Diese Vorhersagefehler können dazu führen, dass die Wahrscheinlichkeit eines Patienten, während eines Notaufnahmebesuchs an seiner Krebserkrankung zu sterben oder zu überleben, falsch eingeschätzt wird.

Ihre Ergebnisse wurden kürzlich in der Zeitschrift Medical Communications veröffentlicht, einer Zeitschrift, die sich der Veröffentlichung hochwertiger Forschungsergebnisse, Rezensionen und Artikel in allen Bereichen der klinischen, translationalen und öffentlichen Gesundheitsforschung widmet.

Yao sagte, dass viele klinische Datensätze unausgewogen seien, weil sie von Stichproben der Mehrheitsbevölkerung dominiert würden. Im typischen Modellparadigma für maschinelles Lernen, das für alle passt, gibt es wahrscheinlich Rassen- und Altersunterschiede, die jedoch ignoriert werden können.

Yao und ihr Forschungsteam arbeiteten mit Charles B. Nemeroff, einem Mitglied der National Academy of Medicine und Professor in der Abteilung für Psychiatrie und Verhaltenswissenschaften an der Dell Medical School der University of Texas in Austin, zusammen, um das zu untersuchen Trainingsdaten. Wie sich Voreingenommenheit auf die Vorhersageergebnisse auswirkt, insbesondere bei unterrepräsentierten Patienten, z. B. jüngeren Patienten oder farbigen Patienten.

„Ich freue mich sehr, mit Yao zusammenzuarbeiten, die weltweit führend im Bereich fortgeschrittenes maschinelles Lernen ist“, sagte Nemeroff. „Sie und ich haben ein Konzept besprochen, mit dem neue Fortschritte im maschinellen Lernen auf klinische Forscher angewendet werden könnten.“ Ein sehr wichtiges Problem, das häufig auftritt, besteht darin, dass die Anzahl der Minderheiten, die normalerweise an klinischen Studien teilnehmen, relativ gering ist.

Dies führt dazu, dass medizinische Schlussfolgerungen hauptsächlich für die Mehrheitsgruppe (weiße Patienten europäischer Abstammung) gezogen werden gelten nicht für ethnische Minderheitengruppen.

Nemeroff sagte: „Dieser neue Bericht bietet eine Möglichkeit, die Genauigkeit von Vorhersagen für Minderheitengruppen zu verbessern.“ „Offensichtlich haben diese Ergebnisse sehr wichtige Auswirkungen auf die Verbesserung der klinischen Versorgung von Minderheitenpatienten. “

Yao's Das Virginia Tech-Team besteht aus den Doktoranden Sharmin Afrose und Wenjia Song im Fachbereich Informatik und Chang Lu, Professor Fred W. Bull im Fachbereich Chemieingenieurwesen. Zur Durchführung der Studie führten sie Experimente zu vier verschiedenen Prognoseaufgaben an zwei Datensätzen durch und verwendeten dabei eine neuartige Bias-Korrekturmethode mit doppelter Priorität (DP), um maßgeschneiderte Modelle für bestimmte ethnische Gruppen oder Altersgruppen zu trainieren.

„Unsere Arbeit demonstriert eine neue KI-Fairness-Technik, die Vorhersagefehler korrigieren kann“, sagte Song, ein Doktorand im vierten Jahr, zu dessen Forschungsgebieten maschinelles Lernen in der digitalen Gesundheit und Cybersicherheit gehört. „Unsere DP-Methode verbessert die Leistung in Minderheitenklassen um bis zu 38 % und reduziert die Vorhersageunterschiede zwischen verschiedenen demografischen Gruppen erheblich, 88 % besser als andere Stichprobenmethoden die Aufgabe der Brustkrebs- und Lungenkrebs-Überlebensraten, während Afrose, ein Doktorand im fünften Jahr, den Datensatz des Beth Israel Deaconess Medical Center in Boston für die Aufgabe der Vorhersage der Mortalität im Krankenhaus und der Dekompensationsvorhersage verwendete.

„Wir freuen uns, eine Lösung zur Reduzierung von Voreingenommenheit gefunden zu haben“, sagte Afrose, zu dessen Forschungsschwerpunkten maschinelles Lernen im Gesundheitswesen und Softwaresicherheit gehören. „Unsere DP-Bias-Korrekturtechnologie wird potenziell lebensbedrohliche Vorhersagefehler für Minderheitengruppen reduzieren.“

Da diese Ergebnisse nun veröffentlicht und öffentlich zugänglich sind, ist das Team bestrebt, mit anderen Forschern an ihren eigenen klinischen Daten zusammenzuarbeiten. Diese Methoden wurden verwendet in der Analyse.

Song sagte: „Unsere Methode lässt sich problemlos auf verschiedenen Modellen des maschinellen Lernens einsetzen und kann dazu beitragen, die Leistung jeder Prognoseaufgabe mit Repräsentationsverzerrung zu verbessern.“

Das obige ist der detaillierte Inhalt vonFairness-Technologie mit künstlicher Intelligenz ist für die Rettung von Leben von großer Bedeutung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!