인공지능 공정성 기술은 생명을 구하는데 큰 의미를 갖는다

버지니아 공대 컴퓨터 과학 교수인 Daphne Yao는 의료 응용 분야에서 기계 학습 모델의 예측 정확도를 향상시키고 싶어합니다. 부정확한 예측은 생명을 위협하는 결과를 초래할 수 있습니다. 이러한 예측 오류로 인해 응급실 방문 중에 환자가 암으로 사망하거나 생존할 가능성을 잘못 계산할 수 있습니다.

그녀의 연구 결과는 임상, 중개 및 공중 보건 연구의 모든 영역에 걸쳐 고품질 연구, 리뷰 및 논문을 출판하는 데 전념하는 저널인 Medical Communications 저널에 최근 게재되었습니다.

Yao는 많은 임상 데이터 세트가 대다수 인구 표본에 의해 지배되기 때문에 불균형하다고 말했습니다. 일반적인 단일 크기의 기계 학습 모델 패러다임에서는 인종 및 연령 차이가 존재할 가능성이 있지만 무시될 수 있습니다.

Yao와 그녀의 연구팀은 국립 의학 아카데미(National Academy of Medicine) 회원이자 오스틴에 있는 텍사스 대학교 델 의과대학 정신의학과 행동과학과 교수인 Charles B. Nemeroff와 협력하여 다음과 같은 연구를 진행했습니다. 훈련 데이터 편향이 예측 결과에 어떤 영향을 미치는지, 특히 젊은 환자나 유색인종 환자와 같이 과소대표된 환자의 경우.

"첨단 기계 학습 분야의 세계적 리더인 Yao와 함께 일하게 되어 매우 기쁩니다. 그녀와 나는 기계 학습의 새로운 발전이 임상 연구자들에게 적용될 수 있다는 개념에 대해 논의했습니다." 흔히 접하게 되는 매우 중요한 문제는 임상시험에 주로 참여하는 소수자의 수가 상대적으로 적다는 것입니다. ”

이로 인해 주로 다수 집단(유럽계 백인 환자)을 대상으로 의학적 결론이 도출됩니다. 소수민족에는 적용되지 않습니다.

Nemeroff는 "이 새로운 보고서는 소수 집단에 대한 예측의 정확성을 향상시킬 수 있는 방법을 제공합니다."라고 말했습니다. "분명히 이러한 발견은 소수 집단 환자의 임상 치료를 개선하는 데 매우 중요한 의미를 갖습니다. "

Yao's 버지니아 공대 팀은 컴퓨터 과학과의 박사 과정 학생인 Sharmin Afrose와 Wenjia Song, 화학 공학과의 Fred W. Bull 교수인 Chang Lu로 구성되어 있습니다. 연구를 수행하기 위해 그들은 특정 인종 또는 연령 그룹에 대한 맞춤형 모델을 훈련하기 위해 새로운 이중 우선순위(DP) 편향 수정 방법을 사용하여 두 개의 데이터세트에 대해 네 가지 다른 예측 작업에 대한 실험을 수행했습니다.

"우리 연구는 예측 오류를 수정할 수 있는 새로운 AI 공정성 기술을 보여줍니다"라고 디지털 건강 및 사이버 보안 분야의 기계 학습을 연구하는 4년차 박사 과정 학생 Song은 말했습니다. "우리의 DP 방법은 소수 클래스의 성능을 최대 38% 향상시키고 다양한 인구통계학적 그룹 간의 예측 차이를 크게 줄여 다른 샘플링 방법보다 88% 더 좋습니다." 유방암과 폐암 생존율에 관한 작업을 진행했고, 박사 과정 5년차인 Afrose는 병원 내 사망률 예측 및 보상 부전 예측 작업에 보스턴에 있는 Beth Israel Deaconess Medical Center의 데이터 세트를 사용했습니다.

의료 및 소프트웨어 보안 분야의 기계 학습을 중점적으로 연구하고 있는 Afrose는 "편견을 줄일 수 있는 솔루션을 찾게 되어 기쁩니다."라고 말했습니다. "우리의 DP 편향 수정 기술은 소수 집단의 잠재적으로 생명을 위협할 수 있는 예측 오류를 줄일 것입니다."

이러한 결과가 이제 공개되고 공개적으로 액세스 가능해짐에 따라 팀은 자체 임상 데이터에 대해 다른 연구자들과 협력하기를 열망하고 있습니다. 분석에서.

Song은 "우리의 방법은 다양한 기계 학습 모델에 쉽게 배포되며 표현 편향이 있는 모든 예측 작업의 성능을 향상시키는 데 도움이 될 수 있습니다."라고 말했습니다.

위 내용은 인공지능 공정성 기술은 생명을 구하는데 큰 의미를 갖는다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!