偏見と不平等にノーを突きましょう！ Microsoft、物議を醸す顔認識サービスの提供を停止

Microsoft Corp.は、ビデオや画像に基づいて感情を認識するサービスなど、人工知能を利用した顔認識ツールの一部へのアクセスを段階的に廃止すると発表した。

Microsoft が数日前にこの決定を発表したとき、27 ページの「責任ある人工知能の標準」もリリースしました。この標準は、Microsoft の公正で価値のある信頼できる人工知能の目標について説明しています。 。これらの標準を満たすために、Microsoft は、AzureFace API、Computer Vision、Video Indexer サービスによって提供されるものを含む、一部の顔認識ツールへのアクセスを制限しています。

Microsoft は、新規ユーザーにはこれらの機能を使用する機会がなく、既存の顧客は今年末までにこれらの機能の使用を停止する必要があると述べました。

顔認識テクノロジーは、公民権団体とプライバシー団体にとって大きな懸念事項となっています。これまでの研究では、顔認識技術は完璧とは程遠く、女性の被写体や肌の色が濃い人を不当に高い割合で誤認することが多いことが示されている。これは、犯罪容疑者やその他の監視状況を特定するために AI が使用される場合に、重大な潜在的な問題を引き起こす可能性があります。

感情を検出するための人工知能ツールの使用は、さらに物議を醸しています。今年初め、ズーム・ビデオ・コミュニケーションズ社は「感情人工知能」機能の追加を検討していると発表し、プライバシー保護団体ファイト・フォー・ザ・フューチャーは、この技術が悪用される可能性を懸念してズームに追加しないよう求めるキャンペーンを開始した。

顔認識をめぐる論争はテクノロジー企業の注目を集めており、アマゾン ウェブ サービスとフェイスブックの親会社メタ プラットフォームズは両社ともそのようなツールの使用を縮小している。

マイクロソフトの人工知能チーフリーダーであるナターシャ・クランプトン氏はブログ投稿で、人工知能システムが信頼できるものであるためには、人工知能システムが意図した問題に対する適切な解決策でなければならないことをマイクロソフトは認識していると述べた。解決するために。クランプトン氏によると、顔認識は不適切なソリューションとみなされ、マイクロソフトは「性別、年齢、笑顔、ひげ、髪、メイクなどの感情状態とアイデンティティ属性」を推測するAzureサービスを中止する予定だという。

彼女はまた、「AI システムには、社会的な偏見と不平等を悪化させる可能性があり、おそらくこれらのシステムに関連する最も広く認識されている害の 1 つです。私たちの法律は、AI 特有のリスクにまだ追いついていません。」とも述べました。 「人工知能に対する政府の取り組みが拡大している兆候が見られますが、私たちには行動する責任があることも認識しています。」

アナリストらはマイクロソフトの決定が良いものかどうかを検討している 見解には相違がある意見の。 Pund-ITのチャールズ・キング氏は記者団に対し、顔認識技術をめぐる論争に加えて、人工知能の分類ツールやプロファイリングツールの結果は満足のいくものではないことが多く、作成者が主張するような結果が得られることはほとんどないと語った。キング氏は、「同様に重要なことは、より良い生活を求める難民や有色人種が非常に多くの場所で攻撃を受けており、プロファイリングツールが悪用される可能性が非常に高いということだ。そのため、マイクロソフトはこのツールの使用を制限していると思う」と語った。 Enderle Group の Rob Enderle 氏は、Microsoft が初期の多くの失敗から長い道のりを経てきた顔認識ツールから撤退するのは残念だと述べた。同氏は、顔認識を巡る悪評のせいで一部の大手企業がこの分野から遠ざかっていると述べた。

エンダール氏は、「人工知能ベースの顔認識技術は、犯罪者、テロリスト、スパイを捕まえるにはあまりにも価値があるため、政府機関はこの技術の使用をやめないだろう。しかし、マイクロソフトの撤退により、政府機関は最終的に次のツールを使用することになる」と述べた。 「防衛専門企業や外国ベンダーは、同様にうまく機能せず、同様の管理が欠如している可能性が高い。魔神は解き放たれており、これ以上顔認識技術を破壊しても状況は悪化するだけだ。社会全体がこの恩恵を受けることはできない」 ."

Microsoft は、自社の責任ある人工知能標準は顔認識に限定されないと述べました。 Microsoft は、これらの標準を、文字起こしツールの強化に使用できる音声テキスト変換サービスである Azure AI Custom Neural Speech にも適用する予定です。 Microsoftは、2020年3月の調査でアフリカ系アメリカ人と黒人のコミュニティではソフトウェア使用時のエラー率が高いことが判明し、これを考慮してソフトウェアを改善する措置を講じたと説明した。

以上が偏見と不平等にノーを突きましょう！ Microsoft、物議を醸す顔認識サービスの提供を停止の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。