AI バイアスを公平な方法で防ぐ方法-AI-php.cn

AI バイアスを公平な方法で防ぐ方法

人工知能 (AI) には、ビジネス運営に革命をもたらす大きな可能性があります。実際、ある調査によると、企業の 67% が来年 AI と機械学習のユースケースが増加すると予想しています。これらのテクノロジーには、ビジネス効率の向上、洞察の生成、市場競争力の強化、パーソナライズされた顧客エクスペリエンスの提供において利点があります。

しかし、高度に規制された業界では、企業は AI の説明可能性に関連する特別な課題に直面しています。金融サービス、保険、ヘルスケアなどの業界は、厳格な規制とコンプライアンス基準を遵守するために、透明で監査可能な意思決定プラットフォームを使用する必要があります。現在、ビジネスプロセスと意思決定を自動化する人工知能ソリューションは数多くありますが、意味のある説明を提供するものはほとんどありません。企業は可能性に満ちていますが、自動化された意思決定と予測の背後にある理由を見失ってはなりません。

将来の規制に備える

現在、政治組織や社会は人工知能の透明性の向上を求めています。さらに、政府と消費者は、クレジットやローンの承認、マーケティングキャンペーン、スマートホームテクノロジーの背後にあるアルゴリズムをより詳細に把握できるようにしたいと考えています。米国のアルゴリズム責任法と世界的な EU AI 法で提案されている法案は、安全、倫理的、透明性のある AI 成果の基準を確立することを目指しています。ただし、ユースケースは依然として進化し、出現しているため、政府は AI を規制する方法を見つけ始めたばかりです。

たとえば、ニューヨーク市議会は、雇用ツールで使用される人工知能アルゴリズムを対象とした法案を可決しました。 2023年に発効するこの法律は、雇用主に対し、評価を実施するための独立した監査人を雇用することと、求職者と現在の従業員を評価するための人工知能ツールを雇用することを義務付けている。法律は、求職者の選別や従業員の昇進に使用される人工知能ツールのバイアス監査を義務付けています。従業員や候補者への事前通知なしに、偏った AI アルゴリズムやそのようなツールを使用した場合、最大 1,500 ドルの罰金が課せられます。短期的には、規制が出現し、標準が進化するにつれて、企業は透明性を高め、将来の規制に備える方法に焦点を当てる必要があります。

機械学習を活用する際の課題の 1 つは、定義上、機械学習がバイアスに基づいて構築されているということです。すべての偏見が有害というわけではありませんが、性別、人種、年齢などの保護対象層に有利または不利な結果をもたらし、臨床試験の承認、健康管理、融資など個人に悪影響を与える場合資格や単位が認められると不利になります。

アルゴリズムを保護し、有害なバイアスを防ぐ必要性はよく知られています。しかし、有害なバイアスと効果的に戦うには、あらゆる決定や予測の背後にあるデータを理解する必要があります。重要な透明性を得るには、企業は機械学習で構成されるアルゴリズムと、完全な監査証跡を提供するための意思決定を推進するビジネスルールを可視化する必要があります。たとえば、保険金請求の承認に AI を使用している保険会社は、それぞれの決定が行われた理由を明確に説明できなければなりません。

「ブラックボックス」問題が AI イノベーションにどのような負担を与えているか

人工知能に関して、多くの企業は、AI ソリューションが予測を提供し自動化を可能にするという問題に直面していますが、なぜそれがビジネスに影響を与えるのか説明できません。特定の決定とその結果に影響を与える要因を行うことにより、法的または評判に重大な損害を与えるリスクがあります。

企業は、アルゴリズムによる決定が期待どおりの結果を確実に返すために、結果の背後にある理由を明確に理解できる必要があります。 AI のブラックボックスを透明で説明可能な「ガラスの箱」に変えることは、顧客や消費者への危害を防ぎ、企業やブランドへのリスクを軽減するために重要です。

本質的に、機械学習は履歴データに基づいて予測を行います。「認識による公平性」とは、たとえその特性がモデルで直接使用されていなくても、メタデータフィールドを使用することで、共通の特性を持つさまざまなグループに対してモデルが同様に適切に機能するかどうかを企業が判断できるようにするアプローチを指します。この認識は、企業が不公平または有害な決定につながる前に、有害なバイアスを回避、定量化、軽減するのに役立ちます。

エンタープライズ人工知能の将来に対する明確なビジョン

人工知能が企業全体でますます使用されるようになるにつれ、企業は結果が影響を受けないように人工知能による透明性と監査可能性を追求する必要があります。有害な偏見の影響。説明可能で透明性のある AI ソリューションに優先順位を付けて実装する場合にのみ、有害なバイアスを軽減し、リスクを軽減し、信頼を促進することができます。

スキルベースの採用の人気が高まっている一方で、その実践の有効性とメリットについては誤解が根強く残っています。これらの誤解に対処することが、より公平で持続可能な労働力を生み出すために必要な変化を促進する鍵となります。

卒業生の生活

米国の労働市場は 2022 年も調整が続くでしょう。 2,300人以上の経営者を対象とした調査では、65％が今年上半期に新たな常勤職を追加すると予想していることが判明した。また、33% の人々が求人を埋めるために競争しており、現在米国には 1,080 万件以上の求人があります。従来の採用慣行は、労働力のニーズを満たす実行可能な手段ではありません。企業は競争力を維持するためにアプローチを最新化する必要があります。これは、スキルベースの雇用を採用することを意味します。

スキルベースの採用では、仕事を成功させるための最も重要な要素として、学位や認定資格ではなく、候補者の技術スキルとコアコンピテンシーを重視します。この実践では、採用チームが役割に必要な望ましいスキルを定義し、これらのスキルを客観的に評価して採用プロセスにおける偏見を最小限に抑える必要があります。

大手企業はますますスキルベースの採用に目を向けています。以下では、スキルベースのアプローチの採用に関する最大の誤解のいくつかと、企業の文化的変化を推進するためにそれらに対処する方法について説明します。

1. スキルベースの採用は大卒者にとって不公平です。

スキルベースの採用は、大卒者を検討対象から除外したり、参入障壁を低くしたりすることではありません。それは学位が表す特定のスキルを明確にすることです。これにより、学位取得者と他の手段でスキルを習得した求職者の両方がその職に就くことが検討されるようになります。これは、すべての人に経済的機会を民主化し、企業が利用できる人材プールを拡大するのに役立ちます。

以前は学歴を必要としていなかった職に現在は 4 年間の学位が必要となっており、これが名声経済を刺激し、企業が支払うコストが増加しています。このモデルの下では、かつては上昇傾向にあった仕事の多くが誰にとっても手の届かないものとなり、高等教育の費用が高騰する余裕のある人だけが就くことができるようになります。また、低所得地域、特に有色人種の人材も排除されます。スキルベースの採用は、この不平等に対処する現実的な方法を提供し、学士号を持たないアメリカ人の 66% (黒人の 75% 以上、ヒスパニック系の 80% 以上を含む) の候補者を回復します。

2. スキルベースの採用は採用の質の低下につながり、ビジネスに悪影響を及ぼします。

スキルベースのアプローチを採用すると、候補者のより効果的なスクリーニングと採用が可能になります。スキルベースの採用は、教育ベースの採用よりも 5 倍、経験ベースの採用よりも 2.5 倍強力に将来のパフォーマンスを予測します。さらに、多くの企業は、学位を持たない従業員の生産性が大卒者と同等、場合によってはそれ以上であると報告しています。

スキルベースの採用には、採用までの時間の短縮、従業員のエンゲージメントの向上、離職率の低下などの利点もあります。