人工知能は新たなマッキンゼーとなるのか？

英語版はもともと The New Yorker に掲載されました 写真: CTOCIO/Midjourney

人工知能が貧富の格差を拡大し、労働者の権利を剥奪するのではないかとの懸念がある中、代替策はあるのでしょうか?

人工知能について話すとき、新しいものや馴染みのないものを説明するときによく行うのと同じように、私たちは常に比喩を使用することを好みます。比喩は新しいことをすぐに理解するのに役立ちますが、悪い比喩は私たちを誤らせる可能性があるため、依然として注意が必要です。たとえば、強力な AI はよくおとぎ話の妖精に例えられます。この比喩は、強力な存在を人間の命令に従わせることの難しさを強調することを意図しており、コンピューター科学者のスチュアート・ラッセルは、ミダス王 (触れたものすべてを金に変えたいという願いを叶えてくれるように神にお願いした王が、その結果、 AI が本当にしてほしいことではなく、指示されたことを AI に実行することの危険性を説明するためです。ミダス王の寓話の要点は、貪欲が人を滅ぼし、富を追求すると本当に大切なものをすべて失うということです。このたとえ話の解釈が、神があなたの願いを叶えてくれるとき、あなたはその願いを表現する際に細心の注意を払うべきだというものであれば、あなたは的を外しています。

したがって、AI リスクのより適切な比喩は次のようになります。AI をマッキンゼーなどの経営コンサルティング会社として考えてください。企業がマッキンゼーのサービスの購入を選択する理由はたくさんあるのと同様に、人々が AI システムを使用する理由もたくさんあります。しかし、フォーチュン 100 企業の 90% と提携しているコンサルティング会社であるマッキンゼーと人工知能との類似点も明らかです。ソーシャルメディア企業は、機械学習を使用してユーザーのフィードへの関心を維持します。同様に、パーデュー・ファーマ社はマッキンゼーを利用して、オピオイド流行時にオキシコンチンの売上を「大幅に増やす」方法を見つけ出しました。人工知能が経営者に人間の労働力に代わる安価な代替手段を提供すると約束しているのと同じように、マッキンゼーや同様の企業は、株価と役員報酬を引き上げる方法として大量解雇の常態化を支援し、米国の中産階級の破壊に貢献している。

ある元マッキンゼー従業員は、同社を「喜んで資本を執行する会社」と表現しました: 何かをしたいが、手を汚したくないなら、マッキンゼーが代わりにやってくれます。責任の回避は、経営コンサルティング会社が提供する最も価値のあるサービスの 1 つです。上司は具体的な目標を持っていますが、その目標を達成するために必要なことを行っていると責められることは望んでいません。コンサルタントを雇うことで、経営陣は独立した専門家のアドバイスに従っているだけだと言えます。現在の初歩的な形であっても、人工知能は企業が責任を回避する手段となっており、そもそもアルゴリズムを依頼したのは企業であっても、人工知能は単に「アルゴリズム」の指示に従っているだけだと主張している。

私たちが問うべき質問は次のとおりです:人工知能がより強力かつ柔軟になるにつれて、人工知能がマッキンゼーの別のバージョンにならない方法はあるのでしょうか?この質問は、「AI」という言葉のさまざまな意味を考慮する価値があります。AI を、コスト削減を目的として企業に販売される広範なテクノロジのセットとして考えると、問題は次のようになります。これらのテクノロジをどのように阻止するかということです。 「大文字の「死刑執行人」として使用されるのをやめますか？あるいは、AI を、人間が解決を求めた問題を解決できる半自律的なソフトウェア プログラムと考えると、問題は、AI が人々の生活を悪化させる形で企業や資本家を助けることをどのように防ぐかということです。半自律的で人間に完全に従順な AI、つまり受け取った命令を誤って解釈しないかどうかを二重チェックする AI を構築したとします。これは多くの人工知能研究者の夢です。しかし、そのような AI ソフトウェアは依然としてマッキンゼーと同じくらいの損害を簡単に引き起こす可能性があります。

あなたが開発する AI ソリューションは、あなたが解決を求めた問題にのみ対応するものであり、社会に利益をもたらすものであることを軽視することはできないことに注意してください。これは「ポジティブAI」のコンサルティング会社を立ち上げればマッキンゼーの脅威を無力化できると言っているのと同じだ。実際、フォーチュン 100 企業は、社会に利益をもたらすあなたの「前向きな」会社ではなく、マッキンゼーを採用するでしょう。なぜなら、マッキンゼーのソリューションはあなたの会社のソリューションよりも株主価値を高めるからです。株主価値を何よりも追求する AI を開発することはいつでも可能であり、ほとんどの企業は、「ポジティブ エネルギー」の原則に基づいた AI よりもそのような AI を使用したいと考えています。

人工知能が資本主義の砥石になるのを防ぐ方法はあるのでしょうか?明確にしておきますが、私が資本主義に言及するとき、私は商品やサービスの価格交換について話しているのではなく、市場で決定される価格は多くの経済システムの特徴です。私が資本主義に言及するとき、私は資本と労働の間の特定の関係を指しており、そこでは裕福な人々、つまり資本家が他人の努力から利益を得ることができます。したがって、この議論の文脈では、私が資本主義を批判するときは常に、物を売るという考えを批判しているのではなく、裕福な人々が工業労働者に対して権力を行使するという考えを批判しているのです。より具体的に言えば、私は増え続ける人々の手に富が集中することを批判します。

現在の AI 業界は、人間が実行するタスクを分析し、人間に代わる方法を見つけようと非常に熱心に取り組んでいます。偶然にも、これは経営者（または農家）が切実に解決したい問題でもあります。その結果、AI は労働力を犠牲にして資本に利益をもたらします。労働コンサルティング会社ほど労働者の利益を促進するものはありません。人工知能がこの役割を担うことは可能でしょうか? AIは管理者ではなく労働者を助けるのでしょうか?

資本主義と戦うのは人工知能の仕事ではないと言う人もいるかもしれない。それは真実かもしれないが、資本主義を強化するのもAIの仕事ではない。ただし、それが現在行われていることです。 AI が富の集中を軽減する方法を見つけられない場合、AI を有益なテクノロジーとして定義することはおろか、中立的なテクノロジーとして定義することも困難になります。

多くの人は、人工知能がさらなる失業を引き起こすと信じており、問題の解決策としてユニバーサル・ベーシック・インカム(UBI)を提案しています。全体として、私はユニバーサル・ベーシック・インカムのアイデアが好きですが、時間が経つにつれて、AIによって引き起こされる大量失業の解決策としてUBIを求めるAI実践者の動機に疑問を抱き始めました。私たちがすでに普遍的なベーシックインカムを持っていれば別でしょうが、実際はそうではありません。そのため、UBI への支持を表明することは、AI 開発者がそのお金を政府に渡す方法のように思えます。実際、AI 開発者は問題が十分に深刻になった場合、政府が介入せざるを得なくなることを期待して、資本主義の病を悪化させている。「世界をより良い場所にする」という AI テクノロジー企業の戦略とビジョンは、私たちの疑念と警戒心を呼び起こす必要があります。

2016年の選挙に向けて、バーニー・サンダースの熱心な支持者である女優のスーザン・サランドンが、ヒラリー・クリントンに投票するよりもドナルド・トランプに投票した方が「革命」を加速させることができると述べたことを覚えているかもしれない。 」サランドンがこのことについてどこまで深く考えたかは分かりませんが、スロベニアの哲学者スラヴォイ・ジジェクも同じことを言っていて、きっとよく考えたはずです。同氏は、トランプ氏の当選は体制に大きな衝撃を与え、変化をもたらすだろうと主張した。

ジジェクが提唱しているものは、加速主義として知られる政治哲学の考え方の一例です。加速主義にはさまざまなバージョンがありますが、左翼加速主義者に共通しているのは、状況を改善する唯一の方法は状況を悪化させることであるという信念です。加速主義は、資本主義に反対したり改革しようとする試みは無駄であり、システム全体が崩壊するまで資本主義の最悪の傾向を悪化させなければならないと主張します。資本主義を超越する唯一の方法は、エンジンが爆発するまで新自由主義のアクセルを踏むことです。

これはより良い世界を作るための 1 つの方法だと思いますが、これが AI 業界が採用しているアプローチであるならば、自分たちが何に取り組んでいるのかを全員に明確にしてもらいたいと思います。 AI研究者らは、これまで人間が行っていた仕事を行う人工知能を構築することで、富の集中を極端なレベルまで高めており、社会崩壊を回避する唯一の方法は政府の介入しかないほどだ。意図的であろうがなかろうが、これはより良い世界を作るというトランプ大統領の目標に投票するのと非常に似ている。トランプ大統領の台頭は、戦略としての加速主義のリスクを示している。事態は非常に悪化する可能性があり、好転するまでに長期間かかる可能性がある。実を言うと、状況が改善するまでにどれくらいの時間がかかるかわかりません;

私は、AI が人間に危険をもたらすとはあまり確信していません (AI が独自の目標を設定し、私たちがそれをシャットダウンするのを妨げる可能性があります)。しかし、AIは資本主義の力を増大させるので、危険だと私は考えています。終末のシナリオは、ある有名な思考実験が想像したような、地球全体をペーパークリップに変える人工知能を作り出すというものではありません。 AI主導の企業は株主価値を追求するために環境と労働者階級を破壊しています。資本主義は、私たちがその閉鎖を阻止するためには手段を選ばない機械であり、その最も成功した武器は、私たちが代替案を検討するのを妨げる動きです。

新しいテクノロジーを批判する人はラッダイトと呼ばれることもありますが、ラッダイトが本当に望んでいることを明確にすることは役に立ちます。彼らの主な抗議は、自分たちの賃金が下がっているのに、同時に工場経営者の利益が増え、食料価格が上昇しているというものだった。彼らはまた、繊維産業全体の信頼を損なう、危険な労働条件、児童労働の使用、粗悪品の販売にも抗議した。ラッダイトは無差別に機械を破壊したわけではなく、機械の所有者が労働者に十分な給料を払っていれば、機械を大切に扱いました。ラッダイトはテクノロジーに反対しているのではなく、経済的正義を望んでいます。彼らは工場所有者の注意を引くために機械を破壊しました。実際、「ラッダイト」という言葉は現在、誰かを非合理的で無知であると呼ぶ侮辱として使用されています。

誰かが他の人をラッダイトであると非難するときは常に、非難される人々は本当にテクノロジーに反対しているのか、と問う価値があります。それとも経済的正義を支持するのでしょうか？告発している人たちは本当に人々の生活改善を支持しているのでしょうか？それとも単に民間資本の蓄積を増やしたいだけなのでしょうか？

今日、私たちはテクノロジーが資本主義と混同され、資本主義が進歩という概念そのものと混同されている状況に陥っています。資本主義を批判しようとすると、反テクノロジーと反進歩の両方で非難されます。しかし、働く人々のより良い生活が含まれていないとしたら、進歩とは何の意味があるのでしょうか?節約したお金が株主の銀行口座に入金されるだけであれば、効率が良くなるということは何の意味があるのでしょうか?私たちは皆、民間資本の蓄積を増やすことよりも経済的正義を重視すべきであるため、ラッダイトになるよう努めるべきです。私たちは、テクノロジーの敵対者として特徴付けられることなく、テクノロジーの有害な使用 (労働者ではなく株主に利益をもたらすものも含む) を批判できる必要があります。

今から 100 年後、誰もが嫌いな仕事を強制されることはなく、誰もが自分が最も充実していると感じることに時間を費やすことができる、理想的な未来を想像してみてください。ここからそこへどうやって到達するのかを理解するのは明らかに難しいです。しかし、ここで今後数十年間に考えられる 2 つのシナリオを考えてみましょう。まず、経営陣と資本の力が現在よりも強くなっています。その一方で、労働力は現在よりも強力でした。これらのうち、私たちを理想的な未来に近づける可能性がより高いのはどれでしょうか?そして、現在展開されているように、AI は私たちをどのような方向に押し進めるのでしょうか?

もちろん、長期的には新しいテクノロジーが私たちの生活水準を向上させ、それによって短期的に引き起こされる失業を埋め合わせてくれると信じている人もいます。この議論は産業革命後のほとんどの期間において重要でしたが、過去半世紀にわたってその力を失いました。米国では、1980 年以来 1 人当たり GDP がほぼ 2 倍になっていますが、世帯収入の中央値は大きく遅れています。この時代には情報技術革命が巻き起こりました。これは、

パソコンとインターネットによって生み出される経済的価値は、アメリカ国民全体の生活水準を向上させるのではなく、主に 1% の富裕層の富を増やすことに役立つことを意味します。

もちろん、今では誰もがインターネットを持っていますし、インターネットは素晴らしいものです。しかし、不動産価格、大学の授業料、医療費はすべてインフレを上回るペースで上昇している。 1980年代には、片方の収入で家族を養うのが一般的でしたが、今では稀になりました。では、過去 40 年間で私たちはどれだけの進歩を遂げたのでしょうか?確かに、オンラインショッピングは速くて便利ですし、家で映画を見るのは素晴らしいことですが、多くの人はそれらの利便性と引き換えに、自分の家を持ち、生涯の負担に悩まされることなく子供を大学に行かせることができると考えていると思います借金を抱えて、病気で破産した病院に行くことはありません。所得の中央値が一人当たりGDPと歩調を合わせていないのはテクノロジーのせいではなく、主にロナルド・レーガンとミルトン・フリードマンのせいだ。しかし、1981年から2001年までゼネラル・エレクトリック社を経営したジャック・ウェルチ氏のようなCEOやマッキンゼーなどのコンサルティング会社の経営方針にもある程度の責任はある。私は富の不平等が拡大している原因を PC のせいにしているわけではありません。テクノロジーの向上によって必然的に人々の生活水準が向上するという考えはもはや信頼できないと言っているだけです。

パーソナルコンピューターが収入の中央値を増加させていないという事実は、人工知能の潜在的な利点を考慮する際に特に重要です。研究者は、AI が個々の労働者に取って代わるのではなく、個々の労働者の生産性をどのように向上させるかに焦点を当てるべきであるとよく提案されますが、これは自動化パスではなく拡張パスとして知られています。それは価値のある目標ではありますが、それだけでは人々の経済的運勢は向上しません。パーソナル コンピュータ上で動作する生産性向上ソフトウェアは、自動化ではなく拡張の好例です。ワープロ プログラムはタイピストではなくタイプライターに置き換わり、表計算プログラムは会計士ではなく紙のスプレッドシートに置き換わりました。しかし、パソコンによってもたらされる個人の生産性の向上は、生活水準の向上を伴っていません。

テクノロジーが生活水準を向上させる唯一の方法は、テクノロジーの恩恵を適切に分配するための適切な経済政策を開発することです。こうした政策は過去40年間行われていなかったが、それが変わらない限り、個々の労働者の生産性を高める方法を見つけられたとしても、今後のAIの進歩によって所得の中央値が上昇すると考える理由はない。 。人工知能は確かに企業の人件費を削減し、企業利益を増加させますが、それは私たちの生活水準を向上させることとは別のことです。

ユートピアの未来がすぐそこまで来ていると想定し、その未来に向けたテクノロジーを開発できれば良さそうです。しかし、あるテクノロジーがユートピアで役に立ったという事実は、それが現在も役立つことを意味するわけではありません。有毒廃棄物を食品に変換する機械があるユートピアでは、有毒廃棄物の生成は問題になりませんが、現時点では、有毒廃棄物の生成が無害であると主張できる人は誰もいません。加速主義者は、より多くの有毒廃棄物を生成することが廃棄物から食品への変換装置の発明を刺激するだろうと主張するかもしれないが、それはどれほど説得力があるだろうか？私たちは、仮想的な将来の緩和策の文脈ではなく、現在利用可能な緩和策の文脈でテクノロジーの環境への影響を評価します。同様に、UBI の世界で AI がどれほど役立つかを想像して AI を評価することはできません。資本と労働の間の既存の不均衡に対して AI を評価する必要があり、この場合、AI の支援資本が脅威になります。

マッキンゼーの元パートナーの一人は、「私たちはポリシーを作るのではありません。私たちはそれを強制するのです。」と言って同社の行動を擁護しましたが、それは弱い言い訳であり、コンサルティング会社や新しいテクノロジーがそれを実行する手段を提供している場合にその可能性が高くなります。有害な政策決定。現在開発中の人工知能のバージョンは、企業が従業員を解雇することを容易にするでしょう。では、解雇につながる可能性が低い人工知能を開発する方法はあるのでしょうか?

社会学者エリック・オリン・ライトは、著書『21世紀に反資本主義者になる方法』の中で、資本主義の危険に対処するための戦略の分類を提供しています。彼が言及する 2 つの戦略は、資本主義の粉砕と資本主義の解体ですが、おそらくこの議論の範囲外です。ここでより重要なことは、資本主義を飼いならし、資本主義に抵抗することです。ざっくり言えば、資本主義を手なずけるのが政府の規制であり、資本主義に抵抗するのが草の根の運動と労働組合だ。 AI でこれらを強化する方法はあるのでしょうか? AI が労働組合や労働者所有の協同組合に力を与える方法はあるのでしょうか?

1976 年、イギリスのバーミンガムにあるルーカス エアロスペース社の従業員は、国防費削減のため人員削減に直面しました。これに応じて、ショップディレクターはルーカス計画と呼ばれる文書を作成し、透析装置から風力タービン、自動車のハイブリッドエンジンに至るまで、従業員が解雇されずに既存のスキルや設備を活用できる150の「社会的に役立つ製品」について説明した。ルーカス・エアロスペース社の経営陣はこの提案を拒否したが、この提案は資本主義をより人道的な方向に導こうとする労働者の有名な現代の例として残っている。最新のコンピューティング技術は確かに同様のことを可能にします。

資本主義は、現状と同じくらい有害である必要があるのでしょうか? ＃＃＃そうでないかもしれない。第二次世界大戦後30年間は資本主義の黄金時代と呼ばれることもあります。この時代は部分的には政府の政策の改善の結果でしたが、政府自体が黄金時代を作り出したわけではありません。この時代の企業文化は異なっていました。 GEの1953年の年次報告書では、同社は納税額と給与計算にどれだけ費やしたかを自慢していた。ジョンソン・エンド・ジョンソンの創業者は、同社は株主よりも従業員に対する責任が大きいと述べ、「雇用の安全性を最大化することが会社の第一の目標である」と明らかにした。当時の企業は、社会における自社の役割について、今日の企業とはまったく異なる概念を持っていました。

これらの値に戻す方法はありますか?これはありそうもないことのように思えるかもしれませんが、金ぴか時代の大きな富の不平等の直後に資本主義の黄金時代が到来したことを思い出してください。現在、私たちは第二次金ぴか時代に生きており、富の不平等は 1913 年当時とほぼ同じであるため、現在の状況から第二次黄金時代に移行することは不可能ではありません。もちろん、第一次金ぴかの時代と黄金時代の間には、大恐慌と二度の世界大戦がありました。加速主義者は、これらの出来事は黄金時代の到来に必要だったと言うかもしれませんが、私たちのほとんどはこれらのステップを飛ばしたいと思うと思います。私たちの目の前にある課題は、再び大恐慌を引き起こすことなく、テクノロジーがどのようにして私たちを黄金時代に押し上げることができるかを想像することです。

私たち（編集者注：著者とその国の人々を指します）は皆資本主義システムの中で生きており、好むと好まざるにかかわらず、私たちは皆資本主義の参加者です。そして、個人としてそれについて何かできるかどうかを疑う理由があります。もしあなたがフリトレーの食品科学者で、新しい味のポテトチップスを発明するのが仕事だったとしても、あなたは消費主義の原動力の共犯者であり、辞める道徳的義務があるとは言えません。あなたは食品科学者としてのトレーニングを利用して、顧客に楽しい体験を提供しています。これは生計を立てるのに完全に合理的な方法です。

しかし、AI に取り組んでいる多くの人は、新しい味のポテトチップスを発明するよりも AI の方が重要だと考えています。彼らはこれが世界を変えるテクノロジーだと言います。そうであれば、彼らには、AI が世界を最初から悪化させるのではなく、より良い場所にする方法を見つける責任があります。 AIは私たちを社会崩壊の瀬戸際に追い込むだけでなく、世界の不平等を改善できるのでしょうか? AI がその支持者たちが主張するほど強力なツールであるならば、彼らは資本の冷酷さを悪化させる以外にも AI の用途を見つけることができるはずです。

この記事の冒頭にある、王の願いをかなえるのを助けたエルフの話から教訓をひとつ学ぶとすれば、何の努力もせずに何かを手に入れたいという願望自体が本当の問題だということです。 「魔法使いの弟子」の物語を考えてみましょう。そこでは、見習いがほうきの柄に水を持ち上げる呪文を唱えましたが、水を止めることができませんでした。この物語の教訓は、魔法が制御できないということではありません。物語の終わりに、魔法使いは戻ってきて、見習いが作った混乱をすぐに片付けます。教訓は、ハードワークから逃れることはできないということです。見習いは雑務から逃れようとして近道を探し、トラブルに巻き込まれていた。

人々は AI を魔法の問題解決者として考える傾向がありますが、これはより良い世界を構築するという大変な作業を避けたいという願望が広まっていることを示しています。この大変な取り組みには、富の不平等や資本主義の抑制などの問題への取り組みが含まれます。これらは技術者にとって最も困難な仕事であり、最も避けたい仕事であり、テクノロジーは多ければ多いほど良いという思い込みに疑問を投げかけ、技術者が AI 革命に没頭し続ければすべてうまくいくという考えを揺るがします。信念を解決する。自分たちが世界の不正義に加担しているとは誰も信じたくありませんが、世界を揺るがすテクノロジーを開発している人たちには、この種の批判的な内省こそが必要なのです。システム内での自分たちの役割を直視し検討する彼らの意欲が、AI がより良い世界をもたらすか、より悪い世界をもたらすかを決定します。

以上が人工知能は新たなマッキンゼーとなるのか？の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。