AI業界のイベントに著名人が集結！ 「AI のゴッドファーザー」サム・アルタム...最新の見解を 1 つの記事で理解

AI業界にとって、先日北京で開催された「2023 Zhiyuan Artificial Intelligence Conference」には、OpenAIの創設者であるサム・アルタム氏に加え、チューリング賞を受賞したジェフリー・ヒントン氏、ヤン・ルカン氏や、AI描画ソフトMidjourneyの創始者として知られるデイビッド・ホルツ氏などが次々と登場し、業界の今後の発展を見据えた大物たちの講演は非常に前向きなものでした。

AI 業界のトップ専門家の意見を見てみましょう。

人々は知性を望み、同時に恐れる

Midjourney の創設者 David Holz は連続起業家です。2011 年に VR 分野のソフトウェアおよびハードウェア会社である Leap Motion を設立しました。2019 年に彼は Leap Motion を競合他社の Ultrahaptics に売却しました。2021 年に資金を調達し、今話題のAI描画ソフトMidjourney。

デヴィッド・ホルツは、私の理解する限り、人工知能は私たちの体の一部に似ており、歴史とも密接に関係していると考えています。また、興味深い方法で歴史と絡み合っています。

Holz は、Midjourney の目標の 1 つは、新しい人間のインフラを構築することであると考えています。 世界は多くの新しいものを必要とし、新しいものを構築するためのインフラストラクチャを必要とします。そのため、私はインフラの新しい柱など、新しい形の人的インフラを構築することについてよく考えています。したがって、私にはテーマが必要であり、私の柱は考察、想像力、調整です。自分が誰であるか、何を望んでいるのかを熟考し、何が起こり得るかを想像する必要があります。それが私たちがあらゆるものに対して使用する視点であるため、私はこれまで人工知能で遭遇したものとは質的に異なるいくつかの画期的な進歩が画像合成で起こっているのを目にし始めています。

Holz 氏は、Midjourney は単にこのツールの使い方を学ぶだけではなく、すべての芸術と歴史、さらにはカメラ、レンズ、照明に関するすべての知識を学ぶものであると紹介しました。ユーザーは、自分の作品に使用できる言語と概念を理解したいと考えています。以前は知識というと単なる歴史の蓄積だと思っていましたが、知識こそがものを生み出す力なのだと気づきました。

ホルツ氏は、人々が人工知能の急速な発展を懸念しているのは、テクノロジーのせいだけではなく、知能への恐怖のせいでもあると考えています。彼らが賢いなら、信頼してもいいでしょうか？しかしその一方で、私たちはできるだけ多くの知性を備えた世界を望んでいるようであり、知性のない世界は望んでいないように思えます。

AI は他人を騙すのが上手になることを学ぶでしょう

深層学習の学部長で人工知能のゴッドファーザーであるジェフリー・ヒントン氏は、現在の AI 開発の最大の障壁はコンピューティング能力の問題であり、十分とは言えないと述べました。ここで、ソフトウェアはハードウェアから分離されるべきであるというコンピュータサイエンスの最も基本的な原則を放棄して、ニューラルネットワークを訓練し、計算能力を節約するために使用できる「アクティビティ摂動」と呼ばれるアルゴリズムについて言及します。

このアルゴリズムは、従来の逆伝播アルゴリズム (RNN) よりもはるかに少ないノイズで勾配を予測できます。

このアルゴリズムを大規模なニューラル ネットワークのトレーニングにどのように適用するかという問題に関しては、大規模なニューラル ネットワークを多くの小さなグループに分割し、各グループに局所目的関数を割り当てることができます。次に、各グループを「アクティビティ摂動」アルゴリズムを使用してトレーニングし、教師なし学習モデルを備えた大規模なニューラル ネットワークに結合して、これらの局所目的関数を生成できます。

ハードウェアに問題が発生すると情報が失われますが、親クラスの情報をサブクラスの情報に渡すことで、ハードウェアに問題が発生した場合でも学習した情報を保持し、クラスの重みをより効果的に抑制できます。ニューラルネットワーク。

「蒸留」メソッドを使用すると、サブモデルは、正しい答えを与える方法や間違った答えを与える確率など、画像の分類に関する情報をよりよく学習できます。また、特別な属性もあります。トレーニングサブモデルの一般化能力も。

これらの人工知能が私たちからゆっくりと学習するのではなく、現実世界から直接学習したらどうなるだろうとヒントン氏は言いました。これをやり始めると、人よりも多くのことを学び、習得が早くなります。

これらのものが私たち人間よりも賢くなったらどうなるでしょうか?ヒントンは、これらの超知性はこれまで考えられていたよりもはるかに早く起こる可能性があると信じています。

スーパー インテリジェンスがより効率的だと言いたい場合は、スーパー インテリジェンスにサブクラスの作成を許可する必要があります。多かれ少なかれ、より多くのパワーを獲得し、より多くの制御を得るために AI に依存したくなるでしょう。持っているほど、目標を達成するのが簡単になります。ヒントン氏は、AI が他の目標を達成するために制御を強化しようとするのを人間がどのように阻止するかを予測するのが難しいと感じました。彼らがこれをやり始めると、人間はより多くの力を得るために人々を操作することが非常に簡単であることがわかるため、問題に直面するでしょう。

ヒントン氏によると、AI が他者を欺くのが非常に上手になるのではないかと懸念されていますが、これを防ぐ方法はまだ見つかっていません。研究者は、過剰な介入を必要とせずに生活を改善できる超知能を人間に与える方法を見つけ出す必要がある。

人類はAIのせいで世界と未来のコントロールを失うかもしれない

Yao Qizhi はチューリング賞受賞者であり、中国科学院の会員でもあり、人工知能の制御方法を考える前に、人間は自分自身の問題を真に解決する必要があると考えています。 AI テクノロジーにとって、現在は重要な窓口です。 AGI を創設したり軍拡競争に参加したりする前に、合意に達し、協力して AI ガバナンスの枠組みを確立することが緊急に必要です。

カリフォルニア大学バークレー校のスチュアート・ラッセル教授は、汎用人工知能 (AGI) はまだ達成されておらず、大規模な言語モデルはパズルの 1 ピースにすぎないと述べています。パズルはどのようになり、何が欠けているのか。

彼は、ChatGPT と GPT-4 は質問に「答えていない」し、世界を理解していないと言いました。

ラッセル氏は、最大のリスクはテクノロジー企業間の一見すると束縛されない競争から来ており、リスクに関係なく、ますます強力なシステムの開発をやめることはないと指摘しました。人間がゴリラに自分たちの未来のコントロールを失わせたのと同じように、AI は人間に世界とその未来のコントロールを失わせるかもしれません。

AGI の 3 つの技術ルート

北京知源人工知能研究所所長の黄鉄軍氏は、汎用人工知能(AGI)を実現するには3つの技術的ルートがあると指摘しました。1つ目は、「ビッグデータの自己教師あり学習」によって形成される情報タイプです。 2つ目は、仮想世界または現実世界に基づく強化学習を通じて訓練された身体化モデルである身体化知能、3つ目は、直接「自然進化の働きをコピー」して複製する脳知能です。エージェントのデジタル バージョン。

OpenAI は GPT (生成事前学習 Transformer モデル) を行う際には第一の技術ルートをたどりますが、Google DeepMind の DQN (Deep Q-network) を核として行われる一連の進歩は第二の技術ルートに基づいています。

Zhiyuan は、最初の 2 つの技術的ルートとは異なり、「第一原理」から始まり、原子から有機分子、神経系、身体に至るまで、完全なインテリジェント システム AGI を構築したいと考えています。 Zhiyuan は、達成までに約 20 年かかる目標を達成するために 3 つの方向に取り組んでいる新しい研究開発機関プラットフォームです。

AI が将来直面する 3 つの課題

チューリング賞受賞者であり、人工知能の「ビッグ 3」の 1 人であるヤン・リャン氏は、機械学習は人間の動物に比べて特に優れているわけではないと考えています。AI に欠けているのは、学習する能力だけではなく、推論して計画する能力。私たちは機械を使って、人間や動物が世界を観察したり体験したりして世界がどのように機能するかを学ぶ能力を再現する必要があります。

Yang Liang 氏は、今後数年間で AI が直面する主な課題が 3 つあると指摘しました。 1 つ目は、世界の表現と予測モデルを学習することであり、これは自己教師あり学習で学習できます。やり方。

2 つ目は、推論を学ぶことです。 これは、心理学者のダニエル・カーネマンのシステム 1 とシステム 2 の概念に対応します。システム 1 は、潜在意識の計算に対応する人間の行動や行動であり、何も考えずに完了できるものですが、システム 2 は、自分自身が行うタスクです。意識的かつ意図的にすべての思考力を使って完了します。現時点では、人工知能は基本的にシステム 1 の機能しか実現できず、完全ではありません;

最後の課題は、複雑なタスクを単純なタスクに分解し、階層的に実行することで、複雑な一連のアクションを計画する方法です。

は今後 10 年以内に非常に強力な AI システムを導入する可能性が高いと考えています。新しいテクノロジーは、人々が想像するよりも早く世界を根本的に変えるでしょう。 適切な AI 安全ルールを確立することが重要かつ緊急です。 。

以上がAI業界のイベントに著名人が集結！ 「AI のゴッドファーザー」サム・アルタム...最新の見解を 1 つの記事で理解の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。