Llama が大手モデルのトップモデルに、ザッカーバーグ氏が議論開始: オープンソースでのプレイ、時代は変わった

オープンソースとクローズドソースの間の論争は長い間続いてきましたが、現在、新たな頂点に達している可能性があります。オープンソースの大規模モデルに関して言えば、Llama シリーズはその誕生以来、その優れたパフォーマンスとオープンソース機能により、人工知能テクノロジーの適用性とアクセシビリティを大幅に向上させてきました。すべての研究者や開発者がその恩恵を受けることができ、研究と応用がより広範囲に広がります。このたび、Meta Llama 3.1 405B が正式にリリースされました。 Meta 氏は公式ブログで、「今日まで、オープンソースの大規模言語モデルは、機能とパフォーマンスの点でクローズド モデルに比べて遅れをとっていることがほとんどでした。今、私たちはオープンソースが主導する新しい時代を迎えています

Meta」と述べています。創設者のザック・バーグ氏がAIにとってオープンソースの重要性を説明

1. オープンソースはAIの開発に必要な条件である

Metaの創設者兼CEOのザッカーバーグ氏は、AIの前向きな発展にはオープンソースが不可欠であると述べた。 Unix と Linux の開発を例に挙げ、オープンソース AI がイノベーション、データ保護、費用対効果を促進すると信じています。

2. オープンソースのLlamaモデルで完全なエコシステムを構築

ザッカーバーグ氏は、オープンソースのLlamaモデルによって完全なエコシステムを構築し、技術の進歩を確実にし、競争による優位性の喪失を回避できると信じています。

3. Meta のオープンソースの歴史とビジョン

Meta には、成功したオープンソースの歴史があります。ザッカーバーグ氏は、オープンソース AI モデルを通じて、グローバル テクノロジーの平等かつ安全な適用を促進したいと考えています。

元のリンク: https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/
以下が元の内容です:
Zuckerbergがオープンソースの遺伝子をMetaに注入
ハイパフォーマンス コンピューティングの初期の頃、主要な主流テクノロジー企業は、独自のクローズド ソース バージョンの Unix の開発に多額の投資を行っていました。当時、このような高度なソフトウェアを開発する他の方法を想像することは困難でした。
しかし、オープン ソース Linux は徐々に普及していきました。当初は、開発者がコードを自由に変更でき、価格も手頃だったためでしたが、後にはより高度で安全になり、クローズド ソースの Unix よりも幅広いサポート エコシステムを持つようになりました。現在、Linux はクラウド コンピューティングの業界標準の基盤であり、ほとんどのモバイル デバイスを実行するオペレーティング システムであり、誰もがその優れた製品の恩恵を受けています。
私は、人工知能の発展も同様の軌道をたどると信じています。現在、一部のテクノロジー企業は主要なクローズドソース モデルを開発していますが、オープンソースが急速にそのギャップを埋めつつあります。
昨年、Llama 2 は一世代前のモデルとしか比較できませんでした。そして今年、Llama 3はすでに業界の主要モデルと競合しているか、一部の分野ではそれを上回っています。来年以降、将来の Llama モデルは業界で最も先進的な大型モデルになると予想されます。これに先立ち、Llama はオープン性、変更可能性、費用対効果の面でもすでに先頭に立っていました。
今日、私たちはオープンソース AI を業界標準にするという次のステップに進みます。最初の最先端のオープンソース AI モデルである Llama 3.1 405B と、Llama 3.1 70B および 8B モデルの改良版をリリースしました。これらのオープン ソース モデルは、クローズ ソース モデルよりもコスト効率が大幅に高く、特に 405B モデルのオープン ソースの性質により、小規模モデルの微調整と抽出に最適です。
これらのモデルのリリースに加えて、私たちは複数の企業と協力してより広範なエコシステムを拡大しています。 Amazon、Databricks、および Nvidia は、開発者が独自のモデルを微調整して抽出できるようにするためのサービスの完全なスイートを開始しています。 Groq のようなイノベーターは、すべての新しいモデルに対して低遅延、低コストの推論サービスを構築してきました。
これらのモデルは、AWS、Azure、Google、Oracle などを含むすべての主要なクラウド プラットフォームで利用可能になります。 Scale.AI、Dell、Deloitte などは、企業が Llama を導入し、独自のデータを使用してカスタム モデルをトレーニングできるよう支援する準備がすでに整っています。コミュニティが成長し、より多くの企業が新しいサービスを開発するにつれて、私たちは力を合わせて Llama を業界標準にし、AI のメリットをすべての人にもたらすことができます。
Meta はオープンソース AI に取り組んでいます。オープンソースが最高の開発プラットフォームであると私が考える理由、オープンソース Llama が Meta に適している理由、そしてオープンソース AI が世界にとって有益であり、今後も長く存在し続ける理由は次のとおりです。時間。
開発者のためのオープンソース AI
世界中の開発者、CEO、政府関係者と話すと、次のようなテーマがよく聞かれます:
私たちは独自のモデルをトレーニングし、微調整し、蒸留する必要がある。組織にはそれぞれ異なるニーズがあり、さまざまなスケールおよび特定のデータでトレーニングまたは微調整されたモデルを使用することで最適に対応できます。オンデバイス タスクと分類タスクには小さなモデルが必要ですが、より複雑なタスクには大きなモデルが必要です。当社や他の誰にもデータを見られることなく、最先端の Llama モデルを取得し、独自のデータでトレーニングを継続し、ニーズに最も適したモデル サイズに抽出できるようになりました。
私たちは、クローズドソースのサプライヤーによって「ロック」されるのではなく、自分たちの運命をコントロールする必要があります。多くの組織は、自分たちで実行および制御できないモデルに依存したくありません。彼らは、クローズドソースモデルのベンダーがモデルを変更したり、利用規約を変更したり、さらにはサービスを完全に停止したりできることを望んでいません。また、自社のモデルに対する独占的な権利を持つ単一のクラウド プラットフォームにロックされることも望んでいません。オープンソースにより、互換性のあるツールチェーンの広範なエコシステムが可能になり、それらを簡単に切り替えることができます。
私たちはデータを保護する必要があります。多くの組織は、保護する必要があり、クラウド API 経由でクローズド ソース モデルに送信できない機密データを扱っています。組織によっては、データに関してクローズド ソース モデルのベンダーを単純に信頼していないところもあります。オープンソースでは、必要な場所でモデルを実行できるため、これらの問題は解決されます。オープンソース ソフトウェアは開発プロセスの透明性が高いため、より安全であることはよく知られています。
効率的で経済的なモデルが必要です。開発者は、GPT-4 などのクローズドソース モデルを使用する場合の約 50% のコストで、独自の推論インフラストラクチャ上で Llama 3.1 405B を実行でき、クライアント側とオフラインの両方の推論タスクに適しています。
私たちは長期的なスタンダードとなるエコシステムに投資したいと考えています。多くの人は、オープン ソースがクローズド モデルよりも速く進化すると考えており、長期的に最大の利点をもたらすアーキテクチャ上にシステムを構築したいと考えています。
オープンソース AI からメタへ
メタのビジネス モデルは、人々に最高のエクスペリエンスとサービスを構築することです。これを達成するには、常に最高のテクノロジーにアクセスできるようにする必要があり、競合他社が開発するものを制限できないように、競合他社の閉鎖的なエコシステムに閉じ込められないようにする必要があります。
重要な経験を共有したいと思います。Apple はプラットフォーム上でコンテンツを構築することを許可していますが、サービスを構築する際には依然として制限があります。彼らが開発者に課す税金であれ、彼らが課す恣意的な規則であれ、彼らが妨げるすべての製品革新であれ、もし私たちが製品の最高のバージョンを構築できれば、競合他社が私たちが構築するものを制限できないことは明らかです。企業は人々により良いサービスを提供できるようになります。哲学的なレベルで言えば、これが私が AI と AR/VR における次世代コンピューターのためのオープン エコシステムの構築を強く信じている大きな理由です。
Llama をオープンソース化することで技術的な優位性が失われることを心配しているのかとよく尋ねられますが、これはいくつかの理由から全体像を見逃していると思います:
まず、技術的なリーダーシップを長期的に維持し、維持できるようにするためです。 Llama はクローズド ソースのエコシステムに閉じ込められているため、ツール、効率の向上、ハードウェアの最適化、その他の統合を含む完全なエコシステムに進化する必要があります。 Llama を使用しているのが当社だけであれば、エコシステムは成長せず、クローズドソースの Unix 亜種を使用するよりも良い結果は得られません。
第二に、私は AI 開発の競争が今後も激しいと予想しています。つまり、いつでも、モデルをオープンソース化しても、次善のモデルとの競争で大きな優位性を失うことはありません。 Llama が業界標準になるまでの道は、何世代にもわたって競争力、効率性、オープン性を維持することです。
第三に、メタ プロバイダーとクローズド ソース モデル プロバイダーの主な違いは、AI モデルへのアクセスを販売することが私たちのビジネス モデルではないことです。これは、Llama を一般公開しても、クローズド ソース プロバイダーの場合と異なり、当社の収益、持続可能性、研究への投資能力が損なわれることはないことを意味します。 (これが、一部のクローズドソースプロバイダーがオープンソースに対して公的管理者にロビー活動を行っている理由の 1 つです。)
最後に、Meta にはオープンソース プロジェクトでの長い成功の歴史があります。当社は、サーバー、ネットワーク、データセンターの設計をオープン コンピューティング プロジェクトと共有し、サプライ チェーンを標準化することで、数十億ドルを節約してきました。 PyTorch、React などの主要なツールをオープンソース化することで、私たちはエコシステムのイノベーションから大きな恩恵を受けています。このアプローチは長い間非常に効果的でした。
オープンソースAIを世界へ
私はAIの未来にはオープンソースが必要だと信じています。 AI は、他の現代テクノロジーよりも人間の生産性、創造性、生活の質を向上させ、経済成長を加速しながら医学研究や科学研究を進歩させる可能性を秘めています。オープンソースにより、世界中のより多くの人々が AI の開発から恩恵と機会を享受できるようになり、少数の企業に権力が集中せず、社会全体にテクノロジーをより均等かつ安全に展開できるようになります。
オープンソース AI モデルの安全性については議論が続いています。私が言いたいのは、オープンソース AI は代替 AI よりも安全であるということです。政府は最終的に、世界をより豊かで安全なものにするため、オープンソースを支持するという結論に達すると思います。
私が理解しているセキュリティの枠組みでは、意図的でない危害と意図的な危害の 2 種類の危害を防ぐ必要があります。
意図しない危害とは、AI システムが実行中に意図せず危害を引き起こす可能性を指します。たとえば、最新の AI モデルは、誤って誤った健康上のアドバイスを提供してしまう可能性があります。あるいは、将来のシナリオでは、モデルが誤って自身を複製したり、目標を過剰に最適化したりして、人間に不利益をもたらす可能性があるという懸念があります。
意図的な危害とは、悪意のある者が危害を引き起こす目的で AI モデルを使用することです。
何十億ものユーザーに対する AI システムの影響から、本当に破滅的な SF シナリオに至るまで、人々が AI に対して抱いている懸念のほとんどが、意図しない危害によってカバーされることは注目に値します。この点に関して、オープンソースによって提供されるセキュリティは、システムの透明性がより高く、広く検査できるため、さらに重要です。
歴史的に、オープンソース ソフトウェアはこの理由によりより安全でした。同様に、Llama と Llama Guard などのそのセキュリティ システムを使用すると、クローズド ソース モデルよりも安全で信頼性が高くなる可能性があります。その結果、オープンソース AI の安全性に関する議論のほとんどは、意図的な危害に焦点を当てています。
この目標を達成するために、当社のセキュリティ プロセスには、当社のモデルが重大な危害を引き起こす可能性があるかどうかを検証するための厳格なテストとレッド チームの評価が含まれています

以上がLlama が大手モデルのトップモデルに、ザッカーバーグ氏が議論開始: オープンソースでのプレイ、時代は変わったの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。