Ollama 上の Windows: 大規模言語モデル (LLM) をローカルで実行するための新しいツール

最近、OpenAI Translator と NextChat の両方が、Ollama でローカルに実行される大規模な言語モデルをサポートし始めました。これにより、「初心者」愛好家に新しい遊び方が追加されます。

さらに、Windows での Ollama (プレビュー バージョン) のリリースは、Windows デバイスでの AI 開発のやり方を完全に覆し、AI 分野の探索者と一般の「テスト プレーヤー」に明確な道を導きました。

オラマとは何ですか?

Ollama は、AI モデルの開発と使用を劇的に簡素化する画期的な人工知能 (AI) および機械学習 (ML) ツール プラットフォームです。

技術コミュニティでは、AI モデルのハードウェア構成と環境構築は常に厄介な問題であり、Ollama はそのような重要なニーズを解決するために登場しました。

• 一連のツールが提供されているだけでなく、さらに重要なのは、これらのツールが非常に直感的で効率的に使用できることです。AI 分野の専門家であっても、この分野の初心者であっても、Ollama で対応するサポートを見つけることができます。 。
• Ollama は使いやすさだけでなく、高度な AI モデルやコンピューティング リソースへのアクセスを少数の人に制限されなくなります。 AI および ML コミュニティにとって、Ollama の誕生はマイルストーンであり、AI テクノロジーの普及を促進し、より多くの人々が独自の AI アイデアを試して実践できるようになります。

オラマが目立つのはなぜですか?

多くの AI ツールの中で、Ollama は次の重要な利点で際立っています。これらの機能はその独自性を強調するだけでなく、AI 開発者や愛好家が遭遇する最も一般的な問題も解決します。

自動ハードウェア アクセラレーション: Ollama は、Windows システム内の最適なハードウェア リソースを自動的に特定し、最大限に活用できます。 NVIDIA GPU を搭載しているか、AVX や AVX2 などの高度な命令セットをサポートする CPU を搭載しているかに関係なく、Ollama はターゲットを絞った最適化を実現して、AI モデルがより効率的に実行されるようにすることができます。これにより、複雑なハードウェア構成の問題について心配する必要がなくなり、より多くの時間とエネルギーをプロジェクト自体に集中できるようになります。
仮想化は不要: AI を開発する場合、多くの場合、仮想マシンを構築したり、複雑なソフトウェア環境を構成したりする必要がありました。 Ollama を使用すると、これらすべてが障害にならず、AI プロジェクトの開発を直接開始できるため、プロセス全体がシンプルかつ迅速になります。この利便性により、AI テクノロジーを試したい個人や組織の参入障壁が低くなります。
完全な Ollama モデル ライブラリへのアクセス: Ollama は、LLaVA や Google の最新の Gemma モデルなどの高度な画像認識モデルを含む、豊富な AI モデル ライブラリをユーザーに提供します。このような包括的な「武器」があれば、自分で統合を探すのに時間と労力を費やすことなく、さまざまなオープンソース モデルを簡単に試して適用することができます。テキスト分析、画像処理、その他の AI タスクを実行する場合でも、Ollama のモデル ライブラリは強力なサポートを提供します。
Ollama の常駐 API: 今日の相互接続されたソフトウェアの世界では、AI 機能を独自のアプリケーションに統合することは非常に価値があります。 Ollama の常駐 API はこのプロセスを大幅に簡素化し、バックグラウンドでサイレントに実行され、追加の複雑なセットアップを必要とせずに強力な AI 機能をプロジェクトにシームレスに接続できるようになります。これにより、Ollama の豊富な AI 機能がいつでも利用できるようになり、開発プロセスに自然に統合して作業効率をさらに向上させることができます。

Windows での Ollama の使用

ステップ 1: ダウンロードとインストール

OllamaSetup.exe インストール プログラムをダウンロードします。

ステップ 2: Ollama を起動してモデルを取得します

2 タスクバーのアイコンを右クリックし、「ログの表示」を選択してコマンド ライン ウィンドウを開きます。

3次のコマンドを実行して Ollama を実行し、モデルをロードします:

上記のコマンドを実行すると、Ollama の初期化が開始され、選択したモデルが Ollama モデル ライブラリから自動的に取得されてロードされます。準備ができたら、指示を送信すると、選択したモデルを理解して応答します。

modelname 名前を実行するモデルの名前に置き換えることを忘れないでください。一般的に使用されるものは次のとおりです:

ollama run llava1.6

C:Windowssystem32rundll32.exe sysdm.cpl, EditEnvironmentVariables

curl http://192.168.100.10:8000/api/generate -d '{
"model": "gemma:7b",
"prompt": "天空为什么是蓝色的？"
}'

# 查看 Ollama 版本
ollama -v

# 查看已安装的模型
ollama list

# 删除指定模型
ollama rm [modelname]

# 模型存储路径
# C:Users\.ollamamodels

以上がOllama 上の Windows: 大規模言語モデル (LLM) をローカルで実行するための新しいツールの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。