Google的邊緣畫廊可讓您免費在本地運行LLMS！

AI的世界剛剛通過Edge Gallery Google進行了巨大的飛躍。就在上週，Google悄悄推出了AI Edge Gallery，這是AI民主化的應用程序。 Google Edge AI可以直接在我們的智能手機上執行強大的語言模型，從而消除了對雲的依賴，並且不提供訂閱費。它使您的設備可以作為功能強大的AI工作站功能，而不會損害個人隱私或數據安全性。儘管此版本標誌著完全私人和可訪問的AI的曙光，但它帶來了許多含義，這些含義超出了便利因素。讓我們通過本文更好地理解它。

目錄

• 什麼是邊緣畫廊？
• 邊緣畫廊的主要特徵
• 在本地運行LLM的好處
• 如何開始使用Edge Gallery？
• 探索邊緣畫廊的應用程序接口
  • 主儀表板導航
  • 模型瀏覽器和選擇
  • 交互式聊天界面
  • 全面的設置管理
• 邊緣畫廊的實踐任務
  • 任務1：使用詢問圖像的文檔提取文本提取
  • 任務2：使用提示實驗室重寫專業電子郵件
• 邊緣畫廊的優點
• 邊緣畫廊的局限性
• 與其他最新本地LLM選項進行比較
• 結論

什麼是邊緣畫廊？

Google AI Edge Gallery是一個實驗應用，可改變Android Mobiles。該應用充當連接用戶和擁抱面部模型的橋樑。它允許直接下載和本地執行生成AI模型，並在您的設置中確保您的助手適合您。

該平台刪除了用戶與最佳AI技術之間的傳統牆壁。您不再需要技術知識或具有語言模型功能。現在，您可以通過易於啟動的用戶界面輕鬆地管理困難的模型雜耍行為。 Google的Edge Gallery允許用戶嘗試測試各種AI模型，而無需任何外部幫助或遇到限制。

簡而言之，Edge Gallery是Google的主動性，將AI帶給全球任何地方的所有人。新更新提供了其他功能，並與模型更好地兼容。此外，實驗狀態可實現用戶反饋的快速創新和集成。

另請閱讀：5種在計算機上本地運行LLM的方法

邊緣畫廊的主要特徵

邊緣畫廊的傑出功能是：

• 完整的離線功能：最重要的功能是它完全獨立於設置後的任何形式的連接。下載模型後，您的設備將成為獨立的實體。所有AI處理都在本地發生，並且沒有將數據發送到外部服務器。
• 廣泛的模型庫訪問： Google Edge Gallery直接與Hugging Face的龐大模型存儲庫相連，因此用戶可以輕鬆地比較和下載適合其任務的模型。該平台可以執行文本生成，圖像分析和代碼幫助。通過允許切換模型，該平台鼓勵在AI世界中使用不同的方法和功能進行實驗。
• 用戶友好的體驗設計：該應用程序具有其用戶熟悉的干淨消息類型接口。借助AI可以賦予的所有功率，導航保持相當簡單。在整個設計中，模型管理，設置和對話都交織在一起。該平台的設計方式使得即使是非技術人員也能夠從一開始就可以有效地使用它。
• 最大隱私保護：由於所有內容都是在本地處理的，因此消除了任何數據洩露或未經授權訪問的威脅。您的對話永遠不會訪問任何外部服務器，也不是任何第三方數據庫。完全私人信息始終由用戶控制。因此，它可以主張比大多數基於雲的AI服務所能提供的更好的隱私保護。

在本地運行LLM的好處

市場上有許多LLM可用，但是為什麼這個應用程序脫穎而出是因為它允許我們在本地運行LLM，並且也以離線方式運行。以下是本地運行LLM的一些好處：

• 毫不妥協的數據隱私：本地執行結束了離開設備邊界的個人信息。因此，人們在敏感的對話中所說的話，文檔中的細節以及研究查詢或信息仍然完全私密和受保護。因此，處理成為公司間諜或政府監視的技術不可能。您的數據保留在您的完全監護權中，而無需任何第三方依賴。
• 重要的成本功能：由於本地運行模型，因此消除了所有訂閱費和基於薪酬的定價。此後，下載的模型將為您工作，而無需考慮任何後續費用或付款。從本質上講，這意味著無限制地訪問AI，而無需擔心財務限制。
• 性能獨立性和可靠性： Internet連接性問題不允許您的AI工作流或任務中斷。無論網絡複雜性如何，性能仍然連續地啟用可靠的AI援助。您在設備上的處理能力定義了響應的速度，而不是連接的質量。
• 無限的創意自由：嘗試使用不同的模型，而不必擔心使用限制。本地執行有助於無限的創造力和搜索而沒有障礙。用戶可以在沒有別人的眼睛監視或過濾其內容的情況下突破邊界。

另請閱讀：2025年Huggingface上的前12個開源模型

如何開始使用Edge Gallery？

這是開始嘗試Edge畫廊的步驟。使用這些步驟，您可以在首選系統中設置該應用程序，並立即開始進行實驗。

步驟1：檢查系統要求

當前，該應用程序支持具有相當足夠的處理能力規格的Android設備。建議4GB的最小RAM享受模型和穩定性的平穩功能。至少必須免費提供8GB的空間，下載將存儲在其中。具有64位處理器的現代智能手機將提供最終的用戶滿意度。

步驟2：檢查是否支持您的設備

具有8版或更高版本的Android手機被認為是完全兼容的。來自知名製造商的旗艦設備提供最佳的性能和穩定性水平。具有足夠規格的平板電腦也可以很好地攜帶應用程序。設備的兼容性僅取決於RAM的可用性和處理能力。

步驟3：安裝和設置過程

從官方來源或授權的應用商店下載APK文件。此應用程序將需要來自未知來源的安裝，因此請轉到您的安全設置並將其打開。在初始階段的設置和配置也需要開發人員選項。

授予平滑應用程序操作和模型管理所需的所有權限。繼續安裝嚮導進行平滑的安裝過程。初始安裝過程取決於設備性能，通常需要大約5-10分鐘。根據模型，第一個模型下載可能需要一些時間。

探索邊緣畫廊的應用程序接口

安裝Edge Gallery應用程序後，您將看到一個接口，因此，讓我們看看使用其某些功能可以做什麼：

主儀表板導航

主界面介紹了存在的各種視圖，例如詢問圖像，提示實驗室和AI聊天。在這些功能下方，模型類別帶有標籤，因此可以快速訪問和選擇它們。下載狀態和模型狀態出現在主儀表板上。

快速操作按鈕允許立即訪問搜索的AI模型。存儲使用指標可幫助用戶跟踪設備上的空間。設置的快捷方式也有助於輕鬆導航到所有自定義選項和首選項。儀表板還根據用戶和模型活動動態更新。

模型瀏覽器和選擇

如您在接口中看到的那樣，每個功能都有三到四種模型類型。過濾選項有助於根據尺寸，能力和要求縮小縮小。模型描述提供了有關功能和性能特徵的詳細信息。預覽它們允許用戶在下載模型之前測試模型以消耗其本地存儲。

您還可以看到評分和社區反饋，該評分和社區反饋可幫助用戶確定他們可以選擇的模型。突出顯示流行的人可以幫助用戶查找最常用的產品。高級過濾選項允許用戶準確地匹配其需求模型。

交互式聊天界面

為了方便起見，它具有來自任何商業消息應用程序的用戶熟悉的對話界面。它支持以實時響應生成為用戶類型的鍵入問題，圖像上傳和多轉交談。上下文保存提供多交換和會話流，從而保持對話連續性。

它允許在對話過程中進行模型切換，可以進行比較和測試目的。聊天歷史記錄在本地機器上保持參考和延續。導出對話可以節省基本的聊天內容和AI渲染的內容。它還支持語音輸入，用於與AI模型的免提交互。

全面的設置管理

它通過接口提供自定義的模型參數，與性能相關的和與應用程序相關的偏好。使用提供的控件管理下載的模型存儲，使用和更新首選項。高級用戶可以訪問進一步的自定義以調整模型行為及其響應特徵。

隱私設置保證數據處理達到個人要求和標準。它還具有面向性能的設置，可以在快速度和電池排放之間保持平衡以供使用。模型和應用程序更新可以自動管理。

邊緣畫廊的實踐任務

我們已經談論了Edge Gallery，但是現在讓我們看看它在行動中的表現。使用其出色功能的任務如下： -

任務1：使用詢問圖像的文檔提取文本提取

該任務說明了Edge Gallery的離線功能如何在提供上下文提示時在圖像分析中有所幫助。

1. 在邊緣畫廊中打開詢問圖像功能
2. 下載您的首選模型。
3. 對於此任務，我們將下載“ Gemma-2n-e2b-it-int4”。
4. 下載後，單擊“嘗試”。
5. 為任何手寫筆記，收據或印刷文檔拍攝清晰的照片。
6. 將圖像上傳到選定的視覺模型。
7. 鍵入提示“從圖像中提取所有文本並彙總關鍵信息” 。
8. 然後，由於AI花時間處理圖像並提供適當的響應，如果您對響應不滿意，則可以要求通過提供詳細的反饋來使其更好。
9. 您可以提出一個後續問題： “文檔/圖像中給出了什麼要點？”
10. 要測試離線功能，您可以與Internet斷開連接，然後提出這些問題。
11. 保存結果以備將來參考。

任務2：使用提示實驗室重寫專業電子郵件

該任務展示了邊緣畫廊如何支持專業溝通或在我們的問題/提示中完全離線地提供結果。

1. 從儀表板上的三個選項中選擇提示實驗室選項。
2. 從可用選項中選擇您喜歡的文本生成模型並下載。
3. 對於我們的任務，我們將在四個選項中選擇“ gemma-3n-e2b-it-int4”，即'gemma-3n-e4b-it-int4'，'gemma-3n-e4b-it-int4'，'gemma3-1b-it-q4'，'qwen2.5-1.5b-Instruct q8'。
4. 下載模型後，單擊嘗試。
5. 寫一個簡單的非正式電子郵件草稿（例如，“嘿，你能給我發表報告嗎？謝謝。”）
6. 提示：“以專業的，有禮貌的語氣重寫此電子郵件：[粘貼草稿]。”
7. 產生響應並分析它。如果您對響應不滿意，則可以要求它以更好，更結構化的方式格式化。
8. 您可以通過輸入提示進行實驗：“使其更正式並添加適當的主題建議。”
9. 通過選擇另一個模型並輸入相同的提示來比較結果。
10. 使用導出功能存儲最佳版本。

邊緣畫廊的優點

以下是使用Google的邊緣畫廊的一些優點：

• 革命性隱私保護：它提供了數據主權，這意味著信息將永遠不會離開設備邊界。從技術上講，公司和政府的監視將無法處理。
• 零正在進行的運營成本：安裝後沒有訂閱費或上下文限製或隱藏成本。隨著時間的推移，無限使用AI功率也可以使用任何額外的財務義務。
• 完整的網絡獨立性：即使在連接性差或覆蓋條件下，要生產效率。這意味著飛機模式兼容性，其中在旅行時將在全球提供不間斷的AI援助。
• 模型的多樣性和靈活性：允許訪問數千種不同任務的擁抱面部模型。根據每個特定任務的要求或用戶更喜歡彼此而不是彼此更喜歡的模型。

邊緣畫廊的局限性

每當發生新的發佈時，它都會比現有型號具有許多優勢，但是它也有一些限制。這是邊緣畫廊的一些局限性：

• 硬件性能依賴性：隨著耗電AI處理，較舊的智能手機不再有機會。較小的處理能力意味著響應時間較慢，並大大破壞了用戶的整個善意。
• 較大的存儲需求： LFM需要設備上足夠的存儲空間。較小設備上可用的存儲很快就會被多種型號吞噬。因此，用戶必須有意識地分配其存儲空間以獲得最佳性能。
• 模型兼容性約束：並非每個擁抱面部模型都與移動平台兼容。有些需要比智能手機實際上提供的更多資源。與基於雲的AI服務相比，提供的集合受到限制。
• 平台限制可用性：目前僅限於Android，隨著iOS的到來，Apple用戶必須等待iOS版本的正式發布日期。截至目前，尚未確認iOS應用程序可用的官方時間表。
• 緩慢的響應：隨著模型在CPU上運行，與LLM相比，在提供我們提示的響應方面，它需要大量時間。

另請閱讀：如何與Ollama在本地運行LLM模型？

與其他最新本地LLM選項進行比較

讓我們比較當今可用的一些最受歡迎和最新的本地LLM。這些平台使用戶可以直接在其設備上運行強大的LLM，但是其功能因平台而異。

結論

Google Edge畫廊是使AI更加安全意識的重大轉變。實驗應用將工作生成的AI創建為其用戶。該方法一致可以保護用戶的隱私，但為他們提供了最先進的AI。當地處理消除了傳統上用戶和先進技術之間建立的障礙。

儘管有設備兼容性和與模型選擇相關的限制，但基於價值的優勢掩蓋了這些限制。這種免費的以隱私為中心的解決方案使每個人都可以訪問高級AI。它對於教育部門，研究人員和隱私意識的用戶都特別有用。這種方法意味著發展區域可以平等地訪問AI技術和基礎架構。

以上是Google的邊緣畫廊可讓您免費在本地運行LLMS！的詳細內容。更多資訊請關注PHP中文網其他相關文章！