Galeri Edge Google ' membolehkan anda menjalankan LLMS secara tempatan secara percuma!

Dunia AI baru saja mengambil lonjakan raksasa oleh Galeri Edge Google. Hanya pada minggu lalu, Google secara senyap -senyap melancarkan AI Edge Gallery, aplikasi demokrasi untuk AI. Google Edge AI membolehkan pelaksanaan model bahasa yang kuat secara langsung pada telefon pintar kami, menghapuskan pergantungan pada awan dan tidak menawarkan yuran langganan. Ia membolehkan peranti anda berfungsi sebagai stesen kerja AI yang kuat tanpa menjejaskan privasi peribadi atau keselamatan data. Walaupun pelepasan ini menandakan fajar AI yang swasta dan boleh diakses sepenuhnya, ia datang dengan banyak implikasi yang melampaui faktor kemudahan. Mari kita faham dengan lebih baik melalui artikel ini.

Jadual Kandungan

• Apa itu Galeri Edge?
• Ciri -ciri utama Galeri Edge
• Faedah menjalankan llm secara tempatan
• Bagaimana untuk memulakan dengan Galeri Edge?
• Meneroka Antara Muka Aplikasi Galeri Edge
  • Navigasi papan pemuka utama
  • Pelayar dan Pemilihan Model
  • Antara muka sembang interaktif
  • Pengurusan Tetapan Komprehensif
• Tugas tangan untuk Galeri Edge
  • Tugas 1: Pengekstrakan Teks Dokumen Menggunakan Gambar Ask
  • Tugas 2: Penulisan e -mel profesional menggunakan Makmal Prompt
• Kelebihan Galeri Edge
• Batasan Galeri Edge
• Perbandingan dengan pilihan LLM tempatan terkini yang terkini
• Kesimpulan

Apa itu Galeri Edge?

Google AI Edge Gallery adalah aplikasi eksperimen yang mengubah telefon bimbit Android. Aplikasi ini bertindak sebagai jambatan yang menghubungkan pengguna dan memeluk model muka. Ia membolehkan muat turun langsung dan pelaksanaan tempatan model AI generatif, memastikan pembantu anda ada untuk anda, sepenuhnya dalam persediaan anda.

Platform ini menghilangkan dinding tradisional antara pengguna dan teknologi AI yang terbaik. Anda tidak lagi memerlukan pengetahuan teknikal atau mempunyai keupayaan model bahasa yang anda ada. Anda kini boleh menguruskan model juggling yang sukar dengan mudah dengan antara muka pengguna yang mudah diawasi. Galeri Edge Google membolehkan pengguna mencuba dan menguji pelbagai model AI tanpa memerlukan sebarang bantuan luaran atau menghadapi sekatan.

Untuk meletakkannya dengan mudah, Galeri Edge adalah inisiatif Google untuk membawa AI kepada semua orang, di mana sahaja di seluruh dunia. Kemas kini baru menyediakan ciri tambahan dan keserasian yang lebih baik dengan model. Selanjutnya, status eksperimen membolehkan inovasi pesat dan integrasi maklum balas pengguna.

Juga Baca: 5 Cara Menjalankan LLMS secara tempatan di Komputer

Ciri -ciri utama Galeri Edge

Ciri -ciri yang menonjol dari Galeri Edge adalah:

• Lengkap Fungsi Luar Talian: Ciri yang paling penting ialah kemerdekaannya yang lengkap dari sebarang bentuk sambungan selepas persediaan. Sebaik sahaja model dimuat turun, peranti anda menjadi entiti mandiri. Semua pemprosesan AI berlaku secara tempatan, dan tiada data yang pernah dihantar ke pelayan luaran.
• Akses Perpustakaan Model yang luas: Galeri Edge Google disambungkan secara langsung dengan Repositori Model Besar Hugging Face, jadi pengguna dapat dengan mudah membandingkan dan memuat turun model yang sesuai untuk tugas mereka. Platform ini boleh melakukan penjanaan teks, analisis imej, dan bantuan kod. Dengan membenarkan model beralih, platform menggalakkan bereksperimen dengan pendekatan dan keupayaan yang berbeza yang terdapat di dunia AI.
• Reka bentuk pengalaman mesra pengguna: Aplikasi ini menawarkan antara muka jenis pemesejan yang bersih kepada penggunanya. Dengan semua kuasa AI boleh memberi, navigasi disimpan dengan mudah. Pengurusan model, tetapan, dan perbualan semuanya terjalin sepanjang reka bentuk. Platform ini direka sedemikian rupa sehingga bukan teknologi tidak dapat menggunakannya dengan berkesan dari get-go.
• Perlindungan Privasi Maksimum: Oleh kerana segala -galanya diproses secara tempatan, ancaman sebarang pelanggaran data atau akses yang tidak dibenarkan dihapuskan. Perbualan anda tidak pernah pergi ke mana-mana pelayan luaran atau, untuk perkara itu, mana-mana pangkalan data pihak ketiga. Maklumat sepenuhnya peribadi dikawal oleh pengguna sahaja, selalu. Oleh itu, ia boleh menuntut perlindungan privasi yang lebih baik daripada kebanyakan perkhidmatan AI berasaskan awan.

Faedah menjalankan llm secara tempatan

Terdapat banyak LLM yang terdapat di pasaran, tetapi mengapa aplikasi ini menonjol adalah kerana ia membolehkan kami menjalankan LLM secara tempatan, dan juga dalam cara luar talian. Berikut adalah beberapa faedah yang dijalankan LLM secara tempatan:

• Privasi Data Tidak kompromi: Pelaksanaan tempatan menamatkan maklumat peribadi yang pernah meninggalkan sempadan peranti. Oleh itu, apa yang dikatakan oleh seseorang dalam perbualan sensitif, butiran dalam dokumen, dan pertanyaan penyelidikan atau maklumat tetap sepenuhnya swasta dan dilindungi. Oleh itu, pemprosesan menjadi kemustahilan teknikal untuk pengintipan korporat atau pengawasan kerajaan. Data anda kekal dalam jagaan lengkap anda tanpa sebarang kebergantungan pihak ketiga.
• Fungsi kos yang ketara: Kerana menjalankan model di dalam negara, semua yuran langganan dan harga berasaskan gaji dihapuskan. Selepas itu, model yang dimuat turun akan berfungsi untuk anda tanpa mempertimbangkan sebarang kos susulan atau pembayaran. Ia pada dasarnya bermakna akses tanpa had ke AI tanpa perlu bimbang tentang kekangan kewangan.
• Kemerdekaan Prestasi dan Kebolehpercayaan: Masalah dengan sambungan Internet tidak membenarkan gangguan dalam aliran kerja AI atau tugas anda. Tanpa mengira kerumitan rangkaian, prestasi tetap berterusan untuk membolehkan bantuan AI yang boleh dipercayai. Kuasa pemprosesan anda pada peranti mentakrifkan seberapa cepat respons boleh, dan bukannya kualiti sambungan.
• Kebebasan Kreatif Tanpa Had: Cuba model untuk sesuatu yang berbeza tanpa kebimbangan terhadap batasan penggunaan. Pelaksanaan tempatan memudahkan kreativiti tanpa had dan mencari tanpa halangan. Pengguna boleh menolak sempadan tanpa pemantauan mata orang lain atau menapis kandungan mereka.

Juga baca: 12 model sumber terbuka atas di Huggingface pada tahun 2025

Bagaimana untuk memulakan dengan Galeri Edge?

Berikut adalah langkah -langkah untuk mula bereksperimen dengan Galeri Edge. Menggunakan langkah -langkah ini, anda boleh menyediakan aplikasi dalam sistem pilihan anda dan mula bereksperimen dalam masa yang singkat.

Langkah 1: Periksa keperluan sistem

Pada masa ini, aplikasi menyokong peranti Android dengan spesifikasi kuasa pemprosesan yang mencukupi. RAM minimum 4GB dinasihatkan untuk menikmati fungsi model dan kestabilan yang lancar. Harus ada sekurang -kurangnya 8GB ruang yang tersedia secara percuma, di mana muat turun akan disimpan. Telefon pintar moden dengan pemproses 64-bit akan menawarkan kepuasan pengguna muktamad.

Langkah 2: Periksa sama ada peranti anda disokong

Telefon Android dengan versi 8 atau ke atas dianggap serasi sepenuhnya. Peranti utama dari pengeluar terkenal menawarkan tahap prestasi dan kestabilan yang terbaik. Tablet dengan spesifikasi yang mencukupi juga boleh membawa aplikasi dengan baik. Keserasian peranti semata -mata bergantung kepada ketersediaan RAM dan kuasa pemprosesan.

Langkah 3: Proses pemasangan dan persediaan

Muat turun fail APK dari sumber rasmi atau kedai aplikasi yang diberi kuasa. Aplikasi ini akan memerlukan pemasangan dari sumber yang tidak diketahui, jadi pergi ke tetapan keselamatan anda dan hidupkannya. Pilihan pemaju juga diperlukan untuk persediaan dan konfigurasi pada peringkat awal.

Berikan semua kebenaran yang diperlukan untuk operasi aplikasi lancar dan pentadbiran model. Teruskan dengan wizard pemasangan untuk proses pemasangan yang lancar. Proses pemasangan awal bergantung kepada prestasi peranti dan biasanya mengambil masa kira-kira 5-10 minit. Muat turun model pertama mungkin mengambil sedikit masa, bergantung kepada model.

Meneroka Antara Muka Aplikasi Galeri Edge

Selepas pemasangan aplikasi Galeri Edge, anda akan melihat antara muka, jadi mari kita lihat apa yang boleh kita lakukan mengenainya menggunakan beberapa ciri -cirinya:

Navigasi papan pemuka utama

Antara muka utama membentangkan pandangan pelbagai ciri yang wujud, seperti Imej Ask, Makmal Prompt, dan Sembang AI. Di bawah ciri -ciri tersebut, kategori model membawa label supaya mereka dapat diakses dengan cepat dan dipilih. Muat turun status dan status model muncul di papan pemuka utama.

Butang tindakan cepat membolehkan akses segera ke model AI yang dicari. Petunjuk penggunaan penyimpanan membantu pengguna menjejaki ruang pada peranti mereka. Pintasan untuk Tetapan juga membantu dalam navigasi mudah untuk semua pilihan dan keutamaan penyesuaian. Papan pemuka juga mengemas kini secara dinamik bergantung kepada aktiviti pengguna dan model.

Pelayar dan Pemilihan Model

Seperti yang dapat anda lihat di antara muka, terdapat tiga hingga empat jenis model untuk setiap ciri yang boleh anda pilih. Pilihan penapisan membantu menyempitkan ke bawah berdasarkan saiz, keupayaan, dan keperluan. Penerangan Model memberikan maklumat terperinci mengenai keupayaan dan ciri -ciri prestasi. Pratonton mereka membolehkan pengguna menguji model sebelum memuat turunnya untuk menggunakan storan tempatan mereka.

Anda juga boleh melihat penilaian dan maklum balas komuniti, yang membantu pengguna menentukan model yang boleh mereka pilih. Yang popular diserlahkan untuk membantu pengguna mencari yang paling biasa digunakan. Pilihan penapisan lanjutan membolehkan pengguna untuk memadankan model dengan tepat untuk keperluan mereka.

Antara muka sembang interaktif

Ia mempunyai antara muka perbualan yang biasa kepada pengguna dari mana -mana aplikasi pemesejan komersial untuk kemudahan. Ia menyokong soalan menaip, muat naik imej, dan perbualan berbilang pusingan dengan penjanaan tindak balas masa nyata sebagai jenis pengguna. Pemeliharaan kontekstual menawarkan aliran pelbagai pertukaran dan sesi, dengan itu mengekalkan kesinambungan perbualan.

Ia membolehkan model beralih semasa perbualan, yang boleh dilakukan untuk tujuan perbandingan dan ujian. Sejarah sembang dikekalkan di mesin tempatan untuk rujukan dan kesinambungan. Mengeksport perbualan boleh menjimatkan kandungan sembang penting dan kandungan AI yang diberikan. Ia juga menyokong input suara untuk interaksi bebas tangan dengan model AI.

Pengurusan Tetapan Komprehensif

Ia menawarkan parameter model yang disesuaikan, berkaitan dengan prestasi, dan pilihan yang berkaitan dengan aplikasi melalui antara muka. Menguruskan penyimpanan model, penggunaan, dan kemas kini model yang dimuat turun menggunakan kawalan yang disediakan. Pengguna lanjutan boleh mengakses penyesuaian selanjutnya untuk menyesuaikan tingkah laku model dan ciri -ciri tindak balas mereka.

Tetapan privasi menjamin pengendalian data sehingga keperluan dan piawaian peribadi. Ia juga mempunyai tetapan berorientasikan prestasi yang membolehkan mengimbangi antara kecerahan dan longkang bateri untuk digunakan. Model dan kemas kini aplikasi boleh diuruskan secara automatik.

Tugas tangan untuk Galeri Edge

Kami telah banyak bercakap tentang Galeri Edge, tetapi sekarang mari kita lihat bagaimana ia melakukan tindakan. Tugas yang menggunakan ciri-ciri menonjolnya adalah seperti berikut:-

Tugas 1: Pengekstrakan Teks Dokumen Menggunakan Gambar Ask

Tugas ini menunjukkan bagaimana fungsi luar talian Galeri Edge dapat membantu dalam analisis imej apabila memberikan petikan kontekstual.

1. Buka ciri Imej Ask di Galeri Edge
2. Muat turun model pilihan anda.
3. Untuk tugas ini, kami akan memuat turun 'Gemma-2N-E2B-IT-Int4'.
4. Selepas memuat turun, klik pada 'Cuba It'.
5. Ambil gambar yang jelas mengenai mana -mana nota tulisan tangan, resit, atau dokumen bercetak.
6. Muat naik imej ke model penglihatan yang dipilih.
7. Taipkan prompt "Ekstrak semua teks dari imej dan meringkaskan maklumat utama" .
8. Kemudian, ketika AI mengambil masa untuk memproses imej dan memberikan respons yang sesuai, jika anda tidak berpuas hati dengan respons, maka anda boleh memintanya untuk menjadikannya lebih baik dengan memberikan maklum balas terperinci.
9. Anda boleh mengemukakan soalan susulan: "Apakah perkara utama yang diberikan dalam dokumen/imej?"
10. Untuk menguji ciri luar talian, anda hanya boleh memutuskan sambungan dari internet dan kemudian bertanya soalan -soalan ini.
11. Simpan hasil untuk rujukan masa depan.

Tugas 2: Penulisan e -mel profesional menggunakan Makmal Prompt

Tugas ini menunjukkan bagaimana Galeri Edge dapat menyokong komunikasi profesional atau memberikan hasil kepada soalan/arahan kami secara luar talian.

1. Pilih pilihan Lab Prompt dari tiga pilihan di papan pemuka.
2. Pilih model penjanaan teks pilihan anda dari pilihan yang tersedia dan muat turunnya.
3. Untuk tugas kami, kami akan memilih 'Gemma-3N-E2B-IT-INT4' daripada empat pilihan, iaitu 'Gemma-3N-E4B-IT-INT4', 'Gemma3-1B-IT-Q4', 'Qwen2.5-1.5B-Instruct Q8'.
4. Selepas model dimuat turun, klik pada cuba.
5. Tulis draf e -mel yang sederhana dan tidak rasmi (misalnya, "Hei, bolehkah anda menghantar laporan itu? Terima kasih.")
6. Prompt: "Tulis semula e -mel ini dalam nada profesional dan sopan: [Tampalkan draf anda]."
7. Menjana tindak balas dan menganalisisnya. Jika anda tidak berpuas hati dengan respons maka anda boleh memintanya untuk memformatnya dengan cara yang lebih baik dan lebih berstruktur.
8. Anda boleh bereksperimen dengan memasuki prompt: "Buat lebih formal dan tambahkan cadangan baris subjek yang betul."
9. Bandingkan hasilnya dengan memilih model lain dan memasuki arahan yang sama.
10. Gunakan fungsi eksport untuk menyimpan versi terbaik.

Kelebihan Galeri Edge

Berikut adalah beberapa kelebihan menggunakan Galeri Edge Google:

• Perlindungan Privasi Revolusi: Ia menawarkan kedaulatan data, yang bermaksud maklumat tidak akan meninggalkan sempadan peranti. Pengawasan korporat dan kerajaan akan dibuat secara teknikal untuk diproses.
• Kos Operasi Sifar Sifar: Tiada yuran langganan atau batasan kontekstual atau kos tersembunyi yang dilampirkan kepadanya selepas pemasangan. Penggunaan kuasa AI yang tidak terhad juga mungkin tanpa sebarang kewajipan kewangan tambahan dari masa ke masa.
• Kemerdekaan Rangkaian Penuh: Jadilah produktif walaupun di bawah keadaan sambungan atau liputan yang lemah. Ini bermakna keserasian mod pesawat, di mana bantuan AI yang tidak terganggu akan disediakan di seluruh dunia semasa perjalanan.
• Pelbagai besar dan fleksibiliti model: Membolehkan akses kepada beribu -ribu model muka memeluk untuk tugas yang berbeza. Mudah menukar model bergantung kepada apa yang diperlukan setiap tugas tertentu atau apabila pengguna lebih suka satu daripada yang lain.

Batasan Galeri Edge

Apabila pelancaran baru berlaku, ia datang dengan banyak kelebihan mengenai model yang sedia ada, tetapi terdapat beberapa batasan untuknya juga. Berikut adalah beberapa batasan Galeri Edge:

• Ketergantungan prestasi perkakasan: Dengan pemprosesan AI yang lapar kuasa, telefon pintar yang lebih tua tidak lagi berpeluang. Kuasa pemprosesan yang lebih rendah membayangkan masa tindak balas yang lebih perlahan dan dengan ketara melemahkan seluruh muhibah pengguna.
• Keperluan Penyimpanan Besar: LFM memerlukan ruang penyimpanan yang mencukupi pada peranti. Penyimpanan yang tersedia pada peranti yang lebih kecil mendapat cepat dimakan oleh pelbagai model. Oleh itu, pengguna perlu memperuntukkan storan mereka untuk prestasi terbaik.
• Kekangan Keserasian Model: Tidak setiap model muka memeluk serasi dengan platform mudah alih. Ada yang memerlukan lebih banyak sumber daripada telefon pintar yang boleh disediakan secara praktikal. Set yang ditawarkan adalah terhad berbanding dengan perkhidmatan AI berasaskan awan.
• Ketersediaan Batasan Platform: Pada masa ini terhad kepada Android, dengan iOS datang, pengguna Apple perlu menunggu tarikh pelepasan rasmi versi iOS. Setakat ini, tiada garis masa rasmi telah disahkan untuk aplikasi iOS untuk disediakan.
• Tanggapan yang perlahan: Oleh kerana model sedang berjalan pada CPU, ia mengambil sejumlah besar masa berbanding dengan LLM dalam memberikan respons kepada arahan kami.

Juga baca: Bagaimana untuk menjalankan model LLM secara tempatan dengan Ollama?

Perbandingan dengan pilihan LLM tempatan terkini yang terkini

Mari kita bandingkan beberapa LLM tempatan yang paling popular dan baru -baru ini yang tersedia hari ini. Platform ini membolehkan pengguna menjalankan LLM yang kuat secara langsung pada peranti mereka, tetapi ciri -ciri mereka berbeza -beza bergantung pada platform.

Kesimpulan

Google Edge Gallery mewakili peralihan utama dalam menjadikan AI lebih sedar keselamatan. Aplikasi eksperimen mengambil kerja ciptaan AI generatif kepada penggunanya. Pendekatan ini berfungsi secara serentak untuk melindungi privasi pengguna tetapi memberikan mereka dengan AI yang canggih. Pemprosesan tempatan menghilangkan halangan yang secara tradisinya dibina antara pengguna dan teknologi canggih.

Walaupun terdapat keserasian peranti dan batasan yang berkaitan dengan pemilihan model, kelebihan berasaskan nilai membayangi batasan-batasan ini. Penyelesaian yang berpusatkan privasi percuma ini membolehkan semua orang mengakses AI lanjutan. Ia amat berguna untuk sektor pendidikan, penyelidik, dan pengguna yang sedar privasi. Pendekatan sedemikian bermakna bahawa kawasan membangun mempunyai akses yang sama kepada teknologi dan infrastruktur AI.

Atas ialah kandungan terperinci Galeri Edge Google ' membolehkan anda menjalankan LLMS secara tempatan secara percuma!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!