Mencipta Ringkasan berasaskan AI dalam Laman Web Django

Merumuskan teks yang panjang boleh membosankan, terutamanya pada platform seperti PyBazaar, di mana ringkasan ringkas meningkatkan pengalaman pengguna. Dalam siaran ini, saya akan berkongsi cara saya menggunakan Simplemind dan Gemini untuk mengautomasikan proses ini dalam projek berasaskan Django saya.

Maklumat Latar Belakang

Baru-baru ini, saya melancarkan PyBazaar.com, tapak web untuk pembangun Python untuk menunjukkan kemahiran mereka, mencari tawaran kerja dan menyiarkan serta mencari sumber pembangunan. Tujuannya adalah untuk mempunyai tempat pusat di mana pembangun Python boleh memasarkan perkhidmatan, produk atau projek mereka.

PyBazaar menunjukkan penerangan yang panjang tentang peluang dan sumber kerjaya dalam paparan terperinci dan ringkasan ringkas dalam paparan senarai. Ringkasan membantu pengguna memahami kandungan sumber dan peluang kerjaya dengan cepat tanpa membuka setiap paparan terperinci, meningkatkan pengalaman penyemakan imbas keseluruhan di PyBazaar. Untuk menjadikan pengeditan lebih lancar, saya memperkenalkan ringkasan automatik berdasarkan AI.

Memilih Simplemind untuk Komunikasi dengan LLM

Kenneth Reitz, pengarang pakej terkenal permintaan, baru-baru ini menerbitkan ciptaan terbaharunya—Simplemind—yang meningkatkan pengalaman pembangun dengan API model bahasa besar (LLM). Saya fikir ia adalah peluang yang baik untuk mencuba menyepadukan pakejnya ke dalam PyBazaar.

Walaupun saya memilih Google Gemini untuk peringkat percumanya, sokongan Simplemind untuk penyedia seperti OpenAI atau Claude bermakna pembangun boleh meningkatkan ciri yang lebih maju atau hasil yang lebih tepat jika diperlukan.

Menyediakan Kunci API

Pada mulanya, saya perlu mendapatkan Kunci API di Google AI Studio.

Integrasi Django

Kemudian saya memasang Simplemind:

(venv)$ pip install 'simplemind[full]'

Namun, sementara menunggu salah satu kebergantungan (grpcio) disusun pada Mac saya, saya mempunyai masa untuk minum tenaga dan masa yang cukup untuk menatal separuh suapan media sosial saya.

Simplemind menjangkakan kunci API LLM ditakrifkan dalam pembolehubah persekitaran. Dalam projek Django saya, saya menyimpan rahsia dalam fail JSON, yang Git abaikan, dan saya membaca nilai tersebut dengan fungsi utiliti yang saya tulis, get_secret().

Jadi, saya menambah baris ini dalam tetapan Django:

import os
os.environ["GEMINI_API_KEY"] = get_secret("GEMINI_API_KEY")
DEFAULT_LLM_PROVIDER = "gemini"

Saya mencipta paparan mudah yang mengambil kandungan HTML yang disiarkan, meminta LLM meringkaskannya dan mengembalikan ringkasan kepada pengguna:

import json
import simplemind
from django.contrib.auth.decorators import login_required
from django.conf import settings
from django.http import JsonResponse
from django.utils.html import strip_tags


@login_required
def summarize(request):
    summary = ""
    try:
        if (
            request.method == "POST"
            and (data := json.loads(request.body))
            and (content := data.get("content"))
            and (text := strip_tags(content).strip())
        ):
            summary = simplemind.generate_text(
                prompt=f"Condense the following information in 2 sentences:\n\n{text}",
                llm_provider=settings.DEFAULT_LLM_PROVIDER,
            ).strip()
    except json.JSONDecodeError:
        pass
    data = {"summary": summary}
    return JsonResponse(data)

Seperti yang anda boleh lihat, Simplemind adalah sama elegan dengan aplikasi permintaan. Saya boleh bertukar kepada OpenAI atau Claude dengan mudah jika saya memerlukan hasil yang lebih maju atau pertanyaan yang lebih bijak.

Saya menggunakan strip_tags() untuk mengurangkan kiraan token dan strip() untuk mengalih keluar ruang putih di hadapan dan di belakang.

Untuk meningkatkan prestasi paparan, saya juga boleh menggunakan ASGI atau tugas latar belakang, tetapi itu adalah sesuatu yang perlu dipertimbangkan apabila terdapat lebih ramai pengguna di PyBazaar.

Butang ringkasan mempunyai templatnya, yang saya sertakan dalam reka letak Django Crispy Forms saya dengan reka letak.HTML("""{% include "summarizer/includes/summarize_button.html" %}"""):

(venv)$ pip install 'simplemind[full]'

Apabila pengguna mengklik pada butang "Ringkaskan oleh AI", Javascript menyahdayakan butang itu buat sementara waktu, menukar teksnya kepada "Meringkaskan...", membaca nilai HTML daripada medan QuillJS dan menyiarkannya sebagai {"kandungan ": "..."} ke paparan ringkasan. Selepas menerima ringkasan sebagai {"summary": "..."}, Javascript mengisi ruang teks ringkasan dan menjadikan butang itu boleh diklik semula.

Kesimpulan

Simplemind menjadikan kerja dengan LLM lebih mudah menggunakan lalai pintar, jadi pembangun tidak perlu melaraskan tetapan rumit seperti suhu atau max_token.

Gemini LLM boleh digunakan secara percuma, dan itu nampaknya cukup bagus untuk ciri mudah seperti ini dengan bilangan pengguna aktif yang sederhana.

Saya melaksanakan ciri ringkasan ini di PyBazaar dalam masa setengah hari sahaja dan saya boleh menyesuaikan penyepaduan ini dengan mudah untuk menjana perihalan meta, draf e-mel atau pengesyoran diperibadikan.

Jika anda seorang pembangun Python yang ingin mempamerkan kemahiran anda, berkongsi sumber atau mencari peluang, lawati PyBazaar.com hari ini!

Foto muka depan oleh Caio

Atas ialah kandungan terperinci Mencipta Ringkasan berasaskan AI dalam Laman Web Django. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!