Rumah > pembangunan bahagian belakang > Tutorial Python > Penghala Semantik - Pandu LLM

Penghala Semantik - Pandu LLM

PHPz
Lepaskan: 2024-07-17 09:41:49
asal
907 orang telah melayarinya

Semantic Router - Steer LLMs

Saya ingin berkongsi projek yang telah saya usahakan dipanggil SemRoute, dan saya ingin mendapatkan maklum balas anda. SemRoute ialah penghala semantik yang menggunakan benam vektor untuk menghalakan pertanyaan berdasarkan makna semantiknya. Ia direka bentuk agar fleksibel dan mudah digunakan, tanpa memerlukan pengelas latihan atau menggunakan model bahasa yang besar.

Berikut ialah gambaran ringkas:

  • Menyokong berbilang model benam (OpenAI, MistralAI)
  • Sokong model benam tersuai
  • Menawarkan ambang dinamik dan statik
  • Membenarkan kaedah pemarkahan yang berbeza (purata individu, centroid)

Anda boleh menyemaknya di GitHub: https://github.com/HansalShah007/semroute. Saya amat menghargai sebarang maklum balas atau cadangan daripada komuniti ini tentang cara untuk memperbaikinya atau menggunakan kes yang anda fikir ia mungkin sesuai.
Terima kasih!

Atas ialah kandungan terperinci Penghala Semantik - Pandu LLM. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

sumber:dev.to
Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn
Tutorial Popular
Lagi>
Muat turun terkini
Lagi>
kesan web
Kod sumber laman web
Bahan laman web
Templat hujung hadapan