Maison > développement back-end > Tutoriel Python > Routeur sémantique – Piloter les LLM

Routeur sémantique – Piloter les LLM

PHPz
Libérer: 2024-07-17 09:41:49
original
907 Les gens l'ont consulté

Semantic Router - Steer LLMs

Je voulais partager un projet sur lequel je travaille appelé SemRoute, et j'aimerais avoir vos commentaires. SemRoute est un routeur sémantique qui utilise des intégrations vectorielles pour acheminer les requêtes en fonction de leur signification sémantique. Il est conçu pour être flexible et facile à utiliser, sans avoir besoin de classificateurs de formation ni d'utilisation de grands modèles de langage.

Voici un bref aperçu :

  • Prend en charge plusieurs modèles d'intégration (OpenAI, MistralAI)
  • Prend en charge les modèles d'intégration personnalisés
  • Offre un seuillage dynamique et statique
  • Permet différentes méthodes de notation (moyenne individuelle, centroïde)

Vous pouvez le consulter sur GitHub : https://github.com/HansalShah007/semroute. J'apprécierais vraiment tous les commentaires ou suggestions de cette communauté sur la façon de l'améliorer ou les cas d'utilisation pour lesquels vous pensez qu'elle pourrait être adaptée.
Merci !

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

source:dev.to
Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Tutoriels populaires
Plus>
Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal