Pour ceux qui ne connaissent pas le projet llamafile, l'équipe Mozilla Ocho travaille à supprimer la complexité entourant l'installation des LLM en combinant llama.cpp et Cosmopolitan Libc qui utilisent tous deux le langage de programmation C/C++. Llamafile utilise l'inférence du modèle LLaMA de Meta fourni par llama.cpp et l'associe à la transformation build-once run-anywhere de C par Cosmopolitan Libc. Cosmopolitan Libc supprime également le besoin d'un interpréteur ou d'une machine virtuelle pour exécuter C sur les machines Linux, Mac et Windows.
Le dernier ajout au projet llamafile, Whisperfile, a été détaillé sur le profil Hugging Face de Mozilla. Selon leur page, "Whisperfile est une implémentation haute performance de Whisper d'OpenAI créée par Mozilla Ocho dans le cadre du projet llamafile, basée sur le logiciel Whisper.cpp écrit par Georgi Gerganov et al." Pour le projet, l'équipe a regroupé tous les poids nécessaires pour le modèle dans des « whisperfiles » qui conservent les fonctionnalités trouvées dans Cosmopolitan Libc, permettant au modèle de fonctionner sur la plupart des systèmes.
La documentation « Premiers pas avec Whisperfile » sur les détails du profil GitHub de l'équipe un processus d'installation simple composé de seulement trois étapes. Une fois qu'un utilisateur télécharge le modèle, crée le logiciel et exécute le programme, il peut choisir parmi trois modèles différents pour commencer à transcrire l'audio. Les modèles vont du plus petit au plus grand, la rapidité étant échangée contre la précision du processus de transcription. De plus, Whisperfile peut traduire différentes langues vers l'anglais en utilisant le modèle multilingue et le drapeau « --translate ».
Pour plus d'informations sur lamafile, Whisperfile et des détails supplémentaires sur le processus d'installation, veuillez visiter les ressources ci-dessous.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!