如何使用Verifai轻松部署本地生成搜索引擎

>本文详细介绍了Verifai项目的重要更新，这是一种开源生成搜索引擎。 以前专注于生物医学数据（Verifai Biomed，可在//m.sbmmt.com/link/link/link/link/ae8e20f2c7accb9995afbe0fbebe0f507856c17中访问），Verifai现在可以提供核心功能（verifai core），可以提供自己的核心功能（verifai core）来自本地文件的引擎。这使个人，组织和企业都有能力构建自定义搜索解决方案。

关键功能和体系结构：> verifai core的体系结构包括三个主要组成部分：

索引：利用Opensearch进行词汇索引和qdrant进行语义索引（使用拥抱的脸部嵌入模型）。 这种双重方法可确保全面的文档表示。 索引脚本支持各种文件类型（PDF，Word，PowerPoint，Text，Markdown）。

>结合了OpenSearch的词汇搜索和Qdrant的语义搜索（使用DOT产品相似性）的结果。 合并结果为所选的大语言模型（LLM）提供了提示。 默认LLM是Mistral的本地部署，微调的版本，但用户可以通过VLLM，Ollama或Nvidia Nims指定其他版本（OpenAi API，Azure API等）。

> 验证引擎：一个关键组件，检查对源文档的生成答案，最大程度地减少幻觉。

2. 设置和安装：

1. 创建一个python环境：git clone https://github.com/nikolamilosevic86/verifAI.git

   >

2. >安装依赖项： python -m venv verifai; source verifai/bin/activate

3. >configure verifai：配置pip install -r verifAI/backend/requirements.txtfile（基于

   ）指定数据库凭据（PostgreSQL），OpenSearch，QDRANT，QDRANT，LLM详细信息（PATH，API键，部署名称），嵌入模型和索引名称。

4. 安装数据存储：.env.env.local.example（需要docker）。

5. 索引文件：python install_datastores.py>（例如，

   ）。

6. 运行后端：python index_files.py <path-to-directory-with-files></path-to-directory-with-files>python index_files.py test_data>

7. 运行前端：>导航到client-gui/verifai-ui，运行npm install，然后npm start。

贡献和未来发展：> Verifai是一个受欢迎的贡献。 该项目最初是由下一代互联网搜索项目（欧盟）资助的，并与塞尔维亚和贝纳A.G.的人工智能研究与开发研究所合作开发，并正在进行进一步的开发，重点是扩大其能力和可用性。 通过拉动请求，错误报告和功能请求来鼓励贡献。 请访问//m.sbmmt.com/link/d16c19f1f2ab8361fda1f625ce3ff26a

以上是如何使用Verifai轻松部署本地生成搜索引擎的详细内容。更多信息请关注PHP中文网其他相关文章！