如何使用Verifai輕鬆部署本地生成搜索引擎

>本文詳細介紹了Verifai項目的重要更新，這是一種開源生成搜索引擎。 以前專注於生物醫學數據（Verifai Biomed，可在//m.sbmmt.com/link/link/link/link/ae8e20f2c7accb9995afbe0fbebe0f507856c17中訪問），Verifai現在可以提供核心功能（verifai core ），可以提供自己的核心功能（verifai core）來自本地文件的引擎。這使個人，組織和企業都有能力構建自定義搜索解決方案。

關鍵功能和體系結構：> verifai core的體系結構包括三個主要組成部分：

索引：利用Opensearch進行詞彙索引和qdrant進行語義索引（使用擁抱的臉部嵌入模型）。 這種雙重方法可確保全面的文檔表示。 索引腳本支持各種文件類型（PDF，Word，PowerPoint，Text，Markdown）。

>結合了OpenSearch的詞彙搜索和Qdrant的語義搜索（使用DOT產品相似性）的結果。 合併結果為所選的大語言模型（LLM）提供了提示。 默認LLM是Mistral的本地部署，微調的版本，但用戶可以通過VLLM，Ollama或Nvidia Nims指定其他版本（OpenAi API，Azure API等）。

> 驗證引擎：一個關鍵組件，檢查對源文檔的生成答案，最大程度地減少幻覺。

2. 設置和安裝：

1. 創建一個python環境：git clone https://github.com/nikolamilosevic86/verifAI.git

   >

2. >安裝依賴項： python -m venv verifai; source verifai/bin/activate

3. >configure verifai：配置pip install -r verifAI/backend/requirements.txtfile（基於

   ）指定數據庫憑據（PostgreSQL），OpenSearch，QDRANT，QDRANT，LLM詳細信息（PATH，API鍵，部署名稱），嵌入模型和索引名稱。

4. 安裝數據存儲：.env.env.local.example（需要docker）。

5. 索引文件：python install_datastores.py>（例如，

   ）。

6. 運行後端：python index_files.py <path-to-directory-with-files></path-to-directory-with-files>python index_files.py test_data>

7. 運行前端：>導航到client-gui/verifai-ui，運行npm install，然後npm start。

貢獻和未來發展：> Verifai是一個受歡迎的貢獻。 該項目最初是由下一代互聯網搜索項目（歐盟）資助的，並與塞爾維亞和貝納A.G.的人工智能研究與開發研究所合作開發，並正在進行進一步的開發，重點是擴大其能力和可用性。 通過拉動請求，錯誤報告和功能請求來鼓勵貢獻。 請訪問//m.sbmmt.com/link/d16c19f1f2ab8361fda1f625ce3ff26a

以上是如何使用Verifai輕鬆部署本地生成搜索引擎的詳細內容。更多資訊請關注PHP中文網其他相關文章！