使用CREWAI的並發查詢分辨率系統

import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""

>

>

import asyncio
from crewai import Agent, Crew, Task, LLM, Process
import google.generativeai as genai

python的內置模塊，用於異步編程，啟用並發執行。 >
• 代理：代表一個具有特定職責的AI工人。
• > crew：>管理多個代理及其相互作用。
>
• >任務：>定義每個代理應該做的。 >
• llm：>指定所使用的大語言模型。 >
• 進程：>它定義了任務的執行方式，無論是順序還是並行。
google.generativeai：
• 庫用於使用Google的生成AI模型（在此片段中不使用，但可能包括用於將來的擴展）。 步驟3：初始化llms
• >以不同的溫度設置初始化了三種不同的LLM實例（GPT-4O和GPT-4）。溫度控制響應的創造力，確保在AI生成的答案中的準確性和靈活性之間保持平衡。
該系統創建三個LLM實例，每個實例都具有不同的配置。 >

• 模型：>指定要使用的OpenAI模型（GPT-4O或GPT-4）。
>
• 溫度：控制響應中的隨機性（0 =確定性，1 =更多創意）。

這些不同的模型和溫度有助於平衡準確性和創造力

• >查詢解析器：處理客戶查詢並提供詳細的響應。 >
>
• 摘要生成器：總結了快速參考的分辨率。 每個代理都有定義的角色，目標和背景故事來指導其相互作用。
  >

import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""

• 代理創建： QUERY_RESOLUTION_AGENT是負責解決客戶查詢的AI驅動的助手。 >
>模型選擇：
• 它使用llm_1，其配置為GPT-4O，溫度為0.7。 這種平衡允許創造性而準確的響應。 角色：>系統將代理指定為查詢解析器。
• 背景故事：開發人員計劃代理人充當專業客戶服務助理，確保高效且專業的回复。 >
• 目標：為用戶查詢提供準確的解決方案。
• 詳細模式：
摘要代理
• 在這裡會發生什麼？

import asyncio
from crewai import Agent, Crew, Task, LLM, Process
import google.generativeai as genai

>

模型選擇：
• 使用溫度為0.2的LLM_2（GPT-4），使其響應更加確定性和精確。 >角色：
>該代理充當摘要發電機。
• > 背景故事：
它總結了查詢分辨率簡潔供快速參考。
• 目標：
它提供了一個清晰明確的摘要，概述瞭如何解決客戶查詢。
• >詳細模式：>
• 步驟5：定義任務 系統動態分配任務以確保並行查詢處理。
本節定義了在並發查詢分辨率系統中分配給AI代理的任務。
• 在這裡會發生什麼？

定義任務：

• resolution_task：此任務指示查詢解析器代理分析和解決客戶查詢。
• summary_task：此任務指示摘要代理生成分辨率過程的簡短摘要。
>

>動態查詢處理：

• 執行任務時，系統用實際的客戶查詢代替{query}。
• 這允許系統動態處理任何客戶查詢。
>

預期輸出：

andolution_task期望對查詢有詳細的響應。
• >
summary_task生成了查詢分辨率的簡明摘要。
• >

代理分配：

>
• summary_agent被分配以處理摘要任務。 >
• 為什麼這很重要

任務專業：每個AI代理都有特定的工作，可確保效率和清晰度。

>可伸縮性：
• 您可以添加更多任務和代理來處理不同類型的客戶支持交互。 > >>並行處理：
可以同時執行任務，以減少客戶的等待時間。
• 步驟6：用AI代理執行查詢
>創建一個異步函數來處理查詢。機組類組織代理和任務，依次執行它們，以確保正確的查詢分辨率和摘要。
• 此功能定義了執行查詢的異步過程。它創建了一個機組人員實例，其中包括：
>

參與該過程的AI代理（查詢解析器和摘要生成器）。

import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""

任務：

• process = process.sequection：確保任務是按順序執行的。
• verbose = true：啟用詳細記錄以更好地跟踪。
• 該函數使用等待執行AI代理並返回結果。 > >步驟7：處理多個查詢同時
• 使用asyncio.gather（），可以同時處理多個查詢。這通過允許AI代理並並行處理不同的客戶問題來減少響應時間。 > 此函數同時執行兩個查詢。 ASyncio.gather（）同時處理兩個查詢，從而大大減少了響應時間。該函數返回兩個查詢的結果，一旦執行完成

這些是測試系統的示例查詢。

查詢1涉及登錄問題，而查詢2與付款網關錯誤有關。

>步驟9：設置事件循環

該系統初始化事件循環以處理異步操作。如果它找不到現有循環，它將創建一個新的循環來管理AI任務執行。

import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""

import asyncio
from crewai import Agent, Crew, Task, LLM, Process
import google.generativeai as genai

> nest_asyncio.apply（）允許嵌套事件循環，解決兼容性問題。

步驟11：執行查詢和打印結果

事件循環運行handle_two_queries（）同時處理查詢。該系統打印最終的AI生成的響應，顯示查詢分辨率和摘要。

# Initialize the LLM with Gemini
llm_1 = LLM(
    model="gpt-4o",
    temperature=0.7)
llm_2 = LLM(
    model="gpt-4",
    temperature=0.2)
llm_3 = LLM(
    model="gpt-4o",
    temperature=0.3)

在下面，我們將通過同時處理多個查詢，從而導致更快的響應時間和改進的用戶體驗，從而看到並發查詢分辨率系統如何提高效率。 >

>
• 提高準確性：利用多個llms確保創造力和事實正確性之間的平衡。
• >可伸縮性：系統可以在不干預的情況下處理大量查詢。
更好的客戶體驗：
• 自動摘要提供了查詢分辨率的快速概述。
>並發查詢分辨率系統的應用
• >現在，我們將探索並發查詢分辨率系統的各種應用程序，包括客戶支持自動化，聊天機器人中的實時查詢處理以及有效處理大型服務請求。 >
  • 客戶支持自動化：啟用AI驅動的聊天機器人可以同時解決多個客戶查詢，減少響應時間。
  • 實時查詢處理：通過並行處理大量查詢，提高效率來增強實時支持系統。 >
  • >電子商務協助：在線購物平台中精簡產品查詢，訂單跟踪和付款問題解決方案。
  >
  • > IT幫助台家管理：通過同時診斷和解決多個技術問題來支持IT服務桌。
  • 醫療保健和遠程醫療：協助同時管理患者查詢，預約時間表和醫療建議。 >
  結論
  並發查詢分辨率系統展示了AI驅動的多代理協作如何徹底改變客戶支持。通過利用Crewai，OpenAI的GPT型號和Google Gemini，企業可以自動化查詢處理，提高效率和用戶滿意度。這種方法將來為更高級的AI驅動服務解決方案鋪平了道路。

  鑰匙要點

  ai代理簡化客戶支持，減少響應時間。
  • crewai使專業代理能夠有效地一起工作。
  >
  • 使用Asyncio，同時處理多個查詢。
  >
  • 不同的LLM配置平衡精度和創造力。
  該系統可以在不干預的情況下管理大量查詢量。
  • 自動摘要提供了快速，清晰的查詢分辨率。
  >
  常見問題
  > Q1。什麼是crewai？

  a。 Crewai是一個框架，允許多個AI代理在復雜的任務上進行協作。它可以使代理商之間的任務管理，角色專業化和無縫協調。 Crewai如何工作？ Crewai定義具有特定角色的代理，動態分配任務，然後依次或同時處理它們。它利用Openai的GPT和Google Gemini等AI模型有效地執行任務。 Crewai如何同時處理多個查詢？ Crewai使用Python的asyncio.gather（）同時運行多個任務，從而確保了無績效瓶頸的更快的查詢分辨率。

  Q4。 Crewai可以與不同的llms集成？是的，Crewai支持各種大型語言模型（LLMS），包括OpenAI的GPT-4，GPT-4O和Google的Gemini，允許用戶根據速度和準確性要求進行選擇。 Crewai如何確保任務準確性？通過使用具有不同溫度設置的不同AI模型，CREWAI平衡創造力和事實正確性，以確保可靠的響應。

  >本文所示的媒體不歸Analytics Vidhya擁有，並由作者自行決定使用。