ChatsAPI — 세계에서 가장 빠른 AI 에이전트 프레임워크

GitHub: https://github.com/chatsapi/ChatsAPI
도서관: https://pypi.org/project/chatsapi/

인공 지능은 산업을 변화시켰지만 이를 효과적으로 배포하는 것은 여전히 ​​어려운 과제로 남아 있습니다. 복잡한 프레임워크, 느린 응답 시간, 가파른 학습 곡선은 기업과 개발자 모두에게 장벽을 만듭니다. 비교할 수 없는 속도, 유연성, 단순성을 제공하도록 설계된 획기적인 고성능 AI 에이전트 프레임워크인 ChatsAPI를 만나보세요.

이 기사에서는 ChatsAPI의 고유한 특징, 이것이 판도를 바꾸는 이유, 개발자가 비교할 수 없는 용이성과 효율성으로 지능형 시스템을 구축할 수 있도록 지원하는 방법에 대해 알아봅니다.

ChatsAPI를 독특하게 만드는 것은 무엇입니까?

ChatsAPI는 단순한 AI 프레임워크가 아닙니다. 이는 AI 기반 상호 작용의 혁명입니다. 이유는 다음과 같습니다.

• 타의 추종을 불허하는 성능 ChatsAPI는 SBERT 임베딩, HNSWlib 및 BM25 하이브리드 검색을 활용하여 지금까지 구축된 것 중 가장 빠른 쿼리 일치 시스템을 제공합니다.

속도: 밀리초 미만의 응답 시간을 제공하는 ChatsAPI는 세계에서 가장 빠른 AI 에이전트 프레임워크입니다. HNSWlib 기반 검색 기능을 통해 대규모 데이터세트에서도 경로와 지식을 매우 빠르게 검색할 수 있습니다.

효율성: SBERT와 BM25의 하이브리드 접근 방식은 의미론적 이해와 기존 순위 시스템을 결합하여 속도와 정확성을 모두 보장합니다.

• LLM과의 원활한 통합
  ChatsAPI는 OpenAI, Gemini, LlamaAPI 및 Ollama와 같은 최첨단 LLM(대형 언어 모델)을 지원합니다. LLM을 애플리케이션에 통합하는 복잡성을 단순화하여 더 나은 경험을 구축하는 데 집중할 수 있습니다.

• 동적 경로 매칭
  ChatsAPI는 자연어 이해(NLU)를 사용하여 사용자 쿼리를 비교할 수 없는 정밀도로 사전 정의된 경로와 동적으로 일치시킵니다.

@trigger와 같은 데코레이터를 사용하여 손쉽게 경로를 등록하세요.

@extract와 함께 매개변수 추출을 사용하면 사용 사례가 아무리 복잡하더라도 입력 처리를 단순화할 수 있습니다.

• 디자인의 단순성 우리는 강력함과 단순함이 공존할 수 있다고 믿습니다. ChatsAPI를 사용하면 개발자는 몇 분 만에 강력한 AI 기반 시스템을 구축할 수 있습니다. 더 이상 복잡한 설정이나 구성으로 씨름할 필요가 없습니다.

ChatsAPI의 장점

고성능 쿼리 처리
기존 AI 시스템은 속도나 정확성 중 하나에서 어려움을 겪고 있습니다. ChatsAPI는 두 가지 모두를 제공합니다. 방대한 지식 기반에서 가장 적합한 항목을 찾거나 대량의 쿼리를 처리하는 경우 ChatsAPI는 탁월한 성능을 발휘합니다.

유연한 프레임워크
ChatsAPI는 구축 여부에 관계없이 모든 사용 사례에 적응합니다.

• 고객지원 챗봇.
• 지능형 검색 시스템
• 전자상거래, 의료, 교육을 위한 AI 기반 도우미.

개발자를 위해 제작됨

개발자가 개발자를 위해 설계한 ChatsAPI는 다음을 제공합니다.

• 빠른 시작: 몇 단계만 거치면 환경을 설정하고, 경로를 정의하고, 실시간 스트리밍을 시작할 수 있습니다.
• 사용자 정의: 데코레이터를 사용하여 동작을 조정하고 특정 요구 사항에 맞게 성능을 미세 조정합니다.
• 쉬운 LLM 통합: 최소한의 노력으로 OpenAI 또는 Gemini와 같은 지원되는 LLM 간에 전환하세요.

ChatsAPI는 어떻게 작동하나요?

ChatsAPI는 기본적으로 3단계 프로세스를 통해 작동합니다.

1. 경로 등록: @trigger 데코레이터를 사용하여 경로를 정의하고 이를 함수와 연결합니다.
2. 검색 및 일치: ChatsAPI는 SBERT 임베딩 및 BM25 하이브리드 검색을 사용하여 사용자 입력을 올바른 경로와 동적으로 일치시킵니다.
3. 매개변수 추출: @extract 데코레이터를 사용하면 ChatsAPI가 자동으로 매개변수를 추출하고 검증하므로 복잡한 입력을 더 쉽게 처리할 수 있습니다.

결과는? 빠르고 정확하며 엄청나게 사용하기 쉬운 시스템입니다.

사용 사례

• 고객지원
  엄청나게 빠른 쿼리 해결 기능으로 고객 상호작용을 자동화하세요. ChatsAPI를 사용하면 사용자가 관련 답변을 즉시 얻을 수 있어 만족도가 향상되고 운영 비용이 절감됩니다.

• 지식 기반 검색
  사용자가 의미론적 이해를 통해 방대한 지식 기반을 검색할 수 있도록 지원합니다. 하이브리드 SBERT-BM25 접근 방식은 정확한 상황 인식 결과를 보장합니다.

• 대화형 AI
  사용자 입력을 실시간으로 이해하고 이에 적응하는 대화형 AI 에이전트를 구축하세요. ChatsAPI는 최고의 LLM과 원활하게 통합되어 자연스럽고 매력적인 대화를 제공합니다.

왜 관심을 가져야 합니까?

다른 프레임워크는 유연성이나 성능을 약속하지만 ChatsAPI처럼 두 가지를 모두 제공할 수는 없습니다. 우리는 다음과 같은 프레임워크를 만들었습니다.

• 시중의 어떤 제품보다 빠릅니다.
• 더 간단하게 설정 및 사용
• 더 스마트하게 의미론적 접근 방식과 키워드 기반 접근 방식을 혼합한 고유한 하이브리드 검색 엔진을 제공합니다.

ChatsAPI는 개발자가 복잡성이나 느린 성능으로 인한 고민 없이 AI의 잠재력을 최대한 활용할 수 있도록 지원합니다.

시작하는 방법

ChatsAPI를 시작하는 것은 쉽습니다.

• 프레임워크 설치:

pip install chatsapi

• 경로 정의:

from chatsapi import ChatsAPI  

chat = ChatsAPI()  

@chat.trigger("Hello")  
async def greet(input_text):  
    return "Hi there!"

• 메시지에서 일부 데이터 추출

from chatsapi import ChatsAPI  

chat = ChatsAPI()  

@chat.trigger("Need help with account settings.")
@chat.extract([
    ("account_number", "Account number (a nine digit number)", int, None),
    ("holder_name", "Account holder's name (a person name)", str, None)
])
async def account_help(chat_message: str, extracted: dict):
    return {"message": chat_message, "extracted": extracted}
Run your message (with no LLM)
@app.post("/chat")
async def message(request: RequestModel, response: Response):
    reply = await chat.run(request.message)
    return {"message": reply}

• 대화(LLM 포함) - 전체 예

import os
from dotenv import load_dotenv
from fastapi import FastAPI, Request, Response
from pydantic import BaseModel
from chatsapi.chatsapi import ChatsAPI

# Load environment variables from .env file
load_dotenv()

app = FastAPI()                 # instantiate FastAPI or your web framework
chat = ChatsAPI(                # instantiate ChatsAPI
    llm_type="gemini",
    llm_model="models/gemini-pro",
    llm_api_key=os.getenv("GOOGLE_API_KEY"),
)

# chat trigger - 1
@chat.trigger("Want to cancel a credit card.")
@chat.extract([("card_number", "Credit card number (a 12 digit number)", str, None)])
async def cancel_credit_card(chat_message: str, extracted: dict):
    return {"message": chat_message, "extracted": extracted}

# chat trigger - 2
@chat.trigger("Need help with account settings.")
@chat.extract([
    ("account_number", "Account number (a nine digit number)", int, None),
    ("holder_name", "Account holder's name (a person name)", str, None)
])
async def account_help(chat_message: str, extracted: dict):
    return {"message": chat_message, "extracted": extracted}

# request model
class RequestModel(BaseModel):
    message: str

# chat conversation
@app.post("/chat")
async def message(request: RequestModel, response: Response, http_request: Request):
    session_id = http_request.cookies.get("session_id")
    reply = await chat.conversation(request.message, session_id)

    return {"message": f"{reply}"}

# set chat session
@app.post("/set-session")
def set_session(response: Response):
    session_id = chat.set_session()
    response.set_cookie(key="session_id", value=session_id)
    return {"message": "Session set"}

# end chat session
@app.post("/end-session")
def end_session(response: Response, http_request: Request):
    session_id = http_request.cookies.get("session_id")
    chat.end_session(session_id)
    response.delete_cookie("session_id")
    return {"message": "Session ended"}

• LLM 쿼리를 준수하는 경로 — 단일 쿼리

await chat.query(request.message)

벤치마크

기존 LLM(API) 기반 방법은 일반적으로 요청당 약 4초가 소요됩니다. 반면 ChatsAPI는 LLM API를 호출하지 않고도 1초 미만, 종종 밀리초 내에 요청을 처리합니다.

472ms 이내에 채팅 라우팅 작업 수행(캐시 없음)

21ms 이내(캐시 후) 채팅 라우팅 작업 수행

862ms 이내에 채팅 라우팅 데이터 추출 작업 수행(캐시 없음)

WhatsApp Cloud API로 대화 능력 입증

ChatsAPI — 기능 계층

ChatsAPI는 단순한 프레임워크 그 이상입니다. 이는 우리가 AI 시스템을 구축하고 상호 작용하는 방식의 패러다임 변화입니다. ChatsAPI는 속도, 정확성 및 사용 편의성을 결합하여 AI 에이전트 프레임워크에 대한 새로운 벤치마크를 설정합니다.

오늘 혁신에 동참하여 ChatsAPI가 AI 환경을 변화시키는 이유를 알아보세요.

들어갈 준비가 되셨나요? 지금 ChatsAPI를 시작하고 AI 개발의 미래를 경험해 보세요.

위 내용은 ChatsAPI — 세계에서 가장 빠른 AI 에이전트 프레임워크의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!