Python, LangChain 및 벡터 검색을 사용하여 확장 가능한 AI 채팅 애플리케이션 구축-파이썬 튜토리얼-php.cn

Python, LangChain 및 벡터 검색을 사용하여 확장 가능한 AI 채팅 애플리케이션 구축

DDD

풀어 주다： 2024-12-13 01:34:10

원래의

442명이 탐색했습니다.

Building a Scalable AI Chat Application with Python, LangChain and Vector Search

생산 준비가 완료된 AI 채팅 애플리케이션을 구축하려면 강력한 벡터 스토리지와 효율적인 워크플로 관리가 필요합니다. Astra DB와 Langflow를 사용하여 이를 생성하는 방법을 살펴보겠습니다.

환경설정

먼저 필수 종속성을 사용하여 Python 환경을 설정해 보겠습니다.

from langchain.vectorstores import AstraDB
from langchain_core.embeddings import Embeddings
from astrapy.info import CollectionVectorServiceOptions

로그인 후 복사

벡터 스토리지 구성

Astra DB는 AI 애플리케이션에 최적화된 엔터프라이즈급 벡터 스토리지 기능을 제공합니다. 초기화하는 방법은 다음과 같습니다.

openai_vectorize_options = CollectionVectorServiceOptions(
    provider="openai",
    model_name="text-embedding-3-small",
    authentication={
        "providerKey": "OPENAI_API_KEY"
    }
)

vector_store = AstraDBVectorStore(
    collection_name="chat_history",
    api_endpoint="YOUR_ASTRA_DB_ENDPOINT",
    token="YOUR_ASTRA_DB_TOKEN",
    namespace="YOUR_NAMESPACE",
    collection_vector_service_options=openai_vectorize_options
)

로그인 후 복사

채팅 인터페이스 구축

Langflow를 사용하여 채팅 애플리케이션의 시각적 작업 흐름을 만들어 보겠습니다. Langflow는 개발 프로세스를 단순화하는 드래그 앤 드롭 인터페이스를 제공합니다. 워크플로는 다음으로 구성됩니다.

구성요소 설정

입력 처리
벡터 검색 통합
응답 생성
출력 형식

문서 삽입 및 검색

Astra DB의 벡터 검색을 통해 효율적인 유사성 매칭이 가능합니다.

retriever = vector_store.as_retriever(
    search_type="similarity_score_threshold",
    search_kwargs={
        "k": 1,
        "score_threshold": 0.5
    }
)

로그인 후 복사