대형 모델과 함께 플레이해보세요! Replicate를 사용한 원클릭 배포

Replicate는 클라우드 기반 기계 학습 플랫폼으로, 사용자가 클라우드 API를 사용하여 기계 학습 모델을 직접 실행할 수 있으므로 복잡한 기계 학습 모델 아키텍처를 이해할 필요가 없습니다.

Python 또는 Jupyter Notebook에서, 사용자가 클라우드에서 모델을 실행하고 모델을 배포 및 최적화할 수 있습니다. 이를 사용하여 다른 사람이 게시한 오픈 소스 모델을 실행하거나 자신의 모델을 패키징하고 게시할 수 있습니다. Replicate를 사용하면 단 한 줄의 코드로 이미지를 생성하고, 오픈 소스 모델을 실행 및 최적화하고, 사용자 정의 모델을 배포할 수 있습니다. Python 코드에서 Replicate의 API를 호출하면 Replicate에서 모델을 실행하고 모델의 예측 결과를 얻을 수 있습니다.

모델 예측 작동 방식

모델을 실행할 때마다 모델 예측이 생성됩니다. 모델 예측은 구축된 모델을 사용하여 새 데이터를 예측하는 프로세스입니다. 모델 예측에서는 이미 훈련된 모델을 사용하여 알려지지 않은 데이터의 결과를 예측합니다. 이 프로세스는 모델에 새로운 데이터를 입력하고 모델의 출력을 가져옴으로써 완료될 수 있습니다.

일부 모델은 매우 빠르게 실행되며 밀리초 이내에 결과를 반환할 수 있습니다. 다른 모델, 특히 텍스트 프롬프트를 기반으로 이미지를 생성하는 모델과 같은 생성 모델은 실행하는 데 시간이 더 오래 걸립니다.

예측 상태를 확인하려면 이러한 장기 실행 패턴을 기반으로 API를 쿼리하고 폴링해야 합니다. 패턴 예측은 다양한 상태를 가질 수 있습니다.

• 시작: 일기예보가 시작됩니다. 이 상태가 몇 초 이상 지속된다면 이는 일반적으로 예측을 실행하기 위해 새 스레드가 시작되기 때문입니다.
• 처리 중: 모델의 예측() 메서드가 실행 중입니다.
• 성공: 예측이 성공적으로 완료되었습니다.
• 실패: 예측을 처리하는 동안 오류가 발생했습니다.
• canceled: 사용자가 예측을 취소했습니다.

로그인한 후 상태, 실행 시간 등의 요약과 함께 대시보드에서 예측 목록을 볼 수 있습니다.

브라우저에서 모델을 실행하는 방법

클라우드 API 또는 웹 브라우저를 사용하여 복제에서 모델을 실행할 수 있습니다. 웹 페이지는 모든 입력을 직접 표시하고 양식을 생성할 수 있으며 아래와 같이 브라우저에서 직접 모델을 실행할 수 있습니다.

API를 사용하여 모델을 실행하는 방법

The 웹 페이지는 모델을 이해하는 데 유용하지만 모델을 챗봇, 웹 사이트 또는 모바일 앱에 배포할 준비가 되면 API가 작동합니다.

Replicate의 HTTP API는 모든 프로그래밍 언어와 함께 사용할 수 있으며 API 사용을 더욱 편리하게 해주는 Python, JavaScript 및 기타 언어용 클라이언트 라이브러리도 있습니다.

Python 클라이언트를 사용하여 단 몇 줄의 코드로 모델 예측을 생성하세요. 먼저 Python 라이브러리를 설치하세요.

pip install replicate

환경 변수에 토큰을 설정하여 인증하세요.

export REPLICATE_API_TOKEN=<paste-your-token-here></paste-your-token-here>

그런 다음 Python 코드를 통해 Replicate에서 오픈 소스 모델을 실행할 수 있습니다. 다음 예에서는 Stability-ai/stable-diffusion을 실행합니다.

import replicateoutput = replicate.run("stability-ai/sdxl:39ed52f2a78e934b3ba6e2a89f5b1c712de7dfea535525255b1aa35c5565e08b",input={"prompt": "An astronaut riding a rainbow unicorn, cinematic, dramatic"})# ['https://replicate.delivery/pbxt/VJyWBjIYgqqCCBEhpkCqdevTgAJbl4fg62aO4o9A0x85CgNSA/out-0.png']