Spielen Sie mit großen Modellen! Bereitstellung mit nur einem Klick mit Replicate

Replicate ist eine cloudbasierte Plattform für maschinelles Lernen. Sie ermöglicht Benutzern die direkte Ausführung von Modellen für maschinelles Lernen mithilfe von Cloud-APIs, wodurch das Verständnis komplexer Modellarchitekturen für maschinelles Lernen entfällt.

in Python oder Jupyter Notebook. Ermöglicht Benutzern das Ausführen von Modellen sowie das Bereitstellen und Optimieren von Modellen in der Cloud. Sie können damit Open-Source-Modelle ausführen, die von anderen veröffentlicht wurden, oder Sie können Ihre eigenen Modelle verpacken und veröffentlichen. Mit Replicate können Sie mit nur einer Codezeile Bilder generieren, Open-Source-Modelle ausführen und optimieren sowie benutzerdefinierte Modelle bereitstellen. Durch Aufrufen der API von Replicate im Python-Code können Sie das Modell auf Replicate ausführen und die Vorhersageergebnisse des Modells erhalten.

So funktionieren Modellvorhersagen

Wenn Sie ein Modell ausführen, erstellen Sie eine Modellvorhersage. Bei der Modellvorhersage wird ein erstelltes Modell verwendet, um neue Daten vorherzusagen. Bei der Modellvorhersage verwenden wir ein bereits trainiertes Modell, um das Ergebnis unbekannter Daten vorherzusagen. Dieser Prozess kann abgeschlossen werden, indem neue Daten in das Modell eingegeben und die Ausgabe des Modells abgerufen werden.

Einige Modelle laufen sehr schnell und können Ergebnisse innerhalb von Millisekunden liefern. Die Ausführung anderer Modelle dauert länger, insbesondere generative Modelle, beispielsweise Modelle, die Bilder auf der Grundlage von Texteingabeaufforderungen generieren.

Um den Status von Vorhersagen zu überprüfen, müssen Sie die API abfragen und eine Umfrage basierend auf diesen Langzeitmustern durchführen. Mustervorhersagen können verschiedene Zustände haben.

• Start: Die Vorhersage beginnt. Wenn dieser Zustand länger als ein paar Sekunden anhält, liegt das normalerweise daran, dass ein neuer Thread gestartet wird, um die Vorhersage auszuführen.
• Verarbeitung: Die Predict()-Methode des Modells wird ausgeführt.
• Erfolg: Die Vorhersage wurde erfolgreich abgeschlossen.
• Fehlgeschlagen: Bei der Vorhersage ist während der Verarbeitung ein Fehler aufgetreten.
• abgebrochen: Der Benutzer hat die Vorhersage abgebrochen.

Nach dem Anmelden können Sie auf dem Dashboard eine Liste der Vorhersagen mit einer Zusammenfassung von Status, Laufzeit usw. anzeigen:

So führen Sie das Modell im Browser aus

Sie können die Cloud-API oder den Webbrowser verwenden, um das Modell auf Replicate auszuführen. Die Webseite kann alle Eingaben direkt anzeigen und ein Formular generieren, mit dem das Modell direkt über den Browser ausgeführt werden kann, wie unten gezeigt:

So verwenden Sie die API, um das Modell auszuführen

Das Web Die Seite eignet sich sehr gut zum Verständnis des Modells, aber wenn Sie bereit sind, Ihr Modell in einem Chatbot, einer Website oder einer mobilen App bereitzustellen, kommt die API ins Spiel.

Die HTTP-API von Replicate kann mit jeder Programmiersprache verwendet werden. Darüber hinaus gibt es Client-Bibliotheken für Python, JavaScript und andere Sprachen, um die Verwendung der API komfortabler zu gestalten.

Verwenden Sie den Python-Client, um Modellvorhersagen mit nur wenigen Codezeilen zu erstellen:

pip install replicate

Authentifizieren Sie sich, indem Sie das Token in der Umgebungsvariablen setzen:

export REPLICATE_API_TOKEN=<paste-your-token-here></paste-your-token-here>

Anschließend können Sie jedes Open-Source-Modell auf Replizieren über Python-Code ausführen. Im folgenden Beispiel wird „stable-ai/stable-diffusion“ ausgeführt:

import replicateoutput = replicate.run("stability-ai/sdxl:39ed52f2a78e934b3ba6e2a89f5b1c712de7dfea535525255b1aa35c5565e08b",input={"prompt": "An astronaut riding a rainbow unicorn, cinematic, dramatic"})# ['https://replicate.delivery/pbxt/VJyWBjIYgqqCCBEhpkCqdevTgAJbl4fg62aO4o9A0x85CgNSA/out-0.png']