Generative KI (Gen AI) verändert Branchen mit ihrem Potenzial für Kreativität, Problemlösung und Automatisierung. Allerdings stehen Entwickler bei der Integration großer Sprachmodelle (LLMs) verschiedener Anbieter aufgrund fragmentierter APIs und Konfigurationen oft vor großen Herausforderungen. Dieser Mangel an Interoperabilität verkompliziert Arbeitsabläufe, verlängert die Entwicklungszeiten und behindert die Erstellung effektiver Gen-AI-Anwendungen.
Um dieses Problem anzugehen, hat das Team von Andrew Ng AISuite eingeführt, eine Open-Source-Python-Bibliothek, die die Integration von LLMs über Anbieter wie OpenAI, Anthropic und Ollama hinweg optimiert. Mit AISuite können Entwickler mit einer einfachen „provider:model“-Zeichenfolge (z. B. openai:gpt-4o oder anthropic:claude-3-5) zwischen Modellen wechseln, sodass keine umfangreichen Code-Umschreibungen erforderlich sind. Durch die Bereitstellung einer einheitlichen Schnittstelle reduziert AISuite die Komplexität erheblich, beschleunigt die Entwicklung und eröffnet neue Möglichkeiten für die Erstellung vielseitiger Gen-AI-Anwendungen.
In diesem Artikel werden wir die Funktionsweise von AISuite, seine praktischen Anwendungen und seine Wirksamkeit bei der Bewältigung der Herausforderungen bei der Arbeit mit verschiedenen LLMs untersuchen.
AISuite ist eine Open-Source-Python-Bibliothek, die vom Team von Andrew Ng entwickelt wurde, um die Integration und Verwaltung großer Sprachmodelle (LLMs) mehrerer Anbieter zu vereinfachen. Es abstrahiert die Komplexität der Arbeit mit verschiedenen APIs, Konfigurationen und Datenformaten und bietet Entwicklern ein einheitliches Framework zur Optimierung ihrer Arbeitsabläufe.
AISuite behebt einen kritischen Schwachpunkt im Ökosystem der Gen-KI: die mangelnde Interoperabilität zwischen LLMs verschiedener Anbieter. Durch die Bereitstellung einer einheitlichen Schnittstelle wird der Entwicklungsprozess vereinfacht, wodurch Zeit gespart und Kosten gesenkt werden. Diese Flexibilität ermöglicht es Teams, die Leistung zu optimieren, indem sie das beste Modell für bestimmte Aufgaben auswählen.
Erste Benchmarks und Community-Feedback unterstreichen die Fähigkeit von AISuite, die Integrationszeit für Anwendungen mit mehreren Modellen zu verkürzen und so die Effizienz und Produktivität der Entwickler zu verbessern. Während das Gen AI-Ökosystem wächst, senkt AISuite die Hürden für das Experimentieren, Erstellen und Skalieren von KI-gestützten Lösungen.
Beginnen wir mit der Erkundung von AISuite, indem wir die erforderlichen Abhängigkeiten installieren.
python -m venv venv source venv/bin/activate #for ubuntu venv/Scripts/activate #for windows
pip install aisuite[all] openai python-dotenv
Erstellen Sie eine Datei mit dem Namen .env. In dieser Datei werden Ihre Umgebungsvariablen gespeichert, einschließlich des OpenAI-Schlüssels.
OPENAI_API_KEY=sk-proj-7XyPjkdaG_gDl0_... GROQ_API_KEY=gsk_8NIgj24k2P0J5RwrwoOBW...
import os
from dotenv import load_dotenv
load_dotenv()
os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')
os.environ['ANTHROPIC_API_KEY'] = getpass('Enter your ANTHROPIC API key: ')
Erstellen Sie eine Instanz des AISuite-Clients und ermöglichen Sie so eine standardisierte Interaktion mit mehreren LLMs.
python -m venv venv source venv/bin/activate #for ubuntu venv/Scripts/activate #for windows
Der Benutzer kann das Modell mit AISuite wie folgt abfragen.
pip install aisuite[all] openai python-dotenv
Erstellen wir einen Chat-Abschlusscode mithilfe des OpenAI-Modells.
OPENAI_API_KEY=sk-proj-7XyPjkdaG_gDl0_... GROQ_API_KEY=gsk_8NIgj24k2P0J5RwrwoOBW...
import os
from dotenv import load_dotenv
load_dotenv()
os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')
os.environ['ANTHROPIC_API_KEY'] = getpass('Enter your ANTHROPIC API key: ')
Sie erhalten die folgende Ausgabe:
Anstatt separaten Code zum Aufrufen verschiedener Modelle zu schreiben, erstellen wir eine generische Funktion, um Codewiederholungen zu vermeiden und die Effizienz zu verbessern.
client = ai.Client()
Defining the prompt
The prompt syntax closely resembles OpenAI’s structure, incorporating roles and content.
messages = [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Tell a joke in 1 line."}
]
Die Ask-Funktion ist ein wiederverwendbares Dienstprogramm zum Senden von Abfragen an ein KI-Modell. Es akzeptiert die folgenden Parameter:
Unten finden Sie den vollständigen Code für die Interaktion mit dem OpenAI-Modell mithilfe der generischen Ask-Funktion.
# openai model response = client.chat.completions.create(model="openai:gpt-4o", messages=messages, temperature=0.75) # ollama model response = client.chat.completions.create(model="ollama:llama3.1:8b", messages=messages, temperature=0.75) # anthropic model response = client.chat.completions.create(model="anthropic:claude-3-5-sonnet-20241022", messages=messages, temperature=0.75) # groq model response = client.chat.completions.create(model="groq:llama-3.2-3b-preview", messages=messages, temperature=0.75) print(response.choices[0].message.content)
Das Ausführen des Codes erzeugt die folgende Ausgabe.
Lassen Sie uns die Interaktion mit mehreren Modellen mithilfe von AISuite anhand des folgenden Codes untersuchen.
import os
from dotenv import load_dotenv
load_dotenv()
os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')
import aisuite as ai
client = ai.Client()
provider = "openai"
model_id = "gpt-4o"
messages = [
{"role": "system", "content": "You are a helpful assistant"},
{"role": "user", "content": "Provide an overview of the latest trends in AI"},
]
response = client.chat.completions.create(
model = f"{provider}:{model_id}",
messages = messages,
)
print(response.choices[0].message.content)
Bei der Interaktion mit Anbietern wie Anthropic oder Groq kann es zu Herausforderungen kommen. Hoffentlich geht das AISuite-Team diese Probleme aktiv an, um eine nahtlose Integration und Funktionalität sicherzustellen.
AISuite ist ein leistungsstarkes Tool zum Navigieren in der Landschaft großer Sprachmodelle. Es ermöglicht Benutzern, die Stärken mehrerer KI-Anbieter zu nutzen und gleichzeitig die Entwicklung zu rationalisieren und Innovationen zu fördern. Mit seiner Open-Source-Basis und dem intuitiven Design ist AISuite ein Eckpfeiler für die moderne KI-Anwendungsentwicklung.
Vielen Dank für das Lesen dieses Artikels!!
Vielen Dank an Gowri M Bhatt für die Überprüfung des Inhalts.
Wenn Ihnen dieser Artikel gefallen hat, klicken Sie bitte auf den Herz-Button ♥ und teilen Sie ihn, damit andere ihn finden können!
Den vollständigen Quellcode für dieses Tutorial finden Sie hier,
GitHub – codemaker2015/aisuite-examples: github.com
GitHub – andrewyng/aisuite: Einfache, einheitliche Schnittstelle zu mehreren Anbietern generativer KI: github.com
Das obige ist der detaillierte Inhalt vonAISuite: Vereinfachte GenAI-Integration über mehrere LLM-Anbieter hinweg. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
Java ruft Webservice auf
Der Unterschied zwischen Bond0 und Bond1
Methode zum Öffnen einer Caj-Datei
Lösung für Syntaxfehler beim Ausführen von Python
HTML-Bildcode-Sammlung
Welche Konfigurationsmanagement-Tools gibt es?
Was bedeutet es, einen Drucker offline zu verwenden?
So richten Sie die Domänennamenumleitung ein
![[Web-Frontend] Node.js-Schnellstart](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
