Maison développement back-end Tutoriel Python Comment puis-je éviter la pression sur les ressources et les plantages potentiels lors d'appels HTTP simultanés dans un point de terminaison FastAPI ?

Comment puis-je éviter la pression sur les ressources et les plantages potentiels lors d'appels HTTP simultanés dans un point de terminaison FastAPI ?

Nov 15, 2024 pm 10:02 PM

How can I avoid resource strain and potential crashes when making concurrent HTTP calls in a FastAPI endpoint?

Appels asynchrones avec HTTPX dans les points de terminaison FastAPI

Préoccupations concernant l'utilisation de ThreadPoolExecutor dans FastAPI

Vous a exprimé des inquiétudes quant à l'impact de l'utilisation de concurrent.futures.ThreadPoolExecutor dans un point de terminaison FastAPI, en particulier en ce qui concerne la création de threads, la famine de l'hôte et les plantages d'applications. Ces préoccupations sont valables car une création excessive de threads peut solliciter les ressources et potentiellement entraîner des problèmes de performances.

Recommandation : API HTTPX Async

Pour éviter ces pièges potentiels, il est recommandé de utilisez les capacités asynchrones de la bibliothèque HTTPX au lieu de concurrent.futures.ThreadPoolExecutor. HTTPX fournit une API asynchrone efficace qui vous permet d'effectuer des requêtes HTTP sans avoir besoin d'une gestion explicite des threads. Cette approche offre plusieurs avantages :

  • Regroupement de connexions contrôlé : HTTPX vous permet de contrôler la taille du pool de connexions, garantissant qu'un nombre raisonnable de connexions est maintenu pour des performances optimales sans submerger l'hôte.
  • Requêtes asynchrones : Les requêtes asynchrones ne bloquent pas la boucle d'événements, libérant des ressources pour d'autres opérations, évitant ainsi les goulots d'étranglement des performances.
  • Arrêt gracieux : HTTPX vous permet de fermer explicitement l'instance AsyncClient, garantissant ainsi un nettoyage approprié et empêchant les fuites de ressources.

Exemple de travail

Le code suivant L'extrait montre comment implémenter des requêtes HTTP asynchrones avec HTTPX dans un point de terminaison FastAPI :

from fastapi import FastAPI, Request
from contextlib import asynccontextmanager
import httpx
import asyncio

URLS = ['https://www.foxnews.com/',
        'https://edition.cnn.com/',
        'https://www.nbcnews.com/',
        'https://www.bbc.co.uk/',
        'https://www.reuters.com/']

@asynccontextmanager
async def lifespan(app: FastAPI):
    # customise settings
    limits = httpx.Limits(max_keepalive_connections=5, max_connections=10)
    timeout = httpx.Timeout(5.0, read=15.0)  # 15s timeout on read. 5s timeout elsewhere.

    # Initialise the Client on startup and add it to the state
    async with httpx.AsyncClient(limits=limits, timeout=timeout) as client:
        yield {'client': client}
        # The Client closes on shutdown 

app = FastAPI(lifespan=lifespan)

async def send(url, client):
    return await client.get(url)

@app.get('/')
async def main(request: Request):
    client = request.state.client
    tasks = [send(url, client) for url in URLS]
    responses = await asyncio.gather(*tasks)
    return [r.text[:50] for r in responses]  # for demo purposes, only return the first 50 chars of each response

Alternative : diffuser des réponses en continu pour éviter l'utilisation de la RAM

Si vous lisez l'intégralité du corps de la réponse dans la RAM est un problème, envisagez d'utiliser les réponses Streaming de HTTPX avec StreamingResponse de FastAPI :

... # (same as previous code snippet)

async def iter_content(responses):
     for r in responses:
        async for chunk in r.aiter_text():
            yield chunk[:50]  # for demo purposes, return only the first 50 chars of each response and then break the loop
            yield '\n\n'
            break
        await r.aclose()

@app.get('/')
async def main(request: Request):
    client = request.state.client
    tasks = [send(url, client) for url in URLS]
    responses = await asyncio.gather(*tasks)
    return StreamingResponse(iter_content(responses), media_type='text/event-stream')

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Stock Market GPT

Stock Market GPT

Recherche d'investissement basée sur l'IA pour des décisions plus intelligentes

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Comment automatiser la saisie de données d'Excel à un formulaire Web avec Python? Comment automatiser la saisie de données d'Excel à un formulaire Web avec Python? Aug 12, 2025 am 02:39 AM

La méthode de remplissage des données Excel dans les formulaires Web à l'aide de Python est: utilisez d'abord des pandas pour lire les données Excel, puis utilisez le sélénium pour contrôler le navigateur pour remplir et soumettre automatiquement le formulaire; Les étapes spécifiques incluent l'installation de bibliothèques Pandas, OpenPyxl et Selenium, en téléchargeant le pilote de navigateur correspondant, en utilisant des pandas pour lire le nom, le courrier électronique, le téléphone et d'autres champs dans le fichier data.xlsx, le lancement du navigateur via le sélénium pour ouvrir la page Web cible, localiser les éléments de formulaire et remplir le traitement de données, en utilisant le formulaire Web pour traiter le contenu dynamique, ajouter le contenu de la charge dynamique, ajouter un traitement exception et traiter toutes les lignes de données dans une boucle.

Aug 21, 2025 am 04:12 AM

ClassMethodsinpyThonareBoundTotheclassandNottoiNstances, permettant à ce que

Nom de données HDF5 Conflits de nom et noms de groupe: Solutions et meilleures pratiques Nom de données HDF5 Conflits de nom et noms de groupe: Solutions et meilleures pratiques Aug 23, 2025 pm 01:15 PM

Cet article fournit des solutions détaillées et des meilleures pratiques pour le problème auquel les noms de données de données entrent en conflit avec les noms de groupe lors du fonctionnement des fichiers HDF5 à l'aide de la bibliothèque H5PY. L'article analysera les causes des conflits en profondeur et fournira des exemples de code pour montrer comment éviter efficacement et résoudre ces problèmes pour assurer une lecture et une écriture appropriées des fichiers HDF5. Grâce à cet article, les lecteurs pourront mieux comprendre la structure de fichiers HDF5 et écrire du code H5PY plus robuste.

Comment gérer les grands ensembles de données dans Python qui ne rentrent pas dans la mémoire? Comment gérer les grands ensembles de données dans Python qui ne rentrent pas dans la mémoire? Aug 14, 2025 pm 01:00 PM

Lors du traitement de grands ensembles de données qui dépassent la mémoire dans Python, ils ne peuvent pas être chargés en RAM en même temps. Au lieu de cela, des stratégies telles que le traitement de la chasse, le stockage du disque ou le streaming doivent être adoptées; Les fichiers CSV peuvent être lus en morceaux via les paramètres ChunkSize de Pandas et le bloc traité par bloc. La daste peut être utilisée pour réaliser la parallélisation et la planification des tâches similaires à la syntaxe Pandas pour prendre en charge les opérations de données de mémoire importantes. Écrivez les fonctions du générateur pour lire les fichiers texte ligne par ligne pour réduire l'utilisation de la mémoire. Utilisez le format de stockage en colonne de parquet combiné avec Pyarrow pour lire efficacement des colonnes ou des groupes de lignes spécifiques. Utilisez Memmap de Numpy pour mapper la mémoire de grands tableaux numériques pour accéder aux fragments de données à la demande, ou stocker des données dans des données légères telles que SQLite ou DuckDB.

Exemple de file d'attente Python Asyncio Exemple de file d'attente Python Asyncio Aug 21, 2025 am 02:13 AM

Asyncio.Queue est un outil de file d'attente pour une communication sécurisée entre les tâches asynchrones. 1. Le producteur ajoute des données via AwaitQueue.put (élément), et le consommateur utilise AwaitQueue.get () pour obtenir des données; 2. Pour chaque élément que vous traitez, vous devez appeler la file d'attente.task_done () pour attendre que la queue.join () termine toutes les tâches; 3. Utilisez aucun comme signal final pour informer le consommateur de s'arrêter; 4. Lorsque plusieurs consommateurs, plusieurs signaux finaux doivent être envoyés ou toutes les tâches ont été traitées avant d'annuler la tâche; 5. La file d'attente prend en charge la définition de la capacité limite maxsize, les opérations de put et d'obtenir automatiquement la suspension et ne bloquent pas la boucle d'événement, et le programme passe enfin CANC

Comment utiliser Python pour l'analyse et la prédiction boursières? Comment utiliser Python pour l'analyse et la prédiction boursières? Aug 11, 2025 pm 06:56 PM

Python peut être utilisé pour l'analyse et la prédiction boursières. La réponse est oui. En utilisant des bibliothèques telles que la yfinance, en utilisant des pandas pour le nettoyage des données et l'ingénierie des caractéristiques, la combinaison de Matplotlib ou de la mer pour l'analyse visuelle, puis en utilisant des modèles tels que ARIMA, Random Forest, XGBOost ou LSTM pour construire un système de prédiction et évaluer les performances grâce à un backtesting. Enfin, l'application peut être déployée avec Flask ou Fastapi, mais l'attention doit être accordée à l'incertitude des prévisions du marché, des risques de sur-ajustements et des coûts de transaction, et le succès dépend de la qualité des données, de la conception du modèle et des attentes raisonnables.

Comment utiliser des expressions régulières avec le module RE dans Python? Comment utiliser des expressions régulières avec le module RE dans Python? Aug 22, 2025 am 07:07 AM

Des expressions régulières sont implémentées dans Python via le module RE pour la recherche, la correspondance et la manipulation des chaînes. 1. Utilisez re.search () pour trouver la première correspondance de toute la chaîne, re.match () ne correspond qu'au début de la chaîne; 2. Utilisez des supports () pour capturer les sous-groupes correspondants, qui peuvent être nommés pour améliorer la lisibilité; 3. Re.findall () renvoie toutes les correspondances non chevauchantes, et re.finditer () renvoie l'itérateur de l'objet correspondant; 4. Re.sub () remplace le texte correspondant et prend en charge le remplacement de la fonction dynamique; 5. Les modèles communs incluent \ d, \ w, \ s, etc., vous pouvez utiliser re.ignorecase, re.multiline, re.dotall, re.

Comment transmettre des arguments en ligne de commande à un script de Python Comment transmettre des arguments en ligne de commande à un script de Python Aug 20, 2025 pm 01:50 PM

Usysys.argvforsImpleargumentAccess, alors que les anciens ontténomadés et le NOAutomaticalidationorhelpisprovide

See all articles