communauté Apprendre Bibliothèque d'outils Loisirs
recherche
Français
Maison > développement back-end > Tutoriel Python > Explication détaillée de l'acquisition simultanée d'informations SNMP par Python et des méthodes de test de performance

Explication détaillée de l'acquisition simultanée d'informations SNMP par Python et des méthodes de test de performance

高洛峰
Libérer： 2017-03-28 09:28:14
original
3372 Les gens l'ont consulté

Cet article présente principalement l'explication détaillée de python l'acquisition simultanée d'informations snmp et les tests de performances. L'éditeur pense que c'est assez bon, je vais donc le partager avec vous maintenant et le donner comme référence. Suivons l'éditeur et jetons un coup d'œil

python & snmp

Il existe de nombreuses bibliothèques prêtes à l'emploi disponibles pour obtenir des informations snmp à l'aide de python, parmi lesquelles les plus couramment utilisées l'une est netsnmp et pysnmp deux bibliothèques. Il existe de nombreux exemples des deux bibliothèques sur Internet.

L'objectif de cet article est de savoir comment obtenir des données SNMP simultanément, c'est-à-dire obtenir des informations SNMP de plusieurs machines en même temps.

netsnmp

Parlons d'abord de netsnmp. Le netsnmp de Python provient en fait du package net-snmp.

Python appelle l'interface net-snmp pour obtenir des données via un fichier c.

Par conséquent, lors de l'acquisition simultanée de plusieurs machines, les coroutines ne peuvent pas être utilisées pour les acquérir. Étant donné que des coroutines sont utilisées, lors de l'obtention de données, les coroutines attendront que l'interface net-snmp renvoie des données, au lieu de basculer le processeur vers d'autres coroutines en attendant les données, comme lors de l'utilisation de sockets. De ce point de vue, il n'y a aucune différence entre l'utilisation de coroutines et la récupération en série.

Alors comment résoudre le problème de l’acquisition concurrente ? Vous pouvez utiliser des threads et l'acquisition multi-thread (bien sûr, vous pouvez également utiliser le multi-processus). Plusieurs threads appellent l'interface net-snmp pour obtenir des données en même temps, puis le processeur bascule en permanence entre plusieurs threads. Une fois qu'un thread a obtenu un résultat, il peut continuer à appeler l'interface pour obtenir les données snmp suivantes.

Ici, j'ai écrit un exemple de programme. Tout d'abord, transformez tous les hôtes et oids en tâches et placez-les dans la file d'attente, puis démarrez plusieurs threads pour effectuer la tâche d'acquisition. L'exemple de programme est le suivant : 

import threading
import time
import netsnmp
import Queue
start_time = time.time()
hosts = ["192.20.150.109", "192.20.150.110", "192.20.150.111", "192.20.150.112", "192.20.150.113", "192.20.150.114",
     "192.20.150.115", "192.20.150.116", "192.20.150.117", "192.20.150.118", "192.20.150.119", "192.20.150.120",
     "192.20.150.121", "192.20.80.148", "192.20.80.149", "192.20.96.59", "192.20.82.14", "192.20.82.15",
     "192.20.82.17", "192.20.82.19", "192.20.82.12", "192.20.80.139", "192.20.80.137", "192.20.80.136",
     "192.20.80.134", "192.20.80.133", "192.20.80.131", "192.20.80.130", "192.20.81.141", "192.20.81.140",
     "192.20.82.26", "192.20.82.28", "192.20.82.23", "192.20.82.21", "192.20.80.128", "192.20.80.127",
     "192.20.80.122", "192.20.81.159", "192.20.80.121", "192.20.80.124", "192.20.81.151", "192.20.80.118",
     "192.20.80.119", "192.20.80.113", "192.20.80.112", "192.20.80.116", "192.20.80.115", "192.20.78.62",
     "192.20.81.124", "192.20.81.125", "192.20.81.122", "192.20.81.121", "192.20.82.33", "192.20.82.31",
     "192.20.82.32", "192.20.82.30", "192.20.81.128", "192.20.82.39", "192.20.82.37", "192.20.82.35",
     "192.20.81.130", "192.20.80.200", "192.20.81.136", "192.20.81.137", "192.20.81.131", "192.20.81.133",
     "192.20.81.134", "192.20.82.43", "192.20.82.45", "192.20.82.41", "192.20.79.152", "192.20.79.155",
     "192.20.79.154", "192.25.76.235", "192.25.76.234", "192.25.76.233", "192.25.76.232", "192.25.76.231",
     "192.25.76.228", "192.25.20.96", "192.25.20.95", "192.25.20.94", "192.25.20.93", "192.24.163.14",
     "192.24.163.21", "192.24.163.29", "192.24.163.6", "192.18.136.22", "192.18.136.23", "192.24.193.2",
     "192.24.193.19", "192.24.193.18", "192.24.193.11", "192.20.157.132", "192.20.157.133", "192.24.212.232",
     "192.24.212.231", "192.24.212.230"]
oids = [".1.3.6.1.4.1.2021.11.9.0",".1.3.6.1.4.1.2021.11.10.0",".1.3.6.1.4.1.2021.11.11.0",".1.3.6.1.4.1.2021.10.1.3.1",
    ".1.3.6.1.4.1.2021.10.1.3.2",".1.3.6.1.4.1.2021.10.1.3.3",".1.3.6.1.4.1.2021.4.6.0",".1.3.6.1.4.1.2021.4.14.0",
    ".1.3.6.1.4.1.2021.4.15.0"]
myq = Queue.Queue()
rq = Queue.Queue()
#把host和oid组成任务
for host in hosts:
  for oid in oids:
    myq.put((host,oid))
def poll_one_host():
  while True:
    try:
      #死循环从队列中获取任务，直到队列任务为空
      host, oid = myq.get(block=False)
      session = netsnmp.Session(Version=2, DestHost=host, Community="cluster",Timeout=3000000,Retries=0)
      var_list = netsnmp.VarList()
      var_list.append(netsnmp.Varbind(oid))
      ret = session.get(var_list)
      rq.put((host, oid, ret, (time.time() - start_time)))
    except Queue.Empty:
      break
thread_arr = []
#开启多线程
num_thread = 50
for i in range(num_thread):
  t = threading.Thread(target=poll_one_host, kwargs={})
  t.setDaemon(True)
  t.start()
  thread_arr.append(t)
#等待任务执行完毕
for i in range(num_thread):
  thread_arr[i].join()
while True:
  try:
    info = rq.get(block=False)
    print info
  except Queue.Empty:
    print time.time() - start_time
    break
Copier après la connexion

En plus de prendre en charge les opérations get, netsnmp prend également en charge les opérations walk, c'est-à-dire la traversée d'un oid.

Cependant, vous devez être prudent lorsque vous utilisez walk pour éviter des problèmes tels qu'une latence élevée. Pour plus de détails, veuillez vous référer à un blog précédent sur l'analyse des problèmes de latence élevée de snmpwalk.

pysnmp

pysnmp est un ensemble de bibliothèques de protocoles snmp implémentées en python. Il fournit lui-même un support pour l'asynchrone. 

import time
import Queue
from pysnmp.hlapi.asyncore import *
t = time.time()
myq = Queue.Queue()
#回调函数。在有数据返回时触发
def cbFun(snmpEngine, sendRequestHandle, errorIndication, errorStatus, errorIndex, varBinds, cbCtx):
   myq.put((time.time()-t, varBinds))
hosts = ["192.20.150.109", "192.20.150.110", "192.20.150.111", "192.20.150.112", "192.20.150.113", "192.20.150.114",
     "192.20.150.115", "192.20.150.116", "192.20.150.117", "192.20.150.118", "192.20.150.119", "192.20.150.120",
     "192.20.150.121", "192.20.80.148", "192.20.80.149", "192.20.96.59", "192.20.82.14", "192.20.82.15",
     "192.20.82.17", "192.20.82.19", "192.20.82.12", "192.20.80.139", "192.20.80.137", "192.20.80.136",
     "192.20.80.134", "192.20.80.133", "192.20.80.131", "192.20.80.130", "192.20.81.141", "192.20.81.140",
     "192.20.82.26", "192.20.82.28", "192.20.82.23", "192.20.82.21", "192.20.80.128", "192.20.80.127",
     "192.20.80.122", "192.20.81.159", "192.20.80.121", "192.20.80.124", "192.20.81.151", "192.20.80.118",
     "192.20.80.119", "192.20.80.113", "192.20.80.112", "192.20.80.116", "192.20.80.115", "192.20.78.62",
     "192.20.81.124", "192.20.81.125", "192.20.81.122", "192.20.81.121", "192.20.82.33", "192.20.82.31",
     "192.20.82.32", "192.20.82.30", "192.20.81.128", "192.20.82.39", "192.20.82.37", "192.20.82.35",
     "192.20.81.130", "192.20.80.200", "192.20.81.136", "192.20.81.137", "192.20.81.131", "192.20.81.133",
     "192.20.81.134", "192.20.82.43", "192.20.82.45", "192.20.82.41", "192.20.79.152", "192.20.79.155",
     "192.20.79.154", "192.25.76.235", "192.25.76.234", "192.25.76.233", "192.25.76.232", "192.25.76.231",
     "192.25.76.228", "192.25.20.96", "192.25.20.95", "192.25.20.94", "192.25.20.93", "192.24.163.14",
     "192.24.163.21", "192.24.163.29", "192.24.163.6", "192.18.136.22", "192.18.136.23", "192.24.193.2",
     "192.24.193.19", "192.24.193.18", "192.24.193.11", "192.20.157.132", "192.20.157.133", "192.24.212.232",
     "192.24.212.231", "192.24.212.230"]
oids = [".1.3.6.1.4.1.2021.11.9.0",".1.3.6.1.4.1.2021.11.10.0",".1.3.6.1.4.1.2021.11.11.0",".1.3.6.1.4.1.2021.10.1.3.1",
    ".1.3.6.1.4.1.2021.10.1.3.2",".1.3.6.1.4.1.2021.10.1.3.3",".1.3.6.1.4.1.2021.4.6.0",".1.3.6.1.4.1.2021.4.14.0",
    ".1.3.6.1.4.1.2021.4.15.0"]
    
snmpEngine = SnmpEngine()
#添加任务
for oid in oids:
  for h in hosts:
    getCmd(snmpEngine,
      CommunityData('cluster'),
      UdpTransportTarget((h, 161), timeout=3, retries=0,),
      ContextData(),
      ObjectType(ObjectIdentity(oid)),
      cbFun=cbFun)
time1 = time.time() - t
#执行异步获取snmp
snmpEngine.transportDispatcher.runDispatcher()
#打印结果
while True:
  try:
    info = myq.get(block=False)
    print info
  except Queue.Empty:
    print time1
    print time.time() - t
    break
Copier après la connexion

pysnmp lui-même ne prend en charge que les commandes get et getnext les plus élémentaires, donc si vous souhaitez utiliser walk, vous devez l'implémenter vous-même.

Test de performances

Dans le même environnement, le test de performances a été réalisé sur les deux. Les deux ont collecté 198 hôtes et 10 oïdes.

测试组 耗时(sec)
netsnmp(20线程) 6.252
netsnmp(50线程) 3.269
netsnmp(200线程) 3.265
pysnmp 4.812

Vous pouvez voir que la vitesse de collecte de netsnmp est liée au nombre de threads. Lorsque le nombre de threads augmente dans une certaine mesure, le temps de collecte n'est plus raccourci. Parce que l’ouverture de fils de discussion prend aussi du temps. Les threads existants suffisent à gérer.

Les performances de pysnmp sont légèrement moins bonnes. L'analyse détaillée de pysnmp consomme environ 1,2 secondes lors de l'ajout de tâches (lors de l'exécution de getCmd), et la collecte ultérieure consomme environ 3,3 secondes.

Augmenter le nombre d'oïdes et mener des expériences. Il existe encore 198 hôtes et 42 oïdes.

测试组 耗时(sec)
netsnmp(20线程) 30.935
netsnmp(50线程) 12.914
netsnmp(200线程) 4.044
pysnmp 11.043

On constate que l'écart s'est encore creusé. Lorsqu'il y a suffisamment de threads, netsnmp est nettement plus efficace que pysnmp.

Étant donné que les deux prennent en charge la collection parallèle de plusieurs hôtes, netsnmp est plus simple en termes de facilité d'utilisation et netsnmp prend en charge la fonction walk. Cet article recommande netsnmp.

Installationnetsnmp nécessite l'installation de net-snmp. Si centos, il sera plus pratique d'utiliser miam.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Étiquettes associées：
python snmp
source：php.cn
Article précédent：Explication détaillée de Python utilisant PDFMiner pour analyser des exemples PDF Article suivant：Une introduction détaillée à la façon d'écrire des programmes CUDA en utilisant Python
Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Derniers articles par auteur
Derniers numéros
Python/MySQL ne peut pas conserver correctement les données entières Aucun code n'est requis ici. Je souhaite enregistrer un numéro très long car je crée un je...
Depuis 2024-04-04 19:09:44
0
1
367
En utilisant Selenium, vous voulez cliquer et définir une URL en classe J'ai besoin d'un autre conseil aujourd'hui. J'essaie de créer du code Python/Selenium et l...
Depuis 2024-04-04 14:14:44
0
1
3492
Selenium + Python - inspecter l'image viaexecute_script Je dois vérifier qu'une image est affichée sur la page en utilisant du sélénium en python....
Depuis 2024-04-03 09:32:15
0
1
375
Comment conserver les X premières lignes et supprimer les lignes du tableau J'ai une grande table avec des millions d'enregistrements dans MySQLincident_archive, je s...
Depuis 2024-04-01 18:32:54
0
1
347
Comment récupérer un texte Google Weather spécifique à l'aide de BeautifulSoup ? Comment trouver le texte du cours « New York City, USA » en Python à l'aide de BeautifulSo...
Depuis 2024-04-01 14:06:14
0
1
308
Rubriques connexes
Plus>
Recommandations populaires
Tutoriels populaires
Plus>
Tutoriels associés
Recommandations populaires
Derniers cours
Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal