Lorsque j'ai récemment exporté et importé des données à grande échelle, j'ai souvent rencontré le problème du débordement de mémoire PHP. Après avoir résolu le problème, j'ai résumé quelques expériences et les ai compilées dans des articles.
Points d'optimisation
Optimisez les instructions SQL pour éviter les requêtes lentes, créez des index de manière raisonnable et interrogez les champs SQL spécifiés. L’optimisation ne sera pas abordée ici.
Lorsque l'ensemble de résultats de la requête est un objet volumineux, il est converti en traitement de tableau. Il existe généralement des méthodes dans le framework pour convertir, telles que toArray() dans Laravel et asArray(). dans Yii2.
Pour le découpage des données de grands tableaux, les fonctions PHP incluent array_chunk() et array_slice().
Pour les grandes chaînes et objets, utilisez &.
Les variables utilisées ne sont pas définies dans le temps.
Le format de fichier exporté passe d'Excel à CSV
ini_set('memory_limit',''), définissez la mémoire que le programme peut utiliser (non recommandé).
Pensée
Gestion de la mémoire
Comment gérer la mémoire de PHP ? Lors de l'apprentissage du langage C, les développeurs doivent gérer manuellement la mémoire. En PHP, le moteur Zend fournit un gestionnaire de mémoire spécial pour traiter les données liées aux requêtes. La demande de données associées ne nécessite que de répondre à une seule demande, et les données seront publiées au plus tard à la fin de la demande.
L'image ci-dessus est une capture d'écran de la description du site officiel
Prévenir les fuites de mémoire et libérer toute la mémoire le plus rapidement possible est une partie importante de gestion de la mémoire. Pour des raisons de sécurité, Zend Engine libérera toute la mémoire allouée par le verrou API mentionné ci-dessus.
Mécanisme de collecte des déchets
Une brève explication :
Avant PHP5.3, le comptage de références était utilisé pour la gestion. Les variables en PHP sont stockées dans le conteneur de variables de zval. Lorsque la variable est référencée, le nombre de références est +1. Lorsque le nombre de références de variable est 0, PHP détruira la variable dans la mémoire. Cependant, lorsque le décompte de références est référencé de manière cyclique, le décompte de références ne sera pas réduit à 0, provoquant une fuite de mémoire.
PHP a été optimisé depuis la version 5.3. Il n'entre pas dans le cycle de recyclage à chaque fois que le nombre de références diminue. La collecte des déchets ne démarre que lorsque le tampon racine est plein. Cela peut résoudre le problème des références circulaires et peut également restaurer. le total des fuites de mémoire reste inférieur à un seuil.
Code
Comme un débordement de mémoire est souvent rencontré lors de l'utilisation de phpexcel, voici un code pour générer un fichier csv :
<?php namespace api\service; class ExportService { public static $outPutFile = ''; /** * 导出文件 * @param string $fileName * @param $data * @param array $formFields * @return mixed */ public static function exportData($fileName = '', $data, $formFields = []) { $fileArr = []; $tmpPath = \Yii::$app->params['excelSavePath']; foreach (array_chunk($data, 10000) as $key => $value) { self::$outPutFile = ''; $subject = !empty($fileName) ? $fileName : 'data_'; $subject .= date('YmdHis'); if (empty($value) || empty($formFields)) { continue; } self::$outPutFile = $tmpPath . $subject . $key . '.csv'; if (!file_exists(self::$outPutFile)) { touch(self::$outPutFile); } $index = array_keys($formFields); $header = array_values($formFields); self::outPut($header); foreach ($value as $k => $v) { $tmpData = []; foreach ($index as $item) { $tmpData[] = isset($v[$item]) ? $v[$item] : ''; } self::outPut($tmpData); } $fileArr[] = self::$outPutFile; } $zipFile = $tmpPath . $fileName . date('YmdHi') . '.zip'; $zipRes = self::zipFile($fileArr, $zipFile); return $zipRes; } /** * 向文件写入数据 * @param array $data */ public static function outPut($data = []) { if (is_array($data) && !empty($data)) { $data = implode(',', $data); file_put_contents(self::$outPutFile, iconv("UTF-8", "GB2312//IGNORE", $data) . PHP_EOL, FILE_APPEND); } } /** * 压缩文件 * @param $sourceFile * @param $distFile * @return mixed */ public static function zipFile($sourceFile, $distFile) { $zip = new \ZipArchive(); if ($zip->open($distFile, \ZipArchive::CREATE) !== true) { return $sourceFile; } $zip->open($distFile, \ZipArchive::CREATE); foreach ($sourceFile as $file) { $fileContent = file_get_contents($file); $file = iconv('utf-8', 'GBK', basename($file)); $zip->addFromString($file, $fileContent); } $zip->close(); return $distFile; } /** * 下载文件 * @param $filePath * @param $fileName */ public static function download($filePath, $fileName) { if (!file_exists($filePath . $fileName)) { header('HTTP/1.1 404 NOT FOUND'); } else { //以只读和二进制模式打开文件 $file = fopen($filePath . $fileName, "rb"); //告诉浏览器这是一个文件流格式的文件 Header("Content-type: application/octet-stream"); //请求范围的度量单位 Header("Accept-Ranges: bytes"); //Content-Length是指定包含于请求或响应中数据的字节长度 Header("Accept-Length: " . filesize($filePath . $fileName)); //用来告诉浏览器,文件是可以当做附件被下载,下载后的文件名称为$file_name该变量的值 Header("Content-Disposition: attachment; filename=" . $fileName); //读取文件内容并直接输出到浏览器 echo fread($file, filesize($filePath . $fileName)); fclose($file); exit(); } } }
Appelez le code
$fileName = "库存导入模板"; $stockRes = []; // 导出的数据 $formFields = [ 'store_id' => '门店ID', 'storeName' => '门店名称', 'sku' => 'SKU编码', 'name' => 'SKU名称', 'stock' => '库存', 'reason' => '原因' ]; $fileRes = ExportService::exportData($fileName, $stockRes, $formFields); $tmpPath = \Yii::$app->params['excelSavePath']; // 文件路径 $fileName = str_replace($tmpPath, '', $fileRes); // 下载文件 ExportService::download($tmpPath, $fileName);
Apprentissage recommandé : Tutoriel vidéo PHP
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!