首页 > 后端开发 > Python教程 > 如何使用Python高效地逆序读取大文本文件?

如何使用Python高效地逆序读取大文本文件?

Barbara Streisand
发布: 2024-11-29 14:03:14
原创
194 人浏览过

How Can I Efficiently Read a Large Text File in Reverse Order Using Python?

使用 Python 以相反顺序读取文件

假设您有一个很长的文本文件,并且希望从最后一行读取其内容初始行。如何在 Python 中实现此目的?

答案:

以下 Python 生成器函数有效地以相反顺序读取文件:

import os

def reverse_readline(filename, buf_size=8192):
    """A generator that returns the lines of a file in reverse order"""
    with open(filename, 'rb') as fh:
        segment = None
        offset = 0
        fh.seek(0, os.SEEK_END)
        file_size = remaining_size = fh.tell()
        while remaining_size > 0:
            offset = min(file_size, offset + buf_size)
            fh.seek(file_size - offset)
            buffer = fh.read(min(remaining_size, buf_size))
            # remove file's last "\n" if it exists, only for the first buffer
            if remaining_size == file_size and buffer[-1] == ord('\n'):
                buffer = buffer[:-1]
            remaining_size -= buf_size
            lines = buffer.split('\n'.encode())
            # append last chunk's segment to this chunk's last line
            if segment is not None:
                lines[-1] += segment
            segment = lines[0]
            lines = lines[1:]
            # yield lines in this chunk except the segment
            for line in reversed(lines):
                # only decode on a parsed line, to avoid utf-8 decode error
                yield line.decode()
        # Don't yield None if the file was empty
        if segment is not None:
            yield segment.decode()
登录后复制

该生成器函数具有节省内存的性能,适用于大文件。它将文件分割成可管理的块并逐行向后处理它们。

以上是如何使用Python高效地逆序读取大文本文件?的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板