ホームページ > バックエンド開発 > Python チュートリアル > Python を使用して大きなファイルを逆順で効率的に読み取るにはどうすればよいですか?

Python を使用して大きなファイルを逆順で効率的に読み取るにはどうすればよいですか?

Susan Sarandon
リリース: 2024-11-25 09:59:11
オリジナル
566 人が閲覧しました

How Can I Efficiently Read a Large File in Reverse Order Using Python?

Python でファイルを逆順で読み取る

大きなファイルを操作していて、その内容を最後のファイルから読み取る必要がある場合最初の行に戻ると、Python の組み込み関数は適切ではない可能性があります。このタスクに取り組むための効率的なソリューションは次のとおりです。

Reverse Line Reader Generator

次のコードは、ファイルの行を逆に生成するジェネレーター関数 reverse_readline を定義します。注文。バッファベースのアプローチを使用して、パフォーマンスを最適化し、大きなファイルを効果的に処理します。

import os

def reverse_readline(filename, buf_size=8192):
    """A generator that returns the lines of a file in reverse order"""
    with open(filename, 'rb') as fh:
        segment = None
        offset = 0
        fh.seek(0, os.SEEK_END)
        file_size = remaining_size = fh.tell()
        while remaining_size > 0:
            offset = min(file_size, offset + buf_size)
            fh.seek(file_size - offset)
            buffer = fh.read(min(remaining_size, buf_size))
            # remove file's last "\n" if it exists, only for the first buffer
            if remaining_size == file_size and buffer[-1] == ord('\n'):
                buffer = buffer[:-1]
            remaining_size -= buf_size
            lines = buffer.split('\n'.encode())
            # append last chunk's segment to this chunk's last line
            if segment is not None:
                lines[-1] += segment
            segment = lines[0]
            lines = lines[1:]
            # yield lines in this chunk except the segment
            for line in reversed(lines):
                # only decode on a parsed line, to avoid utf-8 decode error
                yield line.decode()
        # Don't yield None if the file was empty
        if segment is not None:
            yield segment.decode()
ログイン後にコピー

使用法:

このジェネレーターを使用するには、単に反復処理するだけです。 for ループ内:

for line in reverse_readline('myfile.txt'):
    print(line)
ログイン後にコピー

これにより、ファイルの行が逆の順序で出力されます。

以上がPython を使用して大きなファイルを逆順で効率的に読み取るにはどうすればよいですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ソース:php.cn
このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。
著者別の最新記事
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート