问题:
使用 subprocess.Popen 读取 ruby 脚本的输出时和 readline() 以流式传输方式, readline() 无限期地挂起并且永远不会返回。
背景:
目标是逐行流式传输 ruby 文件的输出,在不缓冲整个输出的情况下打印它。
from subprocess import Popen, PIPE, STDOUT import pty import os file_path = '/Users/luciano/Desktop/ruby_sleep.rb' command = ' '.join(["ruby", file_path]) master, slave = pty.openpty() proc = Popen(command, bufsize=0, shell=True, stdout=slave, stderr=slave, close_fds=True) stdout = os.fdopen(master, 'r', 0) while proc.poll() is None: data = stdout.readline() if data != "": print(data) else: break print("This is never reached!")
ruby_sleep.rb 脚本输出一条 2 秒的简单消息延迟:
puts "hello" sleep 2 puts "goodbye!"
根本原因:
readline() 仍然挂起,因为 ruby 脚本输出数据而没有终止行(即没有换行符)。这会导致 readline() 无限期地等待换行符来完成该行。
解决方案:
根据平台可用性,存在多种解决方案:
对于Linux:
使用标准库中的 pty 打开伪终端 (tty) 并在 ruby 端启用行缓冲,确保每行以换行符终止。
import os import pty from subprocess import Popen, STDOUT master_fd, slave_fd = pty.openpty() # provide tty to enable # line-buffering on ruby's side proc = Popen(['ruby', 'ruby_sleep.rb'], stdin=slave_fd, stdout=slave_fd, stderr=STDOUT, close_fds=True) os.close(slave_fd) try: while 1: try: data = os.read(master_fd, 512) except OSError as e: if e.errno != errno.EIO: raise break # EIO means EOF on some systems else: if not data: # EOF break print('got ' + repr(data)) finally: os.close(master_fd) if proc.poll() is None: proc.kill() proc.wait() print("This is reached!")
对于基于 Linux 的平台:
使用标准库中的 pty 并选择监视主文件描述符的活动,确保以非阻塞方式读取数据。
import os import pty import select from subprocess import Popen, STDOUT master_fd, slave_fd = pty.openpty() # provide tty to enable # line-buffering on ruby's side proc = Popen(['ruby', 'ruby_sleep.rb'], stdout=slave_fd, stderr=STDOUT, close_fds=True) timeout = .04 # seconds while 1: ready, _, _ = select.select([master_fd], [], [], timeout) if ready: data = os.read(master_fd, 512) if not data: break print("got " + repr(data)) elif proc.poll() is not None: # select timeout assert not select.select([master_fd], [], [], 0)[0] # detect race condition break # proc exited os.close(slave_fd) # can't do it sooner: it leads to errno.EIO error os.close(master_fd) proc.wait() print("This is reached!")
跨平台选项:
使用 stdbuf 启用非交互模式下的行缓冲。
from subprocess import Popen, PIPE, STDOUT proc = Popen(['stdbuf', '-oL', 'ruby', 'ruby_sleep.rb'], bufsize=1, stdout=PIPE, stderr=STDOUT, close_fds=True) for line in iter(proc.stdout.readline, b''): print line, proc.stdout.close() proc.wait()
这些解决方案都在 ruby 端启用行缓冲,确保每行以换行符终止,从而允许 readline() 运行正确。
以上是为什么从 Ruby 脚本读取时,带有 readline() 的 subprocess.Popen 会挂起,如何解决这个问题?的详细内容。更多信息请关注PHP中文网其他相关文章!