浅谈Nodejs中的可写流write与实现方法-tutorial js-php.cn

浅谈Nodejs中的可写流write与实现方法

青灯夜游

Lepaskan： 2021-06-21 10:08:54

ke hadapan

2172 orang telah melayarinya

本篇文章带大家了解一下Nodejs中的可写流write，介绍一下Node可写流write的实现。有一定的参考价值，有需要的朋友可以参考一下，希望对大家有所帮助。

浅谈Nodejs中的可写流write与实现方法

【推荐学习：《nodejs 教程》】

可写流-Writable

fs.createWriteStream调用例子

首次读取的数据会真实写入目标文件
其余次读取的数据要根据读取数据是否超出highWaterMark ，是的话存入缓存区等待写入目标文件中

const fs = require("fs");
const path = require("path");
const bPath = path.join(__dirname, "b.txt");
let ws = fs.createWriteStream(bPath, {
  flags: "w",
  encoding: "utf-8",
  autoClose: true,
  start: 0,
  highWaterMark: 3,
});
ws.on("open", function (fd) {
  console.log("open", fd);
});
ws.on("close", function () {
  console.log("close");
});
 //string 或者buffer，ws.write 还有一个boolea的返回值
ws.write("1");
//flag 表示 当前要写的值是直接是否直接写入文件，不能超出了单次最大写入值highWaterMark
let flag = ws.write("1");
console.log({ flag });//true
flag = ws.write("1");
console.log({ flag });//false
flag = ws.write("1");
console.log({ flag });//false
flag = ws.write("14444444");
console.log({ flag });//false
ws.end(); //write+close,没有调用 end 是不会调用 触发close的，看到这里的小伙伴可以尝试注释end() 看看close的console是否有打印

Salin selepas log masuk

效果

自定义可写流initWriteStream

继承EventEmitter发布订阅

const EventEmitter = require("events");
const fs = require("fs");
class WriteStream extends EventEmitter {}
module.exports = WriteStream;

Salin selepas log masuk

链表生成队列做文件读取的缓存

链表&队列的实现
https://juejin.cn/post/6973847774752145445

// 用链表 生成队列 对 文件缓存区的读取 进行优化
const Queue = require("./queue");

Salin selepas log masuk

初始化实例默认数据constructor()

 constructor(path, options = {}) {
    super();
    this.path = path;
    this.flags = options.flags || "w";
    this.encoding = options.encoding || "utf8";
    this.mode = options.mode || 0o666; //默认8进制 ，6 6 6  三组分别的权限是 可读可写
    this.autoClose = options.start || 0;
    this.highWaterMark = options.highWaterMark || 16 * 1024; //默认一次读取16个字节的数据
    this.len = 0; //用于维持有多少数据还没有被写入文件中
    //是否根据等待当前读取的最大文数据 排空后再写入
    this.needDrain = false; //
    // 缓存队列 用于存放 非第一次的文件读取 到的数据，因为第一次读取 直接塞入目标文件中
    // 除第一次 的文件读取数据的都存放再缓存中
    // this.cache = [];
    // 队列做缓存
    this.cache = new Queue();
    // 标记是否是第一次写入目标文件的标识
    this.writing = false;
    this.start = options.start || 0;
    this.offset = this.start; //偏移量
    this.open();
  }

Salin selepas log masuk

this.mode 文件操作权限默认0o666(0o表示8进制)
- 3个6所占位置分别对应：文件所属用户对它的权限；文件所属用户组用户对它的权限；表示其他用户对它的权限
- 权限由：r--可读（对应数值4），w--可写(对应数值2)，x--可执行(对应数值1，例如文件夹下有 .exe 这样的标识说明点击可以直接执行)组成
- 所以默认情况下3组用户对文件的操作权限都是可读可写

open()

调用fs.open()
回调emit实例open方法，fs.open的返回值fd做参数传入

 open() {
    fs.open(this.path, this.flags, this.mode, (err, fd) => {
      this.fd = fd;
      this.emit("open", fd);
    });
  }

Salin selepas log masuk

write()

转化实例传入的需要写入的文件数据格式为buffer
判断写入数据长度是否大于highWaterMark，如果达到预期后，文件读取到的数据存放再缓存里不直接写入目标文件（这里要排除是否是第一次读取文件）
执行实例write 传入的cb 并调用clearBuffer 清空缓存
判断是否是第一次读取，第一次读取直接写入调用 _write(待实现)
缓存队列尾部offer 当前读取到的数据等待写入目标文件

 write(chunk, encoding = this.encoding, cb = () => {}) {
    //  将数据全部转换成buffer
    chunk = Buffer.isBuffer(chunk) ? chunk : Buffer.from(chunk);

    this.len += chunk.length;
    // console.log({chunk},this.len )
    let returnValue = this.len < this.highWaterMark;
    //当数据写入后，需要在手动的将this.len--
    this.needDrain = !returnValue; //如果达到预期 后 的文件读取 到数据存放再缓存里 不直接写入目标文件
    //清空缓存 对用户传入的回调 进行二次包装
    let userCb = cb;
    cb = () => {
      userCb();
      //清空buffer
      this.clearBuffer();//马上实现
    };

    //此时需要判断 是否是第一次读取，第一次读取 直接写入调用 _write
    if (!this.writing) {
      // 第一次||缓存队列已清空完毕
      this.writing = true;
      // console.log("first write");
      this._write(chunk, encoding, cb);//马上实现
    } else {
    //缓存队列尾部offer 当前读取到的数据等待写入目标文件
      this.cache.offer({
        chunk,
        encoding,
        cb,
      });
    }
    return returnValue;
  }

Salin selepas log masuk

clearBuffer()依次清空缓存队列

队列执行顺序，先进先出原则
this.cache.poll() 依次拿取头部数据执行this._write写入目标文件
缓存队列poll出来的data如果不存在，则说明是第一次写入的行为||缓存队列已清空。this.writing = false; 下次的文件读取可以直接写入目标文件
如果this.needDrain又达到预期，文件读取到数据存放再缓存里不直接写入目标文件

clearBuffer() {
    //写入成功后 调用 clearBuffer--》写入缓存第一个，第一个完成后，再继续 第二个
    let data = this.cache.poll();
    // console.log(&#39;this.cache&#39;,this.cache)
    if (data) {
      //有值 写入文件
      this._write(data.chunk, data.encoding, data.cb);
    } else {
      this.writing = false;
      if (this.needDrain) {
        // 如果是缓存，触发drain
        this.emit("drain");
      }
    }
  }

Salin selepas log masuk

_write()

fs.open()是异步的，成功读取后fd会是一个number类型
根据fd的type 决定是否订阅一次open，并回调自己（直到fd类型为number）
fd类型为number：调用fs.write，写入当前的chunk，

 _write(chunk, encoding, cb) {
    if (typeof this.fd !== "number") {
      return this.once("open", () => this._write(chunk, encoding, cb));
    }
    fs.write(this.fd, chunk, 0, chunk.length, this.offset, (err, written) => {
      this.offset += written; //维护偏移量
      this.len -= written; //把缓存的个数减少
      cb(); //写入成功
      // console.log(this.cache);
    });
  }

Salin selepas log masuk

测试自定义的Writable

const WriteStream = require("./initWriteStream");

let ws = new WriteStream(bPath, {
  highWaterMark: 3,
});

let i = 0;
function write() {
  //写入0-9个
  let flag = true;
  while (i < 10 && flag) {
    flag = ws.write(i++ + "");
     console.log(flag);
  }
}
ws.on("drain", function () {
  // 只有当我们写入的数据达到预期，并且数据被清空后才会触发drain ⌚️
  console.log("写完了");
  write();
});

write();

Salin selepas log masuk