node.js与多线程技术之worker threads

farmerz

原文

对于想了解,进程,线程,io这些东西的朋友推荐个文章

想要明白workers,首先需要明白node是怎样构成的。
当一个node进程开始,它其实是:

  1. 一个进程。
  2. 一个线程。
  3. 一个事件轮垂。
  4. 一个js引擎实例。
  5. 一个node.js实例。

一个进程:是指一个全局对象,这个对象能够访问任何地方,并且包含当前处理时的信息。

一个线程:单线程意味着单位时间内只有一组指令在给定的进程中执行。

一个事件轮垂:这是理解Node最重要的概念。它使Node更够异步以及拥有无锁定I/O。即使js是单线程的,通过提供一些系统核心的操作像是回调函数,promise函数以及异步的async/await函数这些功能。

一个JS引擎实例:这是个计算机程序,用来执行js的代码。

一个Node.js实例:一个计算机程序用来执行node.js的代码。

一句话,Node运行在一个单线程上,每次事件轮垂只有一个进程存在。一个代码一次执行(不是并行执行)。这个非常重要,因为它很简单,你不用考虑并发的问题。

这么设计的原因是因为js生出来最初是用来开发客户端交互的(像是页面交互,表单这些),没有对线程这种用复杂的需求。

但是,和所有的事情一样,这样也有缺点:如果你有cpu敏感的代码,例如内存中有大量的来回计算的复杂数据,那么这能锁住其他需要进行处理计算的任务。像是,你向服务器发起一个请求,应对这个请求的接口有cpu敏感的代码,那么它就能锁定事件轮垂进而阻止其他请求的处理(笔者:其实就是其他请求就需要长时间排队甚至超时)。

如果主事件轮垂必须等待一个函数执行完成然后才能执行其他命令,那么这个函数就是“锁定中”。一个无锁定函数会允许主事件轮垂从开始就持续地运行,并且在其执行完成时通知主事件轮垂调用回调函数。

黄金准则:不要锁定事件轮垂,尽量关注和避免那些可能造成锁定的任务,像是同步网路调用或者无线死循环。

明白cpu操作和i/o操作是很重要的。如上所讲,Node中的代码不能并行执行。只是i/o是并行,因为他们是异步执行的。

所以,worker线程(以下我们会使用这个node特有的概念)不能提升多少i/o敏感的任务,因为异步i/o本身就比worker高效很多。worker的主要任务是提升cpu敏感操作的性能。

已有的解决方案

此外,这里已经有一些应对cpu敏感处理的方案:多进程(例如,cluster API)来保证cpu最大被利用。

这个方法好处是允许每个进程间是独立的,如果某个线程出了问题,不会影响到其他的。他们稳定且相同的api。然而,这意味着牺牲了内存共享,并且数据通信必须用json(有额外开销,性能稍低)。

JavaScript和Node.js是永远不会有多线程的。原因如下:

so,有人或许会考虑给node.js添加一个新的模块来允许我们创建一个同步线程,以此来解决cpu敏感处理的问题。

然而,这不会实现的。如果添加一个线程,这个语言的本质就会发生变化。使用类或者函数添加一个线程作为新特性是不可能。在支持多线程的语言中(如java),“synchronized”之类的关键字就能帮助实现多线程。

还有,一些数据不是原子的,意味着如果你不是同步处理他们,你可能的结果是在两个线程上都可以访问并更改这个值得变量,最后得到一个两个线程都对这个者进行了一些改变的无效的值。例如一个简单的0.1+20.2的操作,这个操作拥有17为小数。

因为小数点不是100%准确的,所以如果不是同步的,有一个整数可能使用worker之后得到一个非整数的数字。

最好的解决方案是

提高cpu性能的最好的方案是使用worker线程。浏览器很早既有了worker这个概念了。

使亿有的结构从:

一个进程

一个线程

一个事件轮垂

一个JS隐情实例

一个Node.js实例

变成:

一个进程

多个线程

每个线程一个事件轮垂

每个线程一个JS隐情实例

每个线程一个Node.js实例

worker_threads模块能够实现使用线程实现并行执行js。

const worker = require('worker_threads');

Worker Theads在Node.10时开始可以使用,但是一直处于实验状态,在12.11.0时,变成稳定版本。

这个方案的意思是,在一个进程中拥有多个Node.js的实例。在worker threads中,一个线程可以有一些节点,这个节点不必是父进程。worker结束后还被分配着一些资源不是好的实践,这会导致内存泄漏。我们想把node.js整个的潜入其中,并且给与Node.js去创建新的现成的能力,然后在线程中创建一个新的Node.js实例。本质上是独立运行在一个进程中的线程中。

下面这些使Worker Theads与众不同:

ArrayBuffers在线程间传递内存。
SharedArrayBuffer每个线程都可访问,在线程间分享内存。(只限二进制数据)。
Atomics已可用,允许你并行执行一些处理,更高效且允许你在js中实现条件变量。
MessagePort,用来在不同线程间进行通信。可以用来传递结构数据,内存域,以及不同Worker之间的MessagePort(对象)。
MessageChannel代表一个异步的,双向通信的频道,用来在不同的(worker)线程间通信。
WorkerData用来传递起始数据。任意js数据的复制版本会被传递到这个Worker的构造函数中。如果使用postMessage(),数据也会被复制。

接口API

  • const {worker, parentPort} = require('worker_threads'),worker类表示一个独立执行js的线程,parentPort是一个message port的实例。
  • new Worker(filename)或者new worker(code,{eval:true})两种开始一个worker的方法。(传递一个文件名字或需要执行的代码)。建议在生产中使用文件名字。
  • worker.on('message'),worker.postmessage(data)`监听信息以及在不同的线程间发布数据。
  • parentPort.on('message'),parentPort.postMessage(data),使用parentPort.postMessage()发送信息,在父线程中使用worker.on('message')来获取。在父线程中使用worker.postMessage()在该线程中(当前线程是子)使用parentPort.on('message')类获取。

示例

const { Worker } = require('worker_threads');

const worker = new Worker(`
const { parentPort } = require('worker_threads');
parentPort.once('message',
    message => parentPort.postMessage({ pong: message }));  
`, { eval: true });
worker.on('message', message => console.log(message));      
worker.postMessage('ping');  

执行:

$ node --experimental-worker test.js
{ pong: ‘ping’ }

这段代码实际做的是使用new Worker创建了一个线程,在线程的内部使用parentPort来监听和接受一次性的message信息,接收到信息后也会发布一个message个猪线程。

在只支持实验性worker thread的node版本中你必须使用--experimental-worker命令行选项来执行代码。

其他例子:

const {
      Worker, isMainThread, parentPort, workerData
    } = require('worker_threads');

    if (isMainThread) {
      module.exports = function parseJSAsync(script) {
        return new Promise((resolve, reject) => {
          const worker = new Worker(filename, {
            workerData: script
          });
          worker.on('message', resolve);
          worker.on('error', reject);
          worker.on('exit', (code) => {
            if (code !== 0)
              reject(new Error(`Worker stopped with exit code ${code}`));
          });
        });
      };
    } else {
      const { parse } = require('some-js-parsing-library');
      const script = workerData;
      parentPort.postMessage(parse(script));
    }

需要依赖:
Worker该类代表一个独立的js执行线程。
isMainThead一个布尔值,当前代码是否运行在Worker线程中。
parentPortMessagePort对象,如果当前线程是个生成的Worker线程,则允许和父线程通信。
workerData一个可以传递给线程构造函数的任何js数据的的复制数据。

在实战中,上面的任务最好使用线程池来替代。否则,开销可能大于好处。

对Worker的期望是什么(希望是):

  • 传递本地处理任务。(passing native handles around)
  • 锁死检测。锁死是指一种情形,一系列进程被锁定,因为每个进程都把持了一些资源,而且每个线程又在等待其他线程所把持的资源释放然后获取。锁死检测在worker thead中比较有用。
  • 更多的隔离,所以一旦一个线程收到了影响,其他的没事。

对Worker不期望的是:

  • 不要认为worker会使所有的东西都很快速,有些情况下最好使用线程池。
  • 不要使用worker来进行io并行操作。
  • 不要认为衍生一个线程成本很低。

最后:

Workers有chrome开发工具,可用来监视Node.js中的workers。

阅读 2.2K

前端这两年(2016~)
近几年来前端的变化记录

可可西里,可可西里,我只是想去看一看。

1.2k 声望
53 粉丝
0 条评论

可可西里,可可西里,我只是想去看一看。

1.2k 声望
53 粉丝
宣传栏