I/O重定向和管道

标准I/O与重定向的若干概念

3个标准文件描述符

所有的Unix工具都使用文件描述符0、1和2。如下图所示，标准输入文件的描述符是0，标准输出的文件描述符是1，标准错误输出的文件描述符则是2。Unix假设文件描述符0、1和2都已经被打开，可以分别进行读、写和写的操作。

重定向I/O的是shell而不是程序

通过使用输出重定向标志，命令cmd>filename告诉shell将文件描述符1定位到文件。于是shell就将文件描述符与指定的文件连接起来。程序持续不断地将数据写到文件描述符1中，根本没有意识到数据的目的地已经改变了。listargs.c展示了程序甚至没有看到命令行中的重定向符号。

#include <stdio.h>

int main(int ac, char* av[]) {
    int i;
    printf("Number of args: %d, Args are: \n", ac);
    for(i = 0; i < ac; i++) {
        printf("args[%d] %s\n", i, av[i]);
    }
    fprintf(stderr, "This message is sent to stderr.\n");
}

程序listargs将命令行参数打印到标准输出。注意listargs并没有打印出重定向符号和文件名。

如上图所示验证了关于shell输出重定向的一些重要概念。

• shell并不将重定向标记和文件名传递给程序。

• 重定向可以出现在命令行中的任何地方，并且在重定向标识符周围并不需要空格来区分。例如上图命令./listargs testing >xyz one two 2>oops也可以写成./listargs >xyz testing one two 2>oops，如下图所示。

最低可用文件描述符(Lowest-Available-fd)原则

文件描述符是一个数组的索引号。每个进程都有其打开的一组文件，这些打开的文件被保持在一个数组中。文件描述符即为某文件在此数组中的索引。并且，当打开文件时，为此文件安排的文件描述符总是此数组中最低可用位置的索引。

将stdin重定向到文件

考虑如何将标准输入重定向以至可以从文件中读取数据。更加精确的说，进程并不是从文件读数据，而是从文件描述符读取数据。如果将文件描述符0重定向到一个文件，那么此文件就成为标准输入的源。

方法1：close-then-open

第一种放方法是close-then-open策略，具体步骤如下：

• 开始时，系统中采用的是典型的设置，即三种标准流是被连接到终端设备上的。输入的数据流经过文件描述符0而输出的流经过文件描述符1和2。

• 接下来，调用close(0)，将标准输入与终端设备的连接切断。

• 最后，使用open(filename, O_RDONLY)打开一个想连接到stdin上的文件。当前的最低可用文件描述符是0，因此所打开的文件将被连接到标准输入上。任何从标准输入读取数据的函数都将从此文件中读取数据。

方法2：open-close-dup-close

Unix系统调用dup建立指向已经存在的文件描述符的第二个连接，这种方法需要4个步骤。

• open(file)，打开stdin将要重定向的文件。这个调用返回一个文件描述符fd，这个描述符并不是0，因为0在当前已经被打开了。

• close(0)，将文件描述符0关闭，现在文件描述符0已经空闲了。

• dup(fd)，系统调用dup(fd)将文件描述符fd做了一个复制。此处复制使用最低可用的文件描述符号。因此获得的文件描述符是0。这样，就将磁盘文件与文件描述符0连接在一起了。

• close(fd)，使用close(fd)来关闭原始连接，只留下文件描述符0的连接。

dup在学习管道的时候非常重要，一个简单一点的方案是将close(0)和dup(fd)结合在一起作为一个单独的系统调用dup2。

重定向I/O：who>userlist

当输入who>userlist时，shell运行who程序，并将who的标准输出重定向到名为userlist的文件上。shell实现该重定向的关键之处在于fork和exec之间的时间间隙。在fork执行完后，子进程仍然在运行父进程也就是shell程序，并准备执行exec。exec将替换进程中运行的程序，但是它不会改变进程的属性和进程中所有的连接。也就是说，在运行exec之后，进程的用户ID不会改变，其优先级也不会改变，并且其文件描述符也和运行exec之前一样。因此，利用这个原则来实现重定向标准输出。

此时who就是子进程要执行的命令，当执行fork前，父进程的文件描述符1指向终端。当执行fork之后，子进程的文件描述符也喜欢指向终端，此时，子进程尝试执行close(1)，close(1)之后，文件描述符1成为最低未用文件描述符，子进程现在再执行creat(userlist, mode)打开文件userlist，文件描述符1被连接到文件userlist。因此，子进程的标准输出被重定向到文件userlist，子进程然后调用exec执行who。

子进程执行了who程序，于是子进程中的代码和数据都被who程序的代码和数据所替换了，然而文件描述符被保留下来。因为打开的文件并非是程序的代码也不是数据，它们属于进程的属性，因此exec调用并不改变它们。

管道编程

管道是内核中一个单向的数据通道，管道有一个读取端和一个写入端，可以用来连接一个进程的输出和另一个进程的输入。

创建管道

使用系统调用result = pipe(int array[2])来创建管道，并将其两端连接到两个文件描述符。如下图所示，array[0]为读取数据端的文件描述符，而array[1]则为写数据端的文件描述符。类似与open调用，pipe调用也使用最低可用文件描述符。

程序pipedemo.c展示了如何创建管道并使用管道向自己发送数据。核心代码如下：

    int len, i, apipe[2];
    char buf[BUFSIZ];

    if(pipe(apipe) == -1) {
        perror("could not make pipe.");
        exit(1);
    }

    printf("Got a pipe! It is file descriptors: {%d %d}\n", apipe[0], apipe[1]);

    while(fgets(buf, BUFSIZ, stdin)) {
        len = strlen(buf);
        if(write(apipe[1], buf, len) != len) {
            perror("writing to pipe.");
            break;
        }
        for(i = 0; i < len; i++) {
            buf[i] = 'X';
        }
        len = read(apipe[0], buf, BUFSIZ);
        if(len == -1) {
            perror("reading from pipe.");
            break;
        }
        if(write(1, buf, len) != len) {
            perror("writing to stdout");
            break;
        }
    }

数据流从键盘到进程，从进程到管道，再从管道到进程以及从进程回到终端。

使用fork来共享管道

当进程创建一个管道之后，该进程就有了连向管道两端的连接。当这个进程调用fork的时候，它的子进程也得到了这两个连向管道的连接。父进程和子进程都可以将数据写到管道的写数据端口，并从读数据端口将数据读出。但是当一个进程读，而另一个进程写的时候，管道的使用效率是最高的。程序pipedemo2.c说明了如何将pipe和fork结合起来，创建一对通过管道来通信的进程，核心代码如下：

    int pipefd[2];
    int len;
    char buf[BUFSIZ];
    int read_len;

    if(pipe(pipefd) == -1) {
        oops("cannot get a pipe", 1);
    }

    switch(fork()) {
        case -1:
            oops("cannot fork", 2);
        /*子进程*/
        case 0:
            len = strlen(CHILD_MESS);
            while(1) {
                if(write(pipefd[1], CHILD_MESS, len) != len) {
                    oops("write", 3);
                }
                sleep(5);
            }
        /*父进程*/
        default:
            len = strlen(PAR_MESS);
            while(1) {
                if(write(pipefd[1], PAR_MESS, len) != len) {
                    oops("write", 4);
                } 
                sleep(1);
                read_len = read(pipefd[0], buf, BUFSIZ);
                if(read_len <= 0) {
                    break;
                }
                write(1, buf, read_len);
            }
    }

技术细节

• 从管道中读取数据

  • 当进程试图从管道读取数据时，进程被挂起直到数据被写进管道。

  • 当所有的写进程关闭了管道的写数据端时，试图从管道中读取数据的调用会返回0，这意味这文件的结束。

• 向管道中写数据

  • 写入数据阻塞直到管道有空间去容纳新的数据。

  • 如果所有的读进程都已关闭了管道的读数据端，那么对管道的写入调用将会执行失败。

总结

• Unix默认从文件描述符0读取数据，写数据到文件描述符1，将错误信息输出到文件描述符2。

• 创建文件描述符的系统调用总是使用最低可用文件描述符号。

• 重定向标准输入、标准输出和错误输出意味着改变文件描述符0、1和2的连接。

• 管道是内核中的一个数据队列，其每一端连接一个文件描述符。程序通过pipe系统调用来创建管道。

• 当父进程调用fork的时候，管道的两端都被复制到子进程中。

• 只有有共同父进程的进程之间才可以用管道连接。

代码

相关代码见Github。

参考

• Unix/Linux编程实践教程