ovs源码阅读--netlink使用

netlink

netlink socket是一种用于用户态进程和内核态进程之间的通信机制。它通过为内核模块提供一组特殊的API，并为用户程序提供了一组标准的socket接口的方式，实现了全双工的通讯连接。

特点：

• 双向传输，异步通信
• 用户空间中使用标准socket API
• 内核空间中使用专门的API
• 支持多播
• 可由内核端发起通信
• 支持32种协议类型

netlink仅支持32种协议类型，这在实际应用中可能并不足够，因此产生了generic netlink（以下简称为genl），
generic netlink支持1023个子协议号，弥补了netlink协议类型较少的缺陷。

netlink通信架构

Netlink子系统：所有genl通信的基础，Netlink子系统中收到的所有Generic类型的netlink数据都被送到genl总线上；从内核发出的数据也经由genl总线送至netlink子系统，再打包送至用户空间

Generic Netlink控制器：作为内核的一部分，负责动态地分配genl通道(即genl family id)，并管理genl任务，genl控制器是一个特殊的genl内核用户，它负责监听genl bus上的通信通道

genl通信建立在一系列的通信通道的基础上，每个genl family对应多个通道，这些通道由genl控制器动态分配

相关结构体

genl family
Generic Netlink是基于客户端-服务端模型的通信机制，服务端注册family（family是对genl服务的各项定义的集合），控制器和客户端都通过已注册的信息与服务端通信。

//genl_family主要字段
struct genl_family
{
      unsigned int        id;    //family id
      unsigned int      hdrsize;  //用户自定议头部长度
      char              name[GENL_NAMSIZ]; //family名，要求不同的family使用不同的名字
      unsigned int      version;    //版本
      unsigned int      maxattr;    //最大attr类型数，使用netlink标准的attr来传输数据
      genl_ops             *ops;        // 操作集合
};

genl_ops
定义了netlink family相关的操作

// genl_ops主要字段
struct genl_ops
{
      u8                 cmd;    //命令名，用于识别genl_ops
      unsigned int       flags;    //设置属性
      struct nla_policy  *policy; //定义了attr规则，genl在触发事件处理程序之前，会用其进行attr校验
      int                (*doit)(struct sk_buff *skb, struct genl_info *info);
      int                (*dumpit)(struct sk_buff *skb, struct netlink_callback *cb);
};

• doit：回调函数，在generic netlink收到数据时触发，运行在进程上下文
• dumpit：回调函数，当genl_ops的flag标志被添加了NLM_F_DUMP以后，每次收到genl消息即会回触发这个函数

dumpit与doit的区别是：dumpit的第一个参数skb不会携带从客户端发来的数据。相反地，开发者应该在skb中填入需要传给客户端的数据，skb中携带的数据会被自动送到客户端。只要dumpit的返回值大于0，dumpit函数就会再次被调用，并被要求在skb中填入数据。当服务端没有数据要传给客户端时，dumpit要返回0。如果函数中出错，要求返回一个负值。

nal_policy
定义了attr规则

struct nla_policy
{
    u16     type;    //attr中的数据类型
    u16     len;    //如果在type字段配置的是字符串有关的值，要把len设置为字符串的最大长度
};

genl_info
内核在接收到用户的genetlink消息后，会对消息解析并封装成genl_info结构

struct genl_info
{
    u32                     snd_seq;  //发送序号  
    u32                     snd_pid;  //发送客户端的PID
    struct nlmsghdr *       nlhdr;      //netlink header的指针
    struct genlmsghdr *     genlhdr;  //genl头部的指针（即family头部）
    void *                  userhdr;  //用户自定义头部指针  
    struct nlattr **        attrs;    //如果定义了genl_ops->policy，保存被policy过滤以后的结果
};

Generic Netlink服务端（内核）初始化

这里以OVS中packet的处理为例：

1. 定义family

//定义packet family
static struct genl_family dp_packet_genl_family __ro_after_init = {
    .hdrsize = sizeof(struct ovs_header), 
    .name = OVS_PACKET_FAMILY,  
    .version = OVS_PACKET_VERSION, 
    .maxattr = OVS_PACKET_ATTR_MAX, 
    .netnsok = true,
    .parallel_ops = true,
    .ops = dp_packet_genl_ops,      //操作集合
    .n_ops = ARRAY_SIZE(dp_packet_genl_ops),
    .module = THIS_MODULE,
};

2. 定义operation

// 定义packet family 的操作 --- packet类型的操作只支持OVS_PACKET_CMD_EXECUTE
static struct genl_ops dp_packet_genl_ops[] = {
    { .cmd = OVS_PACKET_CMD_EXECUTE, 
      .flags = GENL_UNS_ADMIN_PERM, 
      .policy = packet_policy,  
      .doit = ovs_packet_cmd_execute    //接受数据包时，调用ovs_packet_cmd_execute进行处理
    }
};

// 定义packet family 的过滤规则
static const struct nla_policy packet_policy[OVS_PACKET_ATTR_MAX + 1] = {
    [OVS_PACKET_ATTR_PACKET] = { .len = ETH_HLEN },
    [OVS_PACKET_ATTR_KEY] = { .type = NLA_NESTED },
    [OVS_PACKET_ATTR_ACTIONS] = { .type = NLA_NESTED },
    [OVS_PACKET_ATTR_PROBE] = { .type = NLA_FLAG },
    [OVS_PACKET_ATTR_MRU] = { .type = NLA_U16 },
};

3. 注册family

genl_register_family(&dp_packet_genl_family); 

Generic Netlink客户端（用户空间）初始化

struct sockaddr_nl saddr;    
int                sock;
sock = socket(AF_NETLINK, SOCK_RAW, NETLINK_GENERIC); //创建一个netlink类型的socket

if (sock < 0) {
    return -1;
}

memset(&saddr, 0, sizeof(saddr));
saddr.nl_family = AF_NETLINK;
saddr.nl_pid = getpid();    //获取family id
if (bind(sock, (struct sockaddr*)&saddr, sizeof(saddr)) < 0) {    //绑定
    printf("bind fail!\n");
    close(*p_sock);
    return -1;
}

内核空间接受发送数据

接受数据：内核端一旦收到generic netlink数据，会触发doit函数运行，通过回调函数进行处理
发送数据：将数据打包好之后，可通过单播（genlmsg_unicast）或多播（）的形式进行发送

用户空间接受发送数据

接受数据：调用recv函数即可完成从内核来的数据的接收
发送数据：调用sendto来发送数据

netlink收发数据—以ovs中packet为例

参考内容

GenerRic Netlink 详解

作者：yearsj
转载请注明出处：https://segmentfault.com/a/11...