当查询的数据来自多个数据源，有哪些好的分页策略？

概述

在业务系统开发中，尤其是后台管理系统，列表页展示的数据来自多个数据源，列表页需要支持分页，怎么解决？

问题

如上图，数据源可能来自不同 DB 数据库，可能来自不同 API 接口，也可能来自 DB 和 API 的组合。

我这也没有太好的解决方案，接到这样的需求，肯定首先和需求方沟通，这样分页是否合理。

无非就两种方案：

• 数据定期同步，首先将查询的数据汇总到一个地方，然后再进行查询分页。
• 内存中分页，首先将查询的数据存放到内存，然后再进行查询分页。

如果以某一数据源进行分页，其他字段去其他数据源获取，这样还好处理一些。

如果以多个数据源融合后再分页的话，就数据定期同步 或 内存中分页吧。

数据定期同步方案可以根据实际情况去设计同步频率，至于同步到 ES/MySQL/MongoDB 自己决定即可。

关于内存中分页方案，下面分享两个小方法，供参考。

PHP 方法

$data = [
    0 => ['name' => "姓名1", 'age' => "年龄1"],
    1 => ['name' => "姓名2", 'age' => "年龄2"],
    2 => ['name' => "姓名3", 'age' => "年龄3"],
    3 => ['name' => "姓名4", 'age' => "年龄4"],
    4 => ['name' => "姓名5", 'age' => "年龄5"],
    5 => ['name' => "姓名6", 'age' => "年龄6"],
    6 => ['name' => "姓名7", 'age' => "年龄7"],
    7 => ['name' => "姓名8", 'age' => "年龄8"],
    8 => ['name' => "姓名9", 'age' => "年龄9"],
    9 => ['name' => "姓名10", 'age' => "年龄10"],
];

/**
 * 数组分页
 * @param array $arrayData 数组数据
 * @param int   $page      第几页
 * @param int   $pageSize  每页展示条数
 * @return array
 */
function arrayToPageData($arrayData = [], $page = 1, $pageSize = 10)
{
    $arrayData = array_values((array)$arrayData);
    $pageData['list'] = array_slice($arrayData, ($page - 1) * $pageSize, $pageSize);
    $pageData['pagination']['total'] = count($arrayData);
    $pageData['pagination']['currentPage'] = $page;
    $pageData['pagination']['prePageCount'] = $pageSize;
    return $pageData;
}

echo json_encode(arrayToPageData($data, 2, 3));

输出：

{
    "list": [
        {
            "name": "姓名4",
            "age": "年龄4"
        },
        {
            "name": "姓名5",
            "age": "年龄5"
        },
        {
            "name": "姓名6",
            "age": "年龄6"
        }
    ],
    "pagination": {
        "total": 10,
        "currentPage": 2,
        "prePageCount": 3
    }
}

Go 方法

package main

import (
    "encoding/json"
    "fmt"
)

type User []struct {
    Name string `json:"name"`
    Age  string `json:"age"`
}

type Pagination struct {
    Total        int `json:"total"`
    CurrentPage  int `json:"currentPage"`
    PrePageCount int `json:"prePageCount"`
}

type ListPageData struct {
    List       User `json:"list"`
    Pagination Pagination `json:"pagination"`
}

func main() {
    jsonStr := `[{"name": "姓名1","age": "年龄1"},
        {"name": "姓名2","age": "年龄2"},
        {"name": "姓名3","age": "年龄3"},
        {"name": "姓名4","age": "年龄4"},
        {"name": "姓名5","age": "年龄5"},
        {"name": "姓名6","age": "年龄6"},
        {"name": "姓名7","age": "年龄7"},
        {"name": "姓名8","age": "年龄8"},
        {"name": "姓名9","age": "年龄9"},
        {"name": "姓名10","age": "年龄10"}
    ]`

    var user User
    err := json.Unmarshal([]byte(jsonStr), &user)
    if err != nil {
        fmt.Println(err.Error())
    }

    page := 2
    pageSize := 3
    pageData := ArraySlice(user, page, pageSize)

    listPageData := ListPageData{}
    listPageData.List = pageData
    listPageData.Pagination.Total = len(user)
    listPageData.Pagination.CurrentPage = page
    listPageData.Pagination.PrePageCount = pageSize

    jsonData, _ := JsonEncode(listPageData)
    fmt.Println(jsonData)
}

func JsonEncode(v interface{}) (string, error) {
    bytes, err := json.Marshal(v)
    if err != nil {
        return "", err
    }
    return string(bytes), nil
}

func ArraySlice(u User, page int, pageSize int) User {
    offset := (page - 1) * pageSize
    if offset > int(len(u)) {
        panic("offset: the offset is less than the length of u")
    }
    end := offset + pageSize
    if end < int(len(u)) {
        return u[offset:end]
    }
    return u[offset:]
}

输出：

{
    "list": [
        {
            "name": "姓名4",
            "age": "年龄4"
        },
        {
            "name": "姓名5",
            "age": "年龄5"
        },
        {
            "name": "姓名6",
            "age": "年龄6"
        }
    ],
    "pagination": {
        "total": 10,
        "currentPage": 2,
        "prePageCount": 3
    }
}

小结

如果你有更好的方案，欢迎留言评论 ~

推荐阅读

• 开发流程规范
• Git 分支设计规范
• API 接口设计规范
• 一线技术管理者究竟在管什么事？
• 一个人被提拔，不仅仅是能力，而是信任

一起学习