1
头图

你好呀,我是歪歪。

上周我不是发了《我试图给你分享一种自适应的负载均衡。》这篇文章嘛,里面一种叫做“自适应负载均衡”的负载均衡策略,核心思路就是从多个服务提供者中随机选择两个出来,然后继续选择两者中“负载”最小的那个节点。

前几天有读者看了文章后找到我,提出了两个问题。

有点意思,我给你盘一下。

第一个问题

第一个问题是这样的:

他的图片,指的是文章中的这个部分:

当时我也没有细看,所以我的回复是 timeout 是个配置项,我这里取出来都是 30000 的原因是因为我没有进行配置。

然后,他对于问题进行了进一步的描述:

.png)

我点到源码里面一看,好家伙,它是这样写的:

int timeout1 = getTimeout(invoker2, invocation);
int timeout2 = getTimeout(invoker2, invocation);

两次调用 getTimeout 方法的入参一模一样。这个地方你用脚指头想也应该能知道它的参数传递错误了嘛。

我甚至能猜到作者写这一行代码的时候,按了一个 ctrl+d 快捷键,复制了一行出来,结果只是把前面的 timeout1 改成了 timeout2,忘记改后面了。

这种低级错误...

我也犯过好几次。

然后我叫这个读者可以去提一个 pr,以后出去吹牛的时候就可以说:我曾经给 apache 顶级开源项目贡献过源码。

但是这个读者可能比较低调,把这个机会让给我了。

于是...

我就厚着脸皮去提 pr 了,然后被 merge 了:

https://github.com/apache/dubbo/pull/12636

把 invoker2 修改为 invoker1,搞定。

舒服了,在我四处混 pr 的光荣事迹中,又添加了浓墨重彩的一笔。

第二个问题

第二个问题,其实我在之前的文中也提到了。

文章里面对于“随机选择两个”出来这个动作的代码实现,我感觉是有 BUG 的,所以提出了一个大胆的质疑:

但是秉着“又不是不能用”的核心思路,当时也没有细想。

当我前面的那个 pr 被 merge 的时候,我决定:要不好人做到底,把这个 BUG 也帮它们修复一下吧。

首先,我来详细解释一下,我为什么会认为这个地方有 BUG。

首先,把它的整个源码拿过来:

int pos1 = ThreadLocalRandom.current().nextInt(length);
int pos2 = ThreadLocalRandom.current().nextInt(length - 1);
if (pos2 == pos1) {
    pos2 = pos2 + 1;
}

我就以最简单的情况,只有三个服务提供者,即 length=3,然后随机选两个出来,这种情况来进行说明。

我也不进行数学论证了,直接就是给你表演一个穷举大法。

首先,我们的 invokers 集合里面有三个服务提供方,invoker1,invoker2,invoker3:

当执行这一行代码的时候:

int pos1 = ThreadLocalRandom.current().nextInt(length);

length=3,即

int pos1 = ThreadLocalRandom.current().nextInt(3);

所以 pos1 的取值范围是 [0,3)。

前面说了,我要用穷举大法,所以我们要分析 pos1 分别为 0,1,2 的时候。

pos1=0

首先,我们分析 pos1=0 的情况。

当 pos1=0 时,我们要算 pos2 的值,当执行这行代码的时候:

int pos2 = ThreadLocalRandom.current().nextInt(length - 1);

它的取值范围是 [0,2)。

所以,经过两行随机的代码之后,我们能得到这样的组合:

针对组合一,又因为有这个判断在这里:

if (pos2 == pos1) {
    pos2 = pos2 + 1;
}

当 pos2 = pos1,即随机到同一个下标的时候,pos2 需要加一,以免使用同一个 invoker。

所以,当 pos1=0 时,随机的最终只会是这两种情况:

pos1=1

同理,我们可以得出 pos1=1 时,情况是这样的:

pos1=2

当 pos1=2 时,情况是这样的:

汇总

此时,我们所有情况都分析完成了,穷举大法已经使用完毕。

这个时候我们把所有的情况组合起来看一下:

  • invoker1 被选中了 4 次
  • invoker2 被选中了 5 次
  • invoker3 被选中了 3 次

来,请你大声点的告诉我,这个算法是不是公平的?

都不是 1:1:1 了,还公平个啥啊。

所以,我在之前的文章里面是这样说的:

事实也证明了,确实是对于最后一个元素是不公平的。

于是,我开始准备着手敲代码,打算再混一个 pr。

我想换成的源码也很简单。因为它核心目标是从 list 集合中随机返回两个对象嘛。

那我直接就是这样:

Object invoker1 = invokerList.remove(ThreadLocalRandom.current().nextInt(invokerList.size()));
Object invoker2 = invokerList.remove(ThreadLocalRandom.current().nextInt(invokerList.size()));

你仔细的嗦一嗦这个代码,是不是很公平?

当一个元素被选中之后,我就把它给踢出去。这样第二次随机的时候,invokerList.size() 的值就实现了减一的逻辑。

既可以保证第二次随机的时候,不会随机到一样的元素。

也可以保证剩下的每个元素都有机会再次参与到随机过程中。

为此,我还专门写了一个 Demo 来验证这个写法:

public class MainTest {
    private final static HashMap<Integer, Integer> COUNT_MAP = new HashMap<>();
    
    public static void main(String[] args) {
        for (int i = 0; i < 100000; i++) {
            List<Integer> list = new ArrayList<Integer>();
            list.add(1);
            list.add(2);
            list.add(3);
            Integer invoker1 = list.remove(ThreadLocalRandom.current().nextInt(list.size()));
            Integer invoker2 = list.remove(ThreadLocalRandom.current().nextInt(list.size()));
            posCount(invoker1);
            posCount(invoker2);
        }
        System.out.println(COUNT_MAP);
    }

    public static void posCount(Integer key) {
        Integer pos1Integer = COUNT_MAP.get(key);
        if (pos1Integer == null) {
            COUNT_MAP.put(key, 1);
        } else {
            pos1Integer++;
            COUNT_MAP.put(key, pos1Integer);
        }
    }
}

你粘过去就能跑,运行 10w 次,每个元素被选中的总次数基本上就是 1:1:1。

而把 Dubbo 源码里面的实现拿过来:

public class MainTest {

    private final static HashMap<Integer, Integer> COUNT_MAP = new HashMap<>();

    public static void main(String[] args) {
        List<Integer> list = new ArrayList<Integer>();
        list.add(1);
        list.add(2);
        list.add(3);
        int length = list.size();
        for (int i = 0; i < 100000; i++) {
            int pos1 = ThreadLocalRandom.current().nextInt(length);
            int pos2 = ThreadLocalRandom.current().nextInt(length - 1);
            if (pos2 >= pos1) {
                pos2 = pos2 + 1;
            }
            posCount(pos1);
            posCount(pos2);
        }
        System.out.println(COUNT_MAP);
    }

    public static void posCount(Integer key) {
        Integer pos1Integer = COUNT_MAP.get(key);
        if (pos1Integer == null) {
            COUNT_MAP.put(key, 1);
        } else {
            pos1Integer++;
            COUNT_MAP.put(key, pos1Integer);
        }
    }
}

也跑 10w 次,运行结果是这样的:

...

...

...

卧槽,等等,怎么回事,居然也是接近 1:1:1 的?

我当时看到这个运行结果的时候,表情大概是这样的:

这玩意,和我分析出来的不一样啊。

反转

其实也不能算是反转吧。

因为我前面分析的时候,给的代码是这样的:

if (pos2 == pos1) {
    pos2 = pos2 + 1;
}

而真实的源码是这样的:

if (pos2 >= pos1) {
    pos2 = pos2 + 1;
}

一个是 ==,一个 >=。

当我把这里换成 == 的时候,运行结果就不再是 1:1:1 了,符合我前面穷举大法分析的情况。

而在我的潜意识里面,第一次看代码的时候,我一直以为这个部分的代码就是 ==,所以我一直按照 == 进行的分析,从而觉得它有问题。

这波,我觉得得让潜意识来背锅。

当是 >= 的时候,我们只需要重新分析一下 pos1=0 的情况。

组合一,0>=0,满足条件,最终 pos1=0,pos2 会加一,变成 1,所以还是会变成之前分析的情况:

当时对于组合二,情况就发生了微妙的变化。

组合二,1>=0,满足条件,最终 pos1=0,pos2 会加一,变成 2,所以就变成了这样:

invker2 被替换为了 invoker3。

还记得我们之前,按照 == 的情况,分析出来的比例吗?

  • invoker1 被选中了 4 次
  • invoker2 被选中了 5 次
  • invoker3 被选中了 3 次

此时,我们按照 >= 的情况分析,invoker2 被替换为了 invoker3。

那么比例就变成了:

  • invoker1 被选中了 4 次
  • invoker2 被选中了 4 次
  • invoker3 被选中了 4 次

所以,回到我最最开始说的读者提出的第二个问题:

我在回答读者的时候,也是认为 == 就行了,虽然不公平,但是也不是不能用。

但是经过前面这一波分析。

为什么一定要是 >=,而不能只是 == 呢?

之前,我一直认为不公平是因为我认为最后一个元素少参与了一次随机。

但是,由于 >= 的存在,并不会存在这种情况。

啊,为什么会产生一种让我想要跪下的感觉?

数学,是因为我在里面加了数学。

神奇的、令人又上头又着迷的数学。

荒腔走板

在这个事情上,我整个心态是从自信满满到一地鸡毛,这个心路历程让我想起了我大学的时候,学过的一门课程叫做《线性代数》。

当时我学的可认真,老师讲的每节课我感觉我都听懂了,期末考试的过程中,包括考完之后我都是信心满满的样子,觉得这题也不难啊。

随随便便考个八十多分问题不大吧。

最后,考试结果出来的时候我没及格,我记得是 56 分还是 58 分的样子,反正差一点点及格,这课居然挂了?

我当时在宿舍就拍案而起:肯定有问题,我要求查卷,我做题的时候很有自信啊。

然后我要到了老师的联系方式,并自报家门,说明情况,我坚持认为应该是某个环节出了问题,看看能不能把卷子找出来再看看。

后来啊...

老师把卷子拍照发给我了,确实是某个环节出了问题,这个环节就是我自己。

我和答案对了一下,卷面就只有 40 多分的样子。

最终成绩有 50 多分是因为老师还算了平时分,由上课出勤率和日常作业完成情况综合算出来的。

那天,我站在宿舍的阳台上,看着手机上的试卷照片,再挑眼看向远方,夕阳西下,残阳如血,六楼的风儿甚至喧嚣,肆意的在我脸上拂过。

楼下熙熙攘攘的学生走过,时不时的爆发出一阵阵银铃般的笑声,我只是觉得吵闹。

随后,我问室友:什么时候补考?有没有人能给我补习一下?

数学,啊,这神奇的、令人又上头又着迷的数学。


why技术
2.2k 声望6.8k 粉丝