头图

是什么让 .NET 7 的 Min 和 Max 方法性能暴增了45倍?

谈到 .NET 性能改进,我们知道 Linq 中的 Min() 和 Max() 方法 .NET 7 比 .NET 6 有高达45倍的性能提升,当时 Benchmark 代码和结果如下所示:

[Params(1000)]
public int Length { get; set; }

private int[] arr;

[GlobalSetup]
public void GlobalSetup() => arr = Enumerable.Range(0, Length).ToArray();

[Benchmark]
public int Min() => arr.Min();

[Benchmark]
public int Max() => arr.Max();

图片

图片

可以看到有高达45倍的性能提升,那就有小伙伴比较疑惑,在 .NET 7 中到底是做了什么让它有如此大的性能提升?所以本文就通过 .NET 7 中的一些 pr 带大家一起探索下 .NET 7 的 Min() 和 Max() 方法是如何变快的

探索

首先我们打开 .NET Runtime 的仓库,里面包含了 .NET 运行时所有的代码,包括 CLR 和 BCL 库。

图片

然后我们熟练的根据命名空间 System.Linq 找到 Linq 所在的文件夹位置,如下所示:

图片

可以看到很多 Linq 相关的方法都在这个文件夹内,让我们先来找一找 Max() 方法所对应的类。就是下方所示,我们可以看到刚好异步小王子 Stephen Toub 大佬提交了一个优化代码。 

图片

然后我们点击 History 查看这个类的提交历史,我们发现 Stephen 大佬在今年多次提交代码,都是优化其性能。

图片

找到 Stephen 大佬的第一个提交,我们发现在 Max 的代码中,多了一个特殊的路径,如果数据类型为 int[],那么就走单独的一个方法重载,并在这个重载中启用了 SIMD 向量化,代码如下所示:

图片

SIMD 向量化在我之前的多篇文章中都有提到,它是 CPU 的特殊指令,使用它可以大幅度的增强运算性能,我猜这就是性能提升的原因。

我们可以看到在上面只为 int[] 做了优化,然后继续浏览了 Stephen 大佬的其它几个 PR,Stephen 大佬将代码抽象了一下,使用了泛型的特性,然后顺便为其它的基本值类型都做了优化。能享受到性能提升的有 byte sbyte ushort short uint int ulong long nuint nint。 

图片

所以我们以最后一个提交为例,看看到底是用了什么 SIMD 指令,什么样的方法来提升的性能。抽取出来的核心代码如下所示:

private static T MinMaxInteger<T, TMinMax>(this IEnumerable<T> source)
    where T : struct, IBinaryInteger<T>
    where TMinMax : IMinMaxCalc<T>
{
    T value;

    if (source.TryGetSpan(out ReadOnlySpan<T> span))
    {
        if (span.IsEmpty)
        {
            ThrowHelper.ThrowNoElementsException();
        }

        // 判断当前平台是否支持使用Vector-128 或者 总数据长度是否小于128位
        // Vector128是指硬件支持同时计算128位二进制数据
        if (!Vector128.IsHardwareAccelerated || span.Length < Vector128<T>.Count)
        {
            // 进入到此路径,说明最基础的Vector128都不支持,那么直接使用for循环来比较
            value = span[0];
            for (int i = 1; i < span.Length; i++)
            {
                if (TMinMax.Compare(span[i], value))
                {
                    value = span[i];
                }
            }
        }
        // 判断当前平台是否支持使用Vector-256 或者 总数据长度是否小于256位
        // Vector256是指硬件支持同时计算256位二进制数据
        else if (!Vector256.IsHardwareAccelerated || span.Length < Vector256<T>.Count)
        {
            // 进入到此路径,说明支持Vector128但不支持Vector256
            // 那么进入128位的向量化的比较

            // 获取当前数组的首地址,也就是指向第0个元素
            ref T current = ref MemoryMarshal.GetReference(span);
            // 获取Vector128能使用的最后地址,因为整个数组占用的bit位有可能不能被128整除
            // 也就是说最后的尾巴不够128位让CPU跑一次,那么就直接最后往前数128位,让CPU能完整的跑完
            ref T lastVectorStart = ref Unsafe.Add(ref current, span.Length - Vector128<T>.Count);

            // 从内存首地址加载0-127bit数据,作为最大值的基准
            Vector128<T> best = Vector128.LoadUnsafe(ref current);
            // 计算下一个的位置,也就是偏移128位
            current = ref Unsafe.Add(ref current, Vector128<T>.Count);
            // 循环比较 确保地址小于最后地址
            while (Unsafe.IsAddressLessThan(ref current, ref lastVectorStart))
            {
                // 此时TMinMax.Compare重载代码 => Vector128.Max(left, right);
                // Vector128.Max 会根据类型一一比较,每x位最大的返回,
                // 比如int就是每32位比较,详情可以看我后文的解析
                best = TMinMax.Compare(best, Vector128.LoadUnsafe(ref current));
                current = ref Unsafe.Add(ref current, Vector128<T>.Count);
            }
            // 最后一组Vector128进行比较
            best = TMinMax.Compare(best, Vector128.LoadUnsafe(ref lastVectorStart));

            // 由于Vector128最后的结果是128位,比如我们类型是int32,那么最后的结果就有
            // 4个int32元素,我们还需要从这4个int32元素中找到最大的
            value = best[0];
            for (int i = 1; i < Vector128<T>.Count; i++)
            {
                // 这里 TMinMax.Compare就是简单的大小于比较
                // left > right
                if (TMinMax.Compare(best[i], value))
                {
                    value = best[i];
                }
            }
        }
        else
        {
            // Vector256执行流程和Vector128一致
            // 只是它能一次性判断256位,举个例子就是一个指令8个int32
            ref T current = ref MemoryMarshal.GetReference(span);
            ref T lastVectorStart = ref Unsafe.Add(ref current, span.Length - Vector256<T>.Count);

            Vector256<T> best = Vector256.LoadUnsafe(ref current);
            current = ref Unsafe.Add(ref current, Vector256<T>.Count);

            while (Unsafe.IsAddressLessThan(ref current, ref lastVectorStart))
            {
                best = TMinMax.Compare(best, Vector256.LoadUnsafe(ref current));
                current = ref Unsafe.Add(ref current, Vector256<T>.Count);
            }
            best = TMinMax.Compare(best, Vector256.LoadUnsafe(ref lastVectorStart));

            value = best[0];
            for (int i = 1; i < Vector256<T>.Count; i++)
            {
                if (TMinMax.Compare(best[i], value))
                {
                    value = best[i];
                }
            }
        }
    }
    else
    {
        // 如果不是基本类型的数组,那么进入迭代器,使用原始方法比较
        using (IEnumerator<T> e = source.GetEnumerator())
        {
            if (!e.MoveNext())
            {
                ThrowHelper.ThrowNoElementsException();
            }

            value = e.Current;
            while (e.MoveNext())
            {
                T x = e.Current;
                if (TMinMax.Compare(x, value))
                {
                    value = x;
                }
            }
        }
    }

    return value;
}

以上就是代码的解析,相信很多人疑惑的地方就是 Vector128.Max 做了什么,我们可以构造一个代码,让大家简单的看出来发生了什么。代码和运行结果如下所示:

// 定义一个数组
var array = new int[] { 4, 3, 2, 1, 1, 2, 3, 4 };

// 拿到数组首地址指针
ref int current = ref MemoryMarshal.GetReference(array.AsSpan());

// 从首地址加载128位数据,上面是int32
// 所以x = 4, 3, 2, 1
var x = Vector128.LoadUnsafe(ref current);

// 偏移128位以后,继续加载128位数据
// 所以y = 1, 2, 3, 4
var y = Vector128.LoadUnsafe(ref Unsafe.Add(ref current, Vector128<int>.Count));

// 使用Vector128.Max进行计算
var result = Vector128.Max(x, y);

// 打印输出结果
x.Dump();
y.Dump();
result.Dump();

图片

从运行的结果可以看到,result 中保存的是 x 和 y 对应位置的最大值,这样是不是就觉得清晰明了,Stephe 大佬上文的代码就是做了这样一个操作。

同样,如果我们把 int32 换成 int64,也就是 long 类型,由于一个元素占用64位,所以一次只能加载2个 int64 元素比较最大值,得出对应位置的最大值: 

图片

最后使用下面的 for 循环代码,从 result 中找到最大的那个 int32 元素,从我们上文的案例中就是4,结果和代码如下所示:

var value = result[0];
for (int i = 1; i < Vector128<int>.Count; i++)
{
 if (value < result[i])
 {
  value = result[i];
 }
}

图片

要注意的是,为了演示方便我这里数组 bit 长度刚好是128倍数,实际情况中需要考虑不是128倍数的场景。

答案显而易见,.NET 7 中 Min() 和 Max() 方法性能暴增45倍的原因就是 Stephe 大佬对基本几个连续的值类型比较做了 SIMD 优化,而这样的优化在本次的 .NET 7 版本中有非常多,有机会的话接下来的文章会带大家一起看看 SIMD 又是如何提升其它方面的性能。

马上下载 .NET 7~

微软技术生态官方平台。予力众生,成就不凡!微软致力于用技术改变世界,助力企业实现数字化转型。

397 声望
960 粉丝
0 条评论
推荐阅读
限量红包封面开抢啦!祝你兔年好运连连
① 请先微信搜索关注“微软开发者MSDN”公众号② 选择你喜欢的技能,私信发送对应兔子名称(飞飞兔、灵灵兔、康康兔、美美兔、安安兔)③ 后台会自动弹出一张海报,请扫码领取封面

微软技术栈阅读 753

封面图
官宣 .NET MAUI 支持 Xcode 14 和 iOS 16
我们发布了对 Xcode 14 的 .NET 6 和 Visual Studio 2022 支持,以及 .NET MAUI 的第六个服务版本。Xcode 14 引入了 Apple 最新的移动操作系统 iOS 16。此版本中的其他 Apple SDK 与上一版本相比没有变化。无论您...

微软技术栈阅读 867

封面图
使用 .NET 7、Blazor 和 .NET MAUI 构建你自己的 Podcast App
.NET Podcast App 首次在 .NET Conf 2021上推出,最近进行了更新以在 .NET Conf 2022 keynote 中突出显示 .NET 7 中的新功能。该 Podcast App 已准备好使用展示 .NET,ASP.NET Core,Blazor,.NET MAUI,Azure Co...

微软技术栈阅读 650

封面图
官方盘点 .NET 7 新功能
.NET 7 为C# 11/F# 7、.NET MAUI、ASP.NET Core/Blazor、Web API、WinForms、WPF 等应用程序带来了更高的性能和新功能。使用 .NET 7,您还可以轻松地将 .NET 7 项目容器化,在 GitHub 操作中设置 CI/CD 工作流,...

微软技术栈阅读 571

封面图
MASA Stack 1.0 发布会 倒计时一天
​扫描二维码,预约直播2023/1/16 14:00 与你不见不散发布会精彩看点抢先看MASA Stack 1.0 趋势篇世界技术圈在发什么?应用现代化宣布MASA Stack1.0版本正式发布MASA Stack 1.0 产品篇1.0产品架构介绍一站式现代化...

MASA技术团队阅读 466

通过 .NET 完成机器学习的整个流程,这个平台可以!
.NET 是⼀个跨平台,全场景应用的开源技术。你有在用 .NET 做机器学习/深度学习的应用吗?如果从框架角度,ML.NET/Tensorflow.NET/不断在进步的 TorchSharp 通过几年的发展已经开始稳定,但如果在⼀些⼤型项目上...

微软技术栈阅读 439

封面图
.NET 7.0 新版本发布特别企划 | 二十周年感恩预热
各位 DOTNET 粉丝们过节比特熊故事汇2.0 DOTNET 专场一次性联动圈内三位资深专家逐一解锁版本升级、经验故事、社区峰会亮点2022年11月23日19:00-20:00【比特熊故事汇2.0】.NET 开发者感恩节超前共度

微软技术栈阅读 401

封面图

微软技术生态官方平台。予力众生,成就不凡!微软致力于用技术改变世界,助力企业实现数字化转型。

397 声望
960 粉丝
宣传栏