RyuJIT 增强功能
1. 环路优化 (循环优化)
这种优化实际上是一种 for 循环叠加态的优化,for 循环叠加计算的过程中,会对其中部分变量进行感应。比如循环中放置 0 扩展 (第一个索引为 0),这种优化灵感来源于 LLVM 标量演化。下面看例子,说明下这个优化:
[MethodImpl(MethodImplOptions.NoInlining)]
static int Foo(int[] arr)
{int sum = 0;for (int i = 0; i < arr.Length; i++){sum += arr[i];}return sum;
}
未优化前:
G_M8112_IG01:sub rsp, 40;; size=4 bbWeight=1 PerfScore 0.25
G_M8112_IG02:xor eax, eaxxor edx, edxmov r8d, dword ptr [rcx+0x08]test r8d, r8djle SHORT G_M8112_IG04align [0 bytes for IG03];; size=13 bbWeight=1 PerfScore 3.75
G_M8112_IG03:mov r10d, edxadd eax, dword ptr [rcx+4*r10+0x10]inc edxcmp r8d, edxjg SHORT G_M8112_IG03;; size=15 bbWeight=4 PerfScore 19.00
G_M8112_IG04:add rsp, 40ret ;; size=5 bbWeight=1 PerfScore 1.25; Total bytes of code 37, prolog size 4, PerfScore 24.25,instruction count 14, allocated bytes for code 37 (MethodHash=d1cce04f) for method ConsoleApp34.Program:Foo(int[]):int (FullOpts)
; ============================================================
未优化前 37 字节,优化后:
G_M8112_IG01: ;; offset=0x0000sub rsp, 40;; size=4 bbWeight=1 PerfScore 0.25
G_M8112_IG02: ;; offset=0x0004xor eax, eaxmov edx, dword ptr [rcx+0x08]test edx, edxjle SHORT G_M8112_IG04xor r8d, r8dalign [0 bytes for IG03];; size=12 bbWeight=1 PerfScore 3.75
G_M8112_IG03: ;; offset=0x0010add eax, dword ptr [rcx+4*r8+0x10]inc r8dcmp edx, r8djg SHORT G_M8112_IG03;; size=13 bbWeight=4 PerfScore 18.00
G_M8112_IG04: ;; offset=0x001Dadd rsp, 40ret ;; size=5 bbWeight=1 PerfScore 1.25; Total bytes of code 34, prolog size 4, PerfScore 23.25,
instruction count 13, allocated bytes for code 34(MethodHash=d1cce04f) for method ConsoleApp34.Program:Foo(int[]):int (FullOpts)
优化后 34 字节,减少了 3 字节,优化的指令如下,刚好三字节。这里的优化点是减却寄存器置零或者赋值 (称之为放置 0 扩展),进行共用。
mov 41 89 d2 r10d, edx
2.NativeAOT 改进:内联 + TLS
这种优化,需要了解一些知识点。假如一个类成员被多个线程访问,一般的访问的时候会设置锁,以避免数据干扰。但是,这同时也产生性能问题。为了提高性能,可以把这个类成员放到线程本地存储 (TLS) 当中,访问的时候直接去线程本地存储获取,这样极大提高了性能。
但是这还不够,我们需要把访问类成员的代码进行内联。进一步提高性能,不然怎么能叫极致性能优化呢?
代码:
: 90000000 adrp x0, 0 <System_Console_System_ConsoleKeyInfo____GetFieldHelper>5a2f0: R_AARCH64_TLSDESC_ADR_PAGE21 tls_InlinedThreadStatics5a2f4: 91000000 add x0, x0, #0x05a2f4: R_AARCH64_TLSDESC_ADD_LO12 tls_InlinedThreadStatics5a2f8: d53bd041 mrs x1, tpidr_el05a2fc: f9400002 ldr x2, [x0]5a2fc: R_AARCH64_TLSDESC_LD64_LO12 tls_InlinedThreadStatics5a300: d63f0040 blr x25a300: R_AARCH64_TLSDESC_CALL tls_InlinedThreadStatics5a304: 8b000020 add x0, x1, x05a308: f9400013 ldr x19, [x0]
2.PGO 的改进:类型检查
PGO 是.NET8 的一大亮点,启用了动态配置文件引导优化 (PGO)。.NET9 Pre2 扩展了 PGO,以便分析更多的代码模式。启用分层编译后,RyuJIT 已经将检测插入到程序中以分析其行为;在使用优化重新编译时,RyuJIT 利用它在运行时构建的配置文件来做出特定于程序当前运行的决策。在预览版 2 中,RyuJIT 现在默认使用 PGO 数据来提高类型检查的性能。
一般来说,确定对象的类型需要调用运行时。这会带来一些性能上的损失,也就是说当进行类型检查的时候,运行时为了确保类型正确性,必须进行检查。通过.NET8 里面启用的 PGO,如果在 PGO 里面能够确定对象是某个类型,JIT 就会用一个快速路径编码,以比较快速的方式进行类型检查。并且在必要的时候退回到慢速路径 (常规检查)
bool IsList<T>(IEnumerable<T> source) => source is IList<T>;
如果 PGO 检测到 source 总是数组,则会快速路径返回 true,否则慢速路径进行检测
if (source is int[])
{return true;
}
else
{return slow_path(); // Let the runtime figure it out
}
ARM64 矢量化
.NET9 Pre2 支持了一种新的实现,利用 JIT 在 Arm64 上操作寄存器的加载和存储的能力。简单点来说,就是用 SEE,YMM 等一次性操控 32 字节或者 64 字节的寄存器处理更大量的数据,提升性能。
.NET9 AOT ILC
AOT 编译分成两个阶段,其一是生成 Obj 目标文件,其二则是通过链接器链接目标文件生成可执行二进制文件。这里的目标文件和可执行二进制文件都是分别对于相应的平台,比如 MacOS/Linux/Win 等等平台。
第一步生成 Obj 目标文件,因为多平台生成。所以.NET9 之前,微软采用了 LLVM 后端生成了目标文件。因为 LLVM 后端近乎绝对的统治力,它有一百多个指令集级别的后端生成,所以采用 LLVM 更符合开源特征。
但这一情况到了.NET9 发生了变化,.NET9 里面微软首次引入了 C# 代码生成目标文件,取代了 LLVM 默认的生成。但是 LLVM 并没有删除,而是同时存在。
这部分代码可以参考:
public static void EmitObject(string objectFilePath, IReadOnlyCollection<DependencyNode> nodes, NodeFactory factory, ObjectWritingOptions options, IObjectDumper dumper, Logger logger){var stopwatch = new Stopwatch();stopwatch.Start();if (Environment.GetEnvironmentVariable("DOTNET_USE_LLVM_OBJWRITER") == "1"){LegacyObjectWriter.EmitObject(objectFilePath, nodes, factory, options, dumper, logger);}else{ObjectWriter objectWriter =factory.Target.IsApplePlatform ? new MachObjectWriter(factory, options) :factory.Target.OperatingSystem == TargetOS.Windows ? new CoffObjectWriter(factory, options) :new ElfObjectWriter(factory, options);objectWriter.EmitObject(objectFilePath, nodes, dumper, logger);}stopwatch.Stop();if (logger.IsVerbose)logger.LogMessage($"Done writing object file in {stopwatch.Elapsed}");}
如果你不作任何设置,.NET9 默认的目标文件生成即是 C# 自举的代码。但是你如果习惯了 LLVM 的生成,也可以通过设置环境变量来开启之前的 LLVM 后端。具体如下:
CMD: set DOTNET_USE_LLVM_OBJWRITER=1
Powershell: $env: DOTNET_USE_LLVM_OBJWRITER=1
Unix/Linux: export DOTNET_USE_LLVM_OBJWRITER=1dotnet xxx.dll
先设置环境变量,然后通过 dotnet 命令行运行托管 DLL 即可复现之前的 LLVM 后端生成。以上是各个平台的设置。