TangoLLVM

优化与修复

TangoLLVM 将 Go SSA 转成 LLVM IR,再把生成的机器码和运行时元数据回填到 Go 符号。下表的结果来自所列公开负载的实测和回归验证。

GC 与异步抢占

项目问题修复公开负载结果
异步抢占无调用的热循环拖长 GC 停止阶段按指令位置标记不可抢占区间preempt 无调用循环的停止 p99 从 2,621.44 µs 降至 40.96 µs,与 std 同桶
写屏障合流反向分析可能漏查合流路径检查全部前驱,无法证明时保守标记LLVM 合流回归和严格 GC 下的 gcload 通过
运行时与 NoSplit叶函数启发式可能漏掉前端的抢占限制直接使用前端的 runtime 与 NoSplit 标记gcload 在严格 GC 下完成 136 个周期,preempt 压测通过
向量状态扩展向量寄存器未纳入抢占保存范围保存向量与掩码状态,缩小 SIMD 禁抢占区间preempt 固定时长测试中,停止 p99 与 std 同为 40.96 µs,每周期 GC CPU 低 2.06%,总 GC CPU 高 5.05%
SSE 与 AVX 切换恢复未使用的向量状态增加切换开销仅保存和恢复实际使用的向量组件Go 标准库 regexp/FindString 相对 std 的耗时从 +45.94% 变为 −22.42%,复测各配置的切换事件为零
局部禁抢占区间写屏障块尾和重复栈检查被过度标记缩小可证明的保护区间,识别等价栈检查kube-apiserver 少 85,018 个不可抢占指令字节
ThinLTO 内联抢占被内联函数的抢占限制扩大到整个调用方按内联作用域标记实际受限指令cmd/go 的不可抢占指令字节占比从 79.92% 降至 36.67%,kube-apiserver 从 84.72% 降至 45.16%

正确性 bug

项目问题修复公开负载结果
全量 LTO 栈对象元数据空的栈对象引用使 Go 链接失败清除缺失栈对象的辅助引用cmd/go 通过全量 LTO 构建和版本检查
x86 双操作数指令栈指针改写与操作数和标志位约束冲突按指令约束选择等价改写或保留原操作编译器回归通过,kube-apiserver 通过构建及版本检查
只读数据隐式零填充丢失,优化中的外部声明也可能被提前移除保留需隐式填充的 Go 符号,并保留优化后需要恢复的声明gcload 严格 GC 通过,kube-apiserver 在打开和关闭只读数据物化时均通过版本检查
栈追踪参数LLVM 参数槽位置与 Go 的假设不同,部分槽的值无法确认写入实际参数位置和逐指令活跃信息Go 标准库的 runtime 参数回溯测试在 std 与 LLVM3 均通过
大结构体返回编译器生成的复制或清零调用缺少参数区记录更新隐式调用的参数区和元数据大结构体返回回归和 gcload 严格 GC 通过
Kitex 编解码Frugal JIT 对寄存器改写和未知控制流的处理导致启动失败保留可能被改写的寄存器,对未知控制流使用回退路径Kitex 补齐两档速率的 16 个 LLVM 测试配置,计入 std 对照共完成 1,296 万个请求

PGO 工具链

项目问题修复公开负载结果
LBR 录制解析独立的指令地址与分支栈记录可能被误认成调用帧正确识别两种输入格式,空样本时直接报错Go 标准库的 14 组录制通过覆盖检查,两种输入生成的 profile 逐字节一致
ABI0 采样归属汇编函数和 Go 包装函数共享 DWARF 名称用 ELF 地址区间恢复 ABI0 名称,统一函数和调用边的归属math/big、crypto/sha256 和 hash/crc32 等七组标准库用例的两种 LTO 配置均通过建档和计时
样本覆盖已由 Go 后端编译的函数样本压低 LLVM 覆盖率仅从分母剔除明确归属 Go 后端的样本Sonic 的原始覆盖率为 26.28%,按调整后的分母为 100%,启用排除名单的 ThinLTO + PGO 构建通过

编译时间

项目问题修复公开负载结果
参数槽分析在深层分支合流图中反复回溯参数来源改为按参数寄存器做前向数据流分析gcload 与 kube-apiserver 的候选和对照产物逐字节一致

编译/链接内存与 LTO/ThinLTO 规模

项目问题修复公开负载结果
ThinLTO大型 bitcode 的全局合并耗时、占内存用摘要索引规划导入,按模块执行后端kube-apiserver 的两次冷构建均通过版本检查。串行全量 LTO 为 82.95 分钟和 24.75 GiB,8 路 ThinLTO 为 7.15 分钟和 5.44 GiB。RSS 为采样进程树峰值
导入预算固定预算可能漏掉 JSON 热路径所需的函数体提高默认导入预算并校验样本导向的候选go1/CodeMarshal 耗时与全量 LTO 相差在 3% 以内。预算从 2,000 提至 8,000 时,kube-apiserver 冷构建耗时增加 0.23%,采样峰值 RSS 增加 1.30%
后端缓存临时路径和提取顺序使相同输入失去缓存复用稳定模块标识、缓存键和顺序,原子写入缓存对象kube-apiserver 重链复用全部 1,821 个后端缓存对象,成品与对照逐字节一致
后端内存调度仅限制任务数无法约束并行后端的内存压力按模块内存估算调度,超预算的后端串行重试kube-apiserver 在 6 GiB 后端预算下采样进程树峰值为 5.60 GiB,三个后端串行重试成功
机器函数释放试验机器函数的临时数据保留过久在发射后提前释放临时状态cmd/go 的 llc 回放峰值约 1.60 GiB,释放前后基本持平
Go PC 表编码固定差值的中间对象保留到发射末尾提前编码已知的 PC 差值cmd/go 全量 LTO 和 kube-apiserver 单 ThinLTO 后端的 llc 回放峰值 RSS 分别下降 22.0% 和 25.9%,对象逐字节一致
链接器对象内存链接器同时保留全部后端对象和回填索引按需读取对象节,回填完成后释放模块表cmd/go 的 231 模块缓存重链峰值 RSS 下降 9.5%,产物逐字节一致

链接

项目问题修复公开负载结果
按包选择 LTO选定包的冷构建受参数传递和并行不稳定影响修正参数转发并限制冷构建并行选包配置下 cmd/go 构建和版本检查通过
确定性同一输入的对象输出受处理顺序影响按指令与发现顺序生成元数据kube-apiserver 两次独立冷后端重链的 1,821 个对象和最终 ELF 逐字节一致
Go 分栈类别内联后叶子化导致 LLVM 函数体与 Go 符号的分栈类别不一致保留 Go 汇编确定的栈检查和元数据槽位ThinLTO 因 LLVM nosplit 与 Go split 不符而拒绝回填的次数,cmd/go 从 372 降至 0,kube-apiserver 从 9,689 降至 0

黑名单与可行性覆盖

项目问题修复公开负载结果
转换与存活标记指针转换、KeepAlive 和 VarLive 触发后端回退补齐转换保护、存活标记和重定位cmd/go 的 LLVM 选择率从 79.52% 提高到 92.69%
defer 与 init开放编码 defer 和合成 init 触发回退补齐恢复路径和帧槽信息,放行符合条件的 init独立 cmd/go 对照新增 601 个 defer 类和 272 个 init 类 LLVM 函数
intrinsic 与 ABI部分 map、数学和 ABI 操作缺少后端支持补齐指令选择和调用约定cmd/go 新增 74 个由 LLVM 编译的函数,Go 标准库的 map 和数学定向测试通过
尾调用部分 ABIInternal 尾调用无法保持 Go 栈约定将可用尾调用降为符合 Go ABI 的尾跳cmd/go 的 LLVM 选择率从 97.35% 提高到 99.76%,消除 679 个尾调用回退

运行时性能与代码生成

项目问题修复公开负载结果
参数溢出槽被调方重复分配调用方已预留的参数槽证明参数值不变时复用已有槽位gcload 的 main.handle 栈帧从 152 B 降至 136 B,集成版本的每周期栈扫描量下降 5.51%
栈对象记录局部栈对象重复登记在精确状态点图和栈对象表中省去由精确状态点图完整覆盖的冗余记录gcload 的栈对象数从 558 降至 553,吞吐和每周期栈扫描量的变化未达显著
GC 热函数对照内联改变 scanobject 的独占采样归属同时比较含子调用的计数和每次分配的开销gcload 在诊断排除配置下,总 cycles/allocation 下降 2.90%

基准方法与有效性

项目问题修复公开负载结果
布局稳健计时函数排列影响小幅吞吐差异对多种布局做配对和交错测量,并引入独立 std 布局对照gcload 两种源码形态的 std 对照区间全宽分别为 1.102 和 1.186 个百分点
Go PGO 与布局原生 Go PGO 可能覆盖显式符号顺序将排序信息与 CPU profile 一同传入,按地址核对Go 标准库复测的各配置均通过布局检查
固定工作量审计编译优化消除了部分变长整数编码工作核对反汇编中的编码写入,修正输入与结果消费后重测Go 标准库 PutUvarint64 修复版保留实际写入,结果单独报告
回归门禁多类构建和运行验证分散统一比较编译回归、GC、抢占和元数据gcload 严格 GC、preempt 压测及 kube-apiserver 版本检查均纳入回归

整体效果

进行中与已知未解决