《Born》第5章：CPU 后端——纯 Go 的高性能计算

Born 的 CPU 后端是一个值得仔细拆解的工程案例：在没有 BLAS、没有 MKL、没有 OpenMP 的情况下，用纯 Go 实现接近 OpenBLAS 性能的张量运算。

---

AVX2 SIMD 微内核

Go 1.26 的 GOEXPERIMENT=simd 允许在汇编中使用 SIMD 指令。Born 的 CPU 后端实现了 AVX2 微内核：

// 概念伪代码（基于 Go 1.26 SIMD 实验）
// 一次处理 8 个 float32（256 位 AVX2）
func avx2Add(a, b, result []float32) {
    for i := 0; i < len(a); i += 8 {
        va := vmovups(a[i:])      // 加载 8 个 float32
        vb := vmovups(b[i:])
        vr := vaddps(va, vb)       // 8 路并行加法
        vmovups(result[i:], vr)    // 存回
    }
}

实测加速比：8.5x（相对于标量实现）。

---

缓存分块（Cache Blocking）

矩阵乘法是张量运算的核心。Born 的 CPU 后端采用三级分块策略：

for ii := 0; ii < M; ii += Mc {
    for kk := 0; kk < K; kk += Kc {
        for jj := 0; jj < N; jj += Nc {
            // 微内核：在 L1 缓存内完成矩阵乘法
            microKernel(A[ii:ii+Mc, kk:kk+Kc], 
                       B[kk:kk+Kc, jj:jj+Nc],
                       C[ii:ii+Mc, jj:jj+Nc])
        }
    }
}

分块参数针对 CPU 缓存大小调优：

• Mc = 128（适配 L2 缓存）
• Kc = 256（适配 L3 缓存）
• Nc = 64（适配 L1 缓存）

Goroutine 并行

// 矩阵乘法并行化
func parallelMatMul(a, b Tensor, numWorkers int) Tensor {
    rows := a.Shape()[0]
    chunkSize := rows / numWorkers

    var wg sync.WaitGroup
    for w := 0; w < numWorkers; w++ {
        wg.Add(1)
        go func(workerId int) {
            defer wg.Done()
            start := workerId * chunkSize
            end := start + chunkSize
            // 每个 goroutine 处理一个行块
            matMulChunk(a[start:end], b, result[start:end])
        }(w)
    }
    wg.Wait()
    return result
}

runtime.GOMAXPROCS() 自动检测 CPU 核数。在 8 核机器上，goroutine 并行 + SIMD 的矩阵乘法接近 OpenBLAS 单线程性能的 90%。

---

内存池与对齐分配

Born 的 CPU 后端使用 BufferPool 管理张量内存：

pool := NewBufferPool()
buf := pool.Get(1024 * 4) // 获取 4KB 缓冲区
// ... 使用 ...
pool.Put(buf) // 归还，不释放

这避免了频繁的 GC 压力。对齐分配（32 字节对齐）确保 AVX2 指令不会因为未对齐访问而降速。

---

性能基准

---

📘 《Born》连载技术书，第 5/22 章。