Question

我使用Criterion库为我的Haskell函数编写基准。现在我在C中实现相同的算法来比较Haskell的性能。问题是如何可靠地做到这一点？ Criterion做了很多花哨的事情，例如计算时钟调用开销和对结果进行统计分析。我想如果我只是测量我的C函数所需的时间，它将无法与Criterion返回的结果进行比较。在他的original post about Criterion Bryan O'Sullivan写道：“使用标准对C代码和命令行程序进行基准测试应该很容易。”问题是如何？ Takayuki Muranushi compares C implementation of DFT与Haskell一起生成线程并调用可执行文件，但我担心这会增加很多额外的开销（创建新线程，运行应用程序，输出到stdio然后从中读取），这使得结果无法比拟。我也考虑使用FFI，但我再次担心额外的开销会使这种比较不公平。

如果无法使用Criterion可靠地对C进行基准测试，那么您会推荐哪种C基准测试方法？我在这里阅读了一些关于SO的问题，似乎有许多不同的函数可以测量系统时间，但是它们要么提供毫秒级的时间，要么有很大的调用开销。

Answer 1

FFI可以这样使用，它不会增加很多开销。请考虑以下程序（完整代码可用here）：

foreign import ccall unsafe "mean" c_mean :: Ptr CInt -> CUInt -> IO CFloat

main :: IO ()
main = do
  buf <- mallocBytes (bufSize * sizeOfCInt)
  fillBuffer buf 0
  m <- c_mean buf (fromIntegral bufSize)
  print $ realToFrac m

C调用编译为以下Cmm：

s2ni_ret() { ... }
    c2qy:
        Hp = Hp + 12;
        if (Hp > I32[BaseReg + 92]) goto c2qC;
        _c2qD::I32 = I32[Sp + 4];
        (_s2m3::F32,) = foreign "ccall"
          mean((_c2qD::I32, PtrHint), (100,));

这是集会：

s2ni_info:
.Lc2qy:
        addl $12,%edi
        cmpl 92(%ebx),%edi
        ja .Lc2qC
        movl 4(%ebp),%eax
        subl $4,%esp
        pushl $100
        pushl %eax
        ffree %st(0) ;ffree %st(1) ;ffree %st(2) ;ffree %st(3)
        ffree %st(4) ;ffree %st(5)
        call mean

因此，如果您将C导入标记为unsafe并在测量之前进行所有编组操作，那么您的C调用基本上只是内联call指令 - 就像您在进行所有基准测试一样C.以下是Criterion在对没有任何功能的C函数进行基准测试时所报告的内容：

benchmarking c_nothing
mean: 13.99036 ns, lb 13.65144 ns, ub 14.62640 ns, ci 0.950
std dev: 2.306218 ns, lb 1.406215 ns, ub 3.541156 ns, ci 0.950
found 10 outliers among 100 samples (10.0%)
  9 (9.0%) high severe
variance introduced by outliers: 91.513%
variance is severely inflated by outliers

这比我机器上的估计时钟分辨率（约5.5 us）小约400倍。为了比较，这里是计算100个整数的算术平均值的函数的基准数据：

benchmarking c_mean
mean: 184.1270 ns, lb 183.5749 ns, ub 185.0947 ns, ci 0.950
std dev: 3.651747 ns, lb 2.430552 ns, ub 5.885120 ns, ci 0.950
found 6 outliers among 100 samples (6.0%)
  5 (5.0%) high severe
variance introduced by outliers: 12.329%
variance is moderately inflated by outliers

如何可靠地比较Haskell和C的运行时？

1 个答案: