Rust基准优化了

时间:2017-06-02 22:33:49

标签: hashmap rust benchmarking

我正在尝试从Rust哈希映射中获取密钥。我有以下基准:

#[bench]
fn rust_get(b: &mut Bencher) {
    let (hash, keys) =
        get_random_hash::<HashMap<String, usize>>(&HashMap::with_capacity, &rust_insert_fn);
    let mut keys = test::black_box(keys);
    b.iter(|| {
        for k in keys.drain(..) {
            hash.get(&k);
        }
    });
}

其中get_random_hash定义为:

fn get_random_hash<T>(
    new: &Fn(usize) -> T,
    insert: &Fn(&mut T, String, usize) -> (),
) -> (T, Vec<String>) {
    let mut keys = Vec::with_capacity(HASH_SIZE);
    let mut hash = new(HASH_CAPACITY);
    for i in 0..HASH_SIZE {
        let k: String = format!("{}", Uuid::new_v4());
        keys.push(k.clone());
        insert(&mut hash, k, i);
    }
    return (hash, keys);
}

rust_insert_fn是:

fn rust_insert_fn(map: &mut HashMap<String, usize>, key: String, value: usize) {
    map.insert(key, value);
}

但是,当我运行基准测试时,它显然已经过优化:

test benchmarks::benchmarks::rust_get        ... bench:           1 ns/iter (+/- 0)

我认为test::black_box would solve the problem but it doesn't look like it does. I have even tried wrapping the hash.get(&amp; k ) in the for loop with test :: black_box`但仍然优化了代码。如何在不优化的情况下正确运行代码?

编辑 - 即使以下操作也会优化get操作:

#[bench]
fn rust_get(b: &mut Bencher) {
  let (hash, keys) = get_random_hash::<HashMap<String, usize>>(&HashMap::with_capacity, &rust_insert_fn);
  let mut keys = test::black_box(keys);
  b.iter(|| {
    let mut n = 0;
    for k in keys.drain(..) {
      hash.get(&k);
      n += 1;
    };
    return n;
  });
}

有趣的是,以下基准工作:

#[bench]
fn rust_get_random(b: &mut Bencher) {
  let (hash, _) = get_random_hash::<HashMap<String, usize>>(&HashMap::with_capacity, &rust_insert_fn);
  b.iter(|| {
    for _ in 0..HASH_SIZE {
      hash.get(&format!("{}", Uuid::new_v4()));
    }
  });
}

#[bench]
fn rust_insert(b: &mut Bencher) {
  b.iter(|| {
    let mut hash = HashMap::with_capacity(HASH_CAPACITY);
    for i in 0..HASH_SIZE {
      let k: String = format!("{}", Uuid::new_v4());
      hash.insert(k, i);
    }
  });
}

但这也不是:

#[bench]
fn rust_del(b: &mut Bencher) {
  let (mut hash, keys) = get_random_hash::<HashMap<String, usize>>(&HashMap::with_capacity, &rust_insert_fn);
  let mut keys = test::black_box(keys);
  b.iter(|| {
    for k in keys.drain(..) {
      hash.remove(&k);
    };
  });
}

Here是完整的要点。

1 个答案:

答案 0 :(得分:6)

  

编译器优化器如何工作?

优化器只不过是analyses and transformations的管道。每个单独的分析或转换都相对简单,应用它们的最佳顺序是未知的,通常由启发式确定。

  

这对我的基准测试有何影响?

基准测试很复杂,因为一般来说,您希望测量优化代码,但同时一些分析或转换可能会删除您感兴趣的代码,使得基准测试无用。

因此,熟悉您正在使用的特定优化器的分析和转换过程,以便能够理解:

  • 哪些是不受欢迎的,
  • 如何贴膜。

如上所述,大多数通行证相对简单,因此挫败它们也相对简单。困难在于它们中有一百个或更多,你必须知道哪一个正在踢它以便能够阻止它。

  

与我发生冲突的优化是什么?

有一些特定的优化常常通过基准测试来发挥作用:

  

什么?优化器怎么敢破坏我的代码呢?

优化器在所谓的 as-if 规则下运行。此基本规则允许优化器执行任何更改程序输出的转换。也就是说,它通常不应该改变程序的可观察行为

最重要的是,通常会明确允许一些更改。最明显的是运行时间预计会缩小,这反过来意味着线程交错可能会有所不同,而且某些语言会提供更多的摆动空间。

  

我使用了black_box

什么是black_box?它是一个函数,其定义特别是 opaque 到优化器。这对允许编译器执行的优化有一些影响,因为它可能有副作用。因此,这意味着:

  • 转换后的代码必须执行与原始代码相同的black_box调用次数
  • 转换后的代码必须按照传入的参数
  • 以相同的顺序执行所述调用
  • 不能对black_box返回的值做出任何假设。

因此,black_box的外科手术可以阻止某些优化。然而,盲目使用可能无法阻止正确的使用。

  

与我发生冲突的优化是什么?

让我们从天真的代码开始:

#[bench]
fn rust_get(b: &mut Bencher) {
    let (hash, mut keys): (HashMap<String, usize>, _) =
        get_random_hash(&HashMap::with_capacity, &rust_insert_fn);

    b.iter(|| {
        for k in keys.drain(..) {
            hash.get(&k);
        }
    });
}

假设b.iter()内的循环将迭代所有键并为每个键执行hash.get()

  1. hash.get()的结果未使用,
  2. hash.get()是一个函数,这意味着它没有副作用。
  3. 因此,这个循环可以改写为:

    b.iter(|| { for k in keys.drain(..) {} })
    

    我们正在违反死代码消除(或某些变体):代码没有用处,因此它被删除了。

    甚至可能是编译器足够智能,可以意识到for k in keys.drain(..) {}可以优化为drop(keys)

    black_box的外科手术应用可以阻止DCE:

    b.iter(|| {
        for k in keys.drain(..) {
            black_box(hash.get(&k));
        }
    });
    

    根据上述black_box的影响:

    • 循环无法再进行优化,因为它会将调用次数更改为black_box
    • 必须使用预期参数执行对black_box的每次调用。

    仍有一个可能的障碍:常规传播。特别是如果编译器意识到所有键都产生相同的值,它可以优化hash.get(&k)并用所述值替换它。

    这可以通过混淆密钥来实现:let mut keys = black_box(keys);,如上所述,或地图。如果你要对空白地图进行基准测试,那么后者是必要的,在这里他们是平等的。

    我们得到:

    #[bench]
    fn rust_get(b: &mut Bencher) {
        let (hash, keys): (HashMap<String, usize>, _) =
            get_random_hash(&HashMap::with_capacity, &rust_insert_fn);
        let mut keys = test::black_box(keys);
    
        b.iter(|| {
            for k in keys.drain(..) {
                test::black_box(hash.get(&k));
            }
        });
    }
    
      

    最后一个提示。

    基准测试很复杂,你应该格外小心,只能对你想要的基准进行基准测试。

    在这种特殊情况下,有两种方法调用:

    • keys.drain()
    • hash.get()

    由于基准名称向我表明,您的目标是衡量get的效果,我只能假设调用keys.drain(..)是错误的。

    因此,基准应该是:

    #[bench]
    fn rust_get(b: &mut Bencher) {
        let (hash, keys): (HashMap<String, usize>, _) =
            get_random_hash(&HashMap::with_capacity, &rust_insert_fn);
        let keys = test::black_box(keys);
    
        b.iter(|| {
            for k in &keys {
                test::black_box(hash.get(k));
            }
        });
    }
    

    在这种情况下,这更为关键,因为传递给b.iter()的闭包预计会多次运行:如果你第一次排空键,那么之后会留下什么?空Vec ...

    ......这实际上可能就是这里发生的一切;因为b.iter()运行闭包直到它的时间稳定,它可能只是在第一次运行中耗尽Vec然后计算一个空循环。