Java 8流的确定性

时间:2017-08-25 06:56:30

标签: java java-8 java-stream deterministic

动机

我刚刚重写了大约30个琐碎的解析器,我需要新版本的行为与旧版本完全相同。因此,我存储了他们的示例输入文件和旧解析器生成的输出的一些签名,以便与新的解析器进行比较。此签名包含成功解析的项目的计数,一些哈希码的总和以及最多10个伪随机选择的项目。

我认为这是一个好主意,因为哈希码的相等性可以保证输出完全相同,样本可以让我看到错误。我只使用样本,否则会变得非常大。

问题

基本上,给定一个无序的字符串集合,我想得到一个最多10个字符串的列表,这样当集合稍微改变时,我仍然在相同的位置得到大部分相同的样本(输入是无序的) ,但输出是一个列表)。当缺少某些东西时,这也应该有效,所以像第100个最小的元素这样的想法不起作用。

ImmutableList<String> selectSome(Collection<String> list) {
        if (list.isEmpty()) return ImmutableList.of();
        return IntStream.range(1, 20)
            .mapToObj(seed -> selectOne(list, seed))
            .distinct()
            .limit(10)
            .collect(ImmutableList.toImmutableList());
    }

所以我从1到20的数字开始(所以在distinct后我仍然很可能有10个样本),调用无状态确定性函数selectOne(定义如下)返回一个字符串,这是根据一些有趣的标准最大化,删除重复,限制结果并使用番石榴收集它。所有步骤都应该是恕我直言确定性和&#34;有序&#34;,但我可能会忽视某些事情。另一种可能性是我的所有30个新解析器都是错误的,但考虑到散列是正确的,这是不可能的。而且,解析的结果看起来是正确的。

String selectOne(Collection<String> list, int seed) {
    // some boring mixing, definitely deterministic
    for (int i=0; i<10; ++i) {
        seed *= 123456789;
        seed = Integer.rotateLeft(seed, 16);
    }
    // ensure seed is odd
    seed = 2*seed + 1;

    // first element is the candidate result
    String result = list.iterator().next();
    // the value is the hash code multiplied by the seed
    // overflow is fine
    int value = seed * result.hashCode();

    // looking for s maximizing seed * s.hashCode()
    for (final String s : list) {
        final int v = seed * s.hashCode();
        if (v < value) continue;
        // tiebreaking by taking the bigger or smaller s
        // this is needed for determinism
        if (s.compareTo(result) * seed < 0) continue;
        result = s;
        value = v;
    }
    return result;
}

这个抽样似乎不起作用。我得到一个类似

的序列
"9224000", "9225000", "4165000", "9200000", "7923000", "8806000", ...

使用一个旧的解析器和

"9224000", "9225000", "4165000", "3030000", "1731000", "8806000", ...

用新的。两种结果都是完全可重复的。对于其他解析器,它看起来非常相似。

我对溪流的使用是否错误?我是否必须添加.sequential()或类似的内容?

更新

对输入集合进行排序解决了问题:

ImmutableList<String> selectSome(Collection<String> collection) {
    final List<String> list = Lists.newArrayList(collection);
    Collections.sort(list);
    .... as before
}

还缺少什么是解释原因。

解释

正如答案所述,我的决胜局是一个全能的因为我错过了检查领带。像

这样的东西
if (v==value && s.compareTo(result) < 0) continue;

工作正常。

我希望我困惑的问题对于那些寻找&#34;一致采样&#34; 的人来说至少是有用的。它与Java 8无关。

我应该使用Guava ComparisonChain或更好Java 8 arg max来避免我的愚蠢错误:

String selectOne(Collection<String> list, int seed) {
    .... as before
    final int multiplier = 2*seed + 1;
    return list.stream()
          .max(Comparator.comparingInt(s -> multiplier * s.hashCode())
          .thenComparing(s -> s)) // <--- FOOL-PROOF TIEBREAKER
          .get();
}

2 个答案:

答案 0 :(得分:12)

错误在于你的决胜局实际上没有打破平局。我们应该在s时选择v > value,但我们会重新回到compareTo()。这打破了比较对称性,使您的算法依赖于遭遇顺序。

作为奖励,这是一个重现错误的简单测试用例:

System.out.println(selectOne(Arrays.asList("1", "2"), 4));  // 1
System.out.println(selectOne(Arrays.asList("2", "1"), 4));  // 2

答案 1 :(得分:7)

selectOne中,您只想为String s选择value = seed * s.hashCode();,其最高等级为seed

问题在于“抢劫”线:   if (s.compareTo(result) * seed < 0) continue;

它不是确定性的 - 对于不同的元素顺序,它忽略了不同的元素而不被检查,因此元素顺序的改变正在改变结果。

删除tiebreaking if,结果将对输入列表中元素的顺序不敏感。