TL; DR

Question

我目前正在学习数据结构课程，正如您所料，我们要做的一件事就是编写一些常见的排序。在编写我的插入排序算法时，我发现它的运行速度明显快于我的教师的速度（对于400000个数据点，我的算法需要大约30秒，而他的大约需要90秒）。我通过电子邮件向他发送了我的代码，当他们在同一台机器上运行时，会发生相同的结果。我们设法浪费了40多分钟，慢慢地将他的排序方法改为我的，直到它完全相同，一字不差，除了一个看似随意的事情。首先，这是我的插入排序代码：

public static int[] insertionSort(int[] A){

    //Check for illegal cases
    if (A == null || A.length == 0){

        throw new IllegalArgumentException("A is not populated");

    }

    for(int i = 0; i < A.length; i++){

        int j = i;

        while(j > 0 && A[j - 1] > A[j]){

            int temp = A[j];
            A[j] = A[j - 1];
            A[j - 1] = temp;

            j--;

        }

    }

    return A;

}

现在，除了我们交换A[j]和A[j - 1]的行之外，他的代码与我的代码完全相同。他的代码执行了以下操作：

int temp = A[j - 1];
A[j - 1] = A[j];
A[j] = temp;

我们发现这3行是罪魁祸首。因此，我的代码运行速度明显加快。感到困惑，我们运行javap -c来获取一个简单程序的字节代码，该程序只有main，其中包含数组声明，int j的变量声明和交换代码的3行代码正如我写作和写作时一样。这是我的交换方法的字节代码：

    Compiled from "me.java"
public class me {
  public me();
    Code:
       0: aload_0
       1: invokespecial #1                  // Method java/lang/Object."<init>":()V
       4: return

  public static void main(java.lang.String[]);
    Code:
       0: sipush        10000
       3: newarray       int
       5: astore_1
       6: bipush        10
       8: istore_2
       9: aload_1
      10: iload_2
      11: iaload
      12: istore_3
      13: aload_1
      14: iload_2
      15: aload_1
      16: iload_2
      17: iconst_1
      18: isub
      19: iaload
      20: iastore
      21: aload_1
      22: iload_2
      23: iconst_1
      24: isub
      25: iload_3
      26: iastore
      27: return
}

我的讲师方法的字节码：

    Compiled from "instructor.java"
public class instructor {
  public instructor();
    Code:
       0: aload_0
       1: invokespecial #1                  // Method java/lang/Object."<init>":()V
       4: return

  public static void main(java.lang.String[]);
    Code:
       0: sipush        10000
       3: newarray       int
       5: astore_1
       6: bipush        10
       8: istore_2
       9: aload_1
      10: iload_2
      11: iconst_1
      12: isub
      13: iaload
      14: istore_3
      15: aload_1
      16: iload_2
      17: iconst_1
      18: isub
      19: aload_1
      20: iload_2
      21: iaload
      22: iastore
      23: aload_1
      24: iload_2
      25: iload_3
      26: iastore
      27: return
}

我认为这些字节代码之间没有任何实际区别。可能导致这种奇怪行为的原因（我的代码仍然比他的代码运行速度快〜3倍，而且当我们为更大的算法提供算法时，这种差异变得更加激烈）？这只是一个奇怪的Java怪癖。此外，这是否会在您的计算机上发生？作为参考，这是在2014年中期的MacBook Pro上运行的，我的代码与此处显示的完全相同，并且他的代码被推断为与此处显示的代码完全相同，除了那些3行。

[编辑] 以下是我的测试类：

public class Tester1 {

    public static void main(String[] args){

        int[] A = new int[400000];

        for(int i = 0; i < A.length; i++){

            A[i] = (int) (Math.random() * Integer.MAX_VALUE);

        }

        double start = System.currentTimeMillis();
        insertionSort(A);
        System.out.println("My insertion sort took " + (System.currentTimeMillis() - start) + " milliseconds.");


    }

    public static int[] insertionSort(int[] A){

        //Check for illegal cases
        if (A == null || A.length == 0){

            throw new IllegalArgumentException("A is not populated");

        }

        for(int i = 0; i < A.length; i++){

            int j = i;

            while(j > 0 && A[j - 1] > A[j]){

                int temp = A[j];
                A[j] = A[j - 1];
                A[j - 1] = temp;

                j--;

            }

        }

        return A;

    }

}

第二个文件：

public class Tester2 {

    public static void main(String[] args){

        int[] A = new int[400000];

        for(int i = 0; i < A.length; i++){

            A[i] = (int) (Math.random() * Integer.MAX_VALUE);

        }

        double start = System.currentTimeMillis();
        otherInsertion(A);
        System.out.println("Other insertion sort took " + (System.currentTimeMillis() - start) + " milliseconds.");


    }


    public static int[] otherInsertion(int[] A){

        //Check for illegal cases
        if (A == null || A.length == 0){

            throw new IllegalArgumentException("A is not populated");

        }

        for(int i = 0; i < A.length; i++){

            int j = i;

            while(j > 0 && A[j - 1] > A[j]){

                int temp = A[j - 1];
                A[j - 1] = A[j];
                A[j] = temp;

                j--;

            }

        }

        return A;

    }

}

输出（没有参数，只有java Tester1和java Tester2）：

My insertion sort took 37680.0 milliseconds.
Other insertion sort took 86358.0 milliseconds.

这些文件在2个不同的JVM中作为2个单独的文件运行。

Answer 1

这是循环展开优化的效果以及常用子表达式消除。根据数组访问指令的顺序，JIT可以在一种情况下消除冗余负载，但在另一种情况下不能消除冗余负载。

让我详细解释一下。在这两种情况下，JIT都会展开内循环的4次迭代。

E.g。对于你的情况：

    while (j > 3) {
        if (A[j - 1] > A[j]) {
            int temp = A[j];
            A[j] = A[j - 1];
            A[j - 1] = temp;         \
        }                             A[j - 1] loaded immediately after store
        if (A[j - 2] > A[j - 1]) {   /
            int temp = A[j - 1];
            A[j - 1] = A[j - 2];
            A[j - 2] = temp;         \
        }                             A[j - 2] loaded immediately after store
        if (A[j - 3] > A[j - 2]) {   /
            int temp = A[j - 2];
            A[j - 2] = A[j - 3];
            A[j - 3] = temp;         \
        }                             A[j - 3] loaded immediately after store
        if (A[j - 4] > A[j - 3]) {   /
            int temp = A[j - 3];
            A[j - 3] = A[j - 4];
            A[j - 4] = temp;
        }
        j -= 4;
    }

然后JIT消除了冗余阵列加载，生成的程序集看起来像

0x0000000002d53a70: movslq %r11d,%r10
0x0000000002d53a73: lea    0x0(%rbp,%r10,4),%r10
0x0000000002d53a78: mov    0x10(%r10),%ebx    ; ebx = A[j]
0x0000000002d53a7c: mov    0xc(%r10),%r9d     ; r9d = A[j - 1]

0x0000000002d53a80: cmp    %ebx,%r9d          ; if (r9d > ebx) {
0x0000000002d53a83: jle    0x0000000002d539f3 
0x0000000002d53a89: mov    %r9d,0x10(%r10)    ;     A[j] = r9d
0x0000000002d53a8d: mov    %ebx,0xc(%r10)     ;     A[j - 1] = ebx
                                              ; }
0x0000000002d53a91: mov    0x8(%r10),%r9d     ; r9d = A[j - 2]

0x0000000002d53a95: cmp    %ebx,%r9d          ; if (r9d > ebx) {  
0x0000000002d53a98: jle    0x0000000002d539f3                     
0x0000000002d53a9e: mov    %r9d,0xc(%r10)     ;     A[j - 1] = r9d    
0x0000000002d53aa2: mov    %ebx,0x8(%r10)     ;     A[j - 2] = ebx
                                              ; }             
0x0000000002d53aa6: mov    0x4(%r10),%r9d     ; r9d = A[j - 3]    

0x0000000002d53aaa: cmp    %ebx,%r9d          ; if (r9d > ebx) {  
0x0000000002d53aad: jle    0x0000000002d539f3                     
0x0000000002d53ab3: mov    %r9d,0x8(%r10)     ;     A[j - 2] = r9d
0x0000000002d53ab7: mov    %ebx,0x4(%r10)     ;     A[j - 3] = ebx
                                              ; }                 
0x0000000002d53abb: mov    (%r10),%r8d        ; r8d = A[j - 4]

0x0000000002d53abe: cmp    %ebx,%r8d          ; if (r8d > ebx) {
0x0000000002d53ac1: jle    0x0000000002d539f3  
0x0000000002d53ac7: mov    %r8d,0x4(%r10)     ;     A[j - 3] = r8
0x0000000002d53acb: mov    %ebx,(%r10)        ;     A[j - 4] = ebx
                                              ; }
0x0000000002d53ace: add    $0xfffffffc,%r11d  ; j -= 4
0x0000000002d53ad2: cmp    $0x3,%r11d         ; while (j > 3)
0x0000000002d53ad6: jg     0x0000000002d53a70

循环展开后，教师的代码会有所不同：

    while (j > 3) {
        if (A[j - 1] > A[j]) {
            int temp = A[j - 1];
            A[j - 1] = A[j];
            A[j] = temp;         <-- another store instruction between A[j - 1] access
        }
        if (A[j - 2] > A[j - 1]) {
            int temp = A[j - 2];
            A[j - 2] = A[j - 1];
            A[j - 1] = temp;
        }
        ...

JVM不会消除A[j - 1]的后续加载，因为在前一次加载A[j - 1]之后还有另一个存储指令（尽管在这种特殊情况下，这种优化在理论上是可行的）。

因此，汇编代码将有更多的加载指令，性能会更差：

0x0000000002b53a00: cmp    %r8d,%r10d          ; if (r10d > r8d) {
0x0000000002b53a03: jle    0x0000000002b53973
0x0000000002b53a09: mov    %r8d,0xc(%rbx)      ;     A[j - 1] = r8d
0x0000000002b53a0d: mov    %r10d,0x10(%rbx)    ;     A[j] = r10d
                                               ; }
0x0000000002b53a11: mov    0xc(%rbx),%r10d     ; r10d = A[j - 1]
0x0000000002b53a15: mov    0x8(%rbx),%r9d      ; r9d = A[j - 2]

0x0000000002b53a19: cmp    %r10d,%r9d          ; if (r9d > r10d) {
0x0000000002b53a1c: jle    0x0000000002b53973
0x0000000002b53a22: mov    %r10d,0x8(%rbx)     ;     A[j - 2] = r10d
0x0000000002b53a26: mov    %r9d,0xc(%rbx)      ;     A[j - 1] = r9d    
                                               ; }
0x0000000002b53a2a: mov    0x8(%rbx),%r8d      ; r8d = A[j - 2]
0x0000000002b53a2e: mov    0x4(%rbx),%r10d     ; r10d = A[j - 3]

请注意，如果您在禁用循环展开优化（-XX:LoopUnrollLimit=0）的情况下运行JVM，则两种情况的性能都是相同的。

P.S。两种方法的完全反汇编here，使用
获得 -XX:CompileOnly=Test -XX:+UnlockDiagnosticVMOptions -XX:+PrintAssembly

Answer 2

您不会在Java字节码中看到任何内容来解释。这样的事情可能是机器指令（由即时JIT编译器创建）或甚至微处理器（特别是其中一个处理器缓存的影响）的影响。

这里需要注意的一点是，在这种排序算法中，对于循环的每次迭代，由于在最后一次迭代中加载了A [j-1]，因此只需要加载A [j]。所以最近加载的值是A [j]（假设我刚才所说的事实在某种程度上被利用了）。因此，在循环中，首先存储A [j]的算法可能表现不同，因为这些值最近由循环检查加载，因此该值更可能保留在寄存器或处理器缓存中，或者是主题由于JIT生成的机器代码中的优化而导致单个内存负载。

确实（如上面的答案所示）很难确切地知道正在执行什么系列的机器指令（JIT有几个不同的编译级别，每个级别都有不同的优化，基于方法的频率执行，并且有许多不同的JIT优化可能会相互作用，导致不同的机器代码）。还很难知道哪些存储器访问必须进入RAM，哪些存储器高速缓存命中率可以避免。毫无疑问，上述效果的某些组合正在影响这里的表现。算法的顺序对性能影响最大，但除此之外，JIT和微处理器中有许多可以影响性能的优化，而不是所有这些优化都可以预测。

我的直觉是，这是处理器的内存缓存更好地处理您的操作序列的结果，部分原因是每次循环迭代只需要加载A [j]。 / p>

Answer 3

TL; DR

您的实验无效，有许多变量可能会影响结果。最好使用Caliper或JMH等微基准测试工具。我使用这样的工具来检查which method is faster to create indentation

你和你教授之间的差异可以忽略不计。

实验

对于我的实验，我有745,038个数据点。我创建了3个测试，你的，教师的版本以及JDK的Arrays.sort()。

https://microbenchmarks.appspot.com/runs/8b8c0554-d3f1-4339-af5a-fdffd18dd053

根据结果，运行时为： 1,419,867.808 ns 您的导师是： 1,429,798.824 ns

所以我们谈论的是0.01毫秒。

教练之间的差异较小。

JDK Arrays.sort（）在 1,779,042.513 ns 时的幅度较大，比你的慢0.300ms。

以下是我在Caliper中用于执行微基准测试的代码。

package net.trajano.caliper.test;

import java.io.DataInputStream;
import java.io.EOFException;
import java.io.IOException;
import java.nio.file.Files;
import java.nio.file.Paths;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.List;

import com.google.caliper.BeforeExperiment;
import com.google.caliper.Benchmark;
import com.google.caliper.api.VmOptions;
import com.google.caliper.runner.CaliperMain;

@VmOptions("-XX:-TieredCompilation")
public class SortBenchmark {

    public static int[] insertionSort(final int[] A) {

        // Check for illegal cases
        if (A == null || A.length == 0) {

            throw new IllegalArgumentException("A is not populated");

        }

        for (int i = 0; i < A.length; i++) {

            int j = i;

            while (j > 0 && A[j - 1] > A[j]) {

                final int temp = A[j - 1];
                A[j - 1] = A[j];
                A[j] = temp;

                j--;

            }

        }

        return A;

    }

    public static int[] insertionSortInstructor(final int[] A) {

        // Check for illegal cases
        if (A == null || A.length == 0) {

            throw new IllegalArgumentException("A is not populated");

        }

        for (int i = 0; i < A.length; i++) {

            int j = i;

            while (j > 0 && A[j - 1] > A[j]) {

                final int temp = A[j];
                A[j] = A[j - 1];
                A[j - 1] = temp;

                j--;

            }

        }

        return A;

    }

    @BeforeExperiment
    void setUp() throws IOException {
        try (final DataInputStream dis = new DataInputStream(
                Files.newInputStream(Paths.get("C:/Program Files/iTunes/iTunes.exe")))) {
            final List<Integer> list = new ArrayList<Integer>();
            while (true) {
                try {
                    list.add(dis.readInt());
                } catch (final EOFException e) {
                    break;
                }
            }

            data = list.stream().mapToInt(i -> i).toArray();
            System.out.println("Data size = " + data.length);
        }
    }

    // data to sort
    private static int[] data;

    @Benchmark
    public void insertionSort(final int reps) {
        for (int i = 0; i < reps; i++) {
            insertionSort(data);
        }
    }

    @Benchmark
    public void insertionSortInstructor(final int reps) {
        for (int i = 0; i < reps; i++) {
            insertionSortInstructor(data);
        }
    }

    @Benchmark
    public void jdkSort(final int reps) {
        for (int i = 0; i < reps; i++) {
            Arrays.sort(data);
        }
    }

    public static void main(final String[] args) {
        CaliperMain.main(SortBenchmark.class, args);
    }
}

除了

老实说，我对结果感到惊讶，JDK速度较慢。所以我看了the source code。 JDK根据阈值使用了三种排序算法（合并排序，少于286个元素的快速排序和少于47个元素的插入排序）。

由于我开始使用的数据集非常大，因此合并排序首先以数组的第二个副本的形式具有O（n）空间复杂度。因此，可能会有额外的堆分配导致额外的时间。

排序时非常奇怪的效率怪癖

3 个答案:

TL; DR

实验

除了