Question

更多更新

正如所选答案中所解释的，问题出在JVM的垃圾收集算法中。 JVM使用卡片标记算法来跟踪对象字段中的已修改引用。对于字段的每个引用分配，它将卡中的相关位标记为真 - 这会导致错误共享，从而阻止缩放。详细信息在本文中有详细描述：https://blogs.oracle.com/dave/entry/false_sharing_induced_by_card

选项-XX：+ UseCondCardMark（在Java 1.7u40及更高版本中）可以缓解这个问题，并使其几乎完美地扩展。

更新

我发现（从Park Eung-ju暗示）将对象分配到一个字段变量会产生差异。如果删除作业，它会完美缩放。我认为它可能与Java内存模型有关 - 例如，对象引用必须在可见之前指向有效地址，但我不完全确定。 double和Object引用（可能）在64位机器上都有8个字节的大小，所以在我看来，在同步方面分配double值和Object引用应该是相同的。

任何人都有合理的解释吗？

这里我有一个奇怪的Java多线程可伸缩性问题。

我的代码只是迭代一个数组（使用访问者模式）来计算简单的浮点运算并将结果分配给另一个数组。没有数据依赖，也没有同步，所以它应该线性扩展（2个线程快2倍，4个线程快4倍）。

当使用原始（双）数组时，它可以很好地扩展。当使用对象类型（例如String）数组时，它根本不会缩放（即使根本不使用String数组的值...）

以下是完整的源代码：

import java.util.ArrayList;
import java.util.Arrays;
import java.util.concurrent.CyclicBarrier;

class Table1 {
    public static final int SIZE1=200000000;
    public static final boolean OBJ_PARAM;

    static {
        String type=System.getProperty("arg.type");
        if ("double".equalsIgnoreCase(type)) {
            System.out.println("Using primitive (double) type arg");
            OBJ_PARAM = false;
        } else {
            System.out.println("Using object type arg");
            OBJ_PARAM = true;
        }
    }

    byte[] filled;
    int[] ivals;
    String[] strs;

    Table1(int size) {
        filled = new byte[size];
        ivals = new int[size];
        strs = new String[size];

        Arrays.fill(filled, (byte)1);
        Arrays.fill(ivals, 42);
        Arrays.fill(strs, "Strs");
    }

    public boolean iterate_range(int from, int to, MyVisitor v) {
        for (int i=from; i<to; i++) {
            if (filled[i]==1) {
                // XXX: Here we are passing double or String argument
                if (OBJ_PARAM) v.visit_obj(i, strs[i]);
                else v.visit(i, ivals[i]);
            }
        }
        return true;
    }
}

class HeadTable {
    byte[] filled;
    double[] dvals;
    boolean isEmpty;

    HeadTable(int size) {
        filled = new byte[size];
        dvals = new double[size];
        Arrays.fill(filled, (byte)0);

        isEmpty = true;
    }

    public boolean contains(int i, double d) {
        if (filled[i]==0) return false;

        if (dvals[i]==d) return true;
        return false;
    }

    public boolean contains(int i) {
        if (filled[i]==0) return false;

        return true;
    }
    public double groupby(int i) {
        assert filled[i]==1;
        return dvals[i];
    }
    public boolean insert(int i, double d) {
        if (filled[i]==1 && contains(i,d)) return false;

        if (isEmpty) isEmpty=false;
        filled[i]=1;
        dvals[i] = d;
        return true;
    }
    public boolean update(int i, double d) {
        assert filled[i]==1;
        dvals[i]=d;
        return true;
    }
}


class MyVisitor {
    public static final int NUM=128;

    int[] range = new int[2];
    Table1 table1;
    HeadTable head;
    double diff=0;
    int i;
    int iv;
    String sv;

    MyVisitor(Table1 _table1, HeadTable _head, int id) { 
        table1 = _table1;
        head = _head;
        int elems=Table1.SIZE1/NUM;
        range[0] = elems*id;
        range[1] = elems*(id+1);
    }

    public void run() {
        table1.iterate_range(range[0], range[1], this);
    }

    //YYY 1: with double argument, this function is called
    public boolean visit(int _i, int _v) {
        i = _i;
        iv = _v;
        insertDiff();
        return true;
    }

    //YYY 2: with String argument, this function is called
    public boolean visit_obj(int _i, Object _v) {
        i = _i;
        iv = 42;
        sv = (String)_v;
        insertDiff();
        return true;
    }

    public boolean insertDiff() {
        if (!head.contains(i)) {
            head.insert(i, diff);
            return true;
        }
        double old = head.groupby(i);
        double newval=Math.min(old, diff);
        head.update(i, newval);
        head.insert(i, diff);
        return true;
    }
}
public class ParTest1 {
    public static int THREAD_NUM=4;

    public static void main(String[] args) throws Exception {
        if (args.length>0) {
            THREAD_NUM = Integer.parseInt(args[0]);
            System.out.println("Setting THREAD_NUM:"+THREAD_NUM);
        }
        Table1 table1 = new Table1(Table1.SIZE1);
        HeadTable head = new HeadTable(Table1.SIZE1);

        MyVisitor[] visitors = new MyVisitor[MyVisitor.NUM];
        for (int i=0; i<visitors.length; i++) {
            visitors[i] = new MyVisitor(table1, head, i);
        }

        int taskPerThread = visitors.length / THREAD_NUM;
        MyThread[] threads = new MyThread[THREAD_NUM];
        CyclicBarrier barrier = new CyclicBarrier(THREAD_NUM+1);
        for (int i=0; i<THREAD_NUM; i++) {
            threads[i] = new MyThread(barrier);
            for (int j=taskPerThread*i; j<taskPerThread*(i+1); j++) {
                if (j>=visitors.length) break;
                threads[i].addVisitors(visitors[j]);
            }
        }

        Runtime r=Runtime.getRuntime();
        System.out.println("Force running gc");
        r.gc(); // running GC here (excluding GC effect)
        System.out.println("Running gc done");

        // not measuring 1st run (excluding JIT compilation effect)
        for (int i=0; i<THREAD_NUM; i++) {
            threads[i].start();
        }
        barrier.await();

        for (int i=0; i<10; i++) {
            MyThread.start = true;

            long s=System.currentTimeMillis();
            barrier.await();
            long e=System.currentTimeMillis();
            System.out.println("Iter "+i+"  Exec time:"+(e-s)/1000.0+"s");
        }
    }

}

class MyThread extends Thread {
    static volatile boolean start=true;
    static int tid=0;

    int id=0;
    ArrayList<MyVisitor> tasks;
    CyclicBarrier barrier;
    public MyThread(CyclicBarrier _barrier) {
        super("MyThread"+(tid++));

        barrier = _barrier;
        id=tid;
        tasks = new ArrayList(256);
    }

    void addVisitors(MyVisitor v) {
        tasks.add(v);
    }

    public void run() {
        while (true) {
            while (!start) { ; }

            for (int i=0; i<tasks.size(); i++) {
                MyVisitor v=tasks.get(i);
                v.run();
            }
            start = false;
            try { barrier.await();}
            catch (InterruptedException e) { break; }
            catch (Exception e) { throw new RuntimeException(e); }
        }
    }
}

可以编译Java代码而不依赖，您可以使用以下命令运行它：

java -Darg.type = double -server ParTest1 2

您传递工作线程数作为参数（上面使用2个线程）。在设置数组（从测量时间中排除）后，它执行相同的操作10次，在每次迭代时打印出执行时间。使用上面的选项，它使用双数组，它可以很好地扩展1,2,4个线程（即执行时间减少到1/2和1/4），但是

java -Darg.type = Object -server ParTest1 2

使用此选项，它使用Object（String）数组，并且根本不进行缩放！我测量了GC时间，但它没有多大意义（我还强制在测量时间之前运行GC）。我已经使用Java 6（更新43）和Java 7（更新51）进行了测试，但它是相同的。

当使用arg.type = double或arg.type = Object选项时，代码中有XXX和YYY描述差异的注释。

你能弄清楚在这里传递的String类型参数是怎么回事吗？

Answer 1

这不是一个完整的答案，但可能会为您提供一个提示。

我已经更改了您的代码

Table1(int size) {
filled = new byte[size];
ivals = new int[size];
strs = new String[size];

Arrays.fill(filled, (byte)1);
Arrays.fill(ivals, 42);
Arrays.fill(strs, "Strs");
}

到

Table1(int size) {
filled = new byte[size];
ivals = new int[size];
strs = new String[size];

Arrays.fill(filled, (byte)1);
Arrays.fill(ivals, 42);
Arrays.fill(strs, new String("Strs"));
}

在此更改之后，具有4个具有对象类型数组的线程的运行时间减少。

Answer 2

根据http://docs.oracle.com/javase/specs/jls/se7/html/jls-17.html#jls-17.7

出于Java编程语言内存模型的目的，对非易失性long或double值的单次写入被视为两个单独的写入：每个32位一半写入一次。这可能导致线程从一次写入看到64位值的前32位，而从另一次写入看到第二次32位。

volatile和long值的写入和读取始终是原子的。

对引用的写入和读取始终是原子的，无论它们是作为32位还是64位实现。

分配引用始终是原子的，并且 double 不是原子的，除非它被定义为volatile。

问题是 sv 可以被其他线程看到并且它的赋值是原子的。因此，使用ThreadLocal包装访问者的成员变量（ i，iv，sv ）将解决问题。

Answer 3

HotSpot VM为引用类型putfield字节码生成以下程序集。

mov ref, OFFSET_OF_THE_FIELD(this)  <- this puts the new value for field.

mov this, REGISTER_A
shr 0x9, REGISTER_A
movabs OFFSET_X, REGISTER_B
mov %r12b, (REGISTER_A, REGISTER_B, 1)

putfield操作在1条指令中完成。但是还有更多的说明。

它们是“卡片标记”说明。（http://www.ibm.com/developerworks/library/j-jtp11253/）

将参考字段写入卡中的每个对象（512字节），将值存储在同一存储器地址。

我猜，存储到多个核心的相同内存地址会导致缓存和管道混乱。

只需添加

byte[] garbage = new byte[600];

到MyVisitor的定义。

然后每个MyVisitor实例的间距都不足以共享卡片标记位，您将看到程序缩放。

Answer 4

“sv =（String）_v;”有所作为。我也证实了铸造不是因素。只是访问_v无法发挥作用。为sv字段分配一些值会产生差异。但我无法解释原因。

Java多线程可伸缩性问题

4 个答案: