当我们说某个特定的数据结构是缓存友好的时候意味着什么?

时间:2012-08-30 10:33:25

标签: java caching memory data-structures java-memory-model

我经常读到链表数据结构及其变体跳过列表在并行硬件中是缓存友好的。这是什么意思 ?有人可以用一种易于理解的方式解释。

修改:上下文位于this link

1 个答案:

答案 0 :(得分:7)

  

我经常读到链表数据结构及其变体跳过列表是缓存友好的

链接列表和类似结构不是CPU缓存友好的,因为每个节点可以随机排列在内存中,导致许多缓存未命中。

相比之下,ArrayList将在内存中依次包含所有引用,因此当读入缓存行(通常为64字节长)时,它可以一次读取16个引用。

注意:List引用的对象仍然可以随机排列在内存中,这是您无法控制的。 :|


来自问题中的文章。

  

除了非常适合并发遍历和更新之外,链接列表在并行硬件上也是缓存友好的。例如,当一个线程删除一个节点时,需要传输到随后读取列表的每个其他核心的唯一内存是包含两个相邻节点的内存。

这是一个链接列表,当多个线程同时修改(Java中的LinkedList不支持)时,只需要修改列表中的节点需要使缓存一致。相比之下,如果在ArrayList的中间或开头删除或添加元素,则需要更新所有引用。知道这是低效的,无论如何都要避免。

Java中最接近此示例的是ConcurrentLinkedQueue,它支持并发添加和删除。问题是,由于此操作会产生更重要的垃圾,但仍然不是很重要,因此可以通过缓存来更新开始和结束可能获得的任何好处都会丢失。

如果你使用ArrayBlockingQueue,你会得到更好的缓存和垃圾行为,因为引用在内存中是连续的,不需要像ArrayList一样向下移动,也不要创建垃圾来添加条目。 (不幸的是take()创建了一个对象:P)