使用SSE进行高效的4x4矩阵向量乘法:水平加点和点积 - 重点是什么?

时间:2013-02-19 21:40:08

标签: c performance optimization sse matrix-multiplication

我正在尝试使用SSE找到使用向量(u)的4x4矩阵(M)乘法的最有效实现。我的意思是Mu = v。

据我所知,有两种主要方法可以解决这个问题:

    method 1) v1 = dot(row1, u), v2 = dot(row2, u), v3 = dot(row3, u), v4 = dot(row4, u)
    method 2) v = u1 col1 + u2 col2 + u3 col3 + u4 col4.

方法2易于在SSE2中实现。方法1可以用SSE3中的水平加法指令或SSE4中的点积指令来实现。但是,在我的所有测试中,方法2总是优于方法1.

我认为方法1有优势的地方是3x4矩阵,例如仿射变换。在这种情况下,最后一个点积是不必要的。但即使在这种情况下,4x4矩阵上的方法2也比3x4矩阵上的方法1快。我发现的唯一方法比4x4矩阵上的方法2快4x3矩阵上的方法2。

那么水平加法和点积指令有什么意义呢?事实上,点生产指令在这种情况下表现最差。也许它与数据格式有关?如果无法定义矩阵的排序方式,那么转置是必要的,在这种情况下,方法1可能会更好吗?

请参阅下面的部分代码。

__m128 m4x4v_colSSE(const __m128 cols[4], const __m128 v) {
  __m128 u1 = _mm_shuffle_ps(v,v, _MM_SHUFFLE(0,0,0,0));
  __m128 u2 = _mm_shuffle_ps(v,v, _MM_SHUFFLE(1,1,1,1));
  __m128 u3 = _mm_shuffle_ps(v,v, _MM_SHUFFLE(2,2,2,2));
  __m128 u4 = _mm_shuffle_ps(v,v, _MM_SHUFFLE(3,3,3,3));

  __m128 prod1 = _mm_mul_ps(u1, cols[0]);
  __m128 prod2 = _mm_mul_ps(u2, cols[1]);
  __m128 prod3 = _mm_mul_ps(u3, cols[2]);
  __m128 prod4 = _mm_mul_ps(u4, cols[3]);

  return _mm_add_ps(_mm_add_ps(prod1, prod2), _mm_add_ps(prod3, prod4));
}

__m128 m4x4v_rowSSE3(const __m128 rows[4], const __m128 v) {
  __m128 prod1 = _mm_mul_ps(rows[0], v);
  __m128 prod2 = _mm_mul_ps(rows[1], v);
  __m128 prod3 = _mm_mul_ps(rows[2], v);
  __m128 prod4 = _mm_mul_ps(rows[3], v);

  return _mm_hadd_ps(_mm_hadd_ps(prod1, prod2), _mm_hadd_ps(prod3, prod4));
}

__m128 m4x4v_rowSSE4(const __m128 rows[4], const __m128 v) {
  __m128 prod1 = _mm_dp_ps (rows[0], v, 0xFF);
  __m128 prod2 = _mm_dp_ps (rows[1], v, 0xFF);
  __m128 prod3 = _mm_dp_ps (rows[2], v, 0xFF);
  __m128 prod4 = _mm_dp_ps (rows[3], v, 0xFF);

  return _mm_shuffle_ps(_mm_movelh_ps(prod1, prod2), _mm_movelh_ps(prod3, prod4),  _MM_SHUFFLE(2, 0, 2, 0));
}  

1 个答案:

答案 0 :(得分:10)

水平加法和点积指令很复杂:它们被分解为多个更简单的微操作,这些微操作由处理器执行,就像简单的指令一样。将水平加点和点积指令精确分解为微操作是特定于处理器的,但对于最近的英特尔处理器,水平加法被分解为2个SHUFFLE + 1个ADD微操作,并且点积被分解为1个MUL + 1 SHUFFLE + 2个ADD微操作。除了大量的微操作外,该指令还强调处理器流水线中的指令解码器:英特尔处理器每个周期只能解码一个这样复杂的指令(与4个简单指令相比)。在AMD Bulldozer上,这些复杂指令的相对成本更高。