使用动词内存窗口时出错（ibv_alloc_mw）

Question

我正在尝试使用内存窗口，当我调用 ibv_alloc_mw 时，我正在 EPERM （错误号= 1）（两种类型的MWs） ）。

我有mellanox ConnectX-3卡和以下OFED：

ofed_info | head -n 1
MLNX_OFED_LINUX-3.2-2.0.0.0 (OFED-3.2-2.0.0):

我的卡似乎应该支持此功能：

ibv_devinfo -v | grep EXP_MW
EXP_MW_TYPE_2B
EXP_MW_TYPE_2B

在Mellanox OFED中运行 rping 时，我得到同样的错误：

librdmacm-1.1.0mlnx/examples> ./rping -s &
librdmacm-1.1.0mlnx/examples> ./rping -c -a 10.10.49.87 -w 1
rdma_buf alloc_mw failed
rping_setup_buffers failed: -12

librdmacm-1.1.0mlnx/examples> ./rping -c -a 10.10.49.87 -w 2
rdma_buf alloc_mw failed
rping_setup_buffers failed: -12

Mellanox是否支持ibv_alloc_mw？

修改

我可以访问ConnectX-4卡并遇到同样的错误。我还可以看到每当我尝试使用内存窗口选项运行 rping 时都会记录错误：

dmesg | tail -n 2
[9349257.246854] mlx4_core 0000:02:00.0: vhcr command 0xd slave:0in_param 0xe26b4000 in_mod=0x110 op_mod=0x0 failed with error:0, status -1
[9349257.246856] mlx4_core 0000:02:00.0: SW2HW_MPT failed (-1)

Answer 1

经过进一步探索，这似乎是由于我在节点I中使用了SR-IOV。禁用SR-IOV可以实现这一点。