Question

所以我和qemu kvm合作了一段时间，现在我需要通过PCI设备。我做了所有必要的程序来完成这项工作：启用iommu，modprobed vfio模块，绑定设备到vfio并检查vfio组确实已创建等等... 但是当我用任何pci设备启动qemu时，我收到错误消息：

vfio：无法读取设备配置空间

我深入研究qemu的代码，看看问题可能是什么，并发现问题发生在设备上。即使偏移量为0，也会发生这种情况，并且对文件描述符执行正常读取时没有问题，因为我更改了代码以进行测试。检查errno因为pread失败的原因给了我一个＆＃39; 非法搜寻＆＃39;错误信息。

我写了一些代码，看看是否在qemu上下文之外发生了这种情况（认为它可能是qemu代码中干扰设备的东西），并且遇到了同样的问题。我也尝试用pread读取一个普通的文件，并且完美地运行...这是我编写的代码来测试它，我把它分解了一下，以便能够指出更相关的部分：

#define BUF_SIZE 4096

int main(){     
    char buf[BUF_SIZE], buf1[BUF_SIZE], buf2[BUF_SIZE];         
    int ret,group_fd, fd, fd2;  
    size_t nbytes = 4096;   
    ssize_t bytes_read;     
    int iommu1, iommu2;

    int container, group, device, i;
    struct vfio_group_status group_status = { .argsz = sizeof(group_status) };
    struct vfio_iommu_type1_info iommu_info = { .argsz = sizeof(iommu_info) };
    struct vfio_iommu_type1_dma_map dma_map = { .argsz = sizeof(dma_map) };
    struct vfio_device_info device_info = { .argsz = sizeof(device_info) };    
    container = open("/dev/vfio/vfio",O_RDWR);        

    if(ioctl(container,VFIO_GET_API_VERSION)!=VFIO_API_VERSION){
        printf("Unknown api version: %m\n");    
    }   
    group_fd = open("/dev/vfio/22",O_RDWR);     printf("Group fd = %d\n", group_fd);
    ioctl(group_fd, VFIO_GROUP_GET_STATUS, &group_status);
    if (!(group_status.flags & VFIO_GROUP_FLAGS_VIABLE)){
        printf("Group not viable\n");
        return 1;
    }   
    ret = ioctl(group_fd, VFIO_GROUP_SET_CONTAINER,&container);     
    ret = ioctl(container,VFIO_SET_IOMMU,VFIO_TYPE1_IOMMU);         
    ioctl(container, VFIO_IOMMU_GET_INFO, &iommu_info);         

    /* Allocate some space and setup a DMA mapping */            
    dma_map.vaddr = (unsigned long int) mmap(0, 1024 * 1024, PROT_READ | PROT_WRITE,MAP_PRIVATE | MAP_ANONYMOUS, 0, 0);
    dma_map.size = 1024 * 1024;
    dma_map.iova = 0; /* 1MB starting at 0x0 from device view */
    dma_map.flags = VFIO_DMA_MAP_FLAG_READ | VFIO_DMA_MAP_FLAG_WRITE;

    ioctl(container, VFIO_IOMMU_MAP_DMA, &dma_map);         
    printf("\n\nGETTING DEVICE FD\n");      
    fd = ioctl(group_fd,VFIO_GROUP_GET_DEVICE_FD,"0000:08:00.0");


    printf("Fd = %d\n",fd);     
    printf("VFIO_GROUP_GET_DEV_ID = %lu\n",VFIO_GROUP_GET_DEVICE_FD);

此读取工作正常，给我一个nbytes的转码

    ret = read(fd,buf,nbytes);  
    if(ret<1){      
       printf("ERROR: %m \n");  
    }

此pread失败，其中包含转码-1和错误的非法搜索＆＃39;

    ret = pread(fd,buf,nbytes,0);

    if(ret<0){      
       printf("ERROR: %m \n");  
    }

在这里，我尝试阅读并添加sysfs中的公共文件以查看pread是否失败，并且在这种情况下读取和pread工作都很好：

    printf("TESTING PREAD ON A COMMON FILE\n");     

    fd2 = open("/sys/bus/pci/devices/0000:08:00.0/device",O_RDONLY);       
    ret = read(fd2,buf1,nbytes);    
    if(ret<0){
        printf("ERROR: %m\n");  
    }   
    printf("Result from read: ret = %d, content = %s\n",ret,buf1);  
    ret = pread(fd2,buf2,nbytes,2);     
    if(ret<0){
        printf("ERROR: %m\n");  #
    }   
    printf("Result from pread: ret = %d, content = %s\n",ret,buf2);         
    close(fd2);
    getchar();
    close(fd);
    close(container);   
    close(group_fd);    
    return 0; 
}

我使用用uClibc编译的通用linux内核v4.7.8用于嵌入式系统....任何人都有任何关于为什么会发生这种情况的想法？我现在一无所知!! T.T

更新：我在同一台机器上安装了ubuntu 16.04（内核v4.4.0）并重复了这些步骤，并且pci passthrough工作正常，我的测试代码上的pread也完美无缺。所以我不确定自定义通用内核出了什么问题。

根据arash的建议，我尝试了 pread（fd，buf，nbytes，SEEK_CUR），它给了我同样的非法搜索＆＃39;错误。我从ftell获得的偏移量在ubuntu和通用内核中都是 0xffffffff 。

Answer 1

我发现了什么问题，并且已经有意义在这里发布一段时间给任何可能会碰到这堵墙的人。事实证明uClibc版本0.9.33的pread和pwrite函数被破坏，导致这些函数无法在大于4G的偏移上工作。以下链接中的补丁修复了我的问题： http://uclibc.10924.n7.nabble.com/backport-pread-pwrite-fix-for-0-9-33-branch-td11921.html

无法在vfio pci设备的

1 个答案: