Question

我一直在Unity3D的一个场景上工作，我在那里获得了512 x 424的KinectV2深度信息，并且我实时将其转换为也是512 x 424的Mesh。所以那里是像素数据（深度）和顶点（网格）的1：1比率。

我的最终目标是制作“监控3D视图”＆＃39;在Microsoft Kinect Studio v2.0＆＃39;中找到的场景与深度。

我几乎让它在点云方面发挥作用。但是，我的Unity场景中存在大量的扭曲。我虽然可能是我的数学等等。

但是我注意到它的开发工具包中提供的Unity Demo kinect的情况相同。

我只是想知道我是否遗漏了一些明显的东西？我的每个像素（或本例中的顶点）都以1×1的方式映射出来。

我不确定是否因为我需要在将其渲染到场景之前处理DepthFrame中的数据？或者，如果有一些额外的步骤，我错过了获得我房间的真实代表？因为它看起来像一个轻微的球形＆＃39;效果正在加入。

这两张照片是我房间的自上而下的照片。绿线代表我的墙壁。

左侧图像是Unity场景中的Kinect，右侧是Microsoft Kinect Studio中的Kinect。忽略色差，可以看到左（Unity）扭曲，而右边是线性和完美。

我知道这很难搞清楚，特别是你不知道我坐的房间的布局：/侧视图。你能看到左边的翘曲吗？使用绿线作为参考 - 这些在实际房间中是直的，如右图所示。

查看我的视频，以获得更好的主意： https://www.youtube.com/watch?v=Zh2pAVQpkBM&feature=youtu.be

代码C＃

说实话很简单。我只是直接从Kinect SDK获取深度数据，并将其放置在Z轴上的点云网格中。

//called on application start
void Start(){

    _Reader = _Sensor.DepthFrameSource.OpenReader();
    _Data = new ushort[_lengthInPixels];
    _Sensor.Open();
}

//called once per frame
void Update(){

    if(_Reader != null){

        var dep_frame = _Reader.AcquireLatestFrame();
        dep_frame.CopyFrameDataToArray(_Data);
        dep_frame.Dispose();
        dep_frame = null;

        UpdateScene();
    }
}

//update point cloud in scene
void UpdateScene(){

    for(int y = 0; y < height; y++){

        for(int x = 0; x < width; x++){

            int index = (y * width) + x;
            float depthAdjust = 0.1;
            Vector3 new_pos = new Vector3(points[index].x, points[index].y, _Data[index] * depthAdjust;
            points[index] = new_pos;
        }
    }
}

Kinect API可以在这里找到： https://msdn.microsoft.com/en-us/library/windowspreview.kinect.depthframe.aspx

感谢任何建议，谢谢！

Answer 1

感谢Edward Zhang，我弄清楚我做错了什么。

我不能正确地投射我的深度点，我需要使用CoordinateMapper将我的DepthFrame映射到CameraSpace。

目前，我的代码采用正交深度而不是使用透视深度相机。我只需要实现这个：

https://msdn.microsoft.com/en-us/library/windowspreview.kinect.coordinatemapper.aspx

//called once per frame
void Update(){

    if(_Reader != null){

        var dep_frame = _Reader.AcquireLatestFrame();
        dep_frame.CopyFrameDataToArray(_Data);
        dep_frame.Dispose();
        dep_frame = null;

        CameraSpacePoint[] _CameraSpace = new CameraSpacePoint[_Data.Length];
        _Mapper.MapDepthFrameToCameraSpace(_Data, _CameraSpace);

        UpdateScene();
    }
}

//update point cloud in scene
void UpdateScene(){

    for(int y = 0; y < height; y++){

        for(int x = 0; x < width; x++){

            int index = (y * width) + x;

            Vector3 new_pos = new Vector3(_CameraSpace[index].X, _CameraSpace[index].Y, _CameraSpace[index].Z;
            points[index] = new_pos;
        }
    }
}

Microsoft Kinect V2 + Unity 3D Depth = Warping

1 个答案: