更改单行会导致着色器出错

时间:2012-10-12 14:15:29

标签: shader direct3d hlsl vertex-shader

我正在学习3D和着色器,而且我有一个着色器,我花了数周时间创作。

我在此着色器中有一行问题 - 在调用IDirect3DDevice9::CreateVertexShader()时注释一个并用另一个替换它会导致效果失败。已设置所有字段,当我将所有boneTransformsviewProj设置为标识矩阵时,也会发生此行为。我将看到模型,并更改一行(注释)将导致顶点着色器不编译。 为什么会这样?我花了好几天调试这个并找不到原因!

static const int MAX_MATRICES = 100;
float4x3    boneTransforms[MAX_MATRICES] : WORLDMATRIXARRAY;
float4x4    ViewProj : VIEWPROJECTION;

struct VS_INPUT
{
    float3  Pos             : POSITION;
    float4  BlendWeights    : BLENDWEIGHT;
    float4  BlendIndices    : BLENDINDICES;
    float3  Normal          : NORMAL;
    float2  Tex0            : TEXCOORD0;
};

struct VS_OUTPUT
{
    float4  Pos      : POSITION;
    float2  Tex0     : TEXCOORD0;
    float4  Diffuse  : COLOR;
};

VS_OUTPUT VShade(VS_INPUT i)
{
    VS_OUTPUT   o;

    int4 blendIndicies = D3DCOLORtoUBYTE4(i.BlendIndices);

    float blendWeights[4] = (float[4])i.BlendWeights;
    int boneIndicies[4] = (int[4])blendIndicies;

    float3 pos = mul(i.Pos, boneTransforms[boneIndicies[0]]) * blendWeights[0]
                  + mul(i.Pos, boneTransforms[boneIndicies[1]]) * blendWeights[1]
                  + mul(i.Pos, boneTransforms[boneIndicies[2]]) * blendWeights[2]
                  + mul(i.Pos, boneTransforms[boneIndicies[3]]) * blendWeights[3];

    float4 aaa = mul(float4(pos.xyz, 1.0f), ViewProj);

    //////////////////////////////////////////////////////////////////////////////
    // If I comment out this SINGLE line
    o.Pos = mul(float4(i.Pos.xyz, 1.0f), ViewProj);
    // and replace it with this one, then IDirect3DDevice9::CreateVertexShader() returns D3DERR_INVALIDCALL
    // o.Pos = aaa;
    //////////////////////////////////////////////////////////////////////////////

    o.Diffuse = 1.0f;
    o.Tex0  = i.Tex0.xy;
    return o;
}

float4 PShade(VS_OUTPUT i) : COLOR
{
    return float4(1.0, 1.0, 1.0, 1.0);
}

technique technique0
{
    pass p0
    {
        //PixelShader = compile ps_2_0 PShade();
        VertexShader = compile vs_2_0 VShade();
    }
}

谢谢!

1 个答案:

答案 0 :(得分:1)

您需要尝试减少MAX_MATRICES

static const int MAX_MATRICES = 50;

否则你将超过最大常量缓冲区大小。