管道中的 DirectX11 像素着色器丢失答案

【问题标题】：DirectX11 pixel shader in pipeline is missing管道中的 DirectX11 像素着色器丢失
【发布时间】：2014-01-18 15:38:55
【问题描述】：

我正在编写一个使用 DirectX 显示 MS3D 模型的程序，不幸的是，结果在屏幕上什么也没有显示。当我使用 Visual Studio 13 中的图形调试器时，我注意到管道中缺少像素着色器，如下图所示

这是我的像素着色器源代码：

 cbuffer SkinningTransforms
 {
    matrix WorldMatrix; 
    matrix ViewProjMatrix;
 };
//--------------------------------------------------------------------------------
// Inter-stage structures
//--------------------------------------------------------------------------------
struct VS_INPUT
{
    float3  position        : POSITION;
    int4    bone            : BONEID;
    float4  weights         : BONEWEIGHT;
    float3  normal          : NORMAL;
    float3  tangent         : TANGENT;
    float2  tex             : TEXCOORD;
};
//--------------------------------------------------------------------------------
struct VS_OUTPUT
{
    float4 position         : SV_Position;
    float3 normal           : NORMAL;
    float3 light            : LIGHT;
    float2 tex              : TEXCOORDS;
};

Texture2D       ColorTexture : register( t0 );           
SamplerState    LinearSampler : register( s0 );

//--------------------------------------------------------------------------------
VS_OUTPUT VSMAIN( in VS_INPUT input )
{
    VS_OUTPUT output;
    //Transform vertex and pass them to the pixel shader
    return output;
}

//--------------------------------------------------------------------------------
float4 PSMAIN( in VS_OUTPUT input ) : SV_Target
{
    // Calculate the lighting
    float3 n = normalize( input.normal );
    float3 l = normalize( input.light );


    float4 texColor = ColorTexture.Sample( LinearSampler, input.tex );

    float4 color = texColor * (max(dot(n,l),0) + 0.05f );
    return( color );
}

正如我从 Graphics Debugger 得知的，所有的图形事件都是正确的。我在下面列出了可能与 Pixel Shader 相关的重要事件：

106:(obj:4) ID3D11Device::CreateDepthStencilView(obj:24,NULL,obj:25)*
108:(obj:5) ID3D11DeviceContext::OMSetRenderTargets(8,{obj:1,NULL,NULL,NULL,NULL,NULL,NULL,NULL},obj:25)*
109:(obj:5) ID3D11DeviceContext::ClearRenderTargetView(obj:1,addr:21)*
111:(obj:5) ID3D11DeviceContext::ClearDepthStencilView(obj:25,1,1.000f,0)*
119:(obj:4) ID3D11Device::CreateSamplerState(addr:24,obj:27)*
134:(obj:4) ID3D11Device::CreatePixelShader(addr:27,21056,NULL,obj:30)*
135:CreateObject(D3D11 Pixel Shader,obj:30)
136:(obj:5) ID3D11DeviceContext::PSSetShader(obj:30,NULL,0)*
137:(obj:5) ID3D11DeviceContext::PSSetSamplers(0,1,{obj:27})*
139:(obj:4) ID3D11Device::CreateTexture2D(addr:28,addr:5,obj:31)*
140:CreateObject(D3D11 Texture2D,obj:31)
142:(obj:4) ID3D11Device::CreateShaderResourceView(obj:31,NULL,obj:32)*
143:CreateObject(D3D11 Shader Resource View,obj:32)
144:(obj:5) ID3D11DeviceContext::PSSetShaderResources(0,1,{obj:32})*
146:(obj:4) ID3D11Device::CreateRasterizerState(addr:29,obj:33)*
147:CreateObject(D3D11 Rasterizer State,obj:33)
152:(obj:5) ID3D11DeviceContext::RSSetState(obj:33)*
154:(obj:5) ID3D11DeviceContext::RSSetViewports(1,addr:30)*
156:(obj:4) ID3D11Device::CreateBlendState(addr:11,obj:34)*
157:CreateObject(D3D11 Blend State,obj:34)
159:(obj:5) ID3D11DeviceContext::OMSetBlendState(obj:34,addr:31,-1)*
162:(obj:4) ID3D11Device::CreateDepthStencilState(addr:32,obj:35)*
163:CreateObject(D3D11 Depth-Stencil State,obj:35)
165:(obj:5) ID3D11DeviceContext::OMSetDepthStencilState(obj:35,0)*

我调试了上面列表中的所有函数，都返回OK。没有什么不对。我的问题是，pipleline 中缺少 pixex 着色器的原因是什么，这反过来可能导致屏幕为空。

【问题讨论】：

您最终找出问题所在了吗？我有同样的问题（PS 在管道阶段丢失，但在直接上下文的对象视图中处于活动状态，所以它不是msdn.microsoft.com/en-us/library/jj191650.aspx 中描述的问题）。当然，图像是黑色的……
完全相同的问题，已验证 RS 状态和来自 VS 的输出。我确实注意到虽然调用了 RSSetViewports 事件，但绘图调用上的视口是Not Set。我仍在调查此事。
好吧，对我来说它发生了，因为我乐观地给视口的最大深度为 100.0f，而它最多应该是 1.0f。即使我在光栅化器中禁用了深度裁剪，这也会阻止 RSSetViewports 设置视口并且不会引发错误。检查图形调试器是否实际设置了设备上下文上的视口。

标签： c++ directx-11 pixel-shader raster-graphics

【解决方案1】：

除了其他答案之外，不断的缓冲区组织可能是导致此问题的原因。在我的情况下，管道中缺少像素着色器，但顶点着色器也没有正确转换顶点。经过检查，发现世界矩阵的值不正确，因为常量缓冲区顶部的布尔值导致数据错位。 HLSL 将数据打包成 16 个字节的边界，即所谓的向量，它有 4 个分量。布尔值是 4 个字节，与浮点数相同。

cbuffer cbPerObject : register( b1 )
{
    bool gUseTexture ;

    row_major float4x4 gWorld ;
    row_major float4x4 gWorldInvTranspose ;
    row_major float4x4 gWorldViewProj ;
    row_major float4x4 gTexTransform ;
    Material gMaterial ;
} ;

所以在上面的常量缓冲区中，布尔值 + 世界矩阵第一行的前 3 个分量被映射到第一个 vector，这会导致一切移动 3 个分量，使世界矩阵（以及后面的其他矩阵和可能的其他数据）未对齐。

两种可能的解决方案：

将布尔值移动到结构的末尾。我这样做了，它奏效了。
在世界矩阵和布尔值之间添加一个 3 分量大小的 padding 变量。我通过在 c++ 结构中添加一个 XMFLOAT3 和在 HLSL 中添加一个 float3 来尝试这个。这也奏效了。

长话短说，注意 HLSL 打包。

编辑：当时我认为这些方法有效，因为除了布尔值之外的所有变量都有正确的值。当时我没有使用 bool，所以我认为这也很好。原来不是。

HLSL bool 和 c++ bool 有不同的大小。 HLSL bools 是 4 个字节，而 c++ bools 是实现定义的（例如我的机器上的 1 个字节）。无论如何，它们很可能会有所不同，这会导致问题。

使用 Windows BOOL 类型或其他适当大小的值，如 int 或 uint。

看看https://gamedev.stackexchange.com/a/22605。

倒数第二个帖子here 也清楚地解释了情况（这个链接在上面gamedev链接的答案中也有引用）。

但要小心，因为打包仍然是个问题。即使您使用 BOOL 或 uint 或其他任何东西，如果您像以前一样将它放在上述结构的开头，您将在常量缓冲区中获得不正确的值。因此，在使用常量缓冲区时，请同时考虑这两个问题（数据对齐和布尔问题）。

【讨论】：

【解决方案2】：

正如我在评论中所写，我遇到了类似的问题。

就我而言，像素着色器已正确绑定（请参阅http://msdn.microsoft.com/en-us/library/jj191650.aspx）。此外，我通过调试顶点着色器确保了转换的结果应该是可见的，因此应该生成可见的片段。

在这种情况下（这似乎与您描述的相同），请确保您的光栅化器状态正确。您可能想要检查它是否实际设置（使用直接上下文的图形对象视图）以及它是否允许您的几何图形通过。出于调试目的，我发现禁用背面剔除很有帮助。我用

D3D11_RASTERIZER_DESC rasterDesc;
ZeroMemory(&rasterDesc, sizeof(rasterDesc));
rasterDesc.CullMode = D3D11_CULL_MODE::D3D11_CULL_NONE;
rasterDesc.FillMode = D3D11_FILL_MODE::D3D11_FILL_SOLID;

【讨论】：