动态调用 Openh264 函数导致我的应用程序崩溃答案

【问题标题】：Dynamically calling Openh264 functions causes my app to crash动态调用 Openh264 函数导致我的应用程序崩溃
【发布时间】：2019-10-27 19:09:04
【问题描述】：

基本上我正在尝试使用他们网页中预先构建的 Openh264 DLL。

使用 LoadLibrary 和 GetProcaddress 有效，直到我调用所需的 WelsCreateEncoder()。

VS 错误告诉我 ESP 没有正确保存。

在调试器中，我可以继续运行，一切正常。我一直在调试它，一切正常。但作为一个独立的应用程序它只是崩溃。

我假设因为它是一个 C 库并且我的应用程序是 c++，所以我的调用约定是错误的？

https://github.com/cisco/openh264

我为 WelsCreateDecoder 的开头和结尾添加了 ASM。是我还是它看起来忘记了 sub esp, 4 ？

typedef int(WINAPI * _pWelsCreateSVCEncoder)(ISVCEncoder** ppEncoder);
typedef void(WINAPI * _pWelsDestroySVCEncoder)(ISVCEncoder* ppEncoder);

0F3B8BF0 | 55                       | push ebp          |
0F3B8BF1 | 8BEC                     | mov ebp,esp       |

...

0F3B8C0F | 33C0                     | xor eax,eax       |
0F3B8C11 | 85C9                     | test ecx,ecx      |
0F3B8C13 | 0F94C0                   | sete al           |
0F3B8C16 | 5D                       | pop ebp           |
0F3B8C17 | C3                       | ret               |

【问题讨论】：

如果调用约定是错误的，它也应该使用调试器。调试版本更有可能是在其他情况下初始化发布版本没有的数据。例如。检查你的参数。

标签： c++ loadlibrary openh264

【解决方案1】：

typedef int(* _pWelsCreateSVCEncoder)(ISVCEncoder** ppEncoder);
typedef void(* _pWelsDestroySVCEncoder)(ISVCEncoder* ppEncoder);

原来是缺少调用约定。不需要 WINAPI。

虽然https://github.com/cisco/openh264/blob/8533dd9daaaf3d7a51d9295686c31718ec3c946e/codec/decoder/plus/src/welsDecoderExt.cpp#L1052这行让我很困惑。

【讨论】：