如何将负整数传递给 COM/OLE 函数？

Question

我正在 Visual Studio 2010 中开发基于 C++/ATL 的 Microsoft Word 加载项。我还使用基于 MFC 的 COleDispatchDriver 和支持类，并使用 Visual Studio 的 ClassWizard 从 Microsoft Word 生成包装类类型库。下面是 ClassWizard 生成的 Selection.Move 函数的示例包装器。

long Move(VARIANT * Unit, VARIANT * Count)
{
    long result;
    static BYTE parms[] = VTS_PVARIANT VTS_PVARIANT ;
    InvokeHelper(0x6d, DISPATCH_METHOD, VT_I4, (void*)&result, parms, Unit, Count);
    return result;
}

对于上述函数，我还编写了辅助函数来处理 VARIANT 参数传递，如下所示。

long Move(int Unit, int Count)
{
      long result;
      static BYTE parms[] = VTS_PVARIANT VTS_PVARIANT ;

      VARIANT vaUnit;
      ::VariantInit(&vaUnit);
      vaUnit.vt = VT_I4;
      vaUnit.iVal = Unit;

      VARIANT vaCount;
      ::VariantInit(&vaCount);
      vaCount.vt = VT_INT;
      vaCount.iVal = Count;

      InvokeHelper(0x6d, DISPATCH_METHOD, VT_I4, (void*)&result, parms, &vaUnit, &vaCount);

      ::VariantClear(&vaUnit);
      ::VariantClear(&vaCount);

      return result;
}

当我使用 Count 参数的正整数调用我的函数时，Word 会正确响应，例如以下函数调用会将选择“向前”（向文档末尾）移动一个字符。

m_oSelection.Move(1 /* wdCharacter */, 1);

但是，如果我尝试使用以下函数调用将所选内容“向后”移动一个字符（朝向文档的开头），Word 不会按预期响应。

m_oSelection.Move(1 /* wdCharacter */, -1);

“似乎”Word 自动化将整数视为无符号整数，而我的 -1 值变为 65535，导致选择向前跳转。通过InvokeHelper 函数调用检查vaCount 变体，VS 调试器将.iVal 值显示为-1，但vaCount 变体的“值”显示为65535。

为了将负整数作为 COM 函数调用的一部分适当地传递，我缺少什么？

Answer 1

问题是你误用了VARIANT。

您将vaCount 的vt 字段设置为VT_INT ¹ 但随后将您的int 值分配给它的.iVal 字段而不是它的.intVal 字段。 .iVal 字段是用于 VT_I2 的 16 位 short，而 .intVal 是用于 VT_INT 的 32 位 int。

同样，您将vaUnit 的vt 设置为VT_I4，但随后也将int 值分配给它的.iVal 字段，而不是它的.lVal 字段，这是一个32 位long.

^{1：你为什么要使用VT_INT，而不是更传统的VT_I4？}

试试这个：

long Move(int Unit, int Count)
{
      long result;
      static BYTE parms[] = VTS_PVARIANT VTS_PVARIANT ;

      VARIANT vaUnit;
      ::VariantInit(&vaUnit);
      vaUnit.vt = VT_I4;
      vaUnit.lVal = Unit;

      VARIANT vaCount;
      ::VariantInit(&vaCount);
      vaCount.vt = VT_I4;
      vaCount.lVal = Count;

      InvokeHelper(0x6d, DISPATCH_METHOD, VT_I4, (void*)&result, parms, &vaUnit, &vaCount);

      ::VariantClear(&vaUnit);
      ::VariantClear(&vaCount);

      return result;
}

话虽如此，我建议你使用CComVariant 或_variant_t 包装类，而不是直接使用VARIANT，让它为你处理这些细节。另外，因为InvokeHelper() 在失败时会抛出异常，所以当它超出范围时让包装器为您调用VariantClear()：

long Move(int Unit, int Count)
{
      long result;
      static BYTE parms[] = VTS_PVARIANT VTS_PVARIANT ;

      CComVariant vaUnit(Unit);
      CComVariant vaCount(Count);

      InvokeHelper(0x6d, DISPATCH_METHOD, VT_I4, (void*)&result, parms, &vaUnit, &vaCount);

      return result;
}

long Move(int Unit, int Count)
{
      long result;
      static BYTE parms[] = VTS_PVARIANT VTS_PVARIANT ;

      _variant_t vaUnit(Unit);
      _variant_t vaCount(Count);

      InvokeHelper(0x6d, DISPATCH_METHOD, VT_I4, (void*)&result, parms, &vaUnit, &vaCount);

      return result;
}