boost::serialization 中的派生类偏移计算。它有效吗？答案

【问题标题】：Derived class offset calculation in boost::serialization. Is it valid?boost::serialization 中的派生类偏移计算。它有效吗？
【发布时间】：2020-03-31 15:51:14
【问题描述】：

boost::serialization 包含this code：

reinterpret_cast<std::ptrdiff_t>(
    static_cast<Derived *>(
        reinterpret_cast<Base *>(1 << 20)
    )
) - (1 << 20)

它的目的是计算基类和派生类之间的偏移量。这段代码是否没有未定义的行为？

我问的原因是 ASAN+UBSAN 抱怨。比如这段代码

#include <iostream>

class Foo { public: virtual void foo() {} };
class Base { public: virtual void base() {} };
class Derived: public Foo, public Base {};

int main()
{
    std::cout <<
       (reinterpret_cast<std::ptrdiff_t>(
            static_cast<Derived *>(
                reinterpret_cast<Base *>(1 << 20)
            )
       ) - (1 << 20));
}

编译为（gcc 版本 9.2.1）

g++ -fsanitize=address -fsanitize=undefined -fno-omit-frame-pointer -g main.cpp

产生这个输出

AddressSanitizer:DEADLYSIGNAL
=================================================================
==72613==ERROR: AddressSanitizer: SEGV on unknown address 0x0000000ffff8 (pc 0x0000004012d9 bp 0x7ffd5b3eecf0 sp 0x7ffd5b3eece0 T0)
==72613==The signal is caused by a READ memory access.
    #0 0x4012d8 in main main.cpp:13
    #1 0x7f74a90d5f42 in __libc_start_main (/lib64/libc.so.6+0x23f42)
    #2 0x40112d in _start (/home/.../a.out+0x40112d)

AddressSanitizer can not provide additional info.
SUMMARY: AddressSanitizer: SEGV main.cpp:13 in main

是误报还是这段代码真的有问题？

09.12.2019 更新：根据 Filipp 的提议和我的实验，这段代码似乎可以工作并且不会产生任何警告：

std::aligned_storage<sizeof(Derived)>::type data;
reinterpret_cast<char*>(&data)
  - reinterpret_cast<char*>(
        static_cast<Base*>(
            reinterpret_cast<Derived*>(&data)));

有人看到这个sn-p有什么问题吗？如果没有，我会建议给boost。

更新 16.12.2019： 将 was merged 修复为 boost::serialization develop 分支。

【问题讨论】：

aligned_storage 是 C++11。 boost 序列化是否至少需要该版本的 C++？如果没有，我建议尝试另一种方法。如果缓冲区未对齐，ubsan 会抱怨吗？
好点，但boost 有自己的aligned_storage。我会用的。

标签： c++ boost boost-serialization

【解决方案1】：

正如另一个答案所示，问题在于(1 << 20) 不是任何对象的地址。使用原则上可以存储Derived 的char[] 似乎可以解决该问题：

#include <stdint.h>
#include <stddef.h>
#include <stdio.h>

class Foo { public: virtual void foo() {} };
class Base { public: virtual void base() {} };
class Derived: public Foo, public Base {};

int main() {
    alignas (Derived) char const buffer[sizeof(Derived)] = {};
    Derived const* const derived = reinterpret_cast<Derived const*>(buffer);
    Base const* const base = derived;
    ptrdiff_t const delta =
        reinterpret_cast<char const*>(derived) -
        reinterpret_cast<char const*>(base);
    ::printf("%td\n", delta);
    return 0;
}

是误报还是这段代码真的有问题？

根据对标准的严格阅读，代码确实表现出 UB，因此从这个意义上说，它不是 false 肯定的。在实践中，boost 作者和编译器作者都同意这只是指针数学，所以无论如何它应该做正确的事情。

编辑：除非涉及的基础之一是virtual。然后演员会尝试从 vtable 读取偏移量。

编辑 2：使用 nullptr 产生 0。更改为使用本地对齐缓冲区。

【讨论】：

刚刚检查，输出不同。此代码打印 0，而 boost 版本打印 -8。我认为问题出在nullptr，这就是boost 使用幻数的原因。
“boost 作者和编译器作者都同意这只是指针数学，所以无论如何它都应该做正确的事情”我对此不太确定。我一直看到这个假设，但它不一定成立。您不是在编写裸机程序——您是在抽象地编写代码。
虚拟继承是这样的代码肯定被破坏的一种情况。如果Derived 几乎继承自Base 而不是final，那么static_cast 将尝试读取该地址处的对象并严重失败。

【解决方案2】：

reinterpret_cast<Base *>(1 << 20)

这不是一个有效的指针。

static_casting 它需要评估它，它具有未定义的行为。

这是一个有趣的“技巧”，但似乎没有明确定义，-fsanitize 选项的结果证实了这一点。

This does not seem to be unusual for boost::serialization.

【讨论】：