为比特币交易所构建 Orderbook 表示

Question

我正在尝试为Poloniex Bitcoin exchange 构建一个订单簿表示。我订阅了Push-API，它通过 Websocket 发送订单簿的更新。问题是我的订单簿随着时间的推移变得不一致，即本应删除的订单仍在我的订单簿中。

下图中的 Orderbook 格式如下：

Exchange-Name - ASK - Amount - Price | Price - Amount - BID - Exchange-Name

左侧 (ASK) 是出售货币的人。右侧 (BID) 是购买货币的人。 BTCUSD、ETHBTC 和 ETHUSD 描述了不同的市场。 BTCUSD 表示比特币兑换美元，ETHBTC 表示以太坊兑换比特币，ETHUSD 表示以太坊兑换美元。

Poloniex 通过 Websocket 以 JSON 格式发送更新。以下是此类更新的示例：

[
   36,
   7597659581972377,
   8089731807973507,
   {},
   [
      {"data":{"rate":"609.00000029","type":"bid"},"type":"orderBookRemove"},{"data":{"amount":"0.09514285","rate":"609.00000031","type":"bid"},"type":"orderBookModify"}
   ],
   {
      "seq":19976127
   }
]

• json[0] 可以忽略此问题。

• json[1] 是市场标识符。这意味着我发送了一个类似“订阅市场 BTCUSD”的请求，他们回答“BTCUSD 更新将在标识符号 7597659581972377 下发送”。

• json[2]可以忽略这个问题。

• json[3] 可以忽略此问题。
• json[4] 包含实际的更新数据。稍后再详细介绍。
• json[5] 包含一个序列号。如果更新无序到达，它用于正确执行更新。因此，如果我在 1 秒内按 1 - 3 - 5 - 4 - 2 的顺序收到 5 次更新，它们必须像 1 - 2 - 3 - 4 - 5 一样执行.每个市场都有不同的“sequence-number-sequence”。

正如我所说，json[4] 包含一个 array 更新。 json[4][array-index]["type"]有3种不同的：

1. orderBookModify：特定价格的可用数量已更改。
2. orderBookRemove：订单不再可用，必须删除。
3. newTrade：可用于建立交易历史。对于我正在尝试做的事情不是必需的，因此可以忽略它。

json[4][array-index]["data"] 如果是 orderBookRemove 则包含两个值，如果是 orderBookModify 则包含三个值。

• 价格：价格。
• 金额（仅当它是 orderBookModify 时才存在）：新金额。
• 输入：询问或出价。

还有一种特殊的信息：

[36,8932491360003688,1315671639915103,{},[],{"seq":98045310}]

它只包含一个序列号。这是一种心跳消息，不发送任何更新。

代码

我使用三个容器：

std::map<std::uint64_t,CMarket> m_mMarkets;
std::map<CMarket, long> m_mCurrentSeq;
std::map<CMarket, std::map<long, web::json::value>> m_mStack;

m_mMarkets 用于将市场标识符号映射到市场，因为它存储在我的程序中。

m_mCurrentSeq用于存储每个市场的当前序列号。

m_mStack 按市场和序列号存储更新（这就是long 的用途），直到可以执行为止。

这是接收更新的部分：

// ....

// This method can be called asynchronously, so lock the containers.
this->m_muMutex.lock();

// Map the market-identifier to a CMarket object.
CMarket market = this->m_mMarkets.at(json[1].as_number().to_uint64());

// Check if it is a known market. This should never happen!
if(this->m_mMarkets.find(json[1].as_number().to_uint64()) == this->m_mMarkets.end())
{
    this->m_muMutex.unlock();
    throw std::runtime_error("Received Market update of unknown Market");
}

// Add the update to the execution-queue
this->m_mStack[market][(long)json[5]["seq"].as_integer()] = json;

// Execute the execution-queue
this->executeStack();

this->m_muMutex.unlock();

// ....

现在是执行队列。我想这就是我的错误所在。

函数：“executeStack”：

for(auto& market : this->m_mMarkets) // For all markets
{
    if(this->m_mCurrentSeq.find(market.second) != this->m_mCurrentSeq.end()) // if market has a sequence number
    {
        long seqNum = this->m_mCurrentSeq.at(market.second);

        // erase old entries
        for(std::map<long, web::json::value>::iterator it = this->m_mStack.at(market.second).begin(); it != this->m_mStack.at(market.second).end(); )
        {
            if((*it).first < seqNum)
            it = this->m_mStack.at(market.second).erase(it);
            else
            ++it;
        }

        // This container is used to store the updates to the Orderbook temporarily.
        std::vector<Order> addOrderStack{};

        while(this->m_mStack.at(market.second).find(seqNum) != this->m_mStack.at(market.second).end())// has entry for seqNum
        {
            web::json::value json = this->m_mStack.at(market.second).at(seqNum);

            for(auto& v : json[4].as_array())
            {
                if(v["type"].as_string().compare("orderBookModify") == 0)
                {
                    Order::Type t = v["data"]["type"].as_string().compare("ask") == 0 ? Order::Type::Ask : Order::Type::Bid;
                    Order newOrder(std::stod(v["data"]["rate"].as_string()), std::stod(v["data"]["amount"].as_string()), t, market.second, this->m_pclParent, v.serialize());

                    addOrderStack.push_back(newOrder);

                } else if(v["type"].as_string().compare("orderBookRemove") == 0)
                {
                    Order::Type t = v["data"]["type"].as_string().compare("ask") == 0 ? Order::Type::Ask : Order::Type::Bid;
                    Order newOrder(std::stod(v["data"]["rate"].as_string()), 0, t, market.second, this->m_pclParent, v.serialize());

                    addOrderStack.push_back(newOrder);

                } else if(v["type"].as_string().compare("newTrade") == 0)
                {
                    //
                } else
                {
                    throw std::runtime_error("Unknown message format");
                }
            }

            this->m_mStack.at(market.second).erase(seqNum);
            seqNum++;
        }

        // The actual OrderList gets modified here. The mistake CANNOT be inside OrderList::addOrderStack, because I am running Orderbooks for other exchanges too and they use the same method to modify the Orderbook, and they do not get inconsistent.

        if(addOrderStack.size() > 0)
        OrderList::addOrderStack(addOrderStack);

        this->m_mCurrentSeq.at(market.second) = seqNum;

    }
}

因此，如果运行时间较长，订单簿就会变得不一致。这意味着应该被删除的订单仍然可用，并且书中有错误的条目。我不太确定为什么会这样。也许我对序列号做错了，因为似乎更新堆栈并不总是正确执行。我已经尝试了所有想到的东西，但我无法让它发挥作用，现在我不知道可能出了什么问题。如果您有任何问题，请随时提出。

Answer 1

tl;dr：Poloniex API 不完善并且会丢弃消息。有些根本就没有到达。我发现这种情况发生在所有订阅的用户身上，无论在世界的哪个位置。

希望有关使用 Autobahn|cpp 连接到 Poloniex 的 Websocket API (here) 的答案是有用的。我怀疑你已经弄清楚了（否则这个问题/问题对你来说不可能存在）。正如您可能已经收集到的，我也有一个用 C++ 编写的加密货币机器人。我已经断断续续地工作了大约 3.5 年。

您面临的问题也是我必须克服的。在这种情况下，我不想提供我的源代码，因为您处理它的速度会对您的利润率产生巨大影响。但是，我将提供 sudo 代码，这些代码提供了一些关于我如何为 Poloniex 处理 Web Socket 事件处理的粗略见解。

//Sudo Code
void someClass::handle_poloniex_ws_event(ws_event event){
    if(event.seq_num == expected_seq_num){
       process_ws_event(event)
       update_expected_seq_num
    }
    else{
        if(in_cache(expected_seq_num){
            process_ws_event(from_cache(expected_seq_num))
            update_expected_seq_num
        }
        else{
            cache_event(event)
        }  
    }
} 

请注意，我上面写的是我实际所做的超级简化版本。我的实际解决方案大约有 500 多行，其中贯穿始终“goto xxx”和“goto yyy”。我建议获取时间戳/cpu 时钟周期计数并与当前时间/周期计数进行比较，以帮助您在任何给定时刻做出决定（例如，我是否应该等待丢失的事件，我是否应该继续处理并注意程序的其余部分可能存在不准确之处，我应该使用 GET 请求来重新填充我的表等吗？）。正如我相信你知道的那样，这里的游戏名称是速度。祝你好运！希望收到你的来信。 :-)