如何检测终端中的 unicode 字符串宽度？

Question

我正在开发一个支持 unicode 的基于终端的程序。在某些情况下，我需要在打印之前确定一个字符串将消耗多少个终端列。不幸的是，有些字符是 2 列宽（中文等），但我发现 this answer 表明检测全角字符的好方法是从 ICU 库中调用 u_getIntPropertyValue()。

现在我正在尝试解析我的 UTF8 字符串的字符并将它们传递给这个函数。我现在遇到的问题是 u_getIntPropertyValue() 需要一个 UTF-32 代码点。

从 utf8 字符串中获取此信息的最佳方法是什么？我目前正在尝试使用 boost::locale （在我的程序中的其他地方使用）来做到这一点，但我无法获得干净的转换。我来自 boost::locale 的 UTF32 字符串前面带有 zero-width character 以指示字节顺序。显然我可以跳过字符串的前四个字节，但是有没有更简洁的方法呢？

这是我目前的丑陋解决方案：

inline size_t utf8PrintableSize(const std::string &str, std::locale loc)
{
    namespace ba = boost::locale::boundary;
    ba::ssegment_index map(ba::character, str.begin(), str.end(), loc);
    size_t widthCount = 0;
    for (ba::ssegment_index::iterator it = map.begin(); it != map.end(); ++it)
    {
        ++widthCount;
        std::string utf32Char = boost::locale::conv::from_utf(it->str(), std::string("utf-32"));

        UChar32 utf32Codepoint = 0;
        memcpy(&utf32Codepoint, utf32Char.c_str()+4, sizeof(UChar32));

        int width = u_getIntPropertyValue(utf32Codepoint, UCHAR_EAST_ASIAN_WIDTH);
        if ((width == U_EA_FULLWIDTH) || (width == U_EA_WIDE))
        {
            ++widthCount;
        }

    }
    return widthCount;
}

Answer 1

@n.m 是正确的：有一种简单的方法可以直接使用 ICS 执行此操作。更新的代码如下。我怀疑在这种情况下我可能只使用 UnicodeString 并绕过整个 boost 语言环境的使用。

inline size_t utf8PrintableSize(const std::string &str, std::locale loc)
{
    namespace ba = boost::locale::boundary;
    ba::ssegment_index map(ba::character, str.begin(), str.end(), loc);
    size_t widthCount = 0;
    for (ba::ssegment_index::iterator it = map.begin(); it != map.end(); ++it)
    {
        ++widthCount;

        //Note: Some unicode characters are 'full width' and consume more than one
        // column on output.  We will increment widthCount one extra time for
        // these characters to ensure that space is properly allocated
        UnicodeString ucs = UnicodeString::fromUTF8(StringPiece(it->str()));
        UChar32 codePoint = ucs.char32At(0);

        int width = u_getIntPropertyValue(codePoint, UCHAR_EAST_ASIAN_WIDTH);
        if ((width == U_EA_FULLWIDTH) || (width == U_EA_WIDE))
        {
            ++widthCount;
        }

    }
    return widthCount;
}

Answer 2

UTF-32 是单个字符的“代码点”的直接表示。因此，您需要做的就是从 UTF-8 字符中提取这些字符并将其提供给 u_getIntPropertyValue。

我把你的代码修改为使用u8_to_u32_iterator，这似乎就是为了这个：

#include <boost/regex/pending/unicode_iterator.hpp>

inline size_t utf8PrintableSize(const std::string &str, std::locale loc)
{
    size_t widthCount = 0;
    for(boost::u8_to_u32_iterator<std::string::iterator> it(input.begin()), end(input.end()); it!=end; ++it)
    {
        ++widthCount;

        int width = u_getIntPropertyValue(*it, UCHAR_EAST_ASIAN_WIDTH);
        if ((width == U_EA_FULLWIDTH) || (width == U_EA_WIDE))
        {
            ++widthCount;
        }

    }
    return widthCount;
}