【问题标题】:Boost spirit parse rule is not applied不应用 Boost Spirit 解析规则
【发布时间】:2017-10-13 11:43:57
【问题描述】:

我在这里看不到我的错误.. 这条规则可以解析一些东西,但最后两个样本没有。有人可以给我一个提示..

Goal 是一个解析器,可以识别成员属性访问和成员函数调用。也以某种方式链接

 a()
 a(para)
 x.a()
 x.a(para)
 x.a(para).g(para).j()
 x.y
 x.y.z
 x.y.z()    <---fail
 y.z.z(para) <--- fail
  lvalue =
         iter_pos >> name[_val = _1]
          >> *(lit('(') > paralistopt  > lit(')') >> iter_pos)[_val = construct<common_node>(type_cmd_fnc_call, LOCATION_NODE_ITER(_val, _2), key_this, construct<common_node>(_val), key_parameter, construct<std::vector<common_node> >(_1))]        
       >> *(lit('.') >> name_pure >> lit('(') > paralistopt > lit(')') >> iter_pos)[_val = construct<common_node>(type_cmd_fnc_call, LOCATION_NODE_ITER(_val, _3), key_this, construct<common_node>(_val), key_callname, construct<std::wstring>(_1), key_parameter, construct<std::vector<common_node> >(_2))]
       >> *(lit('.') >> name_pure >> iter_pos)[_val = construct<common_node>(type_cmd_dot_call, LOCATION_NODE_ITER(_val, _2), key_this, construct<common_node>(_val), key_propname, construct<std::wstring>(_1))]
    ;

谢谢你 马库斯

【问题讨论】:

  • 您能描述一下您想要实现的目标吗?你在解析什么,变成什么 AST?我很确定你的代码是不必要的复杂。 (见stackoverflow.com/questions/8259440/…
  • 您的代码示例似乎也缺少相关位。如果您包含代码,请使其独立。

标签: c++ parsing boost-spirit


【解决方案1】:

您提供的信息很少。让我用我进入这个猜谜游戏来取笑你:

假设您要解析一种简单的“语言”,它只允许成员表达式和函数调用,但被链接。

现在,您的语法对参数没有任何说明(尽管很明显参数列表可以为空),所以让我继续前进,假设您想在那里接受相同类型的表达式(所以foo(a) 是好的,但也可以bar(foo(a))bar(b.foo(a)))。

由于您接受函数调用的链接,因此函数似乎是一等对象(并且函数可以返回函数),因此也应该接受 foo(a)(b, c, d)

您没有提到它,但参数通常包括文字(想到sqrt(9),或println("hello world"))。

其他项目:

  • 您没有说,但您可能想忽略某些地方的空白
  • 来自iter_pos (ab)use,您似乎有兴趣在生成的 AST 中跟踪原始源位置。

1。定义 AST

我们应该一如既往地简单:

namespace Ast {
    using Identifier = boost::iterator_range<It>;

    struct MemberExpression;
    struct FunctionCall;

    using Expression = boost::variant<
                double,       // some literal types
                std::string,
                // non-literals
                Identifier,
                boost::recursive_wrapper<MemberExpression>,
                boost::recursive_wrapper<FunctionCall>
            >;

    struct MemberExpression {
        Expression object; // antecedent
        Identifier member; // function or field
    };

    using Parameter  = Expression;
    using Parameters = std::vector<Parameter>;

    struct FunctionCall {
        Expression function; // could be a member function
        Parameters parameters;
    };
}

注意我们不会专注于显示源位置,但已经做了一项规定,将标识符存储为迭代器范围。

注意融合适配 Spirit 不直接支持的唯一类型:

BOOST_FUSION_ADAPT_STRUCT(Ast::MemberExpression, object, member)
BOOST_FUSION_ADAPT_STRUCT(Ast::FunctionCall, function, parameters)

我们会发现我们不用这些,因为语义动作在这里更方便。

2。匹配语法

Grammar() : Grammar::base_type(start) {
    using namespace qi;
    start = skip(space) [expression];

    identifier = raw [ (alpha|'_') >> *(alnum|'_') ];
    parameters = -(expression % ',');

    expression 
        = literal 
        | identifier  >> *(
                    ('.' >> identifier)        
                  | ('(' >> parameters >> ')') 
                );

    literal = double_ | string_;
    string_ = '"' >> *('\\' >> char_ | ~char_('"')) >> '"';

    BOOST_SPIRIT_DEBUG_NODES(
            (identifier)(start)(parameters)(expression)(literal)(string_)
        );
}

在这个框架中,大多数规则都受益于自动属性传播。没有的是expression

qi::rule<It, Expression()> start;

using Skipper = qi::space_type;
qi::rule<It, Expression(), Skipper> expression, literal;
qi::rule<It, Parameters(), Skipper> parameters;
// lexemes
qi::rule<It, Identifier()> identifier;
qi::rule<It, std::string()> string_;

所以,让我们为语义操作创建一些助手。

注意这里的一个重要收获是创建自己的更高级别的构建块,而不是用boost::phoenix::construct&lt;&gt; 等辛苦工作。

定义两个简单的构造函数:

struct mme_f { MemberExpression operator()(Expression lhs, Identifier rhs) const { return { lhs, rhs }; } };
struct mfc_f { FunctionCall operator()(Expression f, Parameters params) const { return { f, params }; } };
phx::function<mme_f> make_member_expression;
phx::function<mfc_f> make_function_call;

然后使用它们:

expression 
    = literal [_val=_1]
    | identifier [_val=_1] >> *(
                ('.' >> identifier)        [ _val = make_member_expression(_val, _1)]
              | ('(' >> parameters >> ')') [ _val = make_function_call(_val, _1) ]
            );

就是这样。我们准备好了!

3。演示

Live On Coliru

我创建了一个如下所示的测试台:

int main() {
    using It = std::string::const_iterator;
    Parser::Grammar<It> const g;

    for (std::string const input : {
             "a()", "a(para)", "x.a()", "x.a(para)", "x.a(para).g(para).j()", "x.y", "x.y.z",
             "x.y.z()",
             "y.z.z(para)",
             // now let's add some funkyness that you didn't mention
             "bar(foo(a))",
             "bar(b.foo(a))",
             "foo(a)(b, c, d)", // first class functions
             "sqrt(9)",
             "println(\"hello world\")",
             "allocate(strlen(\"aaaaa\"))",
             "3.14",
             "object.rotate(180)",
             "object.rotate(event.getAngle(), \"torque\")",
             "app.mainwindow().find_child(\"InputBox\").font().size(12)",
             "app.mainwindow().find_child(\"InputBox\").font(config().preferences.baseFont(style.PROPORTIONAL))"
         }) {
        std::cout << " =========== '" << input << "' ========================\n";
        It f(input.begin()), l(input.end());

        Ast::Expression parsed;
        bool ok = parse(f, l, g, parsed);
        if (ok) {
            std::cout << "Parsed: " << parsed << "\n";
        }
        else
            std::cout << "Parse failed\n";

        if (f != l)
            std::cout << "Remaining unparsed input: '" << std::string(f, l) << "'\n";
    }
}

这看起来很不可思议,它已经解析了所有的测试用例并打印出来了:

 =========== 'a()' ========================
Parsed: a()
 =========== 'a(para)' ========================
Parsed: a(para)
 =========== 'x.a()' ========================
Parsed: x.a()
 =========== 'x.a(para)' ========================
Parsed: x.a(para)
 =========== 'x.a(para).g(para).j()' ========================
Parsed: x.a(para).g(para).j()
 =========== 'x.y' ========================
Parsed: x.y
 =========== 'x.y.z' ========================
Parsed: x.y.z
 =========== 'x.y.z()' ========================
Parsed: x.y.z()
 =========== 'y.z.z(para)' ========================
Parsed: y.z.z(para)
 =========== 'bar(foo(a))' ========================
Parsed: bar(foo(a))
 =========== 'bar(b.foo(a))' ========================
Parsed: bar(b.foo(a))
 =========== 'foo(a)(b, c, d)' ========================
Parsed: foo(a)(b, c, d)
 =========== 'sqrt(9)' ========================
Parsed: sqrt(9)
 =========== 'println("hello world")' ========================
Parsed: println(hello world)
 =========== 'allocate(strlen("aaaaa"))' ========================
Parsed: allocate(strlen(aaaaa))
 =========== '3.14' ========================
Parsed: 3.14
 =========== 'object.rotate(180)' ========================
Parsed: object.rotate(180)
 =========== 'object.rotate(event.getAngle(), "torque")' ========================
Parsed: object.rotate(event.getAngle(), torque)
 =========== 'app.mainwindow().find_child("InputBox").font().size(12)' ========================
Parsed: app.mainwindow().find_child(InputBox).font().size(12)
 =========== 'app.mainwindow().find_child("InputBox").font(config().preferences.baseFont(style.PROPORTIONAL))' ========================
Parsed: app.mainwindow().find_child(InputBox).font(config().preferences.baseFont(style.PROPORTIONAL))

4。好得令人难以置信?

你是对的。我作弊了。我没有向您展示调试打印解析的 AST 所需的这段代码:

namespace Ast {
    static inline std::ostream& operator<<(std::ostream& os, MemberExpression const& me) {
        return os << me.object << "." << me.member;
    }

    static inline std::ostream& operator<<(std::ostream& os, FunctionCall const& fc) {
        os << fc.function << "(";
        bool first = true;
        for (auto& p : fc.parameters) { if (!first) os << ", "; first = false; os << p; }
        return os << ")";
    }
}

这只是调试打印,因为字符串文字没有正确往返。但它只有 10 行代码,这是一个奖励。

5。完整的Monty:源位置

这引起了您的兴趣,所以让我们展示一下它的工作原理。让我们添加一个简单的循环来打印标识符的所有位置:

using IOManip::showpos;

for (auto& id : all_identifiers(parsed)) {
    std::cout << " - " << id << " at " << showpos(id, input) << "\n";
}

当然,这引出了一个问题,showposall_identifiers 是什么?

namespace IOManip {
    struct showpos_t {
        boost::iterator_range<It> fragment;
        std::string const& source;

        friend std::ostream& operator<<(std::ostream& os, showpos_t const& manip) {
            auto ofs = [&](It it) { return it - manip.source.begin(); };
            return os << "[" << ofs(manip.fragment.begin()) << ".." << ofs(manip.fragment.end()) << ")";
        }
    };

    showpos_t showpos(boost::iterator_range<It> fragment, std::string const& source) {
        return {fragment, source};
    }
}

至于标识符提取:

std::vector<Identifier> all_identifiers(Expression const& expr) {
    std::vector<Identifier> result;
    struct Harvest {
        using result_type = void;
        std::back_insert_iterator<std::vector<Identifier> > out;
        void operator()(Identifier const& id)       { *out++ = id; }
        void operator()(MemberExpression const& me) { apply_visitor(*this, me.object); *out++ = me.member; }
        void operator()(FunctionCall const& fc)     {
            apply_visitor(*this, fc.function); 
            for (auto& p : fc.parameters) apply_visitor(*this, p);
        }
        // non-identifier expressions
        void operator()(std::string const&) { }
        void operator()(double) { }
    } harvest { back_inserter(result) };
    boost::apply_visitor(harvest, expr);

    return result;
}

这是一个树访问者,它递归地收集所有标识符,将它们插入容器的后面。

Live On Coliru

输出的样子(摘录):

 =========== 'app.mainwindow().find_child("InputBox").font(config().preferences.baseFont(style.PROPORTIONAL))' ========================
Parsed: app.mainwindow().find_child(InputBox).font(config().preferences.baseFont(style.PROPORTIONAL))
 - app at [0..3)
 - mainwindow at [4..14)
 - find_child at [17..27)
 - font at [40..44)
 - config at [45..51)
 - preferences at [54..65)
 - baseFont at [66..74)
 - style at [75..80)
 - PROPORTIONAL at [81..93)

【讨论】:

  • 您好,非常感谢您的提示。您的解决方案效果很好,我能够拨打所有电话并链接我的 Parser !大帮助!我需要一些时间来查看带有“iter_pos”的东西,您的解决方案看起来更原生,但我有一些更复杂的项目可以跟踪位置,不仅是标识符..所以我必须检查您的解决方案如何在这里工作 Markus
  • 我很高兴看到更大的项目。事实上,我建议注释 AST 节点可以与语法正交(IIRC 有一个编译器演示使用 qi::on_error&lt;success,....&gt; 做这样的事情)
  • 我记得一半正确:calc[78]、conjure[123] 和 mini_c 教程使用 qi::on_success 和“annotation_function”。您可能有兴趣查看这些
  • 明白了...很好的工作流程,解析器中没有更多的 iter_pos!再次感谢
  • @Markus 我对这个coliru.stacked-crooked.com/a/3f354e40fb4da907 有了更多的乐趣——评论了许多细微之处。请注意如何取消注释 StringAnnotateTag 基类并获得“神奇”的带注释的字符串节点(当前只有父 Expression 节点被注释)。
【解决方案2】:

尝试改变

>> *(lit('.') >> name_pure >> lit('(') > paralistopt > lit(')'))

>> *(*(lit('.') >> name_pure) >> lit('(') > paralistopt > lit(')'))

【讨论】:

  • 这个评论字段让我发疯 8-) 我把规则和操作放在原始帖子中.. 用你的规则我不知道如何应用我的操作..
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2011-03-05
  • 1970-01-01
  • 2016-01-03
相关资源
最近更新 更多