【问题标题】:Java XPath (Apache JAXP implementation) performanceJava XPath(Apache JAXP 实现)性能
【发布时间】:2011-09-14 12:14:58
【问题描述】:

注意:如果您也遇到此问题,请在 Apache JIRA 上投票:

https://issues.apache.org/jira/browse/XALANJ-2540

我得出了一个惊人的结论:

Element e = (Element) document.getElementsByTagName("SomeElementName").item(0);
String result = ((Element) e).getTextContent();

似乎比这快了令人难以置信的 100 倍:

// Accounts for 30%, can be cached
XPathFactory factory = XPathFactory.newInstance();

// Negligible
XPath xpath = factory.newXPath();

// Negligible
XPathExpression expression = xpath.compile("//SomeElementName");

// Accounts for 70%
String result = (String) expression.evaluate(document, XPathConstants.STRING);

我正在使用 JVM 的默认 JAXP 实现:

org.apache.xpath.jaxp.XPathFactoryImpl
org.apache.xpath.jaxp.XPathImpl

我真的很困惑,因为很容易看出 JAXP 如何优化上述 XPath 查询以实际执行一个简单的getElementsByTagName()。但它似乎没有这样做。此问题仅限于大约 5-6 个经常使用的 XPath 调用,这些调用由 API 抽象和隐藏。这些查询仅针对始终可用的 DOM 文档涉及简单路径(例如/a/b/c,无变量、条件)。所以,如果能做一个优化,那就很容易实现了。

我的问题:XPath 的缓慢是公认的事实,还是我忽略了什么?有更好(更快)的实现吗?或者我应该完全避免 XPath,对于简单的查询?

【问题讨论】:

  • 您是否尝试过将您的结果与compiled、可重复使用的XPathExpression 的结果进行比较?
  • 速度慢有问题吗?一种可能性是评估另一个库,例如jaxen
  • @McDowell,不。我试试,谢谢
  • @Johan:是的。通常,这些查询往往需要 2-5 毫秒,即用户请求时间的 10%。我们认为这开始有问题,因为我们将在未来使用更多的 XPath。 jaxen 将来可能确实是一种选择......
  • @McDowell:缓存表达式可以忽略不计,尤其是与工厂缓存相比。但是经过一些重新测试后,我必须更正时间。缓存工厂将加速大约 30%

标签: java performance apache xpath jaxp


【解决方案1】:

我已经调试并分析了我的测试用例和 Xalan/JAXP。我设法确定了

中的主要问题
org.apache.xml.dtm.ObjectFactory.lookUpFactoryClassName()

可以看出,10k 测试 XPath 评估中的每一个都会导致类加载器尝试在某种默认配置中查找 DTMManager 实例。此配置不会加载到内存中,而是每次都会访问。此外,这种访问似乎受到ObjectFactory.class 本身的锁定的保护。当访问失败时(默认情况下),则从xalan.jar文件中加载配置

META-INF/service/org.apache.xml.dtm.DTMManager

配置文件。 每次!

幸运的是,可以通过指定这样的 JVM 参数来覆盖此行为:

-Dorg.apache.xml.dtm.DTMManager=
  org.apache.xml.dtm.ref.DTMManagerDefault

-Dcom.sun.org.apache.xml.internal.dtm.DTMManager=
  com.sun.org.apache.xml.internal.dtm.ref.DTMManagerDefault

上述工作,因为如果工厂类名是默认值,这将允许绕过lookUpFactoryClassName() 中的昂贵工作:

// Code from com.sun.org.apache.xml.internal.dtm.ObjectFactory
static String lookUpFactoryClassName(String factoryId,
                                     String propertiesFilename,
                                     String fallbackClassName) {
  SecuritySupport ss = SecuritySupport.getInstance();

  try {
    String systemProp = ss.getSystemProperty(factoryId);
    if (systemProp != null) { 

      // Return early from the method
      return systemProp;
    }
  } catch (SecurityException se) {
  }

  // [...] "Heavy" operations later

下面是针对 90k XML 文件(使用 System.nanoTime() 测量)对 //SomeNodeName 的 10k 连续 XPath 评估的性能改进概述:

measured library        : Xalan 2.7.0 | Xalan 2.7.1 | Saxon-HE 9.3 | jaxen 1.1.3
--------------------------------------------------------------------------------
without optimisation    :     10400ms |      4717ms |              |     25500ms
reusing XPathFactory    :      5995ms |      2829ms |              |
reusing XPath           :      5900ms |      2890ms |              |
reusing XPathExpression :      5800ms |      2915ms |      16000ms |     25000ms
adding the JVM param    :      1163ms |       761ms |        n/a   |

请注意,基准是一个非常原始的基准。您自己的基准测试很可能会显示撒克逊人的表现优于 xalan

我已将此作为错误提交给 Apache 的 Xalan 人员:

https://issues.apache.org/jira/browse/XALANJ-2540

【讨论】:

  • 非常有趣。如果您替换 XPathFactory 的 Saxon 实现,我会很高兴看到您得到的数字。我知道在类路径中搜索 XPath 工厂的开销很大,而且我怀疑解析 XPath 表达式的开销很大,但我认为实际执行应该很快。
  • @Michael:你隶属于撒克逊人,我明白了吗?我下载了家庭版并针对它运行了我的基准测试。 Xalan 需要 5800 毫秒,而撒克逊需要 16000 毫秒......
  • 一个伟大的、低成本的优化 - 感谢 Lukas!我注意到在多个线程中重复使用 XpathFactory、Xpath、XpathExpression 是不可能的,不幸的是,这三个都不是线程安全的。您是否发现了更快的替代库的任何进一步优化??
  • @joelittlejohn,不。只有我提到的。 1) 将简单的 XPath 表达式转换为 DOM API 调用,2) 添加 JVM 参数,也许我要添加 3) XPathFactory 的共享池以线程安全地重用它们。通过这些测量,我预计 XPath 查询只占用今天 XPath CPU 时间的 5% 左右。
【解决方案2】:

不是解决方案,而是指向主要问题的指针: 评估与任意节点相关的 xpath 的过程中最慢的部分是 DTM 管理器查找节点句柄所花费的时间:

http://javasourcecode.org/html/open-source/jdk/jdk-6u23/com/sun/org/apache/xml/internal/dtm/ref/dom2dtm/DOM2DTM.html#getHandleOfNode%28org.w3c.dom.Node%29

如果有问题的节点位于文档的末尾,它可以最终遍历整个树以找到有问题的节点,对于每个查询。

这解释了为什么孤立目标节点的 hack 有效。 应该有一种方法可以缓存这些查找,但目前我不知道如何。

【讨论】:

  • 嗯,这很有趣。不过,我必须再次配置文件。到目前为止,我还没有想到这种方法对整体性能有任何相关影响。
  • 我最近遇到了这个问题,通过在调试器中单步执行它发现了效率低得可笑的 DTM 句柄查找。谁会想到传递上下文节点和选择上下文节点的直接子节点的表达式会涉及遍历整个 DOM 树?我使用 StAX 而不是 XPath 重写了我的加载代码,我的运行时间从 5 小时缩短到了半秒。
【解决方案3】:

要回答您的问题,vtd-xml 比 Jaxen 或 Xalan 快得多)(我会说平均 10x,据报道有 60x...

【讨论】:

  • 有趣。您能否提供更多详细信息来支持您的主张?虽然这不再适用于我原来的问题,但我一定会跟进你的工具!
  • 嗯,vtd-xml 是一个简单的下载工具,测试需要 10 分钟,访问 vtd-xml 网站,有很多相关信息,包括与 Jaxen 和 xalan 相比的基准测试.我们的内部结果实际上表明,在过去的几个版本中,jaxen 的性能已经大大恶化。
猜你喜欢
  • 2011-03-28
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2020-01-17
  • 1970-01-01
相关资源
最近更新 更多