【问题标题】:Checking Descendants for matches C#检查后代是否匹配 C#
【发布时间】:2013-03-21 21:26:23
【问题描述】:

我正在做一个项目,我基本上使用 html 敏捷包从网页中抓取内容,直到我使用下面的代码得到我需要的点头

foreach (HtmlNode tr in bodyNode.SelectNodes("//tr")){
    //tr.Descendants("span").Where(n => n.InnerHtml.Contains("display:none")).ToList().
    //ForEach(n => n.Remove()); ;
}

所以在每个循环之后,我都会得到类似于我在下面粘贴的内容的 html 内容

http://pastebin.com/DLVykNXU

我需要做的是检查节点是否匹配。基本上我需要删除

<span style="display:none">what ever value here</span>
div style="display:none">what ever value here</div>

以及其他一些具有不同 ID 和类名称的 div 和 Span。但是我上面写的代码似乎让我失望了,因为它删除了整个点头,而没有只删除标签中的内容并标记它自己。

如果专家可以帮助我,我将非常感激,我仍然是学习 C# 的学生,所以如果代码不完美,我很抱歉。 谢谢。

【问题讨论】:

  • 你到底想从上面的代码中提取什么?您似乎正在尝试从某些页面解析代理(当看到 BrazilHigh +KA 时),但我在您的代码中找不到代理和端口。
  • @OscarMederos :这很棘手,请尝试删除所有 display none 元素。你得到了代理和端口:D
  • 您发布的 HTML 的代理和端口是什么?
  • 在下面查看我的答案。

标签: c# regex filtering html-agility-pack


【解决方案1】:

正如你所说......你必须做一些技巧。

foreach (var tr in doc.DocumentNode.SelectNodes("//tr")) {
    var style = tr.SelectSingleNode(".//style");
    //Find the classes and ids with {display:none}
    var matches = Regex.Matches(style.InnerText, @"(\.|#)(.+?)\s*{\s*display\s*:\s*none");

    //Here we will store the classes & ids we'll need to remove
    List<string> classes = new List<string>();
    List<string> ids = new List<string>();

    //Storing the ids and classes
    foreach (Match m in matches) {
        var type = m.Groups[1].Value;
        if (type == ".")
        {
            classes.Add(m.Groups[2].Value);
        }
        else {
            ids.Add(m.Groups[2].Value);
        }
    }

    foreach (var n in tr.SelectNodes(".//*")) {
        if (Remove(n, classes, ids)) {
            n.Remove();
        }
    }

    var proxy = tr.SelectSingleNode("./td[2]/span").InnerText;
    var port = tr.SelectSingleNode("./td[3]").InnerText.Trim('\r', '\n', ' ');
}

并有以下方法

//Remove the ones that have {display:none}, and the ones with the ids & classes provided.
static bool Remove(HtmlNode x, IList<string> classes, IList<string> ids) {
    var classAttr = x.GetAttributeValue("class", "");
    var idAttr = x.GetAttributeValue("id", "");
    return (x.Name == "span" && x.GetAttributeValue("style", "") == "display:none") ||
           (x.Name == "div" && x.GetAttributeValue("style", "") == "display:none") ||
           (x.Name == "span" && classes.Contains(classAttr)) ||
           (x.Name == "div" && classes.Contains(classAttr)) ||
           (x.Name == "span" && ids.Contains(idAttr)) ||
           (x.Name == "id" && ids.Contains(idAttr)) ||
           (x.Name == "style");
}

您可以在Remove 方法中添加更多过滤器。由于您正在编写 C# 代码,因此您可以在那里检查您想要的任何内容,而不仅仅是与 XPath 表达式相关的内容。

该代码给了我以下代理列表:

190.199.36.220:8080
177.139.137.107:3128
103.247.23.90:8080
222.124.130.203:8080
14.140.241.242:8080
175.103.37.10:8080
110.77.183.113:3128
54.243.51.203:8118
200.90.179.90:8080
213.152.173.137:8080
187.17.212.162:8080
62.201.207.14:8080
77.123.76.178:8080
189.76.212.254:3128
89.218.224.234:9090
221.179.173.170:8080
187.84.56.42:3128
118.99.79.13:8080
211.86.157.110:3128
189.38.3.122:3128
2.135.238.178:9090
2.135.238.2:9090
122.50.38.128:3128
217.11.185.251:3128
82.200.254.2:9090
37.59.82.253:8080
83.111.38.131:3128
85.118.227.76:3128
182.30.249.13:8080
124.88.154.3:6673
111.13.87.150:80
190.85.37.90:8080
219.117.232.133:3128
211.100.47.138:8990
46.32.21.195:8080
107.18.121.126:8080
118.97.191.203:8080
119.195.32.211:3128
2.133.92.242:9090
202.164.217.18:8080
222.124.214.194:3128
79.140.17.253:3128
61.138.104.30:1080
201.45.116.138:3128
190.98.209.168:3128
190.204.222.183:8080
200.199.173.122:3128
197.159.16.58:8080
223.4.233.164:3128
212.93.195.229:3128

【讨论】:

  • 谢谢,代码很完美,但我们需要提取 标签内的内容并在其中搜索 display:none 属性,并删除具有匹配类或 id 的 span 和 div。完整来源:pastebin.com/5H0khYr7 谢谢。
  • 我做了一个函数,pastebin.com/2n4cHwiq 等着看你的解决方案。谢谢
  • 完美运行:-)。非常感谢。
  • @DriverBoy 对未来的建议:尝试确定您的问题到底是什么(什么不起作用),然后提出问题。然后,根据答案,尝试解决您的问题。我的观点是:不要指望将来会收到像我这样的完整工作答案,因为它并没有真正帮助你(尽管你认为它确实如此)。 给一个人一条鱼,你可以喂他一天。教一个人钓鱼,你就可以养活他一辈子 ;)
  • 我明白了,我从没想过有人会发布完整的答案,但谢谢你,我真的很感谢你这样做。当我在尝试存档某些内容时遇到困难并且社区一直在帮助我时,我只会在 SOF 上发布一个问题。谢谢奥斯卡。
【解决方案2】:

如果你想提取内容,会更容易,如果你只是选择它

"//tr//span[contains(@style, 'display:none')]/text()"

对于具有特定idclass 属性的spans 也是如此

"//tr//span[@id='123']/text()"

"//tr//span[contains(@class, 'cl17')]/text()"

如果你愿意,你可以结合所有这些条件

"//tr//span[contains(@style, 'display:none') or @id='123' or contains(@class, 'cl17')]/text()"

【讨论】:

  • 感谢您的解决方案。
猜你喜欢
  • 1970-01-01
  • 2020-05-28
  • 2011-11-12
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2015-12-23
相关资源
最近更新 更多