c#页面加载完成后下载html字符串

Question

我正在尝试使用循环来下载一堆 html 页面并废弃内部数据。但是这些页面在加载时运行了一些 javascript 作业。所以我在想使用 webclient 可能不是一个好的选择。但是，如果我使用下面的 webBrowser。它在循环中第一次调用后返回空的 html 字符串。

WebBrowser wb = new WebBrowser();
        wb.ScrollBarsEnabled = false;
        wb.ScriptErrorsSuppressed = true;
        wb.Navigate(url);
        while (wb.ReadyState != WebBrowserReadyState.Complete) { Application.DoEvents(); Thread.Sleep(1000); }
        html = wb.Document.DomDocument.ToString();

Answer 1

您说得对，WebClient 和所有其他 HTTP 客户端接口将完全忽略 JavaScript；毕竟它们都不是浏览器。

你想要：

var html = wb.Document.GetElementsByTagName("HTML")[0].OuterHtml;

请注意，如果您通过 WebBrowser 加载，则无需抓取原始标记；可以使用GetElementById/TagName等DOM方法。

while 循环非常 VBScript，有一个 DocumentCompleted 事件，您应该将代码连接到其中。

---

private void Whatever()
{
    WebBrowser wb = new WebBrowser();
    wb.DocumentCompleted += Wb_DocumentCompleted;

    wb.ScriptErrorsSuppressed = true;
    wb.Navigate("http://stackoverflow.com");
}

private void Wb_DocumentCompleted(object sender, WebBrowserDocumentCompletedEventArgs e)
{
    var wb = (WebBrowser)sender;

    var html = wb.Document.GetElementsByTagName("HTML")[0].OuterHtml;
    var domd = wb.Document.GetElementById("copyright").InnerText;
    /* ... */
}