【问题标题】:Python3 - I do not want to print the Javascript code with BeautifulSoupPython3 - 我不想用 BeautifulSoup 打印 Javascript 代码
【发布时间】:2015-08-02 17:04:25
【问题描述】:

我有这个代码:

import requests
from bs4 import BeautifulSoup
url  = 'http://www.link.com'
r = requests.get(url)
soup = BeautifulSoup(r.content, 'html.parser')
for x in (soup.find_all(True,text=re.compile(r'text on the page', re.I))):
print (x, '\n')

现在当我运行它时,它会打印出一些我不知道为什么的javascript(我想看到一些文本而不是一些脚本)。我的问题是:每次我想从网络上抓取数据时,如何摆脱 javascript?

输出:

<script type="text/javascript">
<!--
function MM_swapImgRestore() { //v3.0
var i,x,a=document.MM_sr; for(i=0;a&&i<a.length&&(x=a[i])&&x.oSrc;i++) x.src=x.oSrc;
}
function MM_preloadImages() { //v3.0
  var d=document; if(d.images){ if(!d.MM_p) d.MM_p=new Array();
var i,j=d.MM_p.length,a=MM_preloadImages.arguments; for(i=0; i<a.length; i++)
if (a[i].indexOf("#")!=0){ d.MM_p[j]=new Image; d.MM_p[j++].src=a[i];}}
}

function MM_findObj(n, d) { //v4.01
var p,i,x;  if(!d) d=document; if((p=n.indexOf("?"))>0&&parent.frames.length) {
d=parent.frames[n.substring(p+1)].document; n=n.substring(0,p);}
if(!(x=d[n])&&d.all) x=d.all[n]; for (i=0;!x&&i<d.forms.length;i++)   x=d.forms[i][n];
for(i=0;!x&&d.layers&&i<d.layers.length;i++) x=MM_findObj(n,d.layers[i].document);
if(!x && d.getElementById) x=d.getElementById(n); return x;
}

function MM_swapImage() { //v3.0
var i,j=0,x,a=MM_swapImage.arguments; document.MM_sr=new Array; for(i=0;   i<(a.length-2);i+=3)
if ((x=MM_findObj(a[i]))!=null){document.MM_sr[j++]=x; if(!x.oSrc) x.oSrc=x.src; x.src=a[i+2];}
}
//-->
</script> 

<td align="left" class="template_title" height="50" valign="bottom" width="535"><div style="padding-bottom:9px;">4</div></td> 

【问题讨论】:

  • 您可以添加您看到的输出示例吗?可能会更清楚地了解正在发生的事情。
  • @TomElliott 我花了很长时间才正确粘贴代码:P 这是问题

标签: javascript python python-3.x beautifulsoup python-requests


【解决方案1】:

script 元素是 DOM 中的合法元素。不过,你可以告诉find_all() 不要回你script 标签:

soup.find_all(lambda elm: elm and elm.name != 'script', text=re.compile(r'text on the page', re.I))

【讨论】:

  • 您好,谢谢您的回答,您能解释一下为什么它仍然打印脚本,即使它看起来不是文本?
  • 抱歉打扰了,但您还记得您找到有关 lambda 和不打印标签的信息的文档吗?
  • @bob 当然,这里有一个很好的关于bs4中函数使用的信息:crummy.com/software/BeautifulSoup/bs4/doc/#a-function
猜你喜欢
  • 2017-10-07
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-04-16
  • 1970-01-01
  • 2016-02-09
  • 2015-03-07
相关资源
最近更新 更多