需求: 
爬取虎嗅网站的所有新闻,并保存到数据库中。 
http://www.huxiu.com

技术: 
1、爬虫 
获取服务器的资源(urllib) 
解析html网页(BeautifulSoup) 
2、数据库技术 
数据库 MySQLdb 
业务逻辑的分析: 
(1)、虎嗅网站的新闻,包括首页和分页信息(下一页) 
(2)、需要从首页的资源和分页的资源中获取每个新闻的url连接 
如何获取url: 
解析网站html文件,如果A标签的href属性包含 article字段,就表示这是一个新闻 
(3)访问新闻的url,解析出想要的字段

http://www.woaipu.com/shops/zuzhuan/61406

http://www.woaipu.com/shops/zuzhuan/61406

相关文章:

  • 2021-11-26
  • 2022-02-21
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
猜你喜欢
  • 2021-06-20
  • 2021-09-04
  • 2022-12-23
  • 2022-12-23
  • 2021-07-29
  • 2022-12-23
  • 2021-06-04
相关资源
相似解决方案