温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Python爬取表格的步骤

发布时间:2020-07-03 16:42:05 来源:亿速云 阅读:448 作者:清晨 栏目:编程语言

小编给大家分享一下Python爬取表格的步骤,希望大家阅读完这篇文章后大所收获,下面让我们一起去探讨方法吧!

Python爬取表格的步骤:

1、检查url地址,用raise_for_status()检查url地址;

2、爬取资源,用BeautifulSoup()爬取数据,并且用find_all('tr')抓取其中的表格;

3、保存资源,用write()将表格保存到指定目录。

from bs4 import BeautifulSoup 
import requests 
import csv 
import bs4 
#检查url地址 
def check_link(url): 
 try: 
  r = requests.get(url) 
  r.raise_for_status() 
  r.encoding = r.apparent_encoding 
  return r.text 
 except: 
  print('无法链接服务器!!!') 
#爬取资源 
def get_contents(ulist,rurl): 
 soup = BeautifulSoup(rurl,'lxml') 
 trs = soup.find_all('tr') 
 for tr in trs: 
  ui = [] 
  for td in tr: 
   ui.append(td.string) 
  ulist.append(ui) 
#保存资源 
def save_contents(urlist): 
 with open("D:/2016年中国企业500强排行榜.csv",'w') as f: 
  writer = csv.writer(f) 
  writer.writerow(['2016年中国企业500强排行榜']) 
  for i in range(len(urlist)): 
   writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]]) 
def main(): 
 urli = [] 
 url = "http://www.maigoo.com/news/463071.html"
 rs = check_link(url) 
 get_contents(urli,rs) 
 save_contents(urli) 
main()

运行结果:

Python爬取表格的步骤

看完了这篇文章,相信你对Python爬取表格的步骤有了一定的了解,想了解更多相关知识,欢迎关注亿速云行业资讯频道,感谢各位的阅读!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI