爬虫练习网站(Python爬虫练习)

前言国内大学最新排名,北大反超,浙大仅第四,中科大跌至第八时隔五年,“双一流”大学即将迎来首次大考,这也是继改变高校评断标准之后,第一次即将以官方对外发布,自然是引来了许多人的关注。最近,有许多不同机构发布的国内高校排名,但彼此之间的差异很大,网友之间的争议也很大。私信小编01即可获取大量Python学习资料项目目标爬取高三网大学排名,并保存目标网址http://m.gaosan.com/gaokao/265440.html基本环境配置python 3.6 pycharm爬虫代码导入工具import requests
import parsel
import csv请求网页数据​url = 'http://m.gaosan.com/gaokao/265440.html'

headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
response = requests.get(url=url, headers=headers)
response.encoding = response.apparent_encoding爬取数据selector = parsel.Selector(response.text)
trs = selector.css('#page tr')

for tr in trs:
dit = {}
ranking = tr.css('td:nth-child(1)::text').get()
dit['名次'] = ranking
school = tr.css('td:nth-child(2)::text').get()
dit['学校名称'] = school
score = tr.css('td:nth-child(3)::text').get()
dit['综合得分'] = score
star = tr.css('td:nth-child(4)::text').get()
dit['星级排名'] = star
level = tr.css('td:nth-child(5)::text').get()
dit['办学层次'] = level
csv_writer.writerow(dit)​保存数据f = open('排名.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.DictWriter(f, fieldnames=['名次', '学校名称', '综合得分', '星级排名', '办学层次'])
f.close()运行代码,效果如下图

本文出自快速备案,转载时请注明出处及相应链接。

本文永久链接: https://www.175ku.com/36887.html