温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

发布时间:2020-08-02 04:43:00 来源:网络 阅读:360 作者:pengdongcheng 栏目:编程语言

前几天小编带大家学会了如何Scrapy框架下创建属于自己的第一个爬虫项目(上),今天我们进一步深入的了解Scrapy爬虫项目创建,这里以伯乐在线网站的所有文章页为例进行说明。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  在我们创建好Scrapy爬虫项目之后,会得到上图中的提示,大意是让我们直接根据模板进行创建Scrapy项目。根据提示,我们首先运行“cd article”命令,意思是打开或者进入到article文件夹下,尔后执行命令“scrapy genspider jobbole blog.jobbole.com”,代表通过Scrapy中自带的basic模板进行创建Scrapy项目,如下图所示。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  根据提示,该模板创建的位置为article.spiders.jobbole,此时再次输入tree /f命令可以查看到除了之前创建Scrapy爬虫项目的基础文件之外,在spiders文件夹下确实是多了一个jobbole.py文件,如下图所示。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  当然了,爬虫模板不一定非得用Scrapy爬虫项目自带的模板,也可以自定义的进行创建,但是基本上Scrapy提供的模板是足够使用的了。

  接下来,将整个爬虫项目导入到Pycharm中去,点击左上方“fileàopen”,找到爬虫项目创建的文件夹,点击确认即可。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  如果在Pycharm中的spiders文件夹下看不到jobbole.py这个文件的话,则先选中spiders文件夹,尔后右键,点击“Synchronize spider”,代表与spiders文件夹进行同步的意思,尔后便可以看到jobbole.py就会被加载出来。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  点击jobbole.py文件进行查看内容,如下图所示。可以看到该文件已经默认的填充了部分Python代码,其实是从源模板中进行复制创建的。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  可以看到该文件中有当前Scrapy爬虫项目的名字nameScrapy爬虫项目所允许的域名范围allowed_domains,以及Scrapy爬虫项目的起始URL,即start_urls

  接下来最后检查一下该项目的Python解释器,点击Pycharmsetting,然后输入“interpreter”,找到解释器所在的位置,如下图所示。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  如果“Project Interpreter”显示出来的解释器不是当前项目下的虚拟环境,则点击“Project Interpreter”的右侧的设置按钮,如下图所示。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  然后点击“Add local”,如下图所示。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  找到该项目对应的虚拟环境Python解释器,进行添加即可,如下图所示。

手把手教你如何新建scrapy爬虫框架的第一个项目(下)

  至此,Scrapy爬虫虚拟环境创建、Scrapy爬虫项目的创建以及Scrapy爬虫项目导入到Pycharm中以及解释器的配置已经完成,接下来我们要开始写入爬虫逻辑,以及数据提取等,敬请期待~~

  对爬虫感兴趣的小伙伴,欢迎来Github:https://github.com/cassieeric,喜欢的话记得给个star噢~~


向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI