2023学年完整公开课版部署scrapy项目_第1页
2023学年完整公开课版部署scrapy项目_第2页
2023学年完整公开课版部署scrapy项目_第3页
2023学年完整公开课版部署scrapy项目_第4页
2023学年完整公开课版部署scrapy项目_第5页
已阅读5页,还剩11页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

部署scrapy项目部署scrapy项目启动项目部署scrapy项目/01在scrapy项目目录下,有一个scrapy.cfg的配置文件。通过一个简单的JsonAPI来部署(上传)或者控制项目。部署scrapy项目把原先注释掉的url那一行取消注释,这个就是要部署到目标服务器的地址,然后,把[deploy]这里改为[deploy:demo],这里是命名为demo,命名可以任意怎么都可以,只要能标识出来项目就可以。下边的project就是工程名,到此配置文件更改完成。部署scrapy项目接着,执行scrapyd-deploy,这个命令在windows下是运行不了的,(在mac和linux下都是可以的)因为在安装的根目录C:\ProgramFiles\Python35\Scripts中可以查看这个文件是没有后缀名的:部署scrapy项目解决方法:在同目录下,新建文件scrapyd-deploy.bat@echooff"C:\ProgramFiles\Python35\python.exe""C:\ProgramFiles\Python35\Scripts\scrapyd-deploy"%1%2%3%4%5%6%7%8%9上边代码是调用的是环境中的python.exe路径,大家可以根据自己环境来改变路径做配置。执行scrapyd-deploy这个命令了。部署scrapy项目然后,进入到爬虫的根目录,运行scrapyd-deploy:显示这个就证明成功执行了scrapyd-deploy,注意:一定要进入爬虫根目录,就是带有scrapy.cfg的那一层及目录。部署scrapy项目接着:运行:scrapyd-deploydemo-pchina部署scrapy项目这里显示部署成功,可以查看执行启动scrapyd服务端的当先目录下有两个文件夹。到这一步,只是把爬虫项目上传到服务端,并没有启动。部署scrapy项目启动项目/02先运行命令查看服务端状态:curlhttp://localhost:6800/daemonstatus.json启动项目返回的信息:都为0,再执行启动命令:curlhttp://localhost:6800/schedule.json-dproject=china-dspider=china然后查看网页:6800启动项目

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论