pyspider安装详细指南-程序员宅基地

技术标签: pyspider  python  phantomjs  

1、安装wheel,已安装可跳过

    conda install wheel

2、安装pycurl,已安装可跳过

    conda install pycurl

3、安装pyspider

    pip install pyspider

4、python3.7及以上版本会出现如下报错

那是因为async从python3.7开始不能用作参数名了,将以下文件里面的async换一个名字即可(比如_async)

../python3.7/site-packages/pyspider/run.py

../python3.7/site-packages/pyspider/fetcher/tornado_fetcher.py

../python3.7/site-packages/pyspider/webui/app.py

重新安装 pip install pyspider就能成功了

 

5、然后运行命令pyspider all,浏览器访问http://localhost:5000/

一切顺利的话,到这里就结束了。但是我实际在安装时却遇到一堆错误。

  • 第一种情况,出现错误

    则需要安装phantomjs,地址: http://phantomjs.org/download.html

解压下载的文件,将bin目录下的phantomjs.exe复制到python.exe文件所在目录

 

  • 第二种情况,出现的错误

找到../python3.7/site-packages/pyspider/webui/webdav.py文件

'domaincontroller': NeedAuthController(app),

修改为

'http_authenticator':{

        'HTTPAuthenticator':NeedAuthController(app)

},

 

  • 第三种情况,出现的错误

降低wsgidav版本

python -m pip uninstall wsgidav # 卸载

python -m pip install werkzeug==1.0.0 #安装1.0.0版本

6、运行成功

 

 

 

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/qq_28215385/article/details/108776190

智能推荐

使用VSCode内置终端执行python脚本时出现OMP: Error #15错误_终端输出omp-程序员宅基地

文章浏览阅读1.3k次。在conda环境中执行程序时,出现 “OMP:Error #15” 的一种解决方法与诱因分析_终端输出omp

{windows故障}关于WIN7故障模块StackHash_0a9e解决方法-程序员宅基地

文章浏览阅读1.6w次。问题背景:我给同事重装好系统后,想用驱动精灵(网卡版)给新系统安装驱动,但是在安装驱动精灵的过程中老是出现标题的问题,windows停止工作,导致无法安装,最后看到这两个方法后,把网络适配器禁用,然后就安装上驱动精灵了我先把方法复制上,然后在说明情况方法一:本机是win7 64位,一开始以为兼容性问题,折腾了N久也不行,但皇天不负有心人,网上找到一个类似问题,原来并不是系统或者..._stackhash12模块故障

AttributeError: module ‘numpy‘ has no attribute ‘float‘_attributeerror: module 'numpy' has no attribute 'f-程序员宅基地

文章浏览阅读1.5w次,点赞29次,收藏58次。出现这个问题的原因是:从numpy1.24起删除了numpy.bool、numpy.int、numpy.float、numpy.complex、numpy.object、numpy.str、numpy.long、numpy.unicode类型的支持。_attributeerror: module 'numpy' has no attribute 'float'.

安装ubuntu后找不到win7_ubuntu 20. 安装后找不到win7-程序员宅基地

文章浏览阅读3.5k次。解决方法:1.代开终端;2.sudo update-grub;3.关机;4.再开机就能看到双系统了;_ubuntu 20. 安装后找不到win7

Ubuntu Server 更换国内源_ubuntu keyserver 国内-程序员宅基地

文章浏览阅读1w次。Ubuntu Server 更换国内源的操作什么是源?源即来源。软件源的概念由debian操作系统提出,作为debian系的ubuntu,继承了debian的deb和apt系统,只要设定好软件源,就能很方便的安装软件了。为什么要换源?从官网下载的Ubuntu系统默认的系统软件源是指向的国外服务器,而大家的网络通往国外的网络通道不是很通畅,故需要将源服务器地址重定向到国内的源镜像服务器,从而..._ubuntu keyserver 国内

【Pandas数据处理100例】(十八):Pandas的shift数据位移操作_pandas 列为指定条件位移-程序员宅基地

文章浏览阅读273次。大家好,我是阿光。本专栏整理了《Pandas数据分析处理》,内包含了各种常见的数据处理,以及Pandas内置函数的使用方法,帮助我们快速便捷的处理表格数据。正在更新中~ 我的项目环境:该函数可以经过偏移后的数据测试数据如下:shift函数的默认偏移量是1,就是会将数据向下偏移一位,第一个位置缺失由于没有上一个元素,所以为空。如果我们要向上移动元素,只需要将periods设置为负值,大小就是偏移量。我们在偏移过程中,靠近上方或者下方的数据会出现空值,所以我们可以使用fill_value这个参数_pandas 列为指定条件位移

随便推点

计算机毕业设计 基于大数据的智能家居销量数据分析系统的设计与实现 Java实战项目 附源码+文档+视频讲解_基于大数据的智能家居销售数据分析系统 开题报告-程序员宅基地

文章浏览阅读1k次,点赞8次,收藏4次。随着科技的不断发展,智能家居系统已经成为了人们生活中不可或缺的一部分。而随着智能家居销量的不断增加,如何对这些数据进行有效的分析和利用也成为了当前亟待解决的问题。因此,本文提出了一种基于大数据的智能家居销量数据分析系统的设计与实现。该系统主要分为前台和后台两个部分,用户可以通过前台进行注册登录、查看冰箱信息、获取智能家居资讯等操作,管理员则可以通过后台进行用户管理、家电信息管理、系统管理等工作。通过对智能家居销量数据的分析,可以帮助企业更好地了解市场需求,优化产品设计和生产,提高销售效益。_基于大数据的智能家居销售数据分析系统 开题报告

异常:PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException:-程序员宅基地

文章浏览阅读3.6w次,点赞2次,收藏19次。问题java使用httpclient或者restTemplate进行https请求时,出现如下异常:javax.net.ssl.SSLHandshakeException: sun.security.validator.ValidatorException: PKIX path building failed: sun.security.provider.certpath.SunCertP..._pkix path building failed: sun.security.provider.certpath.su

c# 窗体开发2 高级控件的使用_tooltiptext c#-程序员宅基地

文章浏览阅读794次,点赞2次,收藏9次。1.单选按钮(RadioButton)同一组中其他单选按钮不能同时选定分组形式:panel GoupBox 窗体方法: 属性 说明 Appearance RadioButton 控件的显示与命令按钮相似 Checked 确定是否已选定控件 方法 ..._tooltiptext c#

关于高德地图问题总结 (七)调起本地地图导航_android fragment调用高德地图-程序员宅基地

文章浏览阅读734次。唤起第三方的导航软件_android fragment调用高德地图

未能对git remote进行身份验证-程序员宅基地

文章浏览阅读7.5k次,点赞2次,收藏10次。1.错误信息2.原因错误原因的出现其实就是因为你的gitee密码更改了,但是没用同步到Windows凭据管理器上,所以导致报这个错误3.首先点击控制面板找到用户账户,操作如下图所示

【学习随笔】图灵-计算机器与人工智能_can machines think-程序员宅基地

文章浏览阅读1k次。思维导图模仿游戏 作者首先提出了"Can machines think?" (“机器可以思考吗?”)这个问题。相比与尝试定义“机器”“思考”,作者提出了“模仿游戏”。 一个男人(A),一个女人(B)和一个可以是任意性别的询问者(C),A模仿B来误导C的判断,C通过询问AB判断具体两人性别。 从而提出"What will happen when a machine takes the part of A in this game?"(“当让一个机器..._can machines think