-
Python爬虫requests参数timeout以及retrying的使用
timeout参数的使用 在某些网络情况不好或者服务器端异常的情况会出现请求慢或者请求异常的情况，这个时候我们需要给请求设置一个超时时间，而不是让程序一直在等待结果。写一个简单的例子： import .requests response = requests.get('https://www.linfengnet.com/', timeout=3) print(response…...
塵風- 0
- 0
- 1.1k
-
网站被黑，被搜索引擎收录垃圾信息删除处理教程
现在有非常多的站点被黑导致网站被搜索引擎收录了许多的色情、赌博信息，导致网站被降权，或者搜索品牌词的时候出现的站点信息变成了垃圾信息等情况，尽管有的企业不依赖SEO转化，但是品牌词有搜索量的公司遇见这种情况也是比较重要的问题。 注意：这篇文章是教你怎么处理/删除：被搜索引擎收录垃圾信息，而不是教你处理网站被黑（至于网站被黑这问题怎么处理，则太宽泛了，问题原因数不胜数，不是一篇文章说的清楚的）。 处…...- 塵風
- 0
- 0
- 1.3k
-
Python requests 异常Proxy URL had no scheme, should start with http:// or https://解决
异常原因 Python requests 异常Proxy URL had no scheme, should start with http:// or https://解决，在使用Python requests的proxy代理功能的时候出现了这个错误，意思是我们使用的代理方案应该以http:// or https://开头。 在网上看到的原因是说在Python3.7及以上版本中使用request…...- 塵風
- 0
- 0
- 827
-
Python for循环同时遍历两个列表
Python for循环同时遍历两个列表我们可以使用Python zip函数来实现， zip() 函数简介 zip() 函数是 Python 内置函数之一，zip() 函数用于将可迭代的对象作为参数，将对象中对应的元素打包成一个个元组，然后返回由这些元组组成zip对象。 在Python2中，zip() 函数返回的是列表，在Python3中，则是返回上述所说的zip对象，这样可以减少内存。如果需要列…...- 塵風
- 0
- 0
- 428
-
Python爬虫报错：(Caused by SSLError(SSLEOFError(8, ‘EOF occurred in violation of protocol (_ssl.c:1129)’)))解决
今天在写爬虫的时候遇到一个错误，即： requests.exceptions.SSLError: HTTPSConnectionPool(host='httpbin.org', port=443): Max retries exceeded with url: /get (Caused by SSLError(SSLEOFError(8, 'EOF occurred …...- 塵風
- 0
- 0
- 17.1k
-
Python字典按照值(value)的大小进行排序方法
Python字典按照值(value)的大小进行排序可以使用collections的Counter()函数和sorted函数两种方式进行，关于Counter和sorted函数之前也记录过，关于这两个详细的就不说了，有需要可以自己看看： python Counter()函数介绍 - 统计值出现的次数 Python3 sorted() 函数 - 对所有可迭代的对象进行排序操作。 下面我们直接看使用它们对…...- 塵風
- 0
- 0
- 748
-
Python使用 pytesseract 进行图片识别
在编写爬虫的时候，如果遇见参数图片化的情况的(例如登录验证码)，就需要对图片验证码进行识别，我们就可以使用pytesseract。 pytesseract简介 pytesseract是一款用于光学字符识别（OCR）的python工具，即从图片中识别出和“读取”其中嵌入的文字。 底层使用的是Google的Tesseract-OCR 引擎（Tesseract是一个开源文本识别 (OCR) 引擎（注意：…...- 塵風
- 0
- 0
- 2.3k
-
Python 将字符串转为字典
Python 将字符串转为字典可以使用ast模块中的literal_eval方法或者是json模块、eval方法。下面分享下这三种方法的示例代码： 注：虽然上面列举了三个在Python中可以实现将字符串转为字典的方法，但是推荐使用ast模块中的literal_eval方法进行，具体的原因会在下述说明，下面是详细的代码： 通过 json 来转换 我们可以直接使用json模块中的loads函数对字符串…...- 塵風
- 0
- 0
- 685
-
Windows python安装教程(超详细)
1：下载python python官网地址：https://www.python.org/ python下载地址直达：https://www.python.org/downloads/ 由于国内网络特殊原因，去官网下载不科学上网可能会很慢或者无法下载。 这里附上国内华为python安装包地址： 华为python安装包下载地址：https://mirrors.huaweicloud.com/pyth…...- 塵風
- 0
- 0
- 1.7k
-
Python reversed 函数 – 对序列进行逆序操作
Python reversed 函数是一个Python内置函数，它可以对序列进行逆序操作。 序列可以是列表、元组、字符串等，通过使用reversed()函数，我们可以快速简便地将序列中的元素进行逆序排列。我们也可以用它来实现for循环反向遍历。 reversed()函数语法 reversed(sequence) 参数 sequence即是要进行逆序操作的序列( tuple, string…...- 塵風
- 0
- 0
- 367
-
Python拼接URL：urllib.parse urljoin使用
Python拼接URL可以使用urllib.parse中的urljoin方法，urllib是Python中一个用于URL 处理的模块，urllib.parse 用于解析 URL，在之前分享的Python从路径|URL中获取文件名、文件后缀的方法中提到过使用其中的urlparse方法解析URL，感兴趣的可以去看看。 urllib.parse模块的的urlparse和urljoin刚好是两个相反的功能…...- 塵風
- 0
- 0
- 1k
-
PyCharm破解教程(简单长期稳定)
PyCharm破解教程(简单长期稳定)分享，本人重装系统后需要重新安装很多东西，pycharm就是其中一个，下面分享下pycharm的破解教程。如果你也想重装系统的话,可以点这里查看我分享的教程：简单快速重装windows纯净原版操作系统教程(无需U盘无需设置Bios) 注意：本文所分享的内容已经有较长时间了，具体是否可用博主已经不确定了，如果还需要使用旧版本pycharm的小伙伴可以试试，不然建…...- 塵風
- 0
- 0
- 3.8k
-
UnicodeDecodeError: ‘utf-8’ codec can’t decode byte 0xb9 in position 0: invalid start byte错误解决
今天在使用Python csv模块的时候，出现了这个错误，不过应该打开其他类型的文件，例如txt文件没指定正确的编码应该也会出现这个问题，可以一起参考下文章里面的解决方法，详细报错信息如下： Traceback (most recent call last): File "你的Python文件路径***.py", line 18(代码所在位置), in <module&g…...- 塵風
- 0
- 0
- 870
-
Pycharm项目目录文件夹图标小圆点代表什么意思
Pycharm项目目录文件夹图标小圆点代表什么意思：带小圆点的目录则代表这是一个Python的包，这个目录里面会有__init__.py文件。 如下图所示： 带点和不带点区别 带有小圆点的文件夹目录是packkage，即Python的包，里面会有__init__.py文件 没有点的是一个directory，即是普通的文件夹 在文件夹添加或者删除__init__.py文件，它就会变成包或者普通文件夹…...- 塵風
- 0
- 0
- 1.1k
-
解决python：AttributeError: ‘set’ object has no attribute ‘items’错误记录
在之前写爬虫代码的时候，我自以为认代码各方面的都没问题了，但是出现了这样一个错误： AttributeError: 'set' object has no attribute 'items' 手动苦笑不得，检查了一遍代码发现都没问题，但是运行还是出现这个错误，于是我就果断百度了下， 出现这个错误可能是我们把一组dict，用逗号相隔了 例如{“id”,id}应…...- 塵風
- 0
- 0
- 2.2k
-
在Python中打开文件使用utf-8-sig和utf-8的区别
今天在使用Python读取CSV文件的时候，出现了一个KeyError的错误的，这个错误提示很明显，就是没有对应的列名，但是经过检查我的CSV文件中是有对应的列名的呀，然后编码格式我也检查了，这个时候我就想先打印列名看下，打印后就看出问题了。 问题原因 假设通过Excel打开我的CSV文件，列名是：列名1、列名2... 但是打印出的结果是如下： ['\ufeff列名1', &#…...- 塵風
- 0
- 0
- 758
-
python os.scandir()函数
概述 在 Python 3.5版本中，新添加了 os.scandir()方法， scandir是一个目录迭代方法，返回一个DirEntry迭代器对象，它能告诉你迭代文件的路径。 os.scandir() 的运行效率要比 os.walk 高。 在 PEP 471 中，Python 官方也推荐我们使用 os.scandir() 来遍历目录。 相关文章：Python os.walk() 方法 官方介绍截…...- 塵風
- 0
- 0
- 1.7k
-
Python requests获取状态码
Python requests获取状态码可以通过status_code获取，例如： r = requests.get('https://httpbin.org/get') print(r.status_code) # 打印状态码 但是：requests默认不会获取301/302状态码。使用上述代码如果请求了一个被301/302跳转的URL，也会返回跳转后的状态码，如果是正常请求…...- 塵風
- 0
- 0
- 1.5k
-
python Queue(进程队列)
在Python中我知道队列模块有： from queue import Queue此模块适用于线程间通信，但不能用于进程间通信。from multiprocessing import Queue此模块用于对进程，但是不能用于进程池。 下面笔记记录的就是：from multiprocessing import Queue 用于进程间通信的队列。 部分内容来源以及相关资料： Python 队列（Que…...- 塵風
- 0
- 0
- 875
-
Python enumerate() 函数，Python将列表转换为索引:元素的字典
Python将列表转换为索引:元素的字典可以使用Python enumerate() 函数，enumerate() 函数是Python中的一个内置函数。 enumerate() 函数 介绍 enumerate() 函数用于将一个可遍历的数据对象(如列表、元组或字符串)组合为一个索引序列，同时列出数据和数据下标，一般用在 for 循环当中。 Python 2.3. 以上版本可用，2.6 添加 sta…...- 塵風
- 0
- 0
- 781
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×