-
Python爬虫requests参数timeout以及retrying的使用
timeout参数的使用 在某些网络情况不好或者服务器端异常的情况会出现请求慢或者请求异常的情况，这个时候我们需要给请求设置一个超时时间，而不是让程序一直在等待结果。写一个简单的例子： import .requests response = requests.get('https://www.linfengnet.com/', timeout=3) print(response…...
塵風- 0
- 0
- 1.1k
-
Python虚拟环境使用
虚拟环境是独立的Python环境，在虚拟环境中通过安装第三方库，不会影响到本地的Python环境或者是其他虚拟环境，这样可以再不同项目对库的版本有不同需求的时候方便我们的使用。 笔记来源内容： 虚拟环境和包 — Python 3.9.13 文档 参考请注意python版本是否相同，其他版本的文档我没看过。 网上还找到了更加详细的虚拟环境相关内容，感兴趣可以自行前往查看： 最全的Python虚拟环境…...- 塵風
- 0
- 0
- 1.4k
-
Python 将字符串转为字典
Python 将字符串转为字典可以使用ast模块中的literal_eval方法或者是json模块、eval方法。下面分享下这三种方法的示例代码： 注：虽然上面列举了三个在Python中可以实现将字符串转为字典的方法，但是推荐使用ast模块中的literal_eval方法进行，具体的原因会在下述说明，下面是详细的代码： 通过 json 来转换 我们可以直接使用json模块中的loads函数对字符串…...- 塵風
- 0
- 0
- 693
-
python os.scandir()函数
概述 在 Python 3.5版本中，新添加了 os.scandir()方法， scandir是一个目录迭代方法，返回一个DirEntry迭代器对象，它能告诉你迭代文件的路径。 os.scandir() 的运行效率要比 os.walk 高。 在 PEP 471 中，Python 官方也推荐我们使用 os.scandir() 来遍历目录。 相关文章：Python os.walk() 方法 官方介绍截…...- 塵風
- 0
- 0
- 1.7k
-
python requests请求之timeout参数
requests请求之timeout参数 1、python 的requests请求都可以使用timeout参数。2、timeout参数可以传入一个简单的浮点数，它将请求的连接部分和读取部分设为相同的超时时间。3、timeout参数也可以传入一个包含两个简单浮点数的元组，用来分别设置请求超时时间和读取超时时间。 举例说明： 1、传入简单浮点数： import requests # 设置超时时间为1秒…...- 塵風
- 0
- 0
- 1.1k
-
fake-useragent模块报错：rror occurred during loading data. Trying to use cache server解决方法
rror occurred during loading data. Trying to use cache server报错原因： fake-useragent模块需要在线下载包含useragent信息的json文件，但是由于国内网络的特殊原因，现在如果直接使用，会出现如下报错提示： rror occurred during loading data. Trying to use cache s…...- 塵風
- 0
- 0
- 850
-
python错误: Object of type * is not JSON serializable解决
Object of type * is not JSON serializable错误是我在写爬虫的时候遇到的一个问题 引起函数 json.dumps()函数引起的 在处理数据的时候使用json.dumps()函数将dict（字典）数据类型转化为json数据的时候，促发了这个错误。 原因： 原因是转化的dict(字典)数据中有value数据没处理好，字典的值中包含了generator、byte（字…...- 塵風
- 0
- 0
- 6k
-
网站被黑，被搜索引擎收录垃圾信息删除处理教程
现在有非常多的站点被黑导致网站被搜索引擎收录了许多的色情、赌博信息，导致网站被降权，或者搜索品牌词的时候出现的站点信息变成了垃圾信息等情况，尽管有的企业不依赖SEO转化，但是品牌词有搜索量的公司遇见这种情况也是比较重要的问题。 注意：这篇文章是教你怎么处理/删除：被搜索引擎收录垃圾信息，而不是教你处理网站被黑（至于网站被黑这问题怎么处理，则太宽泛了，问题原因数不胜数，不是一篇文章说的清楚的）。 处…...- 塵風
- 0
- 0
- 1.3k
-
Python selenium 报错: DeprecationWarning: executable_path has been deprecated, please pass in a Service object *…解决
错误描述: DeprecationWarning: executable_path has been deprecated, please pass in a Service object 触发原因 DeprecationWarning 类型的警告错误：大多是属于版本已经更新，所使用的方法已经过时。 之所以出现这样的错误 是因为executable_path 被重构到了 Service 函数里，W…...- 塵風
- 0
- 0
- 2.8k
-
Python爬虫：设置随机User-Agent模块fake-useragent
Python爬虫：设置随机User-Agent模块fake-useragent介绍和使用。 模块简介 GitHub地址 https://github.com/hellysmile/fake-useragent UA数据来源 目前1.5x的版本我看GitHub介绍数据是从 https://user-agents.net/ 下载的。下面的使用的部分示例是1.2或者1.3版本新增的功…...- 塵風
- 0
- 0
- 3.4k
-
Python爬虫报错：(Caused by SSLError(SSLEOFError(8, ‘EOF occurred in violation of protocol (_ssl.c:1129)’)))解决
今天在写爬虫的时候遇到一个错误，即： requests.exceptions.SSLError: HTTPSConnectionPool(host='httpbin.org', port=443): Max retries exceeded with url: /get (Caused by SSLError(SSLEOFError(8, 'EOF occurred …...- 塵風
- 0
- 0
- 17.1k
-
Python glob模块和主要方法
概述 glob是python自己带的一个文件操作相关模块，查找文件目录和文件，类似于Windows下的文件搜索。 glob模块会将查找到的文件目录或文件的搜索结果返回到一个列表中。 支持的通配符： 支持：*，?，[]，这三个通配符 *代表匹配0个或多个字符?代表匹配任意一个字符[]匹配指定范围内的字符如：[0-9]匹配所有数字[a-z]匹配所有字母[1,2,3]仅匹配1，2，3三个数字[！1,2,…...- 塵風
- 0
- 0
- 1.8k
-
Python Excel常用操作库+使用笔记分享
Python操作Excel表格的库有不少，我接触到的比较多的主要要“三个”，这篇文章主要是对它们几个之间的区别介绍和基础使用笔记，它们分别是：xlrd+xlwt，openpyxl库，csv库。并整理了对应的官方文档地址, 方便进行使用学习, 干货文章快快收藏吧. 介绍和区别 xlrd+xlwt xlrd+xlwt是两个库：xlrd用于读取，xlwt用于写入编辑，xlrd和xlwt可以读取格式为.x…...- 塵風
- 0
- 0
- 706
-
Python sort()函数详解 – Python列表排序函数
Python sort()函数介绍 sort()函数是Python 列表的一个方法，是python中的内置函数，sort()函数可以对列表进行就地排序。 只使用<来比较项之间的关系。如果任何比较操作失败，异常将不会被屏蔽(在排序过程中发生任何比较操作失败的异常，该异常将会被抛出，而不会被程序自动处理或忽略。) - 如果任何比较操作失败，整个排序操作将失败（并且列表可能会处于部分修改的状态）。…...- 塵風
- 0
- 0
- 886
-
Python从路径|URL中获取文件名、文件后缀的方法
Python从路径|URL中获取文件名、文件后缀的方法分享： 我们可以通过urlparse模块中的urllib.parse方法、os.path模块或者是字符串split、rfind等方法去实现，非常简单。这样就不用去写正则了哈哈哈。 一般情况下urlparse更合适解析URL(URL中有参数的时候，不需要做其他处理)，os.path模块则更合适处理本地路径，所以大部分时候个人建议选择这两种方式也就…...- 塵風
- 0
- 0
- 1.3k
-
PyCharm破解教程(简单长期稳定)
PyCharm破解教程(简单长期稳定)分享，本人重装系统后需要重新安装很多东西，pycharm就是其中一个，下面分享下pycharm的破解教程。如果你也想重装系统的话,可以点这里查看我分享的教程：简单快速重装windows纯净原版操作系统教程(无需U盘无需设置Bios) 注意：本文所分享的内容已经有较长时间了，具体是否可用博主已经不确定了，如果还需要使用旧版本pycharm的小伙伴可以试试，不然建…...- 塵風
- 0
- 0
- 3.8k
-
Python Counter()函数介绍 – 统计值出现的次数
Python Counter()函数介绍 Counter()函数 是collections模块(Python标准库中的一个模块)中的里面的一个类，作用是计算出字符串或者列表等中不同元素出现的个数，返回值可以理解为一个字典，所以对传回来的统计结果的操作都可以当作对字典的操作(Counter类继承dict类，所以它能使用dict类里面的方法) Note: 字符串还有一个内置的count()，只能统计字…...- 塵風
- 0
- 0
- 3.4k
-
Python模块requests参数verify – SSL证书认证
Python模块requests参数verify - SSL证书认证 requests模块中verify关键词参数用于控制是否开启SSL证书认证，requests在请求HTTPS链接时，默认是开启SSL证书认证的，即请求中verify参数默认为True(verify=True)。 关闭SSL证书认证 如果要关闭SSL证书认证，我们可以把verify参数设置False即可，例如： # -*- cod…...- 塵風
- 0
- 0
- 922
-
Python 列表中获取最后一个元素的方法
Python 列表中获取最后一个元素的方法：在 Python 中，有多种方法可以获取列表的最后一个元素。我这里分享介绍通过列表索引、pop() 函数这两种方法，使用索引可以直接通过list[-1]获取，pop() 函数的话会删除并返回指定索引位置的元素，可以自己根据实际情况选择对应的方法。以下是每种方法的详细说明和示例代码。 使用索引 Python 的列表支持负索引，这非常方便。负索引从列表的末尾…...- 塵風
- 0
- 0
- 395
-
PyCharm中文指南、教程-百度云免费
今天分享的PyCharm中文文档的相关资源，有相关接触的可以考虑收藏，熟悉编辑器可以有效的帮助我们提高我们的编程效率，在方便新手学习使用的同时在使用中遇到各种Pycharm编辑器相关问题，可以查找帮助解决，以备不时之需！ PyCharm是什么，这里就不扯了，点进这里来的我想到都知道PyCharm是什么，文章下面也有一点网上复制过来的pycharm简介，之前也分享过：Pycharm安装详细教程(非常…...- 塵風
- 0
- 0
- 2.1k
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×