-
Python拼接URL：urllib.parse urljoin使用
Python拼接URL可以使用urllib.parse中的urljoin方法，urllib是Python中一个用于URL 处理的模块，urllib.parse 用于解析 URL，在之前分享的Python从路径|URL中获取文件名、文件后缀的方法中提到过使用其中的urlparse方法解析URL，感兴趣的可以去看看。 urllib.parse模块的的urlparse和urljoin刚好是两个相反的功能…...
塵風- 0
- 0
- 956
-
Pycharm项目目录文件夹图标小圆点代表什么意思
Pycharm项目目录文件夹图标小圆点代表什么意思：带小圆点的目录则代表这是一个Python的包，这个目录里面会有__init__.py文件。 如下图所示： 带点和不带点区别 带有小圆点的文件夹目录是packkage，即Python的包，里面会有__init__.py文件 没有点的是一个directory，即是普通的文件夹 在文件夹添加或者删除__init__.py文件，它就会变成包或者普通文件夹…...- 塵風
- 0
- 0
- 1k
-
网站搜索页面出现大量垃圾网页被收录怎么处理
网站搜索页面出现大量垃圾网页被收录怎么处理？这个问题是前几天一个朋友问我的，问题示例如下： 问题展示 再说解决方法之前我们先聊聊这个问题出现的原因，原因很明显： 就是网站被模拟搜索了大量的垃圾信息关键词，然后出现了对应的页面让搜索引擎抓取了。 像这种也算是"黑帽SEO"推广了吧...不过我认为这个东西实现起来还是很简单的，技术含量很低，而且挺早之前就出现了。 我可不可以不处理？…...- 塵風
- 0
- 0
- 1.2k
-
使用Python检查提取网站死链
网站死链会影响我们的用户体验和搜索引擎对我们站点的评分(尤其是网站存在已经被做成赌博、色情网站的链接，影响很大)，但是网站运营时长长了，就难免会有这样的问题，所以我们可以考虑定期的处理下，我之前分享过一些WordPress死链、外部链接处理的文章，如果你是使用WordPress，就可以直接参考下述的文章去解决： WordPress去除文章失效链接 WordPress文章外部链接清除 WordPre…...- 塵風
- 0
- 0
- 509
-
Python 字典判断键是否存在
Python 字典判断键是否存在可以使用has_key()方法、 __contains__(key)方法、in 操作符。下面是详细介绍和实例代码： has_key()方法 Python 字典(Dictionary) has_key() 函数用于判断键是否存在于字典中，如果键在字典 dict 里返回 true，否则返回 false。 注意：Python 3.X 不支持该方法。 语法 has_key(…...- 塵風
- 0
- 0
- 1.5k
-
python错误: Object of type * is not JSON serializable解决
Object of type * is not JSON serializable错误是我在写爬虫的时候遇到的一个问题 引起函数 json.dumps()函数引起的 在处理数据的时候使用json.dumps()函数将dict（字典）数据类型转化为json数据的时候，促发了这个错误。 原因： 原因是转化的dict(字典)数据中有value数据没处理好，字典的值中包含了generator、byte（字…...- 塵風
- 0
- 0
- 5.9k
-
Python3 sorted() 函数 – 对所有可迭代的对象进行排序操作
sorted() 函数描述 Python3 sorted() 函数是python 3 中的一个内置函数，sorted() 函数作用是可以对所有可迭代的对象进行排序操作。 PS：有时候我们需要对拿到的字典之类的数据进行排序，就可以直接使用这个函数，而不需要进行for循环这样的操作去处理啦，如果数据是列表的话，也可以使用sort()函数，具体可以看我之前的文章：python sort()函数详解。 s…...- 塵風
- 0
- 0
- 922
-
Windows下将Pycharm终端更改为PowerShell
Windows下将Pycharm终端更改为PowerShell：我们都知道power shell不管是从功能上还是性能上都要比CMD要强大得多，我们安装了power shell后，可以将pycharm编辑器中的默认终端切换为power shell，方便我们的使用。 更改流程 1：找到power shell路径 先搜索到我们的power shell，右键，然后选择打开文件位置 打开是几个快捷键：我们…...- 塵風
- 0
- 0
- 2.1k
-
Python爬虫requests参数timeout以及retrying的使用
timeout参数的使用 在某些网络情况不好或者服务器端异常的情况会出现请求慢或者请求异常的情况，这个时候我们需要给请求设置一个超时时间，而不是让程序一直在等待结果。写一个简单的例子： import .requests response = requests.get('https://www.linfengnet.com/', timeout=3) print(response…...- 塵風
- 0
- 0
- 1k
-
Python pip命令大全
Python pip 使用命令大全分享 官方文档 地址：https://docs.python.org/3/installing/index.html 命令大全 安装模块 pip install 模块名 通常，如果已经安装了模块，再次安装 它再次不会有任何效果。如需要升级 请使用升级命令。 不加版本号 默认安装模块当前最新版本。 安装指定版本 pip install 模块名==1.xx 指定源安装…...- 塵風
- 0
- 0
- 356
-
Python爬虫：设置随机User-Agent模块fake-useragent
Python爬虫：设置随机User-Agent模块fake-useragent介绍和使用。 模块简介 GitHub地址 https://github.com/hellysmile/fake-useragent UA数据来源 目前1.5x的版本我看GitHub介绍数据是从 https://user-agents.net/ 下载的。下面的使用的部分示例是1.2或者1.3版本新增的功…...- 塵風
- 0
- 0
- 3.3k
-
UnicodeDecodeError: ‘utf-8’ codec can’t decode byte 0xb9 in position 0: invalid start byte错误解决
今天在使用Python csv模块的时候，出现了这个错误，不过应该打开其他类型的文件，例如txt文件没指定正确的编码应该也会出现这个问题，可以一起参考下文章里面的解决方法，详细报错信息如下： Traceback (most recent call last): File "你的Python文件路径***.py", line 18(代码所在位置), in <module&g…...- 塵風
- 0
- 0
- 648
-
HTTP请求头字段Sec-Fetch-Dest介绍
Sec-Fetch-Dest是一个用于HTTP请求头的字段 (全名应该是"Security Fetch Destination"，意思是安全获取目标) ，用于指示浏览器请求的目标资源类型以及请求的目的和处理方式。该字段通常由浏览器自动生成，并在发送请求时包含在HTTP请求中。它有助于服务器和浏览器之间更好地理解请求的目的和处理方式。 Sec-Fetch-Dest字段值 Sec-…...- 塵風
- 0
- 0
- 1.9k
-
power shell 激活python虚拟环境报错：无法加载文件 *.ps1，因为在此系统上禁止运行脚本。有关详细信息，请参阅 …
在使用python虚拟环境的时候，使用power shell 激活虚拟环境的过程中，出现报错： 报错信息 无法加载文件 *.ps1，因为在此系统上禁止运行脚本。有关详细信息，请参阅 https:/go.microsoft.com/fwlink/?LinkID=135170 中的 about_Execution_Policies。 解决方案 管理员打开PowerShell执行Set-Executio…...- 塵風
- 0
- 0
- 2k
-
Python爬虫报错：(Caused by SSLError(SSLEOFError(8, ‘EOF occurred in violation of protocol (_ssl.c:1129)’)))解决
今天在写爬虫的时候遇到一个错误，即： requests.exceptions.SSLError: HTTPSConnectionPool(host='httpbin.org', port=443): Max retries exceeded with url: /get (Caused by SSLError(SSLEOFError(8, 'EOF occurred …...- 塵風
- 0
- 0
- 16.9k
-
Python wmi模块 获取电脑CPU、网卡、硬盘等信息
模块介绍 WMI介绍 Windows Management Instrumentation 翻译过来是Windows 管理规范，简称WMI，是基于 Windows 的操作系统上管理数据和操作的基础结构。 尽管可以编写 WMI 脚本或应用程序来自动执行远程计算机上的管理任务，但 WMI 还会向操作系统和产品的其他部分提供管理数据。 例如，System Center Operations Manage…...- 塵風
- 0
- 0
- 732
-
Python requests 异常InsecureRequestWarning: Unverified HTTPS request is being made to host ‘***domain’. Adding certificate verification is strongly advised. See…解决
Python在使用requests模块的时候出现如下异常信息: C:\Python\Python39\lib\site-packages\urllib3\connectionpool.py:1043: InsecureRequestWarning: Unverified HTTPS request is being made to host 'you request domain…...- 塵風
- 0
- 0
- 598
-
Python入门学习资料推荐
我一直有建议身边和网上的一些朋友学Python(Python的应用范围很广，会编程可以很好的提高我们的工作效率，对一些工作进行批量、自动化的处理)，再加上肯定也有一些网上的小伙伴想学习不会找或者是想找合适的资料的，我以后也要分享Python相关的东西，在这之前就先把这个入门的问题解决了，今天就顺便推荐下我觉得好的Python入门学习资料。 下面我推荐的教程主要推荐是黑马程序员和白月黑羽这两家的。 …...- 塵風
- 0
- 0
- 509
-
Pycharm函数注释(参数和返回值)无法自动生成问题解决
正常使用Pycharm，对定义的函数书写注释(三个引号)，Pycharm是会自动生成函数参数和返回值的注释格式，如下： 问题展示 # 定义一个函数 def test(a, b): """ # 再输入三个引号（单引号和双引号均可）后回车，会自动生成函数参数和返回值的注释 pass 正常情况： 输出结果为 def test(a, b): '''…...- 塵風
- 0
- 0
- 1.8k
-
python Queue(进程队列)
在Python中我知道队列模块有： from queue import Queue此模块适用于线程间通信，但不能用于进程间通信。from multiprocessing import Queue此模块用于对进程，但是不能用于进程池。 下面笔记记录的就是：from multiprocessing import Queue 用于进程间通信的队列。 部分内容来源以及相关资料： Python 队列（Que…...- 塵風
- 0
- 0
- 853
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×