-
Python爬虫：设置随机User-Agent模块fake-useragent
Python爬虫：设置随机User-Agent模块fake-useragent介绍和使用。 模块简介 GitHub地址 https://github.com/hellysmile/fake-useragent UA数据来源 目前1.5x的版本我看GitHub介绍数据是从 https://user-agents.net/ 下载的。下面的使用的部分示例是1.2或者1.3版本新增的功…...
塵風- 0
- 0
- 3.2k
-
解决python：AttributeError: ‘set’ object has no attribute ‘items’错误记录
在之前写爬虫代码的时候，我自以为认代码各方面的都没问题了，但是出现了这样一个错误： AttributeError: 'set' object has no attribute 'items' 手动苦笑不得，检查了一遍代码发现都没问题，但是运行还是出现这个错误，于是我就果断百度了下， 出现这个错误可能是我们把一组dict，用逗号相隔了 例如{“id”,id}应…...- 塵風
- 0
- 0
- 2k
-
UnicodeDecodeError: ‘utf-8’ codec can’t decode byte 0xb9 in position 0: invalid start byte错误解决
今天在使用Python csv模块的时候，出现了这个错误，不过应该打开其他类型的文件，例如txt文件没指定正确的编码应该也会出现这个问题，可以一起参考下文章里面的解决方法，详细报错信息如下： Traceback (most recent call last): File "你的Python文件路径***.py", line 18(代码所在位置), in <module&g…...- 塵風
- 0
- 0
- 607
-
python requests请求之timeout参数
requests请求之timeout参数 1、python 的requests请求都可以使用timeout参数。2、timeout参数可以传入一个简单的浮点数，它将请求的连接部分和读取部分设为相同的超时时间。3、timeout参数也可以传入一个包含两个简单浮点数的元组，用来分别设置请求超时时间和读取超时时间。 举例说明： 1、传入简单浮点数： import requests # 设置超时时间为1秒…...- 塵風
- 0
- 0
- 1.1k
-
Python拼接URL：urllib.parse urljoin使用
Python拼接URL可以使用urllib.parse中的urljoin方法，urllib是Python中一个用于URL 处理的模块，urllib.parse 用于解析 URL，在之前分享的Python从路径|URL中获取文件名、文件后缀的方法中提到过使用其中的urlparse方法解析URL，感兴趣的可以去看看。 urllib.parse模块的的urlparse和urljoin刚好是两个相反的功能…...- 塵風
- 0
- 0
- 910
-
fake-useragent模块报错：rror occurred during loading data. Trying to use cache server解决方法
rror occurred during loading data. Trying to use cache server报错原因： fake-useragent模块需要在线下载包含useragent信息的json文件，但是由于国内网络的特殊原因，现在如果直接使用，会出现如下报错提示： rror occurred during loading data. Trying to use cache s…...- 塵風
- 0
- 0
- 769
-
Python selenium 报错: DeprecationWarning: executable_path has been deprecated, please pass in a Service object *…解决
错误描述: DeprecationWarning: executable_path has been deprecated, please pass in a Service object 触发原因 DeprecationWarning 类型的警告错误：大多是属于版本已经更新，所使用的方法已经过时。 之所以出现这样的错误 是因为executable_path 被重构到了 Service 函数里，W…...- 塵風
- 0
- 0
- 2.8k
-
Python pip命令大全
Python pip 使用命令大全分享 官方文档 地址：https://docs.python.org/3/installing/index.html 命令大全 安装模块 pip install 模块名 通常，如果已经安装了模块，再次安装 它再次不会有任何效果。如需要升级 请使用升级命令。 不加版本号 默认安装模块当前最新版本。 安装指定版本 pip install 模块名==1.xx 指定源安装…...- 塵風
- 0
- 0
- 329
-
Python os.walk() 方法
概述 os.walk() 方法用于通过在目录树中游走输出在目录中的文件名，向上或者向下。 os.walk() 方法是一个简单易用的文件、目录遍历器，可以帮助我们高效的处理文件、目录方面的事情。 在Unix，Windows中有效。 语法 walk()方法语法格式如下： os.walk(top[, topdown=True[, onerror=None[, followlinks=False]]]) …...- 塵風
- 0
- 0
- 883
-
Python爬虫报错：(Caused by SSLError(SSLEOFError(8, ‘EOF occurred in violation of protocol (_ssl.c:1129)’)))解决
今天在写爬虫的时候遇到一个错误，即： requests.exceptions.SSLError: HTTPSConnectionPool(host='httpbin.org', port=443): Max retries exceeded with url: /get (Caused by SSLError(SSLEOFError(8, 'EOF occurred …...- 塵風
- 0
- 0
- 16.8k
-
使用Python检查提取网站死链
网站死链会影响我们的用户体验和搜索引擎对我们站点的评分(尤其是网站存在已经被做成赌博、色情网站的链接，影响很大)，但是网站运营时长长了，就难免会有这样的问题，所以我们可以考虑定期的处理下，我之前分享过一些WordPress死链、外部链接处理的文章，如果你是使用WordPress，就可以直接参考下述的文章去解决： WordPress去除文章失效链接 WordPress文章外部链接清除 WordPre…...- 塵風
- 0
- 0
- 472
-
PyCharm中文指南、教程-百度云免费
今天分享的PyCharm中文文档的相关资源，有相关接触的可以考虑收藏，熟悉编辑器可以有效的帮助我们提高我们的编程效率，在方便新手学习使用的同时在使用中遇到各种Pycharm编辑器相关问题，可以查找帮助解决，以备不时之需！ PyCharm是什么，这里就不扯了，点进这里来的我想到都知道PyCharm是什么，文章下面也有一点网上复制过来的pycharm简介，之前也分享过：Pycharm安装详细教程(非常…...- 塵風
- 0
- 0
- 2k
-
python错误: Object of type * is not JSON serializable解决
Object of type * is not JSON serializable错误是我在写爬虫的时候遇到的一个问题 引起函数 json.dumps()函数引起的 在处理数据的时候使用json.dumps()函数将dict（字典）数据类型转化为json数据的时候，促发了这个错误。 原因： 原因是转化的dict(字典)数据中有value数据没处理好，字典的值中包含了generator、byte（字…...- 塵風
- 0
- 0
- 5.9k
-
Python字典按照值(value)的大小进行排序方法
Python字典按照值(value)的大小进行排序可以使用collections的Counter()函数和sorted函数两种方式进行，关于Counter和sorted函数之前也记录过，关于这两个详细的就不说了，有需要可以自己看看： python Counter()函数介绍 - 统计值出现的次数 Python3 sorted() 函数 - 对所有可迭代的对象进行排序操作。 下面我们直接看使用它们对…...- 塵風
- 0
- 0
- 688
-
python os.scandir()函数
概述 在 Python 3.5版本中，新添加了 os.scandir()方法， scandir是一个目录迭代方法，返回一个DirEntry迭代器对象，它能告诉你迭代文件的路径。 os.scandir() 的运行效率要比 os.walk 高。 在 PEP 471 中，Python 官方也推荐我们使用 os.scandir() 来遍历目录。 相关文章：Python os.walk() 方法 官方介绍截…...- 塵風
- 0
- 0
- 1.7k
-
Python requests 异常InsecureRequestWarning: Unverified HTTPS request is being made to host ‘***domain’. Adding certificate verification is strongly advised. See…解决
Python在使用requests模块的时候出现如下异常信息: C:\Python\Python39\lib\site-packages\urllib3\connectionpool.py:1043: InsecureRequestWarning: Unverified HTTPS request is being made to host 'you request domain…...- 塵風
- 0
- 0
- 584
-
PyCharm破解教程(简单长期稳定)
PyCharm破解教程(简单长期稳定)分享，本人重装系统后需要重新安装很多东西，pycharm就是其中一个，下面分享下pycharm的破解教程。如果你也想重装系统的话,可以点这里查看我分享的教程：简单快速重装windows纯净原版操作系统教程(无需U盘无需设置Bios) 注意：本文所分享的内容已经有较长时间了，具体是否可用博主已经不确定了，如果还需要使用旧版本pycharm的小伙伴可以试试，不然建…...- 塵風
- 0
- 0
- 3.6k
-
![Python requests 异常Max retries exceeded with url: 请求地址… (Caused by SSLError(SSLCertVerificationError(1, ‘[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get local issuer certificate (_ssl.c:1129)’)))”))}解决](https://www.linfengnet.com/wp-content/uploads/2024/01/2024010606414043.png)
Python requests 异常Max retries exceeded with url: 请求地址… (Caused by SSLError(SSLCertVerificationError(1, ‘[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get local issuer certificate (_ssl.c:1129)’)))”))}解决
今天在写爬虫的时候遇见了如下错误： Max retries exceeded with url: https://******... (Caused by SSLError(SSLCertVerificationError(1, '[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get …...- 塵風
- 0
- 0
- 588
-
Python实现将字符串复制到粘贴板
Python实现将字符串复制到粘贴板方法分享： 一：使用perclip库 安装 pip install pyperclip 示例代码 # 导入pyperclip import pyperclip # 使用pyperclip.copy()方法可以将指定的字符串复制到剪贴板。 text = '这是要复制到剪贴板的文本' pyperclip.copy(text) # 运行代码后 Ct…...- 塵風
- 0
- 0
- 956
-
Python获取两个列表的交集
python获取两个列表的交集方法分享：记录了三个Python获取两个列表的交集的方法，它们分别使用：列表转集合、for循环、列表推导式配合lambda函数实现，具体的示例代码如下： 方法一 列表转集合 推荐 集合操作符& 将两个列表转换为set集合，然后使用集合操作符&求解两个set集合的交集 # -*- coding: utf-8 -*- list1 = ['…...- 塵風
- 0
- 0
- 814
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×