-
使用Python检查提取网站死链
网站死链会影响我们的用户体验和搜索引擎对我们站点的评分(尤其是网站存在已经被做成赌博、色情网站的链接，影响很大)，但是网站运营时长长了，就难免会有这样的问题，所以我们可以考虑定期的处理下，我之前分享过一些WordPress死链、外部链接处理的文章，如果你是使用WordPress，就可以直接参考下述的文章去解决： WordPress去除文章失效链接 WordPress文章外部链接清除 WordPre…...
塵風- 0
- 0
- 486
-
python模块requests参数stream
使用python requests模块下载大文件时，建议使用strea模式． 默认情况下是false，他会立即开始下载文件并存放到内存当中，倘若文件过大就会导致内存不足的情况． 当把get函数的stream参数设置成True时，它不会立即开始下载，当你使用iter_content或iter_lines遍历内容或访问内容属性时才开始下载。需要注意一点：文件没有下载之前，它也需要保持连接。 iter_…...- 塵風
- 0
- 0
- 715
-
![Python requests 异常Max retries exceeded with url: 请求地址… (Caused by SSLError(SSLCertVerificationError(1, ‘[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get local issuer certificate (_ssl.c:1129)’)))”))}解决](https://www.linfengnet.com/wp-content/uploads/2024/01/2024010606414043.png)
Python requests 异常Max retries exceeded with url: 请求地址… (Caused by SSLError(SSLCertVerificationError(1, ‘[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get local issuer certificate (_ssl.c:1129)’)))”))}解决
今天在写爬虫的时候遇见了如下错误： Max retries exceeded with url: https://******... (Caused by SSLError(SSLCertVerificationError(1, '[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get …...- 塵風
- 0
- 0
- 596
-
Python虚拟环境使用
虚拟环境是独立的Python环境，在虚拟环境中通过安装第三方库，不会影响到本地的Python环境或者是其他虚拟环境，这样可以再不同项目对库的版本有不同需求的时候方便我们的使用。 笔记来源内容： 虚拟环境和包 — Python 3.9.13 文档 参考请注意python版本是否相同，其他版本的文档我没看过。 网上还找到了更加详细的虚拟环境相关内容，感兴趣可以自行前往查看： 最全的Python虚拟环境…...- 塵風
- 0
- 0
- 1.3k
-
Python os.walk() 方法
概述 os.walk() 方法用于通过在目录树中游走输出在目录中的文件名，向上或者向下。 os.walk() 方法是一个简单易用的文件、目录遍历器，可以帮助我们高效的处理文件、目录方面的事情。 在Unix，Windows中有效。 语法 walk()方法语法格式如下： os.walk(top[, topdown=True[, onerror=None[, followlinks=False]]]) …...- 塵風
- 0
- 0
- 891
-
python错误: Object of type * is not JSON serializable解决
Object of type * is not JSON serializable错误是我在写爬虫的时候遇到的一个问题 引起函数 json.dumps()函数引起的 在处理数据的时候使用json.dumps()函数将dict（字典）数据类型转化为json数据的时候，促发了这个错误。 原因： 原因是转化的dict(字典)数据中有value数据没处理好，字典的值中包含了generator、byte（字…...- 塵風
- 0
- 0
- 5.9k
-
Python拼接URL：urllib.parse urljoin使用
Python拼接URL可以使用urllib.parse中的urljoin方法，urllib是Python中一个用于URL 处理的模块，urllib.parse 用于解析 URL，在之前分享的Python从路径|URL中获取文件名、文件后缀的方法中提到过使用其中的urlparse方法解析URL，感兴趣的可以去看看。 urllib.parse模块的的urlparse和urljoin刚好是两个相反的功能…...- 塵風
- 0
- 0
- 924
-
UnicodeDecodeError: ‘utf-8’ codec can’t decode byte 0xb9 in position 0: invalid start byte错误解决
今天在使用Python csv模块的时候，出现了这个错误，不过应该打开其他类型的文件，例如txt文件没指定正确的编码应该也会出现这个问题，可以一起参考下文章里面的解决方法，详细报错信息如下： Traceback (most recent call last): File "你的Python文件路径***.py", line 18(代码所在位置), in <module&g…...- 塵風
- 0
- 0
- 619
-
python转换Unix时间戳
python 转换Unix时间戳可以使用python中的time模块和datetime模块 time # -*- coding: utf-8 -*- import time # new_date = time.ctime(Unix时间戳) new_date = time.ctime(1567764428) print(new_date) # Fri Sep 6 18:07:08 2019 date…...- 塵風
- 0
- 0
- 1.4k
-
Python列表合并的6种方法
Python列表合并的6种方法分享，下面我共列举了6中合并列表的方法，在单个或者少量（3个内?）我们可以直接使用运算符+或者+=或者extend就可以轻松的实现合并，如果列表数量太多，可以考虑使用chain，详细的介绍和示例代码大家往下看吧。 准备数据 首先我们准备三个列表作为测试学习使用数据，下面的代码中不在重复。 # 以三个全是名字元素的列表作为测试数据 name_list_1 = […...- 塵風
- 0
- 0
- 588
-
Pycharm安装教程(非常详细)
PyCharm简介 PyCharm是一款由JetBrains公司开发的集成开发环境（IDE），专门用于Python编程。PyCharm可以说是Python开发者首选的IDE之一，适用于从初学者到专业开发者的各种需求。 它提供了丰富的功能和工具，帮助开发者更高效地编写、调试和部署Python代码。PyCharm具有智能代码补全、代码导航、调试器、版本控制集成、内置终端等功能，使得开发过程更加流畅和便…...- 塵風
- 0
- 0
- 2.1k
-
Pycharm函数注释(参数和返回值)无法自动生成问题解决
正常使用Pycharm，对定义的函数书写注释(三个引号)，Pycharm是会自动生成函数参数和返回值的注释格式，如下： 问题展示 # 定义一个函数 def test(a, b): """ # 再输入三个引号（单引号和双引号均可）后回车，会自动生成函数参数和返回值的注释 pass 正常情况： 输出结果为 def test(a, b): '''…...- 塵風
- 0
- 0
- 1.8k
-
Python如何只导出当前Python文件所需模块包依赖
Python如何只导出当前Python文件所需模块包依赖？ 之前在Python虚拟环境使用文章我分享过使用pip freeze导出当前虚拟环境的模块，但是有时候我们写的脚本只需要导出单个文件或者项目目录不是整个虚拟环境的时候，就不行了； 如果只需要导出当前Python文件所需模块包依赖我们可以使用pipreqs模块，下面是pipreqs的使用方法和经验分享： 安装pipreqs库 pip inst…...- 塵風
- 0
- 0
- 1.1k
-
Python爬虫报错：(Caused by SSLError(SSLEOFError(8, ‘EOF occurred in violation of protocol (_ssl.c:1129)’)))解决
今天在写爬虫的时候遇到一个错误，即： requests.exceptions.SSLError: HTTPSConnectionPool(host='httpbin.org', port=443): Max retries exceeded with url: /get (Caused by SSLError(SSLEOFError(8, 'EOF occurred …...- 塵風
- 0
- 0
- 16.9k
-
Python requests 异常Proxy URL had no scheme, should start with http:// or https://解决
异常原因 Python requests 异常Proxy URL had no scheme, should start with http:// or https://解决，在使用Python requests的proxy代理功能的时候出现了这个错误，意思是我们使用的代理方案应该以http:// or https://开头。 在网上看到的原因是说在Python3.7及以上版本中使用request…...- 塵風
- 0
- 0
- 716
-
HTTP请求头字段Sec-Fetch-Dest介绍
Sec-Fetch-Dest是一个用于HTTP请求头的字段 (全名应该是"Security Fetch Destination"，意思是安全获取目标) ，用于指示浏览器请求的目标资源类型以及请求的目的和处理方式。该字段通常由浏览器自动生成，并在发送请求时包含在HTTP请求中。它有助于服务器和浏览器之间更好地理解请求的目的和处理方式。 Sec-Fetch-Dest字段值 Sec-…...- 塵風
- 0
- 0
- 1.9k
-
Python reversed 函数 – 对序列进行逆序操作
Python reversed 函数是一个Python内置函数，它可以对序列进行逆序操作。 序列可以是列表、元组、字符串等，通过使用reversed()函数，我们可以快速简便地将序列中的元素进行逆序排列。我们也可以用它来实现for循环反向遍历。 reversed()函数语法 reversed(sequence) 参数 sequence即是要进行逆序操作的序列( tuple, string…...- 塵風
- 0
- 0
- 308
-
Python从列表中随机获取元素方法
Python从列表中随机获取元素方法：可以使用python中random模块的sample, choice, choices，randint方法来进行。下面我们一起来看下四种从列表中随机获取元素方法： sample random.sample(sequence, k) sample的作用是从指定序列中随机获取指定长度的片断并随机排列，结果以列表的形式返回。 注意：sample函数不会修改原有序列(…...- 塵風
- 0
- 0
- 5.5k
-
Python爬虫：设置随机User-Agent模块fake-useragent
Python爬虫：设置随机User-Agent模块fake-useragent介绍和使用。 模块简介 GitHub地址 https://github.com/hellysmile/fake-useragent UA数据来源 目前1.5x的版本我看GitHub介绍数据是从 https://user-agents.net/ 下载的。下面的使用的部分示例是1.2或者1.3版本新增的功…...- 塵風
- 0
- 0
- 3.2k
-
Windows python安装教程(超详细)
1：下载python python官网地址：https://www.python.org/ python下载地址直达：https://www.python.org/downloads/ 由于国内网络特殊原因，去官网下载不科学上网可能会很慢或者无法下载。 这里附上国内华为python安装包地址： 华为python安装包下载地址：https://mirrors.huaweicloud.com/pyth…...- 塵風
- 0
- 0
- 1.6k
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×