-
UnicodeDecodeError: ‘utf-8’ codec can’t decode byte 0xb9 in position 0: invalid start byte错误解决
今天在使用Python csv模块的时候，出现了这个错误，不过应该打开其他类型的文件，例如txt文件没指定正确的编码应该也会出现这个问题，可以一起参考下文章里面的解决方法，详细报错信息如下： Traceback (most recent call last): File "你的Python文件路径***.py", line 18(代码所在位置), in <module&g…...
塵風- 0
- 0
- 919
-
Python模块requests参数verify – SSL证书认证
Python模块requests参数verify - SSL证书认证 requests模块中verify关键词参数用于控制是否开启SSL证书认证，requests在请求HTTPS链接时，默认是开启SSL证书认证的，即请求中verify参数默认为True(verify=True)。 关闭SSL证书认证 如果要关闭SSL证书认证，我们可以把verify参数设置False即可，例如： # -*- cod…...- 塵風
- 0
- 0
- 940
-
使用Python批量检查网站友情链接
外链对SEO的重要性到今天我想已经不用多说了，友情链接则是我们在优化过程中毕竟经常使用的一种增加外链方法，不过外链还是需要定期的检查的，毕竟一些站长下链卖站了可能不一定会提醒...或者有的网站已经不续费了，域名过期被抢注，直接做灰黑产业站点，我们又没下链，那么排名可能就会直接消失..哈哈哈，但是我们网站多了，又不可能一个个人工去检查，像我之前公司以前SEO订单多的时候要优化100+站点，自己又有一…...- 塵風
- 0
- 0
- 516
-
Python拼接URL：urllib.parse urljoin使用
Python拼接URL可以使用urllib.parse中的urljoin方法，urllib是Python中一个用于URL 处理的模块，urllib.parse 用于解析 URL，在之前分享的Python从路径|URL中获取文件名、文件后缀的方法中提到过使用其中的urlparse方法解析URL，感兴趣的可以去看看。 urllib.parse模块的的urlparse和urljoin刚好是两个相反的功能…...- 塵風
- 0
- 0
- 1k
-
Python爬虫requests参数timeout以及retrying的使用
timeout参数的使用 在某些网络情况不好或者服务器端异常的情况会出现请求慢或者请求异常的情况，这个时候我们需要给请求设置一个超时时间，而不是让程序一直在等待结果。写一个简单的例子： import .requests response = requests.get('https://www.linfengnet.com/', timeout=3) print(response…...- 塵風
- 0
- 0
- 1.1k
-
python Queue(进程队列)
在Python中我知道队列模块有： from queue import Queue此模块适用于线程间通信，但不能用于进程间通信。from multiprocessing import Queue此模块用于对进程，但是不能用于进程池。 下面笔记记录的就是：from multiprocessing import Queue 用于进程间通信的队列。 部分内容来源以及相关资料： Python 队列（Que…...- 塵風
- 0
- 0
- 880
-
python错误: Object of type * is not JSON serializable解决
Object of type * is not JSON serializable错误是我在写爬虫的时候遇到的一个问题 引起函数 json.dumps()函数引起的 在处理数据的时候使用json.dumps()函数将dict（字典）数据类型转化为json数据的时候，促发了这个错误。 原因： 原因是转化的dict(字典)数据中有value数据没处理好，字典的值中包含了generator、byte（字…...- 塵風
- 0
- 0
- 6k
-
Python爬虫：设置随机User-Agent模块fake-useragent
Python爬虫：设置随机User-Agent模块fake-useragent介绍和使用。 模块简介 GitHub地址 https://github.com/hellysmile/fake-useragent UA数据来源 目前1.5x的版本我看GitHub介绍数据是从 https://user-agents.net/ 下载的。下面的使用的部分示例是1.2或者1.3版本新增的功…...- 塵風
- 0
- 0
- 3.4k
-
Python requests 异常Proxy URL had no scheme, should start with http:// or https://解决
异常原因 Python requests 异常Proxy URL had no scheme, should start with http:// or https://解决，在使用Python requests的proxy代理功能的时候出现了这个错误，意思是我们使用的代理方案应该以http:// or https://开头。 在网上看到的原因是说在Python3.7及以上版本中使用request…...- 塵風
- 0
- 0
- 852
-
HTTP请求头字段Sec-Fetch-Dest介绍
Sec-Fetch-Dest是一个用于HTTP请求头的字段 (全名应该是"Security Fetch Destination"，意思是安全获取目标) ，用于指示浏览器请求的目标资源类型以及请求的目的和处理方式。该字段通常由浏览器自动生成，并在发送请求时包含在HTTP请求中。它有助于服务器和浏览器之间更好地理解请求的目的和处理方式。 Sec-Fetch-Dest字段值 Sec-…...- 塵風
- 0
- 0
- 2k
-
Python爬虫报错：(Caused by SSLError(SSLEOFError(8, ‘EOF occurred in violation of protocol (_ssl.c:1129)’)))解决
今天在写爬虫的时候遇到一个错误，即： requests.exceptions.SSLError: HTTPSConnectionPool(host='httpbin.org', port=443): Max retries exceeded with url: /get (Caused by SSLError(SSLEOFError(8, 'EOF occurred …...- 塵風
- 0
- 0
- 17.1k
-
![Python requests 异常Max retries exceeded with url: 请求地址… (Caused by SSLError(SSLCertVerificationError(1, ‘[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get local issuer certificate (_ssl.c:1129)’)))”))}解决](https://www.linfengnet.com/wp-content/uploads/2024/01/2024010606414043.png)
Python requests 异常Max retries exceeded with url: 请求地址… (Caused by SSLError(SSLCertVerificationError(1, ‘[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get local issuer certificate (_ssl.c:1129)’)))”))}解决
今天在写爬虫的时候遇见了如下错误： Max retries exceeded with url: https://******... (Caused by SSLError(SSLCertVerificationError(1, '[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: unable to get …...- 塵風
- 0
- 0
- 688
-
Python使用 pytesseract 进行图片识别
在编写爬虫的时候，如果遇见参数图片化的情况的(例如登录验证码)，就需要对图片验证码进行识别，我们就可以使用pytesseract。 pytesseract简介 pytesseract是一款用于光学字符识别（OCR）的python工具，即从图片中识别出和“读取”其中嵌入的文字。 底层使用的是Google的Tesseract-OCR 引擎（Tesseract是一个开源文本识别 (OCR) 引擎（注意：…...- 塵風
- 0
- 0
- 2.3k
-
如何查询百度搜索资源平台API推送配额
查询百度搜索资源平台API推送配额可以直接推送然后获取返回的结果得到的我们的百度搜索资源平台API推送配额。 如果不想暂用托送额度查询的话，可以直接把推送一个星号*作为URL推送，那么会返回推送的结果，可以看到推送额度，这个*号会被当做不合规的URL，不会暂用我们的推送额度。 百度推送API结果说明 通过API地址推送后会返回json格式的数据，其中remain字段的值是当前剩余推送额度，详细解析…...- 塵風
- 0
- 0
- 578
-
python模块requests参数stream
使用python requests模块下载大文件时，建议使用strea模式． 默认情况下是false，他会立即开始下载文件并存放到内存当中，倘若文件过大就会导致内存不足的情况． 当把get函数的stream参数设置成True时，它不会立即开始下载，当你使用iter_content或iter_lines遍历内容或访问内容属性时才开始下载。需要注意一点：文件没有下载之前，它也需要保持连接。 iter_…...- 塵風
- 0
- 0
- 758
-
Python requests获取状态码
Python requests获取状态码可以通过status_code获取，例如： r = requests.get('https://httpbin.org/get') print(r.status_code) # 打印状态码 但是：requests默认不会获取301/302状态码。使用上述代码如果请求了一个被301/302跳转的URL，也会返回跳转后的状态码，如果是正常请求…...- 塵風
- 0
- 0
- 1.5k
-
Python从列表中随机获取元素方法
Python从列表中随机获取元素方法：可以使用python中random模块的sample, choice, choices，randint方法来进行。下面我们一起来看下四种从列表中随机获取元素方法： sample random.sample(sequence, k) sample的作用是从指定序列中随机获取指定长度的片断并随机排列，结果以列表的形式返回。 注意：sample函数不会修改原有序列(…...- 塵風
- 0
- 0
- 5.6k
-
Python字典按照值(value)的大小进行排序方法
Python字典按照值(value)的大小进行排序可以使用collections的Counter()函数和sorted函数两种方式进行，关于Counter和sorted函数之前也记录过，关于这两个详细的就不说了，有需要可以自己看看： python Counter()函数介绍 - 统计值出现的次数 Python3 sorted() 函数 - 对所有可迭代的对象进行排序操作。 下面我们直接看使用它们对…...- 塵風
- 0
- 0
- 778
-
Python3 sorted() 函数 – 对所有可迭代的对象进行排序操作
sorted() 函数描述 Python3 sorted() 函数是python 3 中的一个内置函数，sorted() 函数作用是可以对所有可迭代的对象进行排序操作。 PS：有时候我们需要对拿到的字典之类的数据进行排序，就可以直接使用这个函数，而不需要进行for循环这样的操作去处理啦，如果数据是列表的话，也可以使用sort()函数，具体可以看我之前的文章：python sort()函数详解。 s…...- 塵風
- 0
- 0
- 1k
-
Python os.walk() 方法
概述 os.walk() 方法用于通过在目录树中游走输出在目录中的文件名，向上或者向下。 os.walk() 方法是一个简单易用的文件、目录遍历器，可以帮助我们高效的处理文件、目录方面的事情。 在Unix，Windows中有效。 语法 walk()方法语法格式如下： os.walk(top[, topdown=True[, onerror=None[, followlinks=False]]]) …...- 塵風
- 0
- 0
- 957
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×