python爬虫配置IP代理池(ProxyPool)

关注我的公众号【靠谱杨的挨踢生活】回复 ProxyPool可以免费获取网盘链接。
也可自行搜索下载:https://github.com/Python3WebSpider/ProxyPool.git

1、下载之后打开setting文件修改redis相关配置。

python爬虫配置IP代理池(ProxyPool)

python爬虫配置IP代理池(ProxyPool)

2、之后开启本机redis服务,就可以直接运行run文件

​ 可以下载一个 Redis Desktop Manager redis可视化工具,关注我的公众号【靠谱杨的挨踢生活】回复 redis可以获取下载链接(文章末尾有公众号二维码),也可以自行百度下载。

python爬虫配置IP代理池(ProxyPool)

python爬虫配置IP代理池(ProxyPool)

3、使用redis中的IP

import random

import redis

class my_redis:

    def get_ip(self):
        r = redis.Redis(host='127.0.0.1', port=6379, db=0,decode_responses=True)
        my_redis_data = r.zrange("proxies:universal",1,3000,True)
        return random.choice(my_redis_data)
        # print(len(my_redis_data))

if __name__ == '__main__':
    test_redis=my_redis()
    data=test_redis.get_ip()
    print(data)

python爬虫配置IP代理池(ProxyPool)

Original: https://www.cnblogs.com/rainbow-1/p/16725503.html
Author: 靠谱杨
Title: python爬虫配置IP代理池(ProxyPool)

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/612134/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球