这是一个 ip 代理池项目
https://github.com/lujqme/proxy_pool
还有一个 Python 数据交流社群，数百名小伙伴们在这里交流数据抓取数据分析以及数据挖掘的内容，如果你有兴趣，也欢迎你加入！
微信群现有用户数百人，考虑增开分群。
为鼓励群里小伙伴动手写代码，让小伙伴们学习数据抓取的内容，群主会为每个成功贡献代码的小伙伴发红包，现在群昵称为 @指间沙、 @Vincent--LC 等数名小伙伴已经获得了近百元的红包奖励~~
如果你也对数据感兴趣，或者闲来无聊想写点代码，又有钱赚何乐而不为呢？
群早已超 100 人不能扫码进入，请加微信拉你入群，方式见
 |
jjc27017Nov 18, 2017
1
实测，群员之一，努力在学习，表示群里都是大神，群主也比较好耐心哈哈哈哈哈用￥来鼓励我们学习
|
 |
ljhyghNov 18, 2017
2
本人目前群里一只小菜鸡，努力学习当中
|
 |
NLLNov 18, 2017
3
可以的，练手挺好，坐等楼主项目完成
|
 |
smileghostNov 18, 2017
4
超好玩的呀，群主大神带着我们飞，还有红包拿，美滋滋~(～￣▽￣)～
|
 |
dlsflhNov 18, 2017 via Android
5
这楼上的回复我都觉得是机器人。点开除了第一个又好像没啥问题…
|
 |
xuylNov 18, 2017
8
粗略看了下项目, 用 scrapy 做爬虫，pipelines 里数据持久化到 mongodb，只不过 process_items 方法有点小问题，没有去重。改成这样也许更好：
``` def process_item(self, item, spider): self.db['proxys'].update({'ip': item['ip']}, dict(item), True) return item ``` |
 |
gamecreatingNov 18, 2017
10
网站跪了
|
 |
sunchenNov 18, 2017
11
爬的买的代理 IP 都是垃圾，ADSL 才是王道
|
 |
cyancat0525Nov 18, 2017 via Android
12
你确定这个是"池"吗
|
 |
13
@gamecreating #10 没有啊，一直正常
|
|
14
@cyancat0525 #12 确定，后面还有一个打分系统
|
 |
stevewayNov 18, 2017 via Android
15
微信群并加不进去
|
|
gamecreatingNov 20, 2017
19
@golmic 北京电信 无法链接
|
 |
YMBNov 20, 2017
20
= =
|
|
21
@gamecreating #19 其他小伙伴没有反馈。我北京联通正常
|
 |
Soar360Nov 21, 2017
22
爬虫工程师的自(｡･∀･)ﾉﾞ嗨
https://proxy.coderbusy.com/ |
 |
besheNov 23, 2017
25
|
|
26
@beshe #25 这个项目我读过源码，存在多线程异步锁未释放问题，排查起来异常复杂，并且现在你去看看 issue 很多人提这个问题。所以自己基于 Scrapy 重写了一套，我也写了一套更完善的打分系统，后续也会开源出来。
|
 |
dounNov 25, 2017 via Android
27
不是用 TOR 来做 IP 池比较好吗？
|
 |
sangmongNov 27, 2017
28
如何区分雌性雄性？
|
|
sangmongNov 27, 2017
29
回复错了，尴尬。。。
|
Select Language