在 V2EX 读了几篇前辈的文章，受益匪浅，最近在工作中做了一些爬虫的工作，总结了一下使用新的，供参考:Scrapy 爬虫工程设计
推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
This topic created in 3394 days ago, the information mentioned may be changed or developed.
 |
gulangyuJul 21, 2017 via Android
1
前排支持！
|
 |
misaka19000Jul 21, 2017 via Android
2
后排支持！
|
 |
zenxdsJul 21, 2017
3
中排支持！
|
 |
aaronzjwJul 21, 2017
4
三排 支持
|
 |
tE1lmEYJul 21, 2017
5
最近有需求做这个，想爬 discuz ！监控评论！
|
 |
CryMeatelJul 22, 2017 via Android
6
scrpay 限制太多。。。一个 twisted 陈旧的 API 有的时候要改下麻烦死了
|
 |
xarrowJul 22, 2017
7
用来爬代理 ip 再保存数据库太鸡肋了，因为代理 ip 生命周期都很短，等你保存到数据库再拿来用估计都死的差不多了
|
 |
8
@xarrow 你可以做一个代理池，每天有任务去爬取和校验有效性。只不过我这个工程是每天 7 点开始，提前两小时开始爬有效 ip，7 点到了就开始用只是今天爬到的。今天以前的就不再用了，省去了维护代理池的步骤
|
 |
RangerWolfJul 23, 2017
9
图画的不错， 请问是用什么画出来的？
|
 |
10
图画的不错， 请问是用什么画出来的？
|
1 |
mxi1Jul 23, 2017
11
看着像 visio
|
 |
sunwei0325Jul 24, 2017
12
感谢楼主分享!
|
|
13
@RangerWolf Balsamiq Mockups
|
Select Language