网络爬虫一天能爬2，3万 这是什么水平

介绍一下前嗅的ForeSpider数据采集软件的速度，自己对比就知道啦。

ForeSpider数据采集软件几乎可以采集互联网上所有公开的数据，通过可视化的操作流程，从建表、过滤、采集到入库一步到位。支持正则表达式操作，更有强大的面向对象的脚本语言系统。
台式机单机采集能力可达4000-8000万，日采集能力超过500万。服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。并行情况下可支撑百亿以上规模数据链接，堪与百度等搜索引擎系统媲美。

2、3万就是几分钟的事。。。

爬虫的工作人员都知道，爬虫的速度并不是越快越好。如果爬虫采集的速度越快，就越容易被发现，也就越容易被封IP。那么，如何合理控制爬虫速度呢？一般情况，可以对每个页面抓取之间的延迟设置为最大来控制频率，这样不会给服务器造成负担，也不会因访问频繁被封。但这种方法会导致抓取的速度较慢，如果有大量抓取任务，会严重影响效率。有一种自然的解决方法就是等待时间动态变化，最小的时间间隔减去网页读取的时间，这样无论在网络流畅还是网络较差的时候，网页都是最小的时间间隔。但这种方法只适合单线程的爬虫小规模网站。还有一种方法就是PID控制算法，不用通过计算的方法就可以控制爬虫的速度，简单说就是当爬虫速度过快的时候，就会增加延时的时间。当速度过慢的时候，也会自动减小延时的时间。以上是控制爬虫速度的简单介绍，不能快速采集，可以用代理IP来提高效率，更换不同IP，持续采集。