Nutch为什么不能用在分布式爬虫抓取中？

国外IP代理推荐：
IPIPGO|全球住宅代理IP（>>>点击注册免费测试<<<）
国内IP代理推荐：
天启|企业级代理IP（>>>点击注册免费测试<<<）
神龙|纯净稳定代理IP（>>>点击注册免费测试<<<）

1、Nutch依靠hadoop运行，hadoop本身就会花费大量的时间。

若集群机数量较少，爬行速度反而不如单机爬虫快。

2、Nutch是为搜索引擎设计的爬虫，不精确。

大多数用户需要一个爬虫来爬取准确的数据(提取精确)。在Nutch运行的一整套过程中，三分之二是为搜索引擎设计的，对精选没有多大意义。也就是说，用Nutch做数据抽取，会浪费很多的时间在不必要的计算上。并且，通过二次开发Nutch，使其适用于精选业务，基本上破坏Nutch的框架，使Nutch的脸完全不同，具有修正Nutch的能力，与其自己重写分布式爬虫框架相比。

3、Nutch可以提供提取功能。

但开发Nutch插件的人都知道Nutch插件系统有多糟糕。使用反射机制装入和调用插件，使程序的编写和调试变得非常困难，更别提在上面开发一套复杂的精提取系统了。

4、用Nutch爬虫的编写和调试所需的时间长

通常是单机爬虫的十倍以上。学习Nutch源代码的成本很高，在调试过程中会出现各种问题，除了程序本身。

因此，如果你不想做搜索引擎，尽量不要选择Nutch作为爬虫。爬虫需要使用代理IP，能够有效的防止IP被禁止访问的情况。向大家推荐ipipgoHTTP代理，独享IP池，适合各种爬虫项目。

（推荐操作系统：windows7系统、Internet Explorer 11，DELL G3电脑。）