楼(lou)上(shang)说的很多，我补充一(yi)下，正(zheng)确(que)的(de)应该(gai)叫网络(luo)蜘蛛，又(you)称爬虫，本质是搜索引擎派(pai)出的一个执行抓取任务的程(cheng)序蜘蛛池的(de)本质是大(da)量的网(wang)站互相链(lian)接(jie)，每(mei)个站(zhan)单(dan)独产生大量(liang)的内容吸引蜘(zhi)蛛来爬，几千(qian)个网(wang)站互链时(shi)，可以想象蜘蛛的链接(jie)