谁知道有什么程序,我可以输入一个域名,该程序将爬行整个域名,并能够为我下载所有的HTML源代码-因此,如果网站的网页上有链接,它将只爬行到该域名上的页面,而不是外部域名显然。
发布于 2012-10-11 07:53:34
看看python的scrapy:
http://www.scrapy.org
或用于java的crawler4j:
http://code.google.com/p/crawler4j/
https://stackoverflow.com/questions/12830193
相似问题