SpiderGirlsJAVA搜索引擎爬取框架
SpiderGirls 是使用java编写的一个开源软件,使用它用户可以轻松地获得某个给定的关键字下的搜索引擎的结果,现在支持bing搜索和sogou搜索。
主页:
https://github.com/hfut-dmic-spidertools/spidergirls
接口介绍:
Search.search(String keyword, String engineName, String pageCount);
其中keyword代表在搜索引擎上获取结果的关键字,如"computer","中国"等等,engineName代表所需要使用的搜索引擎,现在支持bing和sogou,缺省情况下默认是bing搜索,pageCount指的是搜索结果的的页数,一般搜索引擎的结果每页是十条结果则总的结果数是10乘以页数pageCount。
实例代码:
public static void main(String args[]) throws Exception { //获取Bing搜索引擎的搜索关键词computer的两页结果 SearchItems items = Search.search("computer", "bing", 2); //输出从搜索引擎上获取的结果 System.out.println("results\n:" + items); }
评论