Giter VIP home page Giter VIP logo

egg's Introduction

Egg 简介

它一个通用高效的爬虫,希望它能够替大家实现一些需求,更希望能为开源做出自己的贡献。目前,还在成长,在我的构想下,它还需要添加很多功能,我会继续完善。有任何疑问以及需求请以与作者交流:[email protected]

  • Egg是一个通用,多线程的Java爬虫框架。
  • Egg简单小巧,api非常简单,容易上手。
  • Egg性能不错,并实现多种请求方式。
  • 能够比较快的响应使用者的需求

###速度说明 ####实测数据,在20M无线网下(隔了堵墙,所以会不稳定) #####1. 爬取1000网页,重复爬取十次

  • 8线程,耗时平均在15秒左右
  • 16线程,平均耗时12秒左右
  • 32线程,平均耗时12秒左右

速度大概在1.7-2.5m/s左右

###功能介绍 1.可以通过各种方式爬取网页,当然有些并不完善,在目前主要实现get,post,其余会继续开发

2.可以从网页中提取出主体内容

3.其余在仍在开发....

###开发说明 作者非常希望能通过自己的努力,可以推动一点开源事业的发展,很希望可以为开源做出自己的一份贡献,更希望能够在一个深入发掘。Egg虽然还有很多不如人意的地方,但是作为在校大学生,会为大家及时解决并更新代码。遇到有需要的需求,可以及时添加功能,和大家广泛交流。作为开发者,在开发出简单易懂,容易使用的软件做着努力,所以,初学者我认为也应该很容易可以从它里面获取自己想要的。大家可以阅读源码,熟悉代码流程,和相关包的使用。

###希望 作为开发者当然希望越来越多的人使用它。并且可以为它提出你宝贵的意见和建议。

协议

遵循Apache 2.0协议

贡献者

向下面提交过代码的同学表示感谢(哈哈,就我啦)

邮件交流

王捉熊[email protected]

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.