项目缘起于高德API+Python解决租房问题, 修修补补之后上线了58公寓高德搜房(全国版):http://codelover.link:8080/。
经过了多次代码优化、内容改版、新增房源等...
相关文章可移步知乎专栏:一只程序汪的自我修养
简单介绍一下工程结构:
- ASP.NET MVC4:58HouseSearch\58HouseSearch.sln
- ASP.NET Core:58HouseSearch.Core\58HouseSearch.Core.sln
以上两个版本大体逻辑一致,Core版本为当前线上版本,新增了豆瓣租房小组数据。
下一个版本为HouseCrawler.Core,初步计划以下功能:
- 爬虫数据固化到数据,优化爬虫策略
- 前端页面改版,交互优化,内容引导等
以下是日常更新:
- 新增HouseCrawler.Core,计划基于此版本做数据固化以及定时爬虫
- 58HouseSearch为ASP.NET MVC4版本,58HouseSearch.Core为ASP.NET core版本,两者暂停更新
- 完成豆瓣租房小组功能上线
- 细化功能待产品姐姐PRD了
- 新增豆瓣租房小组数据
- 租房小组数据未完善
- 项目迁移ASP.NET Core 已初步完成, ASP.NET MVC版本停止更新
- 着手引入定时任务,定时爬取数据,缓存落地
- 新增免责说明
- 更改JS适应ASP.NET Core版本
- 更改pv.json文件读取
- 新增ASP.NET Core版本。
1.解决新增PV记录并发问题 2.加入log4net日志功能排查问题
1.改进JS结构,修复上一版本的bug
- 重构搜索页面请求,改为JS异步请求数据
- 改进上次重构的JS结构
- 上线步行导航,满足需要步行上班的狼友们
- 辣鸡前端代码等待重构,实在没法看下去了
- 58品牌公寓、58诚信租房完成页面改造
- 自动加载前20页数据,按价格区间显示
- 去除互助租房页面价格标签,改用价格区间图标
- 新增价格区间图标,第一版为渐变色,效果还好
- 薪资价格区间相关数据,下版本完成其余页面改造
TODO:
- 新增问题反馈,邮件服务?限制IP?JSON记录?
- 侧边栏调整,移动地图的时候不是很方便
- 新增侧边栏功能,页面初始化打开侧边栏,点击其余页面收起侧边栏(感觉也不是很好,回头优化一下)
- 优化前台CSS代码(其实只是收成了一个CSS文件,逃...
- 价格标签过多之后密集恐惧症发作的小伙伴等下一次更新(明天?
- 互助租房页面新增价格标签,地图上可直接显示价格
- 为了避免缩放工具栏挡住导航信息,调整导航栏位置 TODO:优化58同城查询速度,新增价格标签,互助租房新增价格过滤
- 新增“上海互助租房数据”,此项目房源基本真实可靠,无中介。详情见微博:http://weibo.com/u/5389952376
- 优化获取互助租房数据,200条数据基本在1秒内可以拿的到
- 由于数据时效性问题,互助租房数据原则上只取前200条数据
- TODO:互助租房价格过滤(互助租房不提供过滤,只能自己做)?非上海互助租房数据(感觉没有...)?
- 感谢互助租房项目(http://www.huzhumaifang.com/)。
- 修复一个获取数据正常,地图无法显示数据的bug(衣衣重构代码弄出来的...)
- 经测试后发现,某些地图没有诚信房源数据(考虑这种情况是否直接取个人出租信息)
- 继续感谢衣衣重构的代码,广告数据也基本过滤了
- 地图房源显示直接附上租金,更换房源链接之后实现直接定位到具体房源
- 去除不必要的JS文件,使得两个页面使用同一个JS
- 新增“58同城诚信房源”(PS:看了下房源,感觉一点都不诚信...只能祝好运了。)
- 有点想去抓微博某账号数据,不过微博这种鬼...想放着吧。
- TODO:优化一下查询速度(感觉可以并发请求页面,不过我的辣鸡服务器是否扛得住是个问题);去除页面广告数据
- 更新后同步挂载于: http://codelover.link:8080
- 下一步准备加入更多的房源信息(PS:只是准备...)
- 知乎专栏无耻求赞( https://zhuanlan.zhihu.com/p/21998221)
- 加入城市名匹配58同城城市简称功能,去除城市名转拼音导致无法准确定位城市问题
- 继续感谢衣衣姐去除58同城广告数据的commit
- 去除输入城市名定位问题,改为移动地图直接获取地图中心所在城市
- 下一步准备构建城市名-城市简称字典,用于快速匹配正常的58同城地址
- 修复已知bug...
- 感谢衣姐的重构代码的commit
- 修复输入城市中文名导致地图房子位置点击后跳转页面错误问题
- 输入城市名无法直接定位到城市这个问题正在解决
- 完成指定城市名定位
- 修复上版本bug
- 更正为全国版
- 改版于 https://zhuanlan.zhihu.com/p/21883516
- 使用高德地图API
- 挂载于 http://codelover.link:8080
- 手动输入城市名还有点bug,暂时无法正常使用