如何用爬虫抓取股市数据并生成分析报告

1.关于数据采集

股票数据是一种标准化的结构化数据,可以通过API接口访问(但一般通过渠道,一个开放的API有一定的局限性)。也可以通过爬虫软件采集,但是爬虫软件采集的数据不能保证实时性,根据数据量和采集周期可能会有几十秒到几分钟的延迟。我们总结了一套专业的爬虫技术方案(Ruby+Sidekiq)。这个收藏可以快速实现,任务可以在后台可视化调度。

2.关于演示

网页直接通过HTML5技术显示网上的股票数据就足够了。如果接口要求更高,集成的前端框架,比如Bootstrap,可以采用。如果是为移动端开发,可以使用Ionic框架。

3.关于触发事件

如果采用Ruby on Rails开发框架就非常方便了。像sidekiq这样的宝石,无论何时都直接实现任务管理和事件触发。