搜索

如何实现天气数据的同步和使用QuartzScheduler？

愿天堂没有BUG

共 4464字，需浏览 9分钟

 ·

2022-05-31 05:03


上篇内容给大家讲解的是如何使用Redis提升应用的并发访问能力！本文承接上篇内容。

实现天气数据的同步

在micro-weather-redis应用的基础上，创建一个名称为micro-weather-quartz的应用，用于同步天气数据。

开发环境

为了演示本例，需要采用如下开发环境。

  • . JDK8。

  • . Gradle 4.0。

  • .Spring Boot Web Starter 2.0.0.M4。

  • Apache HttpClient 4.5.3。

  • Spring Boot Data Redis Starter 2.0.0.M4。

  • .Redis 3.2.100。

  • Spring Boot Quartz Starter 2.0.0.M4。

  • .Quartz Scheduler 2.3.0.

项目配置

Spring Boot Quartz Starter提供了Spring Boot对Quartz Scheduler的开箱即用功能。在原有的依赖的基础上，添加Spring Boot Quartz Starter的依赖。

//依赖关系
dependencies {
//...
//添加Spring Boot Quartz Starter依赖
  compile('org.springframework.boot:spring-boot-starter-quartz')
//...
}

如何使用Quartz Scheduler

使用Quartz Scheduler主要分为两个步骤，首先是创建一个任务，其次是将这个任务进行配置。

1.创建任务

创建
com.waylau.spring.cloud.weather.job包，在该包下创建WeatherDataSyncJob类，用于定义“同步天气数据的定时任务”。该类继承自rg.springframework.scheduling.quartz.QuartzJobBean,并重写了executeInternal方法，详见如下。

package com.waylau.spring.cloud.weather.job;
import org.quartz.JobExecutionContext;
import org.quartz.JobExecutionException;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.scheduling.quartz.QuartzJobBean;
/**
*天气数据同步任务.
*
*@since 1.0.0 2017年10月23日
* author Way Lau
*/
public class WeatherDataSyncJob extends QuartzJobBean{
private final static Logger logger =LoggerFactory.getLogger(Weath-
erDatasyncJob.class）;
/*(non-Javadoc)
* see org.springframework.scheduling. quartz.QuartzJobBean#execu-
teInternal(org.quartz.JobExecutionContext)
*/
coverride
protected void executeInternal(JobExecutionContext context) throws
JobExecutionException{
logger.info("天气数据同步任务"）;
}
}

在这里先不写具体的业务逻辑，只是打印一串文本“天气数据同步任务”，用于标识这个任务是否执行。

2.创建配置类

在
com.waylau.spring.cloud.weather.config包下,创建QuartzConfiguration配置类。该类详情如下。

package com.waylau.spring.cloud.weather.config;
import org.quartz.JobBuilder;
import org.quartz.JobDetail;
import org. quartz.SimpleScheduleBuilder;
import org.quartz .Trigger;
import org.quartz.TriggerBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import com.waylau.spring.cloud.weather.job.WeatherDataSyncJob;
/**
Quartz配置类.
*
*since 1.0.0 2017年10月23日
*@author Way Lau
*/
configuration
public class QuartzConfiguration{
Bean
public JobDetail weatherDataSyncJobJobDetail(){
return JobBuilder.newJob(WeatherDataSyncJob.class).withIdentity
( "weatherDatasyncJob")
-storeDurably(.build(;
}
@Bean
public Trigger sampleJobTrigger(） {
SimplescheduleBuilder scheduleBuilder = SimpleScheduleBuilder.
simpleschedule()
.withIntervalInSeconds(2).repeatForever(;
return TriggerBuilder.newTrigger().forJob(weatherDataSyncJob-
JobDetail(）)
.withIdentity("weatherDataSyncTrigger").withSchedule
(scheduleBuilder）.build();
}
}

其中:

  • JobDetail:定义了一个特定的Job。JobDetail实例可以使用JobBuilder API轻松构建;

  • Trigger:定义了何时来触发一个特定的Job;

  • withIntervalInSeconds(2):意味着定时任务的执行频率为每2秒执行一次。

3.测试定时任务

启动应用，观察控制台的打印日志，可以看到定时任务确实是按照每2秒执行一次进行的。

2017-10-23 23:21:36.126 INEO 8440 ---[eduler_Worker-2] c.W.s.c.weather.
job .WeatherDataSyncJob
:天气数据同步任务
2017-10-23 23:21:38.126 INFO 8440 ---[eduler_Worker-3]C.W.s.c.weather.
:天气数据同步任务
job.weatherDataSyncJob
2017-10-23 23:21:40.125
INEO 8440 ---[eduler_Worker-4] c.w.s.c.weather.
job.WeatherDatasyncJob
:天气数据同步任务
2017-10-23 23:21:42.126 INFO 8440 ---[eduler_Worker-5]C.w.s.c.weather.
job.WeatherDataSyncJob:天气数据同步任务
2017-10-23 23:21:44.129 INFO 8440 ---[eduler_Worker-6]C.w.s.c.weather.
:天气数据同步任务
job.WeatherDataSyncJob
2017-10-23 23:21:46.122 INFO 8440 ---[eduler_Worker-7]C.w.s.c.weather.
:天气数据同步任务
job.WeatherDatasyncJob
2017-10-23 23:21:48.125 INFO 8440 ---[eduler_Worker-8] c.w.s.c.weather.
job.WeatherDatasyncJob
:天气数据同步任务
2017-10-23 23:21:50.124 INFO 8440 ---[eduler_Worker-9] C.W.s.c.weather.
job.WeatherDataSyncJob
:天气数据同步任务
INFO 8440 --- [duler_Worker-10]C.w.s.c.weather.
2017-10-23 23:21:52.130
:天气数据同步任务
job.WeatherDataSyncJob
2017-10-23 23:21:54.130 INFO 8440 ---[eduler_Worker-1] c.w.s.c.weather.
job.WeatherDataSyncJob
:天气数据同步任务
2017-10-23 23:21:56.128 INFO 8440---[eduler_Worker-2] C.w.s.c.weather.
:天气数据同步任务
job.WeatherDataSyncJob
INFO 8440 ---[eduler_Worker-3] C.w.s.c.weather.
2017-10-23 23:21:58.125
:天气数据同步任务
job .WeatherDataSyncJob
2017-10-23 23:22:00.117 INEO 8440---[eduler Worker-4] C.w.s.c.weather.
job.WeatherDatasyncJob
:天气数据同步任务

定时同步天气数据

在之前的章节中，已经实现了获取天气的API，这个API接口只要传入相应城市的ID，就能获取天气的数据。

定时任务需要更新所有城市的数据，所以需要遍历所有城市的ID。

1.需要城市的信息

详细的城市列表信息，在网上也有相关的接口，比如
https:/waylau.com/data/citylist.xml接口。访问该接口，能看到如下的信息。

//依赖关系
dependencies {
//...
//添加Spring Boot Quartz Starter依赖
  compile('org.springframework.boot:spring-boot-starter-quartz')
//...
}

当然，城市的数据量很大，本节不会全部列举出来。通过观察该数据，大概能理解这个XML中每个元素的含义。

  • .:这个元素的意义不大，只是为了表明它的子元素是一个集合。

  • .<:该元素才是真正存储数据的，其中，d1代表城市ID;d2代表城市名称;d3代表城市名称的拼音;d4代表城市所在省的名称。

由于这些城市的信息数据是不会经常变动的，因此获取这些信息没有必要经常访问这个接口。将这些数据存储在本地的XML文件中即可，这样，一方面减少调用这个服务的次数;另一方面，读取本地文件相对来说不管是从性能上还是从速度上，都比调用这个接口要快很多。

在应用的resources目录下新建一个名称为citylist.xml的XML文件，里面存储了所需的城市数据。为了简化数据量，这里只选取了广东省内的城市信息。


<c c1="O">
<d d1="101280101" d2="广州" d3="guangzhou" d4="广东"/><d d1="101280102"
d2="番禺d3="panyu" d4="广东"/>
<d d1="101280103" d2="从化"d3="conghua" d4="广东"/><d d1="101280104"
d2="增城d3="zengcheng"d4="广东"/>
<d dl="101280105" d2="花都”d3="huadu" d4="广东"/><d d1="101280201" d2=
"韶关”d3="shaoguan" d4="广东"/>
<d dl="101280202" d2="乳源"d3="ruyuan" d4="广东"/><d d1="101280203" d2=
"始兴"d3="shixing" d4="广东"/>
<d d1="101280204" d2="翁源"d3="wengyuan" d4="广东"/><d dl="101280205"
d2="乐昌"d3="lechang" d4="广东"/>
<d d1="101280206" d2="仁化" d3="renhua" d4="广东"/><d d1="101280207" d2=
"南雄"d3="nanxiong"d4="广东"/>
<d d1="101280208" d2="新丰"d3="xinfeng" d4="广东"/><d d1="101280209"
d2="曲江”d3="qujiang" d4="广东"/>
<d d1="101280210" d2="演江"d3="chengjiang" d4="广东" /><d d1="101280211"
d2="武江"d3="wujiang" d4="广东"/>
<d dl="101280301" d2="惠州"d3="huizhou" d4="广东"/><d d1="101280302"
d2="博罗”d3="boluo" d4="广东"/>
<d dl="101280303" d2="惠阳"d3="huiyang" d4="广东"/><d d1="101280304"
d2="惠东”d3="huidong" d4="广东"/>
<d d1="101280305" d2="龙门"d3="longmen" d4="广东"/><d dl="101280401"
d2="梅州"d3="meizhou" d4="广东"/>
<d dl="101280402" d2="兴宁” d3="xingning" d4="广东"/><d dl="101280403"
d2="蕉岭”d3="jiaoling" d4="广东"/>
<d d1="101280404" d2="大埔"d3="dabu" d4="广东"/><d d1="101280406" d2=
”丰顺" d3="fengshun" d4="广东"/>
<d d1="101280407" d2="平远" d3="pingyuan" d4="广东"/><d dl="101280408"
d2="五华” d3="wuhua" d4="广东"/>
<d d1="101280409" d2="梅县"d3="meixian" d4="广东"/><d d1="101280501"
d2="油头”d3="shantou" d4="广东"/>
<d d1="101280502" d2="潮阳"d3="chaoyang" d4="广东" /><d d1="101280503"
d2="澄海”d3="chenghai"d4="广东"/>
<d dl="101280504" d2="南澳d3="nanao" d4="广东"/><d dl="101280601" d2=
"深圳"d3="shenzhen" d4="广东"/>
<d d1="101280701" d2="珠海"d3="zhuhai" d4="广东" /><d d1="101280702" d2=
"斗门" d3="doumen" d4="广东"/>
<d dl-"101280703"
d2="金湾"d3="jinwan" d4="广东"/><d dl="101280800" d2=
"佛山" d3="foshan" d4="广东"/>
<d d1="101280801" d2="顺德”d3="shunde" d4="广东"/><d d1="101280802" d2=
"三水"d3="sanshui"d4="广东"/>
..
C>

当然，为了节省篇幅，这里也没有把所有的城市都列举出来。有兴趣的读者可以自行查看项目源码。

2.将XML解析为Java bean

现在XML文件有了，下面需要将其转化为Java bean。

Java自带了JAXB(Java Architecture for XML Binding）工具，可以方便地用来处理XML，将其解析为Java bean。

首先，在
com.waylau.spring.cloud.weather.vo包下创建城市的信息类Cityo

package com.waylau.spring.cloud.weather.vo;
import javax.xml.bind.annotation. XmlAccessType;
import javax.xml.bind.annotation.XmlAccessorType;
import javax.xml.bind.annotation. XmlAttribute;
import javax.xml.bind.annotation.XmlRootElement;
/**
*城市．
*
*@since 1.0.02017年10月23日
* author Way Lau
*/
@XmlRo○tElement (name ="d")
@xmlAccessorType(xmlAccessType.FIELD)
public class City{
@xmlAttribute(name = "d1"）
private String cityId;
@XmlAttribute(name ="d2")
private string cityName;
@xmlAttribute(name = "d3"）
private string cityCode;
@XmlAttribute(name ="d4"）
private String province;
//省略getter/setter方法
}

其中，@XmlAttribute所定义的name正是映射为XML中的元素属性。

同时，还需要一个CityList来表示城市信息的集合。

import java.util.List;
import javax.xml.bind.annotation.XmlAccessType;
import javax.xml.bind.annotation.XmlAccessorType;
import javax.xml.bind.annotation. XmlElement;
import javax.xml.bind.annotation.XmlRootElement;
/*★
*城市列表.
*
*@since 1.0.0 2017年10月23日
*@author Way Lau
*/
@XmlRootElement(name = "c")
@xmlAccessorType(xmlAccessType.FIELD)
public class CityList {
@XmlElement (name= "d")
private List cityList;
public ListgetCityList(){
return cityList;
public void setCityList(List cityList） {
this.cityList=cityList;
}
}

最后，还需要对JAXB的方法做一些小小的封装，来方便自己使用。在
com.waylau.spring.cloud.weather.util包下，创建XmlBuilder工具类。

import java.io.Reader;
import java.io.StringReader;
import javax.xml.bind. JAXBContext;
import javax.xml.bind.Unmarshaller;
/**
*XML工具．
*
*@since 1.0.o 2017年10月24日
@author Way Lau
public class XmlBuilder {
/*★
*将xML字符串转换为指定类型的POJO
*
*@param clazz
*@param xmlStr
@return
*@throws Exception
*/
public static Object xmlStrTo0bject (Class clazz,String xmlStr)
throws Exception {
object xmlobject = null;
Reader reader = null;
JAXBContext context = JAXBContext.newInstance (clazz);
//将xml转成对象的核心接口
Unmarshaller unmarshaller= context.createUnmarshaller();
reader=new StringReader(xmlstr);
xmlObject = unmarshaller.unmarshal (reader);
if(null != reader）{
reader .close(）;
}
returnxmlObject;
} 
}

3.城市数据服务接口及其实现

在
com.waylau.spring.cloud.weather.service包下，创建城市数据服务接口CityDataService。

public interface CityDataService {
/**
*获取城市列表.
*
*@return
* @throws Exception
*/
List listCity(） throws Exception;
CityDataService的实现为CityDataServicelmpl。
package com.waylau.spring.cloud.weather.service;
import java.io.BufferedReader;
import java.io.InputstreamReader;
import java.util.List;
import org.springframework.core.io.ClassPathResource;
import org.springframework.core.io.Resource;
import org.springframework.stereotype.Service;
import com.waylau.spring.cloud.weather.util.xmlBuilder;
import com.waylau.spring.cloud.weather.vo.City;
import com.waylau.spring.cloud.weather.vo.CityList;
/★*
*城市数据服务.
*
*@since1.0.0 2017年10月23日
* @author "https://waylau.com">Way Lau
*/
@service
public class CityDataServicelmpl implements CityDataService{
@override
public List//读取XML文件
Resource resource =new ClassPathResource ("citylist.xml");
BufferedReader br = new BufferedReader(new InputStreamReader(re-
source.getInputStream(）,"utf-8"））;
StringBuffer buffer = new StringBuffer();
String line = "";
while((line = br.readLine(） != null){
buffer-append(line) ;
br.close(）;
//XML转为Java对象
CityList cityList =(CityList) XmlBuilder.xmlStrTo0bject (CityList.
class, buffer.toString(））;
return cityList.getCityList(）;
}
}

其实现原理是:先从放置在resources目录下的citylist.xml文件中读取内容，并转换成文本;其次，将该文本通过XmlBuilder工具类转换为Java bean。

这样，城市数据服务就完成了。

4.同步天气数据的接口

在原先的天气数据服务
com.waylau.spring.cloud.weather.service.WeatherDataService中，增加同

步天气数据的接口。

public interface WeatherDataService {
/**
*根据城市工D同步天气数据
*
*param cityId
*return
*/
void syncDataByCityId(String cityId);
}

同时，在
com.waylau.spring.cloud.weather.service.WeatherDataServicelmpl包中，实现该接口。

@Service
public class WeatherDataServicelmpl implements WeatherDataService
@Autowired
private RestTemplate restTemplate;
Autowired
private StringRedisTemplate stringRedisTemplate;
private final string WEATHER_API = "http://wthrcdn.etouch.cn/weather_
mini";
@override
public void syncDataByCityId(String cityId){
String uri = WEATHER_API + "?citykey=" +cityId;
this.saveWeatherData(uri）;
private void saveWeatherData(String uri）{
ValueOperations<String,String ops = this.stringRedisTemplate.
opsForValue();
String key - uri;
String strBody =null;
ResponseEntity<String response= restTemplate.getForEntity (uri,
String.class）;
if(response.getStatusCodeValue() ==200){
strBody-response.getBody）;
}
ops.set(key, strBody,TIME_OUT,TimeUnit.SECONDS);
}
}

syncDataByCityId方法就是为了将天气信息存储于Redis中。

5.完善天气数据同步任务

回到前面的
com.waylau.spring.cloud.weather.job.WeatherDataSyncJob任务中，此时，可以对任务的执行方法executeInternal进行完善。

public class WeatherDataSyncJob extends QuartzJobBean{
private final static Logger logger= LoggerFactory.getLogger(Weather
DataSyncJob.class）;
@Autowired
private CityDataService cityDataServiceImpl;
@Autowired
private WeatherDataService weatherDataServiceImpl;
/*(non-Javadoc)
* see org.springframework.scheduling.quartz.QuartzJobBeantexecute
Internal(org.quartz.JobExecutionContext)
*/
@override
protected void executeInternal (JobExecutionContext context) throws
JobExecutionException {
logger.info("Start天气数据同步任务");
//读取城市列表
ListcityList=null;
try{
cityList = cityDataServiceImpl.listCity();
}catch(Exception e) {
logger.error("获取城市信息异常!",e);
for(City city:cityList）{
String cityld=city.getcityId(）;
logger.info("天气数据同步任务中，cityId:" +cityId);
根据城市ID获取天气
weatherDataServiceImpl.syncDataByCityId(cityId);
logger.info("End天气数据同步任务"）;

}
}

天气数据同步任务逻辑非常简单，如下所示。

。获取列表遍历城市ID。

。根据城市ID获取天气，并进行存储。

完善配置

为了更加符合真实业务的需求，需要修改定时器的更新频率。

鉴于天气这种业务的特点，更新频率设置为30分钟是比较合理的。代码如下。

@configuration
public class QuartzConfiguration {
private final int TIME= 1800;//更新频率
@Bean
public JobDetail weatherDataSyncJobJobDetail() {
return JobBuilder.newJob(WeatherDataSyncJob.class).withIdentity
("weatherDataSyncJob")
.storeDurably(）.build();
@Bean
public Trigger sampleJobTrigger(） {
SimpleScheduleBuilder scheduleBuilder= SimpleScheduleBuilder.
simpleschedule()
.withIntervalInSeconds (TIME）.repeatForever();
return TriggerBuilder.newTrigger().forJob(weatherDataSyncJob-
JobDetail(））
.withIdentity("weatherDataSyncTrigger").withSchedule
(scheduleBuilder） .build();
}
}

测试应用

在启动应用之前，需要保证Redis服务已经启动。

启动应用之后，天气数据同步任务就会自动启动，按照预先设定的频率进行天气数据的更新。

观察控制台，应该能看到如下的日志信息。当然，为了节省篇幅，这里省去了很多内容。

2017-10-25 00:46:11.487 INEO 9148---[eduler Worker-l] C.w.s.c.weather.
job.WeatherDataSyncJob:Start天气数据同步任务
2017-10-25 00:46:11.534 INEO 9148---[eduler_Worker-1] C.w.s.c.weather.
job.WeatherDataSyncJob:天气数据同步任务中，cityId:101280101
2017-10-25 00:46:11.534 INFO 9148 ---[
main] o.s.b.w.embedded.
tomcat.TomcatWebServer: Tomcat started on port(s):8080 (http)
2017-10-25 00:46:11.534 INFO 9148 ---[
main] c.w.spring.
cloud.weather.Application:Started Application in 3.185 seconds
(JVM running for 3.534)
2017-10-25 00:46:11.706 INFO 9148---[eduler_Worker-1] C.w.s.c.weather.
job.WeatherDataSyncJob:天气数据同步任务中，cityId:101280102
2017-10-25 00:46:11.846 INFO 9148---[eduler_Worker-1] C.w.s.c.weather.
job.WeatherDataSyncJob:天气数据同步任务中，cityId:101280103
2017-10-25 00:46:11.971 INFO 9148---[eduler_Worker-1]C.w.s.c.weather.
job.WeatherDataSyncJob:天气数据同步任务中，cityId:101280104
...
2017-10-25 00:46:28.108 INFO 9148---[eduler_Worker-1] C.w.s.c.weather.
job.WeatherDataSyncJob:天气数据同步任务中，cityId:101282103
2017-10-25 00:46:28.245 INFO 9148---[eduler_Worker-1] C.w.s.c.weather.
job.WeatherDataSyncJob:天气数据同步任务中，cityId:101282104
2017-10-25 00:46:28.357 INFO 9148 ---[eduler_Worker-1] C.w.s.c.weather.
job.WeatherDataSyncJob:End天气数据同步任务

那么如何才能知道数据已经成功存入Redis了呢?当然，可以选择通过Redis 的命令行，使用key来验证是否存在数据。但其实还有更加直观的方式，那就是使用Redis的GUI工具。

使用 Redis Desktop Manager

Redis Desktop Manager是一款非常出色的跨平台的开源的Redis的管理工具，基于Qt5来构建。

用户可以在
https://redisdesktop.com/download下载获得最新的安装包。

通过Redis Desktop Manager，就能方便地查看到存储在Reids里面的数据。

打开Redis Desktop Manager后，单击左上角的按钮来连接到Redis服务器，如图6-3所示。


如果是一个新的连接，则需要设置这个连接的名称（可以是任意字符），如图6-4所示。


成功连接后，就能通过该连接查看到Redis服务器里面的数据了，如图6-5所示。


本篇内容给大家介绍的是如何实现天气数据的同步

  1. 下篇文章给大家进行天气预报服务的实现，演示如何来将 Thymeleaf 技术框架集成到Spring Boot 项目中，；

  2. 觉得文章不错的朋友可以转发此文关注小编；

  3. 感谢大家的支持！！


本文就是愿天堂没有BUG给大家分享的内容，大家有收获的话可以分享下，想学习更多的话可以到微信公众号里找我，我等你哦。

浏览 17
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
使用 DataX 实现 MySQL 数据的高效同步
公众号程序猿DD
0
Linux 服务器如何实现数据同步？
DevOps技术栈
0
【Kafka】使用Java实现数据的生产和消费
全栈自学社区
0
如何使用 Prometheus 和 Grafana 优雅的实现服务器可视化
浪尖聊大数据
0
如何快速同步第三方平台数据？
w3cschool
0
利用redissyncer实现数据双向同步
京东科技开发者
0
Async/Await 如何通过同步的方式实现异步？
程序员成长指北
0
base64 格式的数据是如何实现的
前端大学
0
RocketMQ：主从同步的实现
JAVA烂猪皮
0
Async/Await 如何通过同步的方式实现异步？
前端迷
0
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报