JMicro微服务之超时&重试


JMicro是本人开发的基于Java实现的微服务框架,当前正式版本为0.0.3,并已发布到maven中央仓库。项目源码github:
https://github.com/mynewworldyyl/jmicro,Demo源码:
https://github.com/mynewworldyyl/jmicro_demos/tree/0.0.3-release
Maven地址:
https://mvnrepository.com/search?q=cn.jmicro
Demo:http://jmicro.cn 账号:test00 密码:1

超时&重试

客户端调用服务时,由于网络抖动,服务故障等原因,不能及时响应给客户端,往往需要重试一两次才能成功,而不应该在发生超时时就直接给调用者失败结果,这样不友好,往往让用户怀疑我们服务的稳定性和可用性。

比如平时访问某个网站,页面出现长时间读条加载的情况,我们往往按一下刷新按钮就能很快成功打开页面。在微服务调用中,往往由服务调用者在收到失败响应后,根据业务场景发起合理的重试请求。JMicro在框架级别提供这种配置并且由平台自动做重试操作,提高服务调用的成功率。

JMicro超时重试配置

在前面JMicro微服务Helloworld基基础上,通过配置SMethod注解属性达到超时重试的目的。代码如下:

@Component
@Service(version="0.0.1")
public class TxShopServiceImpl implements ITxShopService {

	private final static Logger logger = LoggerFactory.getLogger(TxShopServiceImpl.class);
	
	private Random ran = new Random(System.currentTimeMillis());
	
	@Override
	@SMethod(timeout=1000,retryCnt=3,retryInterval=100)
	public Resp<Boolean> buy(int goodId,int num) {
		Resp<Boolean> r = new Resp<>(Resp.CODE_SUCCESS,true);
		int st = ran.nextInt(6);
		if(st > 0) {
			logger.info("Sleep time: " + st+" Seconds idx: " +num);
			try {
				TimeUnit.SECONDS.sleep(30);//睡30秒,让客户端超时并重试,只要为了验证超时重试逻辑
				TimeUnit.SECONDS.sleep(ran.nextInt(5));//睡30秒,随机睡0到5秒,测试并发表求时部份请求超时
			} catch (InterruptedException e) {
				logger.error("",e);
			}
		}
		logger.info("Success return idx:" +num);
		return r;
	}

}

  

在buy服务方法配置SMethod注解,并设置timeout,retryInterval,retryCnt三个属性即可。

timeout:表示超时时间,单位毫秒,小于或等于0表示不启用超时,大于0表示启用超时;

retryInterval:表示超时后,重试间隔,单位毫秒,如果服务超时后,立即发起重试请求,很可能还是失败,所以要稍微等一会,让服务方缓存一下,再发起重试,往往成功率会更高。

retryCnt:表示重试次数,不包括第一次,如设置为3,如果第一次超时,第2次成功,则总共请求了2次,同理,全部超时时,总共请求了4次,4次超时后,RPC失败,抛出TimeoutException异常。

配置启动参数及入口类

除了可以按照上一节用的命令方式运行测试 ,还可以将项目导入Eclipse或Idea中运行Debug测试。

比如Eclipse下,将源码以Maven项目导入Eclipse中,在运行测试配置如下图所示:

Eclipse入口类

参数:

参数及Agent配置

VM参数为Maven仓库下的Agent类,需要改为你自己机器的路径,此Jar包用于在我们启动java虚拟机时,对我们的实体类(SO注解的类)做序列化增强,这样我们RPC请求就可以飞起来。

-DsysLogLevel=4 日志级别,用于日志监控,需要日志服务支持,后面专门章节说明;

-DclientId=25500 以什么账号启动我们的服务实例,涉及账号权限及多租户隔离;

-DadminClientId=0 超级账号,用于申请超级账号权限

-Dlog4j.configuration=../../log4j.xml Log4j日志配置文件

-Dpwd=1 clientId账号对应的密码

以上参数除了log4j.configuration外,其他都可以先不用管,后面用专门章节说明

通过以上配置后,就可以像平时启动Java程序那样启动服务了。

配置并启动客户端

同样方式配置并启动客户端,客户端以固定频率调用服务端buy方法,代码如下:

public void afterInit(IObjectFactory of) {
		AtomicInteger ai = new AtomicInteger(0);
		//为了不Block主线程,我们在此启动一个线程每间隔3秒调用一次商店提供的购买方法
		new Thread(()->{
				for(;true;) {
						try {
						//调用商店服务
						int cnt = ai.getAndIncrement();
						Resp<Boolean> rst = shop.buy(1, cnt);
						if(rst == null || rst.getCode() != Resp.CODE_SUCCESS) {
							if(rst != null) {
								//系统组错误
								logger.info(rst.getMsg()+"," + rst.getCode()+",idx:"+cnt);
							} else {
								logger.info("Timeout:" + cnt);
							}
						}else if(rst.getData()) {
							//业务购买失败
							logger.info("Success idx: " + cnt);
						}else {
							//成功
							logger.info("Fulure"+rst.getMsg()+"," + rst.getCode()+",idx:"+cnt);
						}
						try {
							TimeUnit.SECONDS.sleep(1);
						} catch (InterruptedException e) {
							logger.error("",e);
						}
						}catch(Throwable e) {
						logger.error(e.getMessage());
					}
				}
		}).start();
		}

  

查看客户端输出日志,重试3次后,最终报超时失败,因为服务端buy方法睡了30秒,所以每个请求都肯定会超时!试着调整服务端的超时时间,让一部份请求成功或重试成功。

重试3次,最终超时失败

除了可以在终端看日志外,还可以通过日志文件看,日志文件的位置配置在log4j配置文件中,默认为当前工作目录下的logs/work.log文件。如下图:

日志文件 位置

超时重试存问题

必须要说明的是并非全部服务都需要重试或都能接受重试,只有幂等服务才能接受重试。所谓幂等是:以同一参数调用多次得到的效果相同,则称服务是幂等服务。比如x++这个操作,每次调用的结果都不相同,则不是幂等,x=y+1则是幂等操作。结合业务场景,在技术实现中,往往通过去重的方式让服务达到幂等的要求,这样就可以让服务接受重试,提高服务的可用性和一致性要求。

另一方面,在超时重试失败率达到一定量后,比如30%的重试都失败,则说明我们的服务很有可能出现了问题,此时如再做正常的重试,很有可能会压垮整个服务系统(雪崩),这个又需要服务熔断和降级来避免,下回分享JMicro熔断和降级等内容。

如果你觉得JMicro对你有帮助,麻烦移步到Github上给个星!

本站声明:网站内容来源于网络,如有侵权,请联系我们,我们将及时处理。

  • 分享:
评论
还没有评论
    发表评论 说点什么