如何处理底端上送的重复数据呢？

Question

底端会不断上送数据（有时上送重复数据），现需实现清除重复数据并记录日志功能，最先想到的方法是：不对上送数据作出判断，直接向数据库中insert，若出现Duplicate Key Violation表明数据重复会抛出异常，然后在catch中通过e.getStackTrace()判断该异常是否由主键重复引起，然后写日志。

但总觉得这种方式不太对劲，毕竟程序已经抛出异常了...各位前辈是如何解决类似问题的呢？

Answer 1

上送重复数据是在一段时间内发生的话，比如一个小时以内，两个小时以内，我一般会用 redis 来配合处理， 将当期的数据 md5 一次，存入 redis 同时设置失效时间， 后面上来的数据都md5一下，去 redis 里面查询，用这种方式来去重