继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

使用presto数据库在字符数字比较中遇到的坑

慕码人8056858
关注TA
已关注
手记 1238
粉丝 350
获赞 1323

1.事情的始末

公司的sql查询平台提供了HIVE和Presto两种查询引擎来查询hive中的数据,由于presto的速度较快,一般能用presto跑就不用hive跑(有的时候如果使用了hive的UDF就必须用hive了),然而昨天发生了一件血案。

有一个需求需要统计某个时间小于100000s的所有记录,这个时间存在一个map<string,string>中,然后自然想到的就是where map["stat_time"] <100000 ,结果出来的数据特别少,开始还天真的以为是数据的确就特别少。后来产品说不正常。仔细排查以后发现,这些数据都是小于10的。

相信看到这里就已经比较清晰了,这presto种字符串和数字比较,是把数字转化成字符串进行比较,也就是"10000" 和 23比,"10000" 小,由于hive和很多语言以及框架上,这种情况都是把字符串转化成数字,就没做特殊处理。结果遇到了这个坑。后来把查询引擎缓存hive就好了。

2.扩展

不过为了安全,健壮性和可读性考虑,还是应该加上一些转换函数,hive和presto中都提供了cast转换

cast(value AS type)  type显式转换一个值的类型。 可以将varchar类型的值转为数字类型,反过来转换也可以。

try_cast(value AS type)  type与cast类似,不过,如果转换失败会返回null,这个只有presto有

另外需要注意的是
hive中的int类型是就是int,而presto中是包装类型Integer,如果cast的type写错也会报错



作者:Meet相识_bfa5
链接:https://www.jianshu.com/p/43c783c58376


打开App,阅读手记
0人推荐
发表评论
随时随地看视频慕课网APP