php大数据更新,增量处理

1.背景:公司是做域名的,目前要对接Godaddy的一口价域名,对方一口价域名数据量较大,只给一个全部数据的接口,且产品要求定时更新域名数据(新增新寄售的域名,去除状态异常的域名)2.问题:导入完整数据后,要如何更新数据,目前采用的方法是:清空表中Godaddy的所有数据,然后重新调接口导入所有数据,有没有什么好办法,可以实现数据的增量更新处理(数据量差不多有600W左右)有没有哪位大神指点一下,多谢!!!
临摹微笑
浏览 323回答 2
2回答

智慧大石

“清空数据表再重新导入全部数据”这种方法对数据库的压力太大了。你在调接口获取到新的全量数据后,做一次遍历,逐条逐条的跟已有的数据做对比,如果不一样,就说明这条数据已经发生了变更,这时候update一下数据库对应的记录即可。其实这种情况最好的解决方法是,让Godaddy那边提供一个增量接口。

慕运维8079593

你是怎么对接口导入的phpcli,还是用了第三方swoole什么扩展导入的?数据库瓶颈在哪里你就是开100个进程也没有,数据库插不进去,需要的时间也差不多。可不可以每50万条数据分一张表导入?
打开App,查看更多内容
随时随地看视频慕课网APP

相关分类

JavaScript