我正在尝试优化大型表(250K 对象)上的迁移速度。目标是根据与该行相关的对象的用户向每一行添加一个用户字段:
我尝试使用 F 表达式,但遗憾的是 django 不允许它们中的关系。请注意,我主要是 SQL 的初学者 :)
## models.py
class Band(models.Model):
user = models.ForeignKey(
settings.AUTH_USER_MODEL,
on_delete=models.CASCADE,
null=True,
default=None)
...
class Album(models.Model):
band = models.ForeignKey(
Band
on_delete=models.CASCADE,
null=True,
default=None)
user = models.ForeignKey(
settings.AUTH_USER_MODEL,
on_delete=models.CASCADE,
null=True,
default=None)
...
## 0035_album_add_user.py
def forwards_add_user(apps, schema_editor):
Album = apps.get_model('band', 'Album')
db_alias = schema_editor.connection.alias
albums = Album.objects \
.using(db_alias) \
.filter(band__isnull=False) \
.select_related('band', 'band__user')
for each in albums:
each.user = each.band.user
Album.objects \
.using(db_alias) \
.bulk_update(albums, ['user'])
class Migration(migrations.Migration):
dependencies = [ ... ]
operations = [
migrations.RunPython(forwards_add_user, reverse_add_user),
]
这个迁移目前在我的本地需要一个小时,并且在整个持续时间内数据库的使用率为 100%。感谢我的生产数据库,我有一个更好的 CPU,所以这让我很担心,关闭生产数据库一个小时并不是一个真正的选择。
我正在研究两种不同的解决方案,这两种解决方案我都不知道如何完成: - 优化更多 python 代码以使其运行得更快 - 在迁移期间限制数据库的 CPU 消耗,使其保持可用。两者都是最好的情况:)
我在生产中的 RDS 和本地的 Docker 上运行 Python3.6.9 和 Django2.2.9 和 PostgreSQL10.6。
谢谢 !
侃侃无极
相关分类