如何通过交叉验证使用数据增强

Question

我需要对数据增强步骤中的训练数据使用数据增强。问题是我正在使用交叉验证，所以我找不到如何调整模型以使用数据增强的参考。我的交叉验证有点手动索引我的数据。

有关于数据增强的文章和一般内容，但很少，而且没有对数据增强的交叉验证进行概括

我需要通过简单地旋转和添加缩放来对训练数据使用数据增强，交叉验证最佳权重并保存它们，但我不知道如何操作。

这个例子可以复制粘贴以获得更好的再现性，简而言之，我将如何使用数据增强并以最佳精度保存权重？

Answer 1

训练机器学习模型时，不应在模型训练阶段使用的样本上测试模型（如果您关心实际结果）。交叉验证是一种估计模型准确性的方法。该方法的本质是将可用的标记数据分成几个部分（或折叠），然后使用一个部件作为测试集，在所有其余部件上训练模型，并对所有部件一一重复此过程。通过这种方式，您基本上可以在所有可用数据上测试您的模型，而不会对训练造成太大影响。有一个隐含的假设，即所有折叠中的数据分布都是相同的。根据经验，交叉验证折叠的数量通常为 5 或 7。这取决于可处理的标记数据量 - 如果您有大量数据，则可以留下更少的数据来训练模型，并且增加测试集大小。折叠次数越多，您可以实现的准确度估计就越高，因为训练规模部分会增加，并且您必须在该过程中投入更多时间。在极端情况下，有一个留一法训练程序：对除一个样本之外的所有内容进行训练，因此，对于 5 倍 CV，您需要训练 5 个不同的模型，这些模型的训练数据有很大的重叠。因此，您应该获得 5 个具有相似性能的模型。（如果不是这种情况，那么你就有问题了；））在获得测试结果后，你扔掉你训练过的所有 5 个模型，并在所有可用数据上训练一个新模型，假设它的性能是平均值您在 CV 阶段获得的值。现在关于增强数据。您不应允许通过增强训练部分获得的数据泄漏到测试中。从训练部分创建的每个数据点只能用于训练，这同样适用于测试集。因此，您应该将原始数据拆分为k 折叠（例如使用KFold或GroupKFold），然后为每个折叠创建增强数据并将它们连接到原始数据。然后您遵循常规的简历程序。在您的情况下，您可以简单地在连接每个组（例如x_group1）之前通过增强过程，然后就可以了。请注意，以线性方式分割数据可能会导致数据集不平衡，这不是分割数据的最佳方式。您应该考虑我上面提到的功能。