手记

人脸检测中,如何构建输入图像金字塔

写在前面

在文章《特征,特征不变性,尺度空间与图像金字塔》中我们初步谈到了图像金字塔,在这篇文章中将介绍如何在人脸检测任务中构建输入图像金子塔。

人脸检测中的图像金字塔

人脸检测任务,输入是一张图像,输出图像中人脸所在位置的Bounding Box。因为卷积神经网络强大的特征表达能力,现在的人脸检测方法通常都基于卷积神经网络,如MTCNN等。网络确定后,通常只适用于检测一定尺寸范围内的人脸,比如MTCNN中的P-Net,用于判断12×1212×12大小范围内是否含有人脸,但是输入图像中人脸的尺寸是未知的,因此需要构建图像金字塔,以获得不同尺寸的图像,只要某个人脸被放缩到12×1212×12左右,就可以被检测出来。下图为MTCNN 的Pipeline,来自链接

构建金字塔需要解决几个问题:

  1. 金字塔要建多少层,即一共要生成多少张图像

  2. 每张图像的尺寸如何确定

下面直接从代码层面看是如何实现的,也可以直接跳到总结查看结论。

代码实现

MTCNN

以下为MTCNN 人脸检测 matlab代码

在人脸检测,通常要设置要原图中要检测的最小人脸尺寸,原图中小于这个尺寸的人脸不必care,MTCNN代码中为minsize=20,MTCNN P-Net用于检测12×1212×12大小的人脸。如果输入图像为100×120100×120,其中人脸最小为20×2020×20,最大为100×100100×100——对应图像较短边长,为了将人脸放缩到12×1212×12,同时保证相邻层间缩放比率factor=0.709,则金子塔中图像尺寸依次为60×7260×72、52×6152×61、36×4336×43、26×3126×31、18×2218×22、13×1613×16,其中60×7260×72对应把20×2020×20的人脸缩放到12×1212×12,13×1613×16对应把100×100100×100的人脸缩放到12×1212×12(在保证缩放比率一致的情况下近似)。

现在就可以回答上面的两个问题了:

  1. 给定输入图像,根据设置的最小人脸尺寸以及网络能检测的人脸尺寸,确定图像金子塔中最大图像和最小图像

  2. 根据设置的金字塔层间缩放比率,确定每层图像的尺寸

Seetaface

可以再看一下Seetaface中是如何构建图像金字塔的,Seetaface人脸检测使用的是非深度学习的方法,检测窗口大小impl_->kWndSize = 40,其对应MTCNN中网络适宜检测的人脸大小。

// 设置最大人脸,计算最大void FaceDetection::SetMinFaceSize(int32_t size) {  if (size >= 20) {
    impl_->min_face_size_ = size;
    impl_->img_pyramid_.SetMaxScale(impl_->kWndSize / static_cast<float>(size));
  }
}// 设置最大尺度inline void SetMaxScale(float max_scale) {
  max_scale_ = max_scale;
  scale_factor_ = max_scale;
  UpdateBufScaled();
}// 设置最小人脸void FaceDetection::SetMaxFaceSize(int32_t size) {  if (size >= 0)
    impl_->max_face_size_ = size;
}// 设置相邻层放缩比率void FaceDetection::SetImagePyramidScaleFactor(float factor) {  if (factor >= 0.01f && factor <= 0.99f)
    impl_->img_pyramid_.SetScaleStep(static_cast<float>(factor));
}// 在金字塔中检测人脸std::vector<seeta::FaceInfo> FaceDetection::Detect(    const seeta::ImageData & img) {  int32_t min_img_size = img.height <= img.width ? img.height : img.width;
  min_img_size = (impl_->max_face_size_ > 0 ? (min_img_size >= impl_->max_face_size_ ? 
  impl_->max_face_size_ : min_img_size) : min_img_size);  // ...
  // 最小尺度为 impl_->kWndSize / min_img_size,在Seetaface中impl_->kWndSize=40
  impl_->img_pyramid_.SetMinScale(static_cast<float>(impl_->kWndSize) / min_img_size);  // ...
  impl_->pos_wnds_ = impl_->detector_->Detect(&(impl_->img_pyramid_));  // ...}// 金子塔中对应尺度的图像const seeta::ImageData* ImagePyramid::GetNextScaleImage(float* scale_factor) {  // initial scale_factor_ = max_scale = impl_->kWndSize / min_face_size
  if (scale_factor_ >= min_scale_) { // min_scale_ = impl_->kWndSize / min_img_size
    if (scale_factor != nullptr)
      *scale_factor = scale_factor_;

    width_scaled_ = static_cast<int32_t>(width1x_ * scale_factor_);
    height_scaled_ = static_cast<int32_t>(height1x_ * scale_factor_);

    seeta::ImageData src_img(width1x_, height1x_);
    seeta::ImageData dest_img(width_scaled_, height_scaled_);
    src_img.data = buf_img_;
    dest_img.data = buf_img_scaled_;
    seeta::fd::ResizeImage(src_img, &dest_img);
    scale_factor_ *= scale_step_;

    img_scaled_.data = buf_img_scaled_;
    img_scaled_.width = width_scaled_;
    img_scaled_.height = height_scaled_;    return &img_scaled_;
  } else {    return nullptr;
  }
}

看代码就很清晰了,与MTCNN是相通的。

总结

人脸检测中的图像金字塔构建,涉及如下数据:

  1. 输入图像尺寸,定义为(h, w)

  2. 最小人脸尺寸,定义为 min_face_size

  3. 最大人脸尺寸,如果不设置,为图像高宽中较短的那个,定义为max_face_size

  4. 网络/方法能检测的人脸尺寸,定义为net_face_size

  5. 金字塔层间缩放比率,定义为factor

缩放图像是为了将图像中的人脸缩放到网络能检测的适宜尺寸,图像金字塔中
最大尺度max_scale = net_face_size / min_face_size
最小尺度min_scale = net_face_size / max_face_size
中间的尺度scale_n = max_scale * (factor ^ n)
对应的图像尺寸为(h_n, w_n) = (h * scale_n, w_n * scale_n)

以上。

参考

原文出处:https://www.cnblogs.com/shine-lee/p/10066049.html  

1人推荐
随时随地看视频
慕课网APP