当有读者看到我这篇SiftGPU入门的学习笔记时，相信你已经读过了高博那篇《SLAM拾萃：SiftGPU》，那篇文章写于16年，已经过去两年的时间。在我尝试配置SiftGPU的环境时，遇到了几个问题，在网络上也少有较为系统的关于SiftGPU的介绍，因此觉得有必要记录下来，以便同样对此感兴趣的同学们少走弯路。
暑假的时候参加了高分举办的无人机大赛，在进行图像处理的时候用到过特征提取，当时主要是考虑SIFT和SURF两种方法，由于提取速度上的优势，我采用了SURF。比赛之后读过一些博客和文章，发觉SIFT的准确率应该更高一些，而我在比赛中也发现SURF偶尔会出现无法匹配的情况。OpenCV集成了SIFT算子，我们可以比较容易地利用其中的函数进行特征点的检测，而由于传统的SIFT算法速度较为缓慢，检测一张图片在台式机上通常都需要100+ms，因此传统的SIFT算法很难应用在无人机这种资源紧张而且对速度要求很高的平台上。目前我们组的无人平台上主要应用过ORBSLAM和VINS。
我的原计划是阅读Lowe的论文，理解算法的原理，而后对源码进行一定的优化以在特定的情景中加快检测速度，然而在一次组会中，老板提到了SiftGPU让我去了解一下，于是就有了这篇学习笔记。原作者Wu Changchang来自北卡罗来纳大学教堂山分校，高博文章中的下载链接基于此。
笔者使用的是Ubuntu 16.04的系统，工作机配置了CUDA9.0，笔记本配置的是CUDA9.2，OpenCV的版本都是3.2.0，关于OpenCV及其contrib的编译可以参照我的另一篇博文[环境配置]Ubuntu 16.04 源码编译安装OpenCV-3.2.0+OpenCV_contrib-3.2.0及产生的问题。SiftGPU大部分代码是基于OpenGL的，因此不编译CUDA也没有问题，两者速度的对比后面会提到。
下载和编译
源码编译之前我们需要安装一些包以及Glew。
$ sudo apt-get install libgl1-mesa-dev libglu1-mesa-dev freeglut3-dev libdevil-dev
Glew的源码位于其官网，下载最新版的即可，之后直接解压。
$ cd Downloads/glew-2.1.0 $ make $ sudo make install
我们需要告诉系统的cmake工具编译好的文件的位置。
$ sudo ldconfig /usr/lib64/
接下来就是SiftGPU的编译了，Wu Changchang的源码链接已经失效，因此只能去万能的github上下载源码了。但是这个版本的SiftGPU有几处问题，编译之前需要更正，否则无法正确编译完成，为方便起见，我fork之后更新了需要更正的文件，放在我的github上，大家可以直接clone我更正后的代码，然后编译SiftGPU。
$ cd Downloads/SiftGPU $ make
检查一下得到的bin/libsiftgpu.so的链接是否正确
$ ldd bin/libsiftgpu.so
如果得到如下的图片，说明编译成功，每一个库都找到了对应的位置。
笔者对pitzer的源码主要更改了两个文件，首先一个关于freeglut的问题，报错如下
freeglut ERROR: Function <glutDestroyWindow> called without first calling 'glutInit'.
我们打开src/SiftGPU/LiteWindow.h，找到
virtual ~LiteWindow() { if(glut_id > 0) glutDestroyWindow(glut_id); }改为
virtual ~LiteWindow()
{
if(glut_id > 0)
{
int argc = 0;
char** argv;
glutInit(&argc, argv);
glutDestroyWindow(glut_id);
}
}第二个文件是src/SiftGPU/SiftGPU.h，在头文件处加一个
#include <stddef.h>
如果缺少这个头文件，会报如下的错误
/home/yao/Environment/SiftGPU/src/SiftGPU/SiftGPU.h:336:40: error: declaration of ‘operator new’ as non-function SIFTGPU_EXPORT void* operator new (size_t size);
测试与结果
测试代码我放在了我的github上，有兴趣的同学可以下载下来测试。
OpenGL
编译好之后我们当然需要来测试一下，笔者主要使用cmake从命令行进行编译，使用编译器的同学如果是调用cmake工具的话，应该步骤相同。首先我们创建一个工程文件夹，名字就叫test_SiftGPU，在文件夹下创建CMakeLists.txt
cmake_minimum_required(VERSION 2.8.3)
project(test_SiftGPU)
# OpenCV依赖
find_package( OpenCV REQUIRED )
# OpenGL
find_package(OpenGL REQUIRED)
# GLUT
find_package(GLUT REQUIRED)
# Glew
find_package(GLEW REQUIRED)
find_package(CUDA REQUIRED)
# SiftGPU：手动设置其头文件与库文件所在位置
include_directories("/home/yao/Environment/SiftGPU/src/SiftGPU/" ${OpenGL_INCLUDE_DIR})set(SIFTGPU_LIBS "/home/yao/Environment/SiftGPU/bin/libsiftgpu.so")
add_executable( test_SiftGPU main.cpp )
target_link_libraries( testSiftGPU
${OpenCV_LIBS}
${SIFTGPU_LIBS}
${GLEW_LIBRARIES} ${GLUT_LIBRARIES} ${OPENGL_LIBRARIES}
)注意设置SiftGPU的路径时读者要改成自己的路径。此外高博的文章中写到需要为Glew写一个寻找其路径的cmake文件，但在我安装完Glew后cmake的modules文件夹下出现了FindGLEW.cmake这个文件，因此我们不需要专门为Glew写这个文件，直接加上GLEW的find_package代码，注意大写。
main.cpp我一开始使用了高博的代码，在用OpenCV读入图像的条件下，检测出一张640*480图像中所有的特征点需要不到10ms，但是我发现这个测试程序有一些问题，前一部分是测试直接读取一张图片进行Sift检测，后面是对同一张图片先读取再检测。当我注释掉前一段代码时，发现后一段代码无法运行，我必须取消注释检测那一句代码才可以运行，因此我推测后一段代码引用了前一段的结果。我重新改写了一份测试代码，测试速度还算是比较快，通过调参，可以在我的笔记本上达到30ms/帧的检测速度。
在定义部分，默认调用OpenGL，如果想要调用CUDA，换用另一个字符串指针即可，但是要预先安装好CUDA，以及配置好CUDA，配置过程在后面会写。
#include <SiftGPU.h>
#include <iostream>
#include <vector>
#include <opencv2/core/core.hpp>
#include <opencv2/highgui/highgui.hpp>
#include "opencv2/imgproc/imgproc.hpp"
#include <chrono>
#include <GL/gl.h>
using namespace std;
using namespace chrono;
int main( int argc, char** argv)
{
//声明SiftGPU并初始化
SiftGPU sift;
char* myargv[5] = { "-m", "-s", "-unpa", "0"};
//char* myargv[4] = {"-fo", "-1", "-cuda", "0"};
sift.ParseParam(5, myargv);
//检查硬件是否支持SiftGPU
int support = sift.CreateContextGL();
if ( support != SiftGPU::SIFTGPU_FULL_SUPPORTED )
{
std::cerr << "SiftGPU is not supported!" << std::endl;
return 2;
}
sift.ParseParam(5, myargv);
cv::Mat img = cv::imread("/home/yao/workspace/SIFT_detection/image/2.png");
int width = img.cols;
int height = img.rows;
sift.AllocatePyramid(width, height);
sift.SetTightPyramid(1);
auto start_siftgpu = std::chrono::system_clock::now();
sift.RunSIFT(width, height, img.data, GL_RGB, GL_UNSIGNED_BYTE);
float time_cost = chrono::duration_cast<microseconds>(std::chrono::system_clock::now() - start_siftgpu).count() / 1000.0;
std::cout << "siftgpu::runSIFT() cost time=" << time_cost << "ms" << std::endl;
int num = sift.GetFeatureNum();
std::cout << "Feature number=" << num << std::endl;
std::vector<float> descriptors(128*num);
std::vector<SiftGPU::SiftKeypoint> keys(num);
auto start_siftfeature = std::chrono::system_clock::now();
sift.GetFeatureVector(&keys[0], &descriptors[0]);
return 0;
}
然后就是轻车熟路的cmake编译过程了。
$ mkdir build $ cd build $ cmake .. $ make $ ./test_SiftGPU
结果如下图所示
测试代码只调用了OpenGL，我笔记本的配置是i7-7700HQ，显卡GTX1050，读取一张图像后，提取出一张图像中所有的SIFT特征点只需要35毫秒，这相比较于传统的SIFT提取消耗的时间大大减小。多数情况下，我们都是调用OpenCV进行图像的读取以及后续的处理，因此使用SiftGPU可以加快提取特征点的速度。在无人机平台上，图像处理速度一般要求在20HZ以上，因此SiftGPU获取特征点的策略可以应用于无人机平台，与ORB等算子速度相当。
CUDA
我们切换至CUDA下进行特征点提取，关于调用CUDA来完成SiftGPU的测试，github上的原作者写的比较含糊，网络上也鲜有教程，因此特做记录如下。
首先切换至SiftGPU的安装路径，找到makefile中的
ifneq ($(simple_find_cuda), ) siftgpu_enable_cuda = 0 else siftgpu_enable_cuda = 0 endif CUDA_INSTALL_PATH = /usr/local/cuda #change additional settings, like SM version here if it is not 1.0 (eg. -arch sm_13 for GTX280) #siftgpu_cuda_options = -Xopencc -OPT:unroll_size=200000 #siftgpu_cuda_options = -arch sm_10
改为
ifneq ($(simple_find_cuda), ) siftgpu_enable_cuda = 1 else siftgpu_enable_cuda = 0 endif CUDA_INSTALL_PATH = /usr/local/cuda #change additional settings, like SM version here if it is not 1.0 (eg. -arch sm_13 for GTX280) #siftgpu_cuda_options = -Xopencc -OPT:unroll_size=200000 siftgpu_cuda_options = -arch sm_50
其中最后一行的sm_50取决于读者电脑的GPU算力，笔者笔记本使用的GPU是Pascal架构的GTX1050，算力为5.2，因此采用sm_50这个参数，关于不同GPU的算力可以参考这篇博客。之后重新编译安装SiftGPU。
$ make clean $ make
我们切回到SiftGPU的测试程序，找到主程序main.cpp，取消注释下面这句
//char* myargv[4] = {"-fo", "-1", "-cuda", "0"};然后cmake编译，就可以测试了，测试结果如下
调用CUDA检测处同样的一张图片中的所有特征点需要消耗31ms，与不调用CUDA的情况时间相差无几，依据SiftGPU的手册，分辨率低于1080p的时候，OpenGL速度较快，因此这种结果也可以接受。
总结
SIFT在特征点检测领域是一个非常优秀的算子，用于匹配准确率高，缺点是速度慢，而Wu Changchang提出的SiftGPU算法加快了特征点的提取，在CUDA的加成下相较于只调用OpenGL的SiftGPU速度提升有限，因此对于没有装CUDA的同学们来说这算是一个利好。7700HQ的CPU+GTX1050的显卡可以将一幅640*480的图像只用31毫秒便找出了所有的特征点，因此在无人机的轻量级运算平台上的应用很可期。
本文主要是介绍了SiftGPU的编译和使用过程，改进了源码的几处错误以便于正确编译，尝试了调用CUDA的方法，给出了解决方案，对SiftGPU的使用提供了较为系统的方法，同时给出了一个测试程序。欢迎读者提出指正与问题，便于讨论与共同进步。
作者：RichardYao1995
原文链接：https://www.cnblogs.com/RichardYao/p/9907860.html
随时随地看视频
