前言
标定模板(Calibration Target)在机器视觉、图像测量、摄影测量以及三维重建等应用中起着重要的作用。它被用于校正相机的畸变,确定物理尺寸和像素之间的换算关系,并建立相机成像的几何模型。通过使用相机拍摄带有固定间距图案阵列的平板,并经过标定算法的计算,我们能够得到相机的几何参数,从而获得高精度的测量和重建结果。
这种标定模板通常具有固定间距的图案阵列,例如棋盘格、圆点阵列等。这些图案提供了已知尺寸的参考点,使得可以精确地计算相机的内参(内部参数)和外参(外部参数)。内参包括焦距、主点等相机内部的属性,而外参包括相机的位置和方向等外部属性。
通过对标定模板进行拍摄和相应的标定过程,可以消除图像中的畸变效应,实现对物体三维几何位置与其在图像中对应点之间的精确关联。这为各种应用场景提供了可靠的基础,包括计算机视觉任务、图像测量、摄影测量以及三维重建等。标定模板的使用有助于提高测量和重建的准确性,并确保获得可靠的结果。
这是使用的标定板是49个圆点的尺寸标定板,为是更好的演示亚像素,所拍的图像大小为320240pix,标定板的大小为130130pix。
边缘检测
在计算机视觉和机器视觉领域,广泛应用图像分割,这是将数字图像细分为多个子区域的过程。图像分割的目标是简化或改变图像的表示形式,使其更易于理解和分析。这通常包括定位图像中的物体和边界,生成图像子区域或轮廓线的集合。图像分割方法主要涵盖阈值处理(二值化)、聚类法、边缘检测和区域生长等。解决图像分割问题时,通常需要结合领域知识,因为没有统一的范式可以适用于所有情境。
边缘检测是一种基于灰度变化的常见图像分割方法,其核心是提取图像中不连续部分的特征。常见的边缘检测算子包括差分算子、Roberts算子、Sobel算子、Prewitt算子、Log算子以及Canny算子等。其中,Canny算子由计算机科学家John F. Canny于1986年提出,被认为是目前理论上相对最完善的边缘检测算法。
这里面使用了Canny来进行边缘检测,Canny边缘检测是一种经典的图像处理技术,用于检测图像中的边缘。这个算法由约翰·Canny于1986年提出,被广泛应用于计算机视觉和图像处理领域。以下是Canny边缘检测的基本原理和步骤:
-
噪声抑制: 使用高斯滤波器对图像进行平滑处理,以减少噪声的影响。这有助于提高后续边缘检测步骤的准确性。
-
计算梯度幅值和方向: 利用Sobel等算子计算图像中每个像素点的梯度幅值和方向。梯度表示图像中的变化率,有助于确定潜在的边缘位置。
-
非极大值抑制: 在图像的每个像素点上,仅保留梯度幅值最大的方向,从而细化边缘。
-
双阈值检测: 将梯度幅值分为高阈值和低阈值两部分。高于高阈值的像素点被认为是强边缘,低于低阈值的像素点被排除。介于两者之间的像素点被标记为弱边缘。
-
边缘连接: 通过强边缘的连接,将弱边缘与强边缘关联起来,形成连续的边缘。
Canny边缘检测的优势在于其高准确性、低误差率和对边缘的单一定位。
cv::Mat cv_gray;if (cv_src.channels() > 1){cv::cvtColor(cv_src, cv_gray, cv::COLOR_BGR2GRAY);}else{cv_gray = cv_src.clone();}cv::Mat cv_edge;//1.边缘检测cv::Canny(cv_gray, cv_edge, 180, 200);cv::imshow("edge", cv_edge);cv::waitKey();
canny的结果:
轮廓提取
轮廓是由一系列相连的像素点组成的曲线,反映了物体的基本外形特征。常常用于形状分析以及物体的检测和识别任务。
边缘检测通过检测灰度的突变来寻找图像边界,但通常检测到的边缘是零散的片段,没有形成完整的整体。为了从背景中分离目标,需要将这些边缘像素连接起来形成轮廓。换句话说,轮廓是一种连续的曲线,而边缘未必都是连续的。边缘主要被用作图像的特征,而轮廓则更多地用于分析物体的整体形态。
cv::findContours 是OpenCV库中用于查找图像中轮廓的函数。它的基本用法是在二进制图像中找到对象的轮廓,返回一个包含轮廓点集合的列表。
然而,在使用cv::findContours时,会产生内外两个轮廓,为了减少内部,要对获取的轮廓进行进一步的处理:
*** @brief 在二值化边缘图像中检测和分离内部和外部轮廓。** @param cv_edge 二值化边缘图像。* @param inner_contours 用于存储内部轮廓的向量。*/
void contour(cv::Mat& cv_edge, std::vector<std::vector<cv::Point>>& inner_contours)
{// 存储所有检测到的轮廓的向量std::vector<std::vector<cv::Point>> contours;// 存储轮廓之间层次关系的层次向量std::vector<cv::Vec4i> hierarchy;// 在二值化边缘图像中查找轮廓cv::findContours(cv_edge, contours, hierarchy, cv::RETR_CCOMP, cv::CHAIN_APPROX_NONE);// 存储有效轮廓和被排除轮廓的索引的向量std::vector<int> valids;std::vector<int> excludes;// 根据层次关系减少内部轮廓edge_contour_valids(hierarchy, valids, excludes);// 调整 inner_contours 向量的大小以容纳有效轮廓inner_contours.resize(valids.size());// 将有效轮廓的索引映射到相应的轮廓,并存储在 inner_contours 中std::transform(std::execution::par,valids.begin(),valids.end(),inner_contours.begin(),[contours](int i) { return contours[i]; });// 存储外部轮廓的向量std::vector<std::vector<cv::Point>> external_contours(excludes.size());// 将被排除轮廓的索引映射到相应的轮廓,并存储在 external_contours 中std::transform(std::execution::par,excludes.begin(),excludes.end(),external_contours.begin(),[contours](int i) { return contours[i]; });
}
得到轮廓之后,要获取标定板圆前先获取轮廓的矩:
/*** @brief 计算轮廓的属性并进行阈值化,筛选符合条件的轮廓。** @param inner_contours 存储内部轮廓的向量。* @param cv_cont_and 存储轮廓属性的阈值化结果。* @param cont_center 存储轮廓中心点的向量。* @param RADIUS_MAX 最大半径阈值。*/
void contours_attribute(std::vector<cv::Point> &cont_center, std::vector<std::vector<cv::Point>> &inner_contours,cv::Mat & cv_cont_and,double RADIUS_MAX)
{// 获取轮廓的长度std::vector<double> cont_lengths;contour_length(inner_contours, cont_lengths);// 存储轮廓的半径和纵横比std::vector<double> cont_ra, cont_aspect_ratio;cv::Mat_<double> cont_length_mat(cont_lengths);// 计算轮廓中心点和其他属性for (const auto& c : inner_contours){auto M = cv::moments(c);double area = M.m00;auto centerX = int(M.m10 / area);auto centerY = int(M.m01 / area);double m20 = M.mu20 / area;double m02 = M.mu02 / area;double m11 = M.mu11 / area;double c1 = m20 - m02;double c2 = c1 * c1;double c3 = 4 * m11 * m11;cont_center.emplace_back(centerX, centerY);auto ra = sqrt(2.0 * (m20 + m02 + sqrt(c2 + c3)));auto rb = sqrt(2.0 * (m20 + m02 - sqrt(c2 + c3)));cont_ra.emplace_back(ra);cont_aspect_ratio.emplace_back(ra / rb);}// 将属性向量转为 OpenCV 的 Mat 类型cv::Mat_<double> cv_cont_radius(cont_ra);cv::Mat_<double> cv_cont_aspect_ratio(cont_aspect_ratio);// 定义阈值和计算最大轮廓长度cv::Mat cv_aspect_ratio, cv_radius, cv_cont_length;const double CONT_LENGTH_MAX = 2 * M_PI * RADIUS_MAX;// 对纵横比、半径和轮廓长度进行阈值化cv::threshold(cv_cont_aspect_ratio, cv_aspect_ratio, 0.8, 1.0, cv::ThresholdTypes::THRESH_BINARY);cv::threshold(cv_cont_radius, cv_radius, RADIUS_MAX, 1.0, cv::ThresholdTypes::THRESH_BINARY_INV);cv::threshold(cont_length_mat, cv_cont_length, CONT_LENGTH_MAX, 1.0, cv::ThresholdTypes::THRESH_BINARY_INV);// 将阈值结果按位与,存储在 cv_cont_and 中cv::Mat and1;cv::bitwise_and(cv_aspect_ratio, cv_radius, and1);cv::bitwise_and(and1, cv_cont_length, cv_cont_and);
}
亚像素轮廓提取
使用亚像素插值,获得轮廓的亚像素级坐标:
/*** @brief 对图像进行亚像素插值,获得轮廓的亚像素级坐标。** @param image_gray 灰度图像。* @param filteredCont 过滤后的轮廓向量。* @param contSubPixFull 存储亚像素级坐标的向量的向量。*/
void sub_pix_contour(const cv::Mat& image_gray,const std::vector<std::vector<cv::Point>>& filteredCont,std::vector<std::shared_ptr<std::vector<std::shared_ptr<cv::Point2d>>>>& contSubPixFull)
{// 定义用于插值的系数std::vector<double> p_vec{ 0.004711, 0.069321, 0.245410, 0.361117, 0.245410, 0.069321, 0.004711 };std::vector<double> d1_vec{ -0.018708, -0.125376, -0.193091, 0.000000, 0.193091, 0.125376, 0.018708 };std::vector<double> d2_vec{ 0.055336, 0.137778, -0.056554, -0.273118, -0.056554, 0.137778, 0.055336 };// 将系数转为 Mat 类型auto p = cv::Mat_<double>(p_vec);auto d1 = cv::Mat_<double>(d1_vec);auto d2 = cv::Mat_<double>(d2_vec);// 计算图像梯度cv::Mat dx, dy, grad;cv::sepFilter2D(image_gray, dy, CV_64F, p, d1);cv::sepFilter2D(image_gray, dx, CV_64F, d1, p);cv::pow(dy.mul(dy, 1.0) + dx.mul(dx, 1.0), 0.5, grad);// 计算更高阶导数cv::Mat gy, gx, gyy, gxx, gxy;cv::sepFilter2D(grad, gy, CV_64F, p, d1);cv::sepFilter2D(grad, gx, CV_64F, d1, p);cv::sepFilter2D(grad, gyy, CV_64F, p, d2);cv::sepFilter2D(grad, gxx, CV_64F, d2, p);cv::sepFilter2D(grad, gxy, CV_64F, d1, d1);// 对每个轮廓进行亚像素插值contSubPixFull.resize(filteredCont.size());std::transform(std::execution::par,filteredCont.cbegin(),filteredCont.cend(),contSubPixFull.begin(),[&gy, &gx, &gyy, &gxx, &gxy](const std::vector<cv::Point>& cont){return sub_pix_single(gy, gx, gyy, gxx, gxy, cont);});
}
把亚像素轮廓坐标显示:
void SubPixEdge::draw_roi(cv::Mat& cv_src, std::vector<std::vector<cv::Point>>& filtered_cont,std::vector<std::shared_ptr<std::vector<std::shared_ptr<cv::Point2d>>>>& cont_sub_pix,bool show_roi)
{const int up_scale = 50;cv::Mat cv_temp = cv_src.clone();int src_up_w = up_scale * cv_temp.rows;int src_up_h = up_scale * cv_temp.cols;cv::Mat cv_src_up = cv::Mat::zeros(src_up_w, src_up_h, CV_8UC3);for (int i = 0; i < cv_temp.cols; ++i){for (int j = 0; j < cv_temp.rows; ++j){cv::Mat roi = cv_src_up(cv::Rect(i * up_scale, j * up_scale, up_scale, up_scale));roi = cv_temp.at<cv::Vec<uchar, 3>>(j, i);}}std::vector<std::vector<cv::Point>> cont;for (int i = 0; i < cont_sub_pix.size(); ++i){std::vector<cv::Point> dis_cont;for (const auto& p : *cont_sub_pix[i]){//使用 floor() 函数向下取整int x = floor((p->x + 0.5) * up_scale);int y = floor((p->y + 0.5) * up_scale);cv::drawMarker(cv_src_up, cv::Point(x, y), cv::Scalar(0, 0, 255), cv::MARKER_TILTED_CROSS, 20, 5);dis_cont.emplace_back(x, y);}cont.emplace_back(dis_cont);}cv::drawContours(cv_src_up, cont, -1, cv::Scalar(255, 0, 0), 5);cv::drawContours(cv_src, filtered_cont, -1, cv::Scalar(255, 0, 0));if (show_roi){for (int i = 0; i < filtered_cont.size(); ++i){cv::Rect rect = cv::boundingRect(filtered_cont[i]);cv::Mat crop = cv_src(rect);if (crop.empty()){continue;}int up_w = up_scale * rect.width;int up_h = up_scale * rect.height;cv::Mat cv_up = cv::Mat::zeros(up_w, up_h, CV_8UC3);for (int i = 0; i < crop.cols; ++i){for (int j = 0; j < crop.rows; ++j){cv::Mat roi = cv_up(cv::Rect(i * up_scale, j * up_scale, up_scale, up_scale));roi = crop.at<cv::Vec<uchar, 3>>(j, i);}}std::vector<cv::Point> dis_cont;for (const auto& p : *cont_sub_pix[i]){//使用 floor() 函数向下取整int x = floor(((p->x - rect.x) + 0.5) * up_scale);int y = floor(((p->y - rect.y) + 0.5) * up_scale);cv::drawMarker(cv_up, cv::Point(x, y), cv::Scalar(0, 0, 255), cv::MARKER_TILTED_CROSS, 20, 3);dis_cont.emplace_back(x, y);}std::vector<std::vector<cv::Point>> display_contour_full{ dis_cont };cv::drawContours(cv_up, display_contour_full, 0, cv::Scalar(255.0, 0.0, 0.0), 3);cv::namedWindow("upScaled", 0);cv::imshow("upScaled", cv_up);cv::waitKey();}}cv::namedWindow("src", 0);cv::imshow("src", cv_src);cv::namedWindow("sub_pix_src", 0);cv::imshow("sub_pix_src", cv_src_up);cv::waitKey();
}
左边为像素级边缘轮廓,右边为亚像素边缘轮廓: