此案例用于二分类问题(鼠标左键、右键点出两类点,会实时画出分界线),最终得到一条分界线(直线):f(x)=weights*x+shift
源码不再贴出,只讲解最核心的doTrain()里的内容。参数含义翻译自ml.hpp文件。
与SVM不同,SVMSGD不需要设置核函数。
【参数】默认值见下述代码
模型类型:SGD、ASGD(推荐)。随机梯度下降、平均随机梯度下降。
边界类型:HARD_MARGIN、SOFT_MARGIN(推荐),前者用于线性可分,后者用于非线性可分
边界规范化 lambda:推荐设为0.0001(对于SGD),0.00001(对于ASGD)。越小,异类被抛弃的越少。
步长 gamma_0
步长降低力度 c:推荐设置为1(对于SGD),0.75(对于ASGD)
终止条件:TermCriteria::COUNT、TermCriteria::EPS、TermCriteria::COUNT + TermCriteria::EPS
参数设置函数:
setSvmsgdType()
setMarginType()
setMarginRegularization()
setInitialStepSize()
setStepDecreasingPower()
【使用方式】
cv::Ptr<SVMSGD> svmsgd = SVMSGD::create();//创建对象
svmsgd->train(trainData);//训练
svmsgd->save("MySvmsgd.xml");//保存模型
svmsgd->load("MySvmsgd.xml");//加载模型
svmsgd->predict(samples, responses);//预测,结果保存到responses标签中
bool doTrain(const Mat samples, const Mat responses, Mat &weights, float &shift)
//*创建SVMSGD对象
cv::Ptr<SVMSGD> svmsgd = SVMSGD::create(); //创建SVMSGD对象
//*设置参数,以下全是默认参数
//svmsgd->setSvmsgdType(SVMSGD::ASGD); //模型类型
//svmsgd->setMarginType(SVMSGD::SOFT_MARGIN); //边界类型
//svmsgd->setMarginRegularization(0.00001); //边界规范化
//svmsgd->setInitialStepSize(0.05);//步长
//svmsgd->setStepDecreasingPower(0.75); //步长减弱力度
//svmsgd->setTermCriteria(TermCriteria(TermCriteria::COUNT,1000,1e-3));//终止条件,1000次迭代,0.001每次迭代的精度
//*训练集
cv::Ptr<TrainData> trainData = TrainData::create(samples, cv::ml::ROW_SAMPLE, responses);
//*训练
svmsgd->train(trainData);
if (svmsgd->isTrained()) //获取分界线的系数,f(x)=weights*x+shift
weights = svmsgd->getWeights();//x系数
shift = svmsgd->getShift();//常数项
//*保存模型
svmsgd->save("svmsgd.xml"); //保存训练好的模型
return true;
return false;
得到的xml中,weights有两个数,shift有一个数。
f(x)=weights*x+shift,不可以理解为y=kx+b,应该理解为Ax+By+C=0。weights的两个数就是A、B,shift是C。
Mat weights(1, 2, CV_32FC1); weights是一个1*2的向量,x也是1*2的向量(xi,xj)也就是(x,y)坐标。
公式写全了就是:f(x)=weights1*xi+weights2*xj+shift,其实就是weights与x这两个向量的内积(对应相乘在求和)
f(x)如果等于0,说明点在此直线上,大于0就在线的一边,小于0在线的另一边。