Matlab SVM 自定义核函数

Question

在 Matlab SVM tutorial 中，它说

您可以通过设置'KernelFunction','kernel'来设置自己的内核函数，例如内核。内核必须具有以下形式：

函数 G = kernel(U,V)

地点：

U 是一个 m×p 矩阵。 V 是一个 n×p 矩阵。 G 是 U 和 V 行的 m×n Gram 矩阵。

当我遵循自定义 SVM 内核 example 时，我在 mysigmoid.m 函数中设置了一个断点。但是，我发现 U 和 V 实际上是 1×p 向量，而 G 是标量。

为什么 MATLAB 不通过矩阵处理内核？

我的自定义核函数是

function G = mysigmoid(U,V)
% Sigmoid kernel function with slope gamma and intercept c
gamma = 0.5;
c = -1;
G = tanh(gamma*U*V' + c);
end

我的 Matlab 脚本是

%% Train SVM Classifiers Using a Custom Kernel

rng(1); % For reproducibility
n = 100; % Number of points per quadrant

r1 = sqrt(rand(2*n,1)); % Random radius
t1 = [pi/2*rand(n,1); (pi/2*rand(n,1)+pi)]; % Random angles for Q1 and Q3
X1 = [r1.*cos(t1), r1.*sin(t1)]; % Polar-to-Cartesian conversion

r2 = sqrt(rand(2*n,1));
t2 = [pi/2*rand(n,1)+pi/2; (pi/2*rand(n,1)-pi/2)]; % Random angles for Q2 and Q4
X2 = [r2.*cos(t2), r2.*sin(t2)];

X = [X1; X2]; % Predictors
Y = ones(4*n,1);
Y(2*n + 1:end) = -1; % Labels

% Plot the data
figure(1);
gscatter(X(:,1),X(:,2),Y);
title('Scatter Diagram of Simulated Data');

SVMModel1 = fitcsvm(X,Y,'KernelFunction','mysigmoid','Standardize',true);

% Compute the scores over a grid
d = 0.02; % Step size of the grid
[x1Grid,x2Grid] = meshgrid(min(X(:,1)):d:max(X(:,1)),...
min(X(:,2)):d:max(X(:,2)));
xGrid = [x1Grid(:),x2Grid(:)]; % The grid
[~,scores1] = predict(SVMModel1,xGrid); % The scores

figure(2);
h(1:2) = gscatter(X(:,1),X(:,2),Y);
hold on;
h(3) = plot(X(SVMModel1.IsSupportVector,1),X(SVMModel1.IsSupportVector,2),...
'ko','MarkerSize',10);
% Support vectors
contour(x1Grid,x2Grid,reshape(scores1(:,2),size(x1Grid)),[0,0],'k');
% Decision boundary
title('Scatter Diagram with the Decision Boundary');
legend({'-1','1','Support Vectors'},'Location','Best');
hold off;

CVSVMModel1 = crossval(SVMModel1);
misclass1 = kfoldLoss(CVSVMModel1);
disp(misclass1);

Answer 1

内核为特征添加维度。例如，如果您有示例x={a} 的一项功能，它将扩展为x= {a_1... a_q} 之类的内容。当您同时对所有数据执行此操作时，您将拥有 M x P（M 是训练集中的示例数，P 是特征数）。它要求的第二个矩阵是P x N，其中N 是训练/测试集中示例的数量。

也就是说，您的输出应该是M x N。因为它是1，这意味着你有U = 1XM和V=Nx1，其中N=M。要获得M x N 逻辑的输出，您应该简单地转置您的输入。