R自定义约束优化功能

Question

目标：用“optim”函数估计sigma1和sigma2，而sigma2必须大于sigma1

模拟数据（y）

我有以下类型的数据 y：

N<-50

delta<-matrix(rep(0, N*N), nrow=N, ncol=N)
 for(i in 1:(N )){
  for (j in 1:N)
    if (i == j+1 | i == j-1){
    delta[i,j] <- 1;
    }
 }

sigma1<-5
sigma2<-10
diagonal=2*sigma1^2+sigma2^2
nondiag<--sigma1^2*delta
Lambda_i<-(diag(diagonal,N)+-nondiag)/diagonal
sig<-as.matrix(diagonal*Lambda_i)
sig

mu<-rep(0, N)
y<-as.vector(mvnfast::rmvn(1,mu, sig))

创建最大似然函数

mle<-function(par){
  sigma1<-par[1]
  sigma2<-par[2]
  diagonal=2*sigma1^2+sigma2^2
  nondiag<--sigma1^2*delta
  Lambda_i<-(diag(diagonal,N)+-nondiag)/diagonal
  sig<-as.matrix(diagonal*Lambda_i)


  #lokli
  loglik<--as.numeric(mvnfast::dmvn(matrix(y, byrow=T, ncol=N),mu, sig, log=T))
  loglik
}

优化

par <- c(5,5)
fit<-optim(par,mle,hessian=T,
       method="L-BFGS-B",lower=c(0.01,0.01),
       upper=c(30,30))
fit$par

问题：如何在优化过程中设置约束：“sigma2 always Greater sigma1”？

Answer 1

只是为了跟进我的评论。我们可以使用两个技巧：

1. 用 (sigma1 + sigma2) 替换所有可能出现的 sigma2，以确保 sigma2 现在代表添加到 sigma1 的数量
2. 在 sigma2 上使用 exp 以确保它是非负数。

可能性变成

mlenew<-function(par){
  sigma1<-par[1]
  sigma2<-par[2]
  diagonal=2*sigma1^2+(sigma1 + exp(sigma2))^2
  nondiag<--sigma1^2*delta
  Lambda_i<-(diag(diagonal,N)+-nondiag)/diagonal
  sig<-as.matrix(diagonal*Lambda_i)
  #lokli
  loglik<--as.numeric(mvnfast::dmvn(matrix(y, byrow=T, ncol=N),mu, sig, log=T))
  loglik
}

如果我运行你的代码，我会得到

> fit<-optim(par,mle,hessian=T,
+        method="L-BFGS-B",lower=c(0.01,0.01),
+        upper=c(30,30))
> fit$par
[1]  1.738656 12.672040

有了我得到的新代码

> fit<-optim(par,mlenew,hessian=T,
+        method="L-BFGS-B",lower=c(0.01,0.01),
+        upper=c(30,30))
> fit$par
[1] 1.737843 2.391921

然后你需要“反向转换”：旧版本sigma2使用新代码的实际值为

> exp(2.391921) + 1.737843
[1] 12.67232

希望这会有所帮助。