在 R 中为 Logistic 分布的 Mle 实现牛顿法

Question

考虑下面的逻辑密度：

乳胶：$$ f \left( x; \theta \right) \frac{\exp\left\{- \left( x_i-\theta \right)\right\}}{\left(1+\ exp\left\{-\left(x_i-\theta \right) \right\} \right)^2} $$

对应的对数似然由下式给出：

乳胶：$$l \left( \theta \right)= n\theta -n \bar{x}-2\sum_{i=1}^{n} log\left(1+\exp\left\{-\left( x_i -\theta \right) \right\} \right)$$

不幸的是，$\theta$ 的 mle，它的平均值，不能以封闭的形式获得，因此我必须编写一个数值优化算法。我认为使用牛顿法寻找 $ l \prime \left( \theta \right)=0$

的点是个好主意

现在，如果我们要使用牛顿法，我们将需要对数似然的一阶和二阶导数，它们由下式给出：

乳胶：$$l \prime \left( \theta \right)=n-2 \sum_{i=1}^n \frac{\exp\left\{- \left(x_i-\theta \right)\right\}}{\left(1+\exp\left\{-\left(x_i-\theta \right) \right\} \right)} $$

和

乳胶：$$ l\prime \prime \left( \theta \right) =-2 \sum_{i=1}^n \frac{\exp\left\{- \left( x_i-\theta \right)\right\}}{\left(1+\exp \left\{-\left(x_i-\theta \right) \right\} \right)^2} $$

由于逻辑分布类似于正常分布，我们可以从使用样本均值作为初始猜测 $\theta^{(0)}$ 开始，然后根据熟悉的公式继续：

乳胶：$$\theta^{(1)}=\theta^{(0)}- \frac{l^\prime \left( \theta^{(0)} \right)}{l^{\prime \prime} \left( \theta^{(0)} \right) }$$

我是 R 新手，因此我希望能在编写代码时得到一些帮助。

---

提前谢谢你

编辑：我看到统计网站上的一些人明智地决定将其迁移到这里，因为我的 LaTeX 代码没有显示，而且人们不是使用过分布的统计学家。如果可以，请提供帮助，但我可以理解为什么我的主题看起来难以理解。

Answer 1

虽然您在这里提出了一个非常具体的问题，但我将回答更广泛的问题，即如何通过最大化可能性来获得 MLE。在这种情况下，我将简单地使用 R 的内置逻辑函数来获取每个点的对数似然并最大化总和。如果您出于特定原因希望更多地“手动”执行此操作，请说明您的限制是什么。

用theta=30生成一些随机数据：

n <- 1000
theta <- 30
x <- rlogis(n, theta)

优化对数似然度：

optimize(function(theta) -sum(dlogis(x, location=theta, log=TRUE)), c(-100,100))
## $minimum
## [1] 29.97946
## 
## $objective
## [1] 2024.383

Answer 2

为帮助页面键入?uniroot。然后写出你的方程，这样你就有了像f(x) = left(x)-right(x)这样的函数，你希望找到它的根，即x的值将f(x)设置为零。然后将该函数填入uniroot。