1. 分号表示 $\theta$ 是确定参数而非随机变量。竖线在 Bayesian 中表示条件概率，需要 $\theta$ 是随机变量。
2. log 函数是严格单调递增的，所以 $\arg\max f(x) = \arg\max \log f(x)$。
3. 当先验分布是均匀分布（常数）时，MAP = ML。
参数是固定的常数，数据是随机的——最大似然估计：找到让数据"最有可能"的那个参数。
理解非贝叶斯估计思想，掌握最大似然估计的基本方法
建议先完成前面的课程，或具备线性代数与概率论基础。
在非贝叶斯估计中：
问：$P(\theta|x)$ 是多少？
把 $\theta$ 当随机变量，需要先验。
问：哪个 $\theta$ 让数据最可能？
$\theta$ 是固定常数，不需要先验。
模型：
其中 $T$ 是真实温度，固定但未知。若 $V \sim N(0,1)$，则：
这里 $T$ 是分布参数。不同的 $T$ 会让观测数据的概率密度曲线平移——直观上，ML 会选择让观测值最"合理"的那个 $T$。
观测 $x_{1}, \ldots, x_{n}$，联合概率或密度写成：
分号表示 $\theta$ 是参数，不是随机变量。
最大似然估计：
💡 通俗解释： 已经看到这些数据了。ML 问：哪个 $\theta$ 会让这些数据最容易发生？
若 $X_{i}$ 独立：
取 log（单调递增，不改变最大点）：
乘积变求和
不易数值下溢
求导更方便
硬币正面概率为 $\theta$。第 $i$ 次投掷：
一个直观估计器：
如果 100 次中 70 次正面，则 $\hat\theta = 0.7$。
🔗 预告： 下一讲会完整推导它正是 ML 解。
若观测到多个温度读数 $x_{1}, \ldots, x_{n}$，且噪声是高斯：
当 $T$ 靠近观测数据中心时，所有观测同时出现的概率最大。
在独立同方差高斯噪声下，ML 会给出样本均值：
📊 直觉： 高斯噪声下，最大化似然等价于最小化残差平方和——这是通向最小二乘的桥梁。
$= \arg\max_\theta P(\theta) P(x|\theta)$
只看数据似然
如果先验 $P(\theta)$ 是常数（uniform prior），则：
💡 通俗解释： 如果你事先对所有参数都一视同仁，那么只看数据最支持哪个参数即可。
假设两个候选参数 $\theta_{1}, \theta_{2}$：
ML 选 $\theta_{2}$，因为 0.8 更大。
MAP 比较：
所以 MAP 选 $\theta_{1}$。
📝 要点： 先验信息强烈时，MAP 和 ML 可能分歧很大。ML 完全由数据驱动，MAP 则在先验和数据之间做权衡。
"让已观测数据最合理"
$\hat\theta_{\text{ML}} = \arg\max p(x;\theta)$
Uniform prior 时 MAP = ML
先验强烈时两者不同
高斯噪声下 ML → 最小二乘
这是下一讲的重要连接点 🧭
1. 分号表示 $\theta$ 是确定参数而非随机变量。竖线在 Bayesian 中表示条件概率，需要 $\theta$ 是随机变量。
2. log 函数是严格单调递增的，所以 $\arg\max f(x) = \arg\max \log f(x)$。
3. 当先验分布是均匀分布（常数）时，MAP = ML。
施老师大课堂 · 研讨会系列 10 · KF L7 非贝叶斯估计与最大似然
字幕来源：subtitles/20260131_施凌_研讨会系列10_KF_L7_audio_ea83bf8b6caaee41.srt