优化理论 按认知顺序学:先拿无约束问题练手(梯度、步长、噪声)→ 再给问题加凸性与约束(全局最优、对偶、KKT)。 📚 内容导航 名称说明链接无约束优化学习率、梯度噪声 σ²/B、条件数与鞍点:训练不收敛的第一现场进入凸优化一旦凸,局部就是全局;对偶乘子还会告诉你哪个约束最贵进入 🎯 按问题找答案 你想解决的问题先看loss 不降、NaN、学习率与 batch 怎么联动无约束优化SGD 与 Adam 怎么选、何时早停无约束优化要不要上复杂模型、正则项在干什么凸优化排产/调度类问题报告不可行或无界凸优化 🔗 相关链接 主题链接上一级打开微积分打开离散数学打开信息论打开线性代数打开概率论与数理统计打开