:::writing{variant=“document” id=“73164” title=“SAC 技术文档·第二部分:现代 SAC 完整训练、Auto-Alpha、工程实现与算法对比”}
第一章 从 Soft Bellman Equation 到真正可训练的 SAC Critic
1 现在我们已经有什么
第一部分已经得到:
Vπ(s)=Ea∼π[Qπ(s,a)−αlogπ(a∣s)]V^\pi(s)=\mathbb E_{a\sim\pi}\left[Q^\pi(s,a)-\alpha\log\pi(a|s)\right]V