跳到正文
arXiv · cs.LG 机器学习· Zhaoyu Zhu, Rui Gao, Shuang Li·· 5 小时前AI 评分58

Wasserstein 策略梯度的全局收敛性:熵正则强化学习的理论分析

Global Convergence of Wasserstein Policy Gradient for Entropy-Regularized Reinforcement Learning

AI 导读

作者为熵正则强化学习中的 Wasserstein 策略梯度(WPG)建立统一全局收敛理论,覆盖一般状态空间与连续动作空间的无限时域折扣 MDP。核心是借助 Bellman 结构与 log-Sobolev 不等式得到沿轨迹一致成立的逐状态梯度占优不等式,把 Wasserstein 策略梯度平方范数与 sup 范数下的价值差距联系起来。

来源:arXiv · cs.LG 机器学习 · arxiv.org