一九零零

Model-Based方法：策略迭代与价值迭代 我们已经知道，RL就是在给定了环境$p(s',r|s,a)$的情况下，求$\pi(\cdot|s)$使得能够最大化期望累计收益$\mathbb{E}[\

RL研究的基本问题 直观框架与基本概念 RL建模非常直观，他建模了智能体agent和环境environment不断交互的过程。 1 智能体agent：内部维护了一个策略policy，他能够基于对环境的

Model-Free中的基础技术：蒙特卡洛、on/off-policy、时许差分、TD(n)、资格迹

策略梯度REINFORCE 理论介绍 策略梯度是一个非常直观的方法。为什么说很直观，因为它直接尝试用神经网络拟合policy，然后优化目标也直接就是期望累计收益。 用神经网络拟合policy，具体说，

策略梯度 PPO 基本理论 回顾REINFORCE，使用神经网络拟合policy，优化目标为$\mathbb{E}[R(\tau)\nabla \sum \log \pi_\theta(s,a)]$，

蒙特卡洛 基本思想 构造一个采样方式，使得对某个统计量的估计恰好是要求的结果。 $(\epsilon, \delta)$近似：对V的估计满足$\Pr[|X-V|\le \epsilon V]\ge 1

基本概念 随机过程$X(t)$是随机变量的集合。根据$t$的取值和$X$的取值特点，可以分为离散时间、连续时间、离散状态、连续状态 马尔科夫性（MP）：$Pr[X_t|X_{t-1}, X_{t-2}

DQN理论介绍 回顾Q函数的基于Q函数的策略改进 首先回顾第二章中$Q$函数的定义以及策略改进的思路。 Q函数的定义: 在$S$状态下执行$A$，之后按照$\pi$执行，得到的期望累计收益为$Q^\p

AC和A2C 前面分别介绍了PolicyGradient（REINFORCE和PPO）以及DQN算法。这两个分别是policy-based（actor）和value-based（critic）算法。a