chatgpt中的强化学习 PPO_chatgpt使用的强化学习-程序员宅基地
PPO？ 强化学习
基本概念
强化学习五要素：智能体、行为、环境、状态、奖励。
先直接将五个要素映射到文本生成任务上：
智能体：生成模型。
行为: 获取当前step token的概率分布，并选取其中一个作为生成的token。
环境：一个评判标准，可以是模型，一般都是分类模型，seqgan是使用判别是否机器生成的分类器模型，chatgpt是人类偏好分类器；也可以是人为制定的评估标准，类似relu，rouge。
状态：当前step已生成的文本。
奖励：由环境结合当前的状态给出的分数。
状态价值的计算
V ( s ) = R ( s ) + γ ∑ s ′ ∈ S P ( s ′ ∣ s ) V ( s ′ ) V(s) = R(s) + \gamma \sum_{s^{'} \in S} P(s'|s) V(s') V(s)=R(s)+γs′∈S∑P(s′∣s)V(s′)
R ( s ) R(s) R(s): 当前状态的奖励
γ \gamma γ:折扣因子，因为当前的状态对后续的状态会随着步数的增加而减小。
先给出一个简单的例子：
一个生活中最常见的“吃饭”例子
好比吃饭可以带来奖励为6，折扣因子为0.8，对于吃饭状态的奖励值的计算为：
V ( 吃饭 ) = R ( 吃饭 ) + γ ∑ s ′ ∈ S P ( s ′ ∣ s ) V ( s ) = 6 + 0.8 ( 0.5 ∗ V ( 喝酒 ) + 0.5 ∗ V ( 喝茶 ) ) = 6 + 0.8 ( 0.5 ∗ ( 3 + 0.8 ( 1.0 ∗ 10 ) ) + 0.5 ∗ ( 5 + 0.8 ( 1.0 ∗ 4 ) ) ) \begin{aligned} V(吃饭) &= R(吃饭) + \gamma \sum_{s^{'} \in S} P(s^{'}|s) V(s)\\ &=6 + 0.8(0.5 * V(喝酒) + 0.5 * V(喝茶))\\ &=6 + 0.8(0.5 * (3 + 0.8(1.0 * 10)) + 0.5 * (5 + 0.8(1.0 * 4)))\\ \end{aligned} V(吃饭)=R(吃饭)+γs′∈S∑P(s′∣s)V(s)=6+0.8(0.5∗V(喝酒)+0.5∗V(喝茶))=6+0.8(0.5∗(3+0.8(1.0∗10))+0.5∗(5+0.8(1.0∗4)))
问题：1）对于文本生成而言，我们无法对每个状态给出一个奖励，我们只有在一个样本生成结束之后，才可以评判一个样本生成的好坏。
2）假设我们要生成一个20字长的文本，生成器的词表大小是20000，我们的状态空间就是20000的20次方，这是显然我们无法接受。
求解方法：
蒙特卡洛
蒙特卡洛方法，也称为统计模拟方法，就是通过大量的随机样本来估算或近似真实值，比如近似估算圆的面积。
可以通过 圆的面积/ 正方形的面积 = 圆中点的个数/正方形中点的个数 来计算圆的面积。
类似的，在文本生成中我们也可以用蒙特卡洛方法来估计一个模型的状态价值。考虑到 一个状态的价值是它的期望回报，那么如果我们用当前模型采样很多条序列，然后计算从这个状态出发的回报再求其期望就可以了，这样我们就同时解决了上述的两个问题。
例子：
输入：今天的天气怎么样？
模型采样输出：1）s1 = 很抱歉，我无法回答当前天气情况，因为我没有实时获取天气信息的功能。 7
2）s2 = 今天天气晴朗。 3
3）s3 = 今天会下冰雹。 5
…
E π ( " 今天天气怎么样 ? " ) = ∑ τ R ( τ ) P π ( τ ) E_{\pi}(^"今天天气怎么样?^") = \sum_{\tau}R(\tau)P_{\pi}(\tau) Eπ("今天天气怎么样?")=τ∑R(τ)Pπ(τ)
τ \tau τ 是我们任何可能生成的文本， π \pi π 是我们当前的生成模型，我们期望最大化 E π ( " 今天天气怎么样 ? " ) E_{\pi}(^"今天天气怎么样?^") Eπ("今天天气怎么样?")，既然要最大化，我们肯定需要对期望进行求导。
∇ E π ( " 今天天气怎么样 ? " ) = ∑ τ R ( τ ) ∇ P π ( τ ) = ∑ τ R ( τ ) P π ( τ ) ∇ P π ( τ ) P π ( τ ) = ∑ τ R ( τ ) P π ( τ ) ∇ l o g ( P π ( τ ) ) = E π ( " 今天天气怎么样 ? " ) [ R ( τ ) ∇ l o g ( P π ( τ ) ) ] \begin{aligned} \nabla E_{\pi}(^"今天天气怎么样?^") &= \sum_{\tau}R(\tau)\nabla P_{\pi}(\tau)\\ &= \sum_{\tau}R(\tau)P_{\pi}(\tau) \frac {\nabla P_{\pi}(\tau)} {P_{\pi}(\tau)}\\ &=\sum_{\tau}R(\tau)P_{\pi}(\tau)\nabla log(P_{\pi}(\tau))\\ &= E_{\pi}(^"今天天气怎么样?^")[R(\tau)\nabla log(P_{\pi}(\tau))] \end{aligned} ∇Eπ(
智能推荐
Kotlin 解压缩_kotlin 对上传的压缩包进行分析-程序员宅基地
文章浏览阅读638次。fun unZip(zipFile: String, context: Context) { var outputStream: OutputStream? = null var inputStream: InputStream? = null try { val zf = ZipFile(zipFile) val entries = zf.entries() while (en..._kotlin 对上传的压缩包进行分析
64K方法数限制解决办法_java函数大于64k编译失败-程序员宅基地
文章浏览阅读1.9k次。随着业务逻辑越来越多，业务模块也越来越大，不可避免会遇到64K方法数的限制。最直观的表现就是编译报错：较早版本的编译系统中，错误内容如下：Conversion to Dalvik format failed:Unable to execute dex: method ID not in [0, 0xffff]: 65536较新版本的编译系统中，错误内容如下：trouble writing outp_java函数大于64k编译失败
案例分享——低压电力线载波通信模组（借助电源线实现远距离数据传输、宽压输入、波特率范围广、应用场景多样化）_电力载波模块csdn-程序员宅基地
文章浏览阅读2k次，点赞7次，收藏10次。物联网领域，有很多数据通信场景，因为原设备整体系统结构、运行环境等方面的限制，需求在不增加通信数据线缆的情况下实现数据的远程传输，因为特殊应用场景下考虑到环境的限制，还不能使用常规的无线通信手段，所以借助电源线缆进行传输的电力线载波技术应运而生，本次博文给大家分享的就是博主完全自主研发的低压电力线载波通信模组。_电力载波模块csdn
密码学基础_密码体制的五个要素-程序员宅基地
文章浏览阅读7.4k次。密码学基本概念 密码学（Cryptology）是结合数学、计算机科学、电子与通信等学科于一体的交叉学科，研究信息系统安全的科学。起源于保密通信技术。具体来讲，研究信息系统安全保密和认证的一门科学。 密码编码学，通过变换消息（对信息编码）使其保密的科学和艺术 密码分析学，在未知密钥的情况下从密文推_密码体制的五个要素
python支持中文路径_基于python 处理中文路径的终极解决方法-程序员宅基地
文章浏览阅读1.9k次。1 、据说python3就没有这个问题了2 、u'字符串' 代表是unicode格式的数据，路径最好写成这个格式，别直接跟字符串'字符串'这类数据相加，相加之后type就是str，这样就会存在解码失误的问题。别直接跟字符串'字符串'这类数据相加别直接跟字符串'字符串'这类数据相加别直接跟字符串'字符串'这类数据相加unicode类型别直接跟字符串'字符串'这类数据相加说四遍3 、有些读取的方式偏偏..._python 路径 中文
阿里云 B 站直播首秀，用 Serverless 搭个游戏机？-程序员宅基地
文章浏览阅读107次。最近，阿云 B 站没声音，是在憋大招！8月5日周四 19:00 是阿里云的直播首秀，给大家请来了 Forrester 评分世界第一的 Serverless 团队产品经理江昱，给大家在线...._阿里云直播b站
随便推点
AS 3.1.3连续依赖多个Module，导致访问不到Module中的类_为什么as在一个包下建了多个module,缺无法打开了-程序员宅基地
文章浏览阅读1.1k次。我好苦啊，半夜还在打代码。还出bug，狗日的。问题是这样的：我在新建的项目里，建了两个Module: fiora-ec和fiora-core。项目的依赖顺序是这样的，App依赖fiora-ec,fiora-ec又依赖于fiora-core，因为这种依赖关系，所有可以在app和fiora-ec中删除一些不必要的引入，比如这个玩意儿：com.android.support:appcompat-v7:..._为什么as在一个包下建了多个module,缺无法打开了
Magento 常用插件二-程序员宅基地
文章浏览阅读1.4k次。1. SMTP 插件 URL：http://www.magentocommerce.com/magento-connect/TurboSMTP/extension/4415/aschroder_turbosmtp KEY：magento-community/Aschroder_TurboSmtp 2. Email Template Adapter..._magento extension pour ricardo.ch
【连载】【FPGA黑金开发板】Verilog HDL那些事儿--低级建模的资源（六）-程序员宅基地
文章浏览阅读161次。声明：本文为原创作品，版权归akuei2及黑金动力社区共同所有，如需转载，请注明出处http://www.cnblogs.com/kingst/ 2.5 低级建模的资源 低级建模有讲求资源的分配，目的是使用“图形”来提高建模的解读性。 图上是低级建模最基本的建模框图，估计大家在实验一和实验二已经眼熟过。功能模块（低级功能模块）是一个水平的长方形，而控制模块（低级控制模块）是矩形。组..._cyclone ep2c8q208c黑金开发板
R语言实用案例分析-1_r语言案例分析-程序员宅基地
文章浏览阅读2.2w次，点赞10次，收藏63次。在日常生活和实际应用当中，我们经常会用到统计方面的知识，比如求最大值，求平均值等等。R语言是一门统计学语言，他可以方便的完成统计相关的计算，下面我们就来看一个相关案例。1. 背景最近西安交大大数据专业二班，开设了Java和大数据技术课程，班级人数共100人。2. 需求通过R语言完成该100位同学学号的生成，同时使用R语言模拟生成Java和大数据技术成绩，成绩满分为100，需要满足正_r语言案例分析
Java知识体系总结（2024版），这一次带你搞懂Spring代理创建过程-程序员宅基地
文章浏览阅读639次，点赞11次，收藏26次。虽然我个人也经常自嘲，十年之后要去成为外卖专员，但实际上依靠自身的努力，是能够减少三十五岁之后的焦虑的，毕竟好的架构师并不多。架构师，是我们大部分技术人的职业目标，一名好的架构师来源于机遇(公司)、个人努力(吃得苦、肯钻研)、天分(真的热爱)的三者协作的结果，实践+机遇+努力才能助你成为优秀的架构师。如果你也想成为一名好的架构师，那或许这份Java成长笔记你需要阅读阅读，希望能够对你的职业发展有所帮助。一个人可以走的很快，但一群人才能走的更远。
车辆动力学及在Unity、UE4中的实现_unity 车辆动力学模型-程序员宅基地
文章浏览阅读3.9k次，点赞9次，收藏53次。受力分析直线行驶时的车轮受力如下：水平方向上，所受合力为：F=Ft+Fw+FfF=F_t+F_w+F_fF=Ft+Fw+Ff其中，FtF_tFt为牵引力，FwF_wFw为空气阻力，FfF_fFf为滚动阻力，下面我们将逐个介绍。驱动力先来说扭矩，扭矩是使物体发生旋转的一个特殊力矩，等于力和力臂的乘积，单位为N∙mN∙mN∙m：设驱动轴的扭矩为TtT_tTt，车轮半径为rrr，那么牵引力：Ft=Tt⁄rF_t=T_t⁄rFt=Tt⁄r如何求得驱动轴扭矩TtT_tTt呢？_unity 车辆动力学模型