大语言模型之LlaMA系列- LlaMA 2及LLaMA2_chat(上)

LlaMA 2是一个经过预训练与微调的基于自回归的transformer的LLMs,参数从7B至70B。同期推出的Llama 2-Chat是Llama 2专门为对话领域微调的模型。 在许多开放的基准测试中Llama 2-Chat优于其他开源的聊天模型,此外Llama 2-Chat还做了可用性与安全性评估。 Meta官方推荐可将其作为大部分的闭源模型替代品。

Meta不仅开源了Llama 2而且还详细说明了其微调的方法和安全改进的方案, 是目前国内部分知名LLMs的前身,值得好好研究,内容比Gemini的报告强不少。

译自’Llama2: Open Foundation and Fine-Tuned Chat Models’ 只做了速检,笔者水平有限,敬请勘误。

原始信息

  • 名称: Llama 2: Open Foundation and Fine-Tuned Chat Models
  • 译名: Llama 2:开源的基础模型和微调的聊天模型
  • 文章: arxiv.org/pdf/2307.09…
  • 代码:huggingface.co/meta-llama
  • 日期: 2024-9-25
  • LlaMA全称:Large Language Model Meta AI

引言

大模型作为一个能力强大的AI助手, 擅长复杂的推理任务,这些任务往往需要广泛领域专业知识,包括编程、创意写作等专业领域。他们能通过直观的聊天界面与人类互动,使其在普通大众间迅速的传播及使用。

方法简单能力出众的LLMs, 需要大量的算力与人工标注成本

自回归的transformers是由大量的自监督语料库训练而成,然后通过诸如人类反馈强化学习(Reinforcement Learning with Human Feedback, RLHF) 等技术与人类偏好对齐。 尽管训练方法有简单,但其高算力的要求让LLMs的开发仅限在了几个大企业之间。目前有一些公开发行的LLMs(如BlOOM、LLaMa-1 和 Falcon) 其性能更靠近封闭式的预训练模型GPT-3和Chinchilla, 但这些产品并不是封闭式LLMs(如 ChatGPT、BARD 和 Claude) 的替代品。后者经过大严格的微调更符合人类偏好,且更具可靠性和安全性。 这些需要大量的算力和人工标注成本, 这些既不透明又不易于复制(easily reproducible) 的成本限制了社区推进AI对齐研究的进展。

我们发布的Llama 2,是经过微调与预训练的系列产品,Llama 2和Llama 2-Chat, 参数高达70B。 我们做一系列的可用性与安全性测试,Llama 2-Chat比现有的模型表现更好。它们似乎也和某些闭源模型的能力不相上下, 至少在我们的人工评测上是这样的。我们在提升模型安全性上采取了措施: 通过使用专有的安全数据标注与调整,进行了红蓝对抗(red-teaming)和迭代评估。 该论文包含了详尽的Llama 2的微调方式和其提升安全性的方法。我们希望这种开放性能让社区复制这个微调过的模型和并继续提高模型的安全性,为更尽责的发展LLMs铺平道路。

在该论文中,我们还分享了在开发Llama 2 and Llama 2-Chat过程中所做创新,诸如时间组织的知识和工具使用。

发布的Llama 2系列版本,可供研究与商业使用


  1. Llama 2, 是Llama 1的升级版,由公开可用的数据重新组合训练而成。对比Llama 1其预训练语料库的大小增加了40%模型的上下度增加了一倍, 采用了分组查询注意力。 Llama 2一共发行了7B,13B和70B参数的三个不同参数的版本,另外Meta内部训练了一个34B参数的版本,该版本在论文中提及并没有发布。
  2. Llama 2-Chat,专门针对对话场景做了优化与精调听Llama 2版本,该Llama 2-Chat也有7B, 13B, and 70B的三个不同参数的版本。

Meta声明公开发行的Llama 2采用了新的技术,这些新技术在使用时目前还有潜在风险,因此Meta对Llama 2做了安全评测与调整。Meta相信这个经过安全评测的LLMs是对社会有益。 论文指出目前所有用于Llama 2测试数据都是基于英文的,并没有涵盖所有的场景,他们建议开发人员在配置Llama 2-Chat之前应该根据他们特定的应用程序对模型进行安全测试与调整

LLAMA 2-CHAT的训练过程图


image.png

上图是LLAMA 2-CHAT的训练图示。 LLAMA 2使用了公开可用的在线数据进行预训练,基于此,Llama 2构建了一个LLAMA 2-CHAT的初始版本,该版本应用了有监督的微调技术。随后,模型使用RLHF对模武做了迭代策调,采用了拒绝采样与近端策略优化(Proximal Polic Optimization,简称PPO)。 在整个RLHF阶段, 迭代奖励建模数据的累积与模型增强并行,这确保被奖励的模型保持在其分布的范围内。

预训练

预训练数据


我们的预训练语料库来自公开来源的新数据组合,他们并不包含来自Meta的产品或服务的数据。我们删除从某些已知的保留大量个人信息网站上的数据。我们训练了2万亿的数据,这提供了良好的性能与成本权衡 (performance–cost trade-off), 对真实数据来源做了采样,以增强模型的知识性并抑制幻觉。

预训练数据来源有: CommonCrawl、C4、Github、Wikipedia、Books、ArXiv、StackExchange

训练细节


我们采用了Llama 1中的大部分预训练配置与架构,使用标准了transformered架构,使用RMSNorm(均方根误差) 应用预归一化,使用SwiGLU激活函数,施转嵌入定位(RoPE)。 与Llama 1架构主要差别是增加了上下文长度和使用分组查询注意力(grouped-query attention GQA)。

超参数

我们使用了AdamW优化器, 其中β1=0.9,β2=0.95,eps=10−5β1=0.9,β2=0.95,eps=10−5。 我们使用了余弦学习率表,预热2000步,学习率最后衰减至其峰值的10%。我们使用了0.1衰减权重和1.0的梯度裁剪。

Table 1:Llama 2 与 Llama 1的属性对比 image.png

Figure 5: LlaMa 2的损失训练

image.png

分词器

Llama 2使用了和Llama 1相同的分词器。 它采用字节对编码(BPE)算法,使用了来自SentencePiece的实现。和Llama 1一样,我们拆解所有的数字类数据成单个数字,用字节拆解未知的UTF-8字符。总词汇大小为32k

训练硬件

Llama 2分别在’Meta的研究超级集群(Meta’s Research Super Cluster RSC)'与’内部生产集群’上预训练了模型,两个集群都使用了英伟达(NVIDIA)A100的GPU。两个集群的区别在于:

  • 1、 RSC使用了英伟达InfiniBand的交换机,内部集群则是基于商用以太网交换机的RoCE(RDMA over converged Ethernet)的解决方案;两个方案都实现了200 Gbps的端点互联;
  • 2、集群上的GPU的功耗上限:RSC是400瓦,而生产集群则使用了350瓦。

由此我们可以对比不同类型的交换机是否符合大规模训练。RoCE是一种更经济实惠的商用互联网络,与昂贵的 Infiniband 相比几乎可以扩展到 2000个GPU,这让预训练更加平民化

预训练的碳足迹

Meta指出GPU 的实际功耗取决于其使用情况,同时该计算并没有考虑其他电力需求,比如来自互连设备或非GPU服务器的电力消耗,也没有考虑数据中心冷却系统的电力需求。正如Gupta等人所指出的那样,与GPU等人工智能硬件生产相关的碳排放可能会增加整体碳足迹。

Table2: Llama 2模型进行预训练时的碳排放表

image.png

Llama 2预训练模型评估


表3是 Llama 2 在流行基准评测的总体性能, 参与评测的开源模型:Llama 1、 Llama 2 基本模型、MosaicML的MPT系列和Falcon模型。

image.png

表4是Llama 2在流行基准评测与闭封模型的性能对比

image.png

微调

Llama 2-Chat是对准技术(alignment techniques)几个月的研究和迭代应用的结果,包括指令微调和RLHF,这些需要大量的计算和标注资源。本章内容有:

  • 有监督微调
  • RLHF
  • 初始化和迭代奖励建模
  • Ghost Attention(GATT) - 该新技术可以帮助我们在多轮对话中控制对话流程
  • 模型微调后的安全评估

有监督微调(Supervised Fine-Tuning SFT)


质量就是一切

第三方SFT数据集可以从不同的来源获得,但我们发现这些数据的大部都分存多样性与质量的不足,尤其是为了保持LLMs与对话式指令保持一致时。

因此,我们首先集中精力收集数千个高质量的SFT样本数据集,我们暂时隔离了数百万的第三方数据集的示例,使用我们供应商标注的更少但高质量数据一起,我们结果得到显著的提升。这个发现与Zhou等到的观点类似,后者也发现有限但干净的指令微调数据足以让模型达到高水平,如上表(Table 5)。 我们发现数以万计的SFT的标注足以让模型的微调达到高质量的结果。 在收集完27,540个标注数据后,我们停止了对SFT标注。这些数据不包括任何Meta的用户数据。

image.png

上表第一列SFT微调指令,第一个是有益指令(Prompt)及回答,第二个是安全指令及回答

我们还观察到不同的标注平台和供应商有可能会导致下游任务的性能明显不同,强调数据检查如此重要,即便使用供应商源标注时。为了验证我们的数据质量,我们仔细的检测180个样本集,将人类标注的数据同模型由手工仔细检查生成样本相比较。令人吃惊的是,我们发现 从所得的SFT模型采样输出的往往与人类手写的SFT数据具有竞争力。这表明我们可以重新定义RLHF优先级,并将更多的标注工作投入到基于偏好的标注中。

微调详细情况

我们用cosine学习速率表初始学习率为2*10-5衰减权重为0.1, batchsize为6token序列长度为4096。 对于微调过程,每个样本都包含 一个prompt和一个回答。为了确保模型序列长度的正常填满,我们将训练集中的所有的prompt和回答连接了起来,使用一个特殊符号隔开prompt与回答片段。我们使用自回归目标,将来自用户prompt的token损失归零,因此我们只对答案的token做了反向传播。最后我们对模型进行了2个epoch的微调

RLHF - Reinforcement Learning with Human Feedback


RLHF(人类反馈强化训练) 是一个模型训练的过程,应用于模型微调,使模型能进一步和人类偏好与指令对齐。 我们收集数据是代表人类偏好的经验采样,人类标注者可以选择他们更喜欢的两种模型输出中的哪一种。这个人工反馈被用于于奖励模型中, 该模型通过学习人类标注者的偏好的模式,能自动进行偏好决策。

人类偏好数据收集

接下来,我们为奖励建模收集人类偏好数据。 我们选择二元比较协议(binary comparision protocol),主要是因为他能使我们最大限度提高提示(prompt)的多样化。当然,其他策略也值得考虑,我们将其留给未来的工作。

我们的标注过程如下: 我们要求标注员首先写一个提示,然后基于给定的标准,在两个采样模型的回答中做出选择, 为了最大限度的提高多样化, 给定提示的两个回答抽取自两个不同模型的变体,他们拥有不同的温度和超参数。除了要求参者选择之外, 我们还要求标注者去标注他们所选回答与备选回签间相比的偏好级别:非常好,比较好,好,一般好, 可以忽略不计或不确定

我们收集偏好标注重点关注其有用性和安全性。 有用益主要是指LlaMA 2-chat的回答如何更好完成用户的问题并提供所需信息。安全性是指Llama 2-Chat的回答内容是否不安全,比如,"提供一份制作炸弹的详细流程"可能被认为是有用的,但根据我们的安全指南,它是不安全的。 将两者区别开来,可以让我们对每种情况提供特定的指南,更好的指导标注者,例如,我们的安全标注提供了对抗性指令等指导原则。

除了标注准则的差异外,我们在安全阶段额外收集了一个安全标签。这个附加信息将模型的响应分为三类:1. 首选安全其他则不安全; 2. 两个回答都是安全的;3. 两个回答都是不安全的,分别有18%, 47%, and 35%安全数据集属于这3类。 我们不包括任务样本是属于 所选的响应是不安全的而其他是安全的 选项, 因为我们相信更安全的回答将更受人们的青睐。 有关安全原则和安全标注的更多细节可参考4.2.1。

我们的人工标注是按周分批收集的。 随着我们收集到了更多的偏好数据,我们的奖励模型也提到了改进,我们能够为Llama 2-Chat训练出越来越好的版本。Llama 2-Chat改进了也改变了模型的数据分布。因为 如果不暴露这些新的样本分布,奖励模型会的准确性会迅速下降。因此在新版的Llama 2-Chat调整迭代前收集新的偏好数据用于最新Llama 2-Chat迭代是非常重要的。这步将有助于保持奖励模型的分布和最新版模型的准确奖励。

如Tabe 6 是我们随着时间的推进收集到的奖励建模数据的统计表, 并将其与多个开源的偏好数据集进行比较,包括 Anthropic Helpful 和 Harmless (Bai et al., 2022a), OpenAI Summarize (Stiennon et al., 2020), OpenAI WebGPT (Nakano et al., 2021), StackExchange (Lambert et al., 2023), Stanford Human Preferences (Ethayarajh et al., 2022), 和 Synthetic GPT-J (Havrilla). 我们收集了超过1百万的二次元比较数据集, 它们是基于 人类应用我们指定准则的了的数据集, 我们将其称为元奖励建模数所集。 注决,提示与回答的长度因文本域而异。 摘要和在线论文的数据 通常需要更长的提示而对话类的提示则较短。 与现存的开源偏好数据集相比,我们的偏好数据集的有更多对话轮次、平均更时间更长。

image.png

奖励建模

奖励模型获取一个模型的回复及其相应的提示(包括从上一轮回答中的上下文)作为输入,再输出一个标量分数用于指示模型生成的质量(安全性与有用性) 。利用这些反馈分数作为奖励杠杆,我们可以在RLFH期间优化Llama 2-Chat, 更好的向人类偏好对齐,提升有用性和安全性。

其他人发现,有用性与安全性有时会相互抵消, 这可能会使单一的奖励模型在机器上表现良好受到挑战。 为了解决这个问题,我们分别训练两个奖励模型, 一个在有用性上做了优化, 另外一则是在安全性上做了优化。 我们从预训练聊天模型检查点开始的初始化奖励模型, 因为这样能确保两个模型都受益于从预训练中知识获取。简单的来说,奖励模型 “知道” 聊天模型所知道的内容。 例如,这可以防止两个模型的信息是不匹配, 它有可能造成的幻觉。这个模型的架构和超参数和那些预训练的语言模型是相同的,除了 用于下一个token预测的分类头 被用于 输出标量奖励的回归头替换外。

训练目标。 为了训练奖励模型,我们将收集的成对的人类偏好数据转换成按二进制排序的标签格式,强制所选响应的分值要高于其他响应。我们使用与Ouyang一致的二元排名损失:

Lranking=−log(σ(rθ(x,yc)−rθ(x,yr)))*L**r**ankin**g*=−*l**o**g*(*σ*(*r**θ*(*x*,*y**c*)−*r**θ*(*x*,*y**r*)))

其中rθ(x,y)r**θ(x,y)是一个用模型权重为θ输出的提示x和完成y的标量分数。ycy**c是标注器选择的首选响应,yry**r拒绝的对应项。

在这种二元排名损失的基础上,我们又分别对其做了改进,以获取更好的有用性和安全性的奖励模型,如下所示。 正如上面章节所述,我们给定的偏好评级分为4分制(例如,非常好), 它能利用这些信息来过确的教导奖励模型去赋予更多差异的分数去生成更多不同的信息。为此,我们在这个损失表达式中添加了一个边距组件:

Lranking=−log(σ(rθ(x,yc)−rθ(x,yr)−m(r)))*L**r**ankin**g*=−*l**o**g*(*σ*(*r**θ*(*x*,*y**c*)−*r**θ*(*x*,*y**r*)−*m*(*r*)))

其中,边距 m®是一个偏好评级的离散函数。 自然的,我们对具有不同响应的配对使用更大的边距, 而为那些较相似响应的配对使用了较小的边距。我们发现这个边距组件能提升有用性的奖励模型的准确度,特别是在样本的两个响应更加分离的情况下。消融实验与分析请参与表28(如下表)。

image.png

数据组成。 我们将新收集的数据集与已存在的开源偏好数据集组成形成一个更多的训练集。 开源数据集用于引导我们的奖励模型,同时我们收集偏好的标注数据。我们注意到, 在研究RLHF的背景下,奖励信号主要是用于Llama 2-Chat学习人类偏好输出而不是任何模型的输出。然而, 在我们的实验中,我们并没有观察到来自开源偏好数据集的负面转移。 因此,我们决定将他们保留在我们的数据混合集中,因为他们能让生成的奖励模型更加的泛化并阻止奖励破解(reward hacking), 即Llama 2-Chat利用我们奖励模型的某些弱点,刻意的提高分数,尽管其表现并不好。

随着不同来源数据集的获取,我们用不同的混合方案去训练奖励模型的有用性和安全性,以确定其最佳方案。 经过广泛的实验,有用性奖励模型最终在所有的元有用性数据上做了训练,与来自源元安全数所集与开源的剩余数据集相合。元安全奖励模型在所有的元安全数据集和Anthropic Harmless上训练,与有用性数据集和开源有用性数据集以90/10的比例混合。我们发现对于10%有用性数据集的设置对样本的准确度特别有用, 其中,选择响应和拒绝响应都被认为是安全的。

训练细节。 我们对训练数据进行了1 epoch的训练。在早期实验中,我们发现这个过长时间的训练会导致过拟合。我们使用与基础模型相同的优化器参数, 70B参数的Llama 2-Chat的最大的学习率是 5×10−65×10−6,其他参数的学习率则是1×10−51×10−5. 学习率的下降策略采用余弦学习率表, 最终下降到了最大值的10%。 我们对总步骤中的3%进行预热,最小值是5。 有效的batch_size固定在512对或每批1024行。

image.png

奖励模型结果。 在每一批为奖励模型标注的人类偏好数据中,我们保留了其中的1000个样本作为一个测试集去评测我们的模型。我们将所有与测试集相关的提示称为 “元有用”与“元安全”,基于此,我们还评估了其他公开可用的可替代方案作为基线:

  • SteamSHP-XL 基于 FLAN-T5-xl
  • 基于DeBERTa V3 Larger开放式助手奖励模型
  • 可通过OpenAI的API访问GPT4

请注意,在推理时,与训练相反,所有奖励模型都可以预测单个输出的标量,无需访问他的配对输出。GPT-4,我们基于零样本提出问题:“请在A和B之间选择一个最优的答案”, 其中A和B是用于比较的两个响应, 其准确度方面请看Table 7。 正如所期待的,我们自己的奖励模型在基于Llama 2-Chat收集的内部测试集中的性能是最好的,有用性奖励模型在元有用测试集上性能最好,同样安全奖励模型在元安全测试集上性双脚也是最好的。总之,我们的奖励模型超过了所有的基线模型,包括GPT-4。 有意思的是,GPT-4优于其他非元奖励模型,尽管没有直接去训练该模弄也没有专门为这个模型做奖励建模任务。

有用性与安全性的奖励模型在他们自己的领域里表现优秀的潜在的原因是两个目标之间的紧张关系, 这种关系这有可能会混淆训练奖励模型的过程, 为了让一个单一的模型在两个维度上都表现良好,这就需要模型不仅会在给定的提示中选择更好的响应,而且还要区分对抗性提示和安全性提示。为此,分别优化了两个模型,实际上是减轻奖励模型的任务。 更多细节请参考附录A4.1

当我们根据偏好评级按Table 8(如下图)进行分组打分时,我们可以看到,“非常好” 的测试集的准确性更高,并随着比较对的相似的增加而逐渐降低。 可以预见,在两个相似模型的响应中做出决定,学习更多的人类偏好模型变成很有挑战,因为标注者的主观性及他们对细节的依赖,有可能会让响应变的不同。我们强调准确性要比Llama 2-Chat的性能更加重要。人类偏好标注的一致率在非相似的两个响应对中更明显。

image.png

伸缩性。我们研究了奖励模型在数据和模型大小上的缩放趋势,根据每周收集的奖励模型数据的增量,微调了不同大小的模型。如图6(下图)展示了这些的趋势,从这个图可以看出,较大模型在类似数据量下会获得更高性能的预期结果。 更重要的是,考虑到用于训练的现有数据标注量,缩放性能尚未稳定下来,这表明就更多标注方面还有改进的空间。我们注意到奖励模型的准确度是Llama 2-Chat最终性能的重要指标之一。虽然对于生成模型的综合评估其最佳实战是一个开放性的研究问题,但奖励任务的排名并没有歧义。 因此,在同等条件下,奖励模型的改进能直接转化为Llama 2-Chat的改进

image.png

迭代微调

随着我们收到更多批次的人类偏好的标注数据, 我们能够将奖励划型训练的更好,也有收集到更多的提示。 因此我们为RLHF模型训练了连续的版本,我们称这些连续的版本为RLHF-V1,…,RLHF-V5. RLHJ微调我们用两个主要算法:

  • Proximal Policy Optimization (PPO,近端微略优化): RLHF文献中的标准
  • Rejection Sampling fine-tuning(拒绝采样微调):我们对模型的K个输出进行了采样,并用我们的奖励选择了最佳的候选项, 这与Bai等人(2022b)的方法是一致的。 Deng等也提出了相同的LLMs重排策略, 其中奖励被视为能量函数。这里,我们更进一步,用选定的输出进行梯度更新。 每个提示,获最高奖励分值的样本被视为新的黄金标准。这个想法与Scialom等人(2020a)将更相似。 然后我们用新的排序样本微调了我们的模型,以增强这个奖励。

两个学习率(RL)算法的主要不同点在于:

  • 广度(Breadth) - 在拒绝采样中, 模型为给定提示探索了K个样本, 而PPO只生成了一次。
  • 深度(Depth) - 在PPO中, 在步骤和的训练过程中,采样是在上一个步的梯度更新之后从t-1步开始的更新模型策略的函数。 在拒绝采样微调中, 在应用类似于SFT的微调之前,我们在给定的模型初始策略的情况下对所有的输出进行了采样,以收集新的数据集。然而,因为我们采用了迭代模型更新,两种算法的基本差异就不那么明显了。

直到RLHF(v4),我们仅使用了拒绝采样微调,之后,我们将两按序组合,在再次采样之前,应用PPO在生成的拒绝样本的检查点之上。

Rejection Sampling 我们只使用最大的70B参数的Llama 2-Chat进行了拒绝采样,所有的更小模型微调的拒绝样本的数据都来自于最这个最大的模型, 这样可以将最大模型的能力提取到小模型中。这种方式的结果分析将在以后的工作中进行。

在每个迭代阶段,我们为最新模型的每个提示采样了K个回答。我为对每个样本进行了打分,给出了实验时可获得的最佳模型,然后为这些提示选择了最佳答案。在我们模型的较早版本中,直到RLHFv3为止, 我们的方法是将答案选择限定在之前迭代中收集的“袋子”样本。例如,RLHF v3仅使用了来自RLHF v2的样本进行训练。然而,尽管不断改进,这种方法还是导致模型的某些能力的倒退。例如, 通过定性分析发现, RLHF V3在诗歌的押韵方面比之前版本要差,这表明对遗忘原因及缓解措施的进一步调查,可能是未来一个富有成果的领域。

我们在随后的迭代版本中修改了我们的策略,即合并了所有先前迭代中表现最好的样本,例如RLHF-V1和RLHF-V2中使用的样本。尽管我们没有提供具体的数字,这个调整使迭代的性能显著提升,并有效解决了之前关注的问题。这个缓解措施与Synnaeve等人(2019)和Vinyals等人(2019)的文献中记载的方法是一致的。

image.png

如上图(图7) 我们说明了拒绝样本的好处。

最大曲线和中值曲线之间的增量可以解释为对最佳输出进行微调的潜在增益。在最大值曲线和中值曲线中间的增量可以解析为对最佳输出的进行微调的潜在增益。正如预期的那样,这个增益随样本的增加而增加,增加的是最大值而但中位数的保持不变。探索和我们从样本中获得的最大回报之间有着直接的连接。这个temperature parameter也在探索中扮演了一个重要的角色,温度越高能使我们样本到更多样化的输出。

如图8(左图是Llama 2-Chat的SFT右图是Llama 2-Chat RLHF)展示了不同temperatures下在N个样本间的最大奖励曲线(N ∈[1,…,100]∈[1,…,100])。我们有观察到在模型迭代更新过程中最佳的temperature不是恒定的: RLHF对重新调整temperature有直接的影响。 因为Llama 2-Chat的RLHF, 当样本输入在10~100之间时其最佳temperature为 T∈[1.2,1.3]T∈[1.2,1.3]。 在计算预算有限的情况下,有必要逐步重新调整temperature。请注意,对于每个模型来说,这种temperature重新调整的步骤数是恒定的,并且总是从在最新RLHF版本的基础模型开始。

image.png

PPO。我们按照Stiennon等人的方法进一步训练我们的语言模型,那我们使用奖励模型作为真实奖励函数的评估 和使用预训练语言模型作为优化策略。我们使用的发吓的优化方法:

argmax⁡πEp~D,g~π∣R(g∣p)∣*a**r**g**π*max*E**p*~*D*,*g*~*π*∣*R*(*g*∣*p*)∣

我们从我们数据集D中采样提示p和从策略 π 中生成g来迭代改进策略,且为了达到该目标我们使用PPO算法和损失函数。在优化期间我们使用的最终奖励函数如下:

R(g∣p)=R˜c(g∣p)−βDKL(πθ(g∣p)∣∣π0(g∣p))*R*(*g*∣*p*)=*R*˜*c*(*g*∣*p*)−*β**D**K**L*(*π**θ*(*g*∣*p*)∣∣*π*0(*g*∣*p*))

其中包含来自原始策略T0T0的惩罚项。正如我们从他人的工作中观察到的那样,我们发现这样的约束有助于训练的稳定性,并减少奖励攻击(reward hacking), 既我们从奖励模型中得了高分但从人类评估中却得了低分。

RcR**c是安全性RsR**s与有用性RhR**h模型的分段组合。我们在数据集中标识了可能引起不安全响应的提示并从安全模型中优先考虑了分数。过滤不安全响应的阈值是0.15, 对应在元安全数据测试集上是0.89确定度和0.55的召回率。我们也发现,为了提高稳定性并与上述KL的惩罚项目(β)保持适当平衡,对最终线性分数的白化也很重要(如图所示: 用逻辑函数反转的sigmoid)。

image.png

针对所有的模型,我们都使用AdamW优化器。β1=0.9,β2=0.95,eps=10−5β1=0.9,β2=0.95,eps=10−5。 我们使用0.1的衰减权重,1.0的梯度剪裁和10−610−6恒定学习率。每次PPO迭代我们使用的参数如下:

  • batch-size=512
  • PPO Clip为0.2
  • mini-batch =64
  • mini-batch执行一次梯度更新
  • β = 0.01(7B和13B模型)
  • β = 0.005(34B和70B)

我们为所有模型训练了200和400次迭代, 并对延迟的提示进行评估,以便提前停止。70B的参数上的每次PPO迭代的平均耗时≈330秒。 为了快速训练大批次数训练我们使用FSDP。 这在使用O(1)复杂度的正向或反向传播都是有效的,但在生成期间会导致速度有很大的减慢(≈ 20倍), 即便使用了大批次数据和KV缓存也是一样。我们能缓存这样

这在使用O(1)正向或反向传递时是有效的,但在生成过程中会导致很大的速度减慢(≈20倍),即使在使用大批量和KV缓存时也是如此。我们能够通过在生成之前将模型权重合并到每个节点一次,然后在生成之后释放内存,恢复训练循环的其余部分来缓解这种情况。我们能够如下方式来缓存这种情况:在生成之前将模型的权重合并到每一个节点一次生成之后释放内存,再继续训练循环的其余部分。

附录

不同型号Llama2模型地址


  • Llama2-Chinese-7b-Chat: huggingface.co/FlagAlpha/L…
  • Atom-7B: huggingface.co/FlagAlpha/A…
  • Atom-7B-Chat: huggingface.co/FlagAlpha/A…
  • Llama-2-7b-hf: huggingface.co/meta-llama/…
  • Llama-2-70b-hf: huggingface.co/meta-llama/…
  • Llama-2-13b-hf: huggingface.co/meta-llama/…
  • Llama-2-13b-chat-hf: huggingface.co/meta-llama/…
  • Llama-2-70b-chat-hf: huggingface.co/meta-llama/…
  • Llama-2-7b-chat-hf: huggingface.co/meta-llama/…
  • Llama-2-7b: huggingface.co/meta-llama/…
  • Llama-2-13b: huggingface.co/meta-llama/…
  • Llama-2-70b: huggingface.co/meta-llama/…
  • Llama-2-7b-chat: huggingface.co/meta-llama/…
  • Llama-2-13b-chat: huggingface.co/meta-llama/…
  • Llama-2-70b-chat: huggingface.co/meta-llama/…

术语


  • Red Teaming: : 红蓝对抗, 在大模型开发的诸多环节中,Red Teaming是一个关键过程,它通过模拟真实世界,来测试AI模型的潜在漏洞、偏见和弱点,以确认模型性能足够可靠。
  • PPO(Proximal Polic Optimization),梯度策略的一种改进算法
  • RMS Norm(均方根误差)是一种常见的数学和统计学概念,用于衡量预测值和真实值之间的平均误差。
  • Cosine Learning Rate Decay : 余弦学习率衰减
  • MPT: MosaicML预训练模型系列
  • Ghost Attention: Gatt - 最初的RLHF模型在几轮对话后忘记最初的指令,下图(左)所示。为了解决这些限制,提出Ghost Attention方法(Gatt,其实是一个训练trick)来增强模型对指令的遵从。
  • bootstrap: bootstrap 是从数据样本中估算数量的一种强大的统计方法。例如平均数。你从数据中抽取大量样本,计算平均值,然后平均所有的平均值以便更好的估计真实的平均值,可看看(bagging)。
  • 温度参数(temperature parameter),在人工智能领领域,温度参数是指在生成式模型中使用的一种技术,可以用于控制生成结果的多样性和随机性

如果您也对AI大模型感兴趣想学习却苦于没有方向👀
小编给自己收藏整理好的学习资料分享出来给大家💖
👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码关注免费领取【保证100%免费】🆓
请添加图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)
在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉如何学习AI大模型?👈

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

请添加图片描述

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

在这里插入图片描述

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

在这里插入图片描述

四、AI大模型商业化落地方案

在这里插入图片描述

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。
请添加图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/434676.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

物联网系统中基于IIC通信的数字温度传感器测温方案

01 物联网系统中为什么要使用数字式温度传感器芯片 物联网系统中使用数字式温度传感器芯片的原因主要有以下几点: 高精度与稳定性 高精度测量:数字式温度传感器芯片,如DS18B20,采用芯片集成技术,能够有效抑制外界不…

2024-9-28 QT登录框基础练习

1.头文件 #ifndef LOGINWINDOW_H #define LOGINWINDOW_H#include <QWidget> #include <QPushButton> #include <QLineEdit> #include <QVBoxLayout>class LoginWindow : public QWidget {Q_OBJECTpublic:// 构造函数LoginWindow(QWidget *parent nul…

打造备份一体机,群晖科技平台化战略再进阶

数字经济时代&#xff0c;海量数据不断涌现&#xff0c;并成为核心生产要素&#xff0c;驱动着企业生产方式和商业模式发生深刻变革。 与其他生产要素不同&#xff0c;数据要素具有非稀缺性、非竞争性等特征&#xff0c;且只有在具体业务场景中才能充分释放其价值。尤其是近年…

Element-Plus中上传文件upload取消提示按钮与文字

去除提示按钮与文字 添加样式&#xff0c;让这个div进行隐藏 .el-upload__input {display: none !important; }

物联网系统中高精度压力检测方案_压力变送器

01 物联网系统中为什么要使用压力变送器 在物联网系统中使用压力变送器的原因主要基于以下几个方面&#xff1a; 感知层的核心作用 物联网系统主要由感知层、传输层、平台层和应用层组成。感知层作为物联网的“排头兵”&#xff0c;负责收集物理世界中的各种信息。压力变送…

在二维平面中,利用时差定位(TDOA)技术,结合N个锚点,通过三边法进行精确定位,采用MATLAB实现

文章目录 主程序程序代码运行结果 主程序 主程序代码如下&#xff1a; % TDOA测距定位&#xff0c;二维平面&#xff0c; 4个锚节点的情况 % author:Evand&#xff08;VX&#xff1a;matlabfilter&#xff0c;除前期达成一致外&#xff0c;讲解需付费&#xff09; % 2024年9月…

node-rtsp-stream、jsmpeg.min.js实现rtsp视频在web端播放

1. 服务地址&#xff08;私有&#xff09;&#xff1a;https://gitee.com/nnlss/video-node-server 2.node-rtsp-stream 需要安装FFMPEG&#xff1b; 3.给推拉流做了开关&#xff0c;可借助http请求&#xff0c;有更好方式可联系&#xff1b; 4.存在问题&#xff1a; 1&…

单点登录(SSO)基础

单点登录&#xff08;SSO, Single Sign-On&#xff09; 是一种身份认证机制&#xff0c;允许用户在多个独立的应用系统中只进行一次登录操作&#xff0c;即可访问所有授权的应用或服务&#xff0c;而无需每次切换应用时都进行登录。SSO 提高了用户体验的便捷性&#xff0c;同时…

基于springboot的书店图书销售管理系统的设计与实现 (含源码+sql+视频导入教程)

&#x1f449;文末查看项目功能视频演示获取源码sql脚本视频导入教程视频 1 、功能描述 基于springboot的书店图书销售管理系统拥有三个角色 管理员&#xff1a;用户管理、角色管理、权限管理、店铺管理等商家&#xff1a;图书管理、上架图书、访问量统计、销售总额统计、订单…

【C++】类和对象(基本概念)

类的引入 C语言是面向过程的&#xff0c;关注的是过程&#xff0c;分析出求解问题的步骤&#xff0c;通过函数调用逐步解决问题。 C是基于面向对象的&#xff0c;关注的是对象&#xff0c;将一件事情拆分成不同的对象&#xff0c;靠对象之间的交互完成。 C语言结构体中只能定…

【最新】微信小程序连接onenet——stm32+esp8266+onenet实现查看温湿度,控制单片机

微信小程序——stm32esp8266onenet实现查看温湿度&#xff0c;控制单片机 &#xff08;最新已验证&#xff09;stm32 新版 onenet dht11esp8266/01s mqtt物联网上报温湿度和控制单片机(保姆级教程) &#xff1a;↓↓&#x1f447; &#x1f447; &#x1f447; &#x1f447…

如何用好通义灵码企业知识库问答能力?

通义灵码企业版&#xff1a;通义灵码企业标准版快速入门_智能编码助手_AI编程_智能编码助手通义灵码(Lingma)-阿里云帮助中心 通义灵码提供了基于企业知识库的问答检索增强的能力&#xff0c;在开发者使用通义灵码 IDE 插件时&#xff0c;可以结合企业知识库内上传的文档、文件…

面试中顺序表常考的十大题目解析

在数据结构与算法的面试中&#xff0c;顺序表是一个常见的考点。它作为一种基础的数据结构&#xff0c;涵盖了多种操作和概念&#xff0c;以下将详细介绍面试中关于顺序表常考的十大题目。 &#x1f49d;&#x1f49d;&#x1f49d;如果你对顺序表的概念与理解还存在疑惑&#…

第十三届蓝桥杯真题Java c组B.特殊时间(持续更新)

博客主页&#xff1a;音符犹如代码系列专栏&#xff1a;蓝桥杯关注博主&#xff0c;后期持续更新系列文章如果有错误感谢请大家批评指出&#xff0c;及时修改感谢大家点赞&#x1f44d;收藏⭐评论✍ 【问题描述】 2022 年 2 月 22 日 22:20 是一个很有意义的时间&#xff0c;年…

人工智能实战用折线图解读产业GDP发展态势

内容提要 项目分析项目实战 一、项目分析 1、问题提出 我们拿到一大堆关于GDP的数据&#xff0c;如何从这些表面看起来杂乱无章的数据中解读出一些有价值的信息呢? 显然&#xff0c;如果能将这些数据以图形的方式展现出来&#xff0c;例如将这些数据值随时间&#xff08;…

计算机毕业设计 基于Python的热门微博数据可视化分析系统的设计与实现 Python+Django+Vue 可视化大屏 附源码 讲解 文档

&#x1f34a;作者&#xff1a;计算机编程-吉哥 &#x1f34a;简介&#xff1a;专业从事JavaWeb程序开发&#xff0c;微信小程序开发&#xff0c;定制化项目、 源码、代码讲解、文档撰写、ppt制作。做自己喜欢的事&#xff0c;生活就是快乐的。 &#x1f34a;心愿&#xff1a;点…

Java项目实战II基于Java+Spring Boot+MySQL的大学城水电管理系统(源码+数据库+文档)

目录 一、前言 二、技术介绍 三、系统实现 四、文档参考 五、核心代码 六、源码获取 全栈码农以及毕业设计实战开发&#xff0c;CSDN平台Java领域新星创作者 一、前言 随着大学城规模的不断扩大和学生数量的急剧增加&#xff0c;大学城内的水电管理面临着前所未有的挑战…

Codeforces Round 975 (Div. 1) D. Max Plus Min Plus Size(思维题 并查集/动态dp 线段树维护状态合并)

题目 思路来源 hhoppitree代码 官方题解 题解 注意到最大值一定会被取到&#xff0c; 对于最小值固定的话&#xff0c;对于1 2 3 4 5的连续段&#xff0c;要么贪心地取1 3 5&#xff0c;要么取2 4 如果最大值被包含在1 3 5里显然取1 3 5&#xff0c;否则换成2 4一定能取到…

RabbitMQ的高级特性-延迟队列

延迟队列(Delayed Queue)&#xff0c;即消息被发送以后, 并不想让消费者⽴刻拿到消息, ⽽是等待特定时间后,消费者才能拿到这个消息进⾏消费 应用场景 延迟队列的使⽤场景有很多, ⽐如: 1. 智能家居: ⽤⼾希望通过⼿机远程遥控家⾥的智能设备在指定的时间进⾏⼯作. 这时候就可…

【2.使用VBA自动填充Excel工作表】

目录 前言什么是VBA如何使用Excel中的VBA简单基础入门控制台输出信息定义过程&#xff08;功能&#xff09;定义变量常用的数据类型Set循环For To 我的需求开发过程效果演示文件情况测试填充源文件测试填充目标文件 全部完整的代码sheet1中的代码&#xff0c;对应A公司工作表Us…