最近llama模型下载的方式又又变了,所以今天简单更新一篇文章,关于下载的,首先上官网,不管在哪里下载你都要去官网登记一下信息:https://llama.meta.com/llama2
然后会出现下面的信息登记网页:
我这里因为待业所以organization那一栏写的是no organization。。哈哈,反正也给通过了。在这个页面你可以选择需要下载的模型,一般大家估计直接llama2了:
然后拉到底,勾选I accept就可以继续了。估计等一会儿你就会收到邮件:
然后邮件里会有一个很详细的介绍:
How to download the models:
- Visit the Llama repository in GitHub and follow the instructions in the README to run the download.sh script.
- When asked for your unique custom URL, please insert the following: 你的URL信息!!!!!!
- Select which model weights to download
然后大家直接去llama的GitHub网页上:llama/download.sh at main · meta-llama/llama · GitHub,把这个download.sh下载下来或者直接新建个bash文件,然后把download.sh复制到咱们的文件里。然后终端运行bash,就会出现以下界面:
接着你就输入你邮件里的那个url信息,选择要下载的模型就可以啦!llama-2-7b这个文件大概14个G。所以大家下载前可以看下自己的盘够不够这个空间。如果出现403的错误,那就重新申请!!!
LLama2的简介
Llama 2是Meta最新的大语言模型(LLM),应用广泛,影响力大。在模型架构方面,Llama 2 采用了 Llama 1 的大部分预训练设置和模型架构。它使用标准 Transformer 架构,应用 RMSNorm 进行预归一化,使用 SwiGLU 激活函数,并采用旋转位置嵌入 (RoPE)。 与 Llama 1 相比,架构的主要区别包括将上下文长度从 2048 扩展到 4096 以及利用分组查询注意力 (GQA)。Llama2 有 4 种不同的大小的模型:7B、13B、34B 和 70B(34B 版本尚未发布,下载选项里确实也没有)。