LLMs之miqu-1-70b:miqu-1-70b的简介、安装和使用方法、案例应用之详细攻略
目录
miqu-1-70b的简介
miqu-1-70b的安装和使用方法
1、安装
2、使用方法
miqu-1-70b的案例应用
miqu-1-70b的简介
2024年1月28日,发布了miqu 70b,潜在系列中的第一个模型。“提示格式”以及用户交互方式同Mistral相同。难道是与Mistral-Medium是同一个模型,还是LIama 2的微调版本?被内部上传泄露?
提示格式:Mistral
<s> [INST] QUERY_1 [/INST] ANSWER_1</s> [INST] QUERY_2 [/INST] ANSWER_2</s>...
请注意,某些后端(如llama.cpp)已经添加了bos(默认情况下),因此您无需自己在前面添加。
设置:请勿更改绳子设置。此模型使用32k已见标记的高频基础,对于大多数任务应该是可以的。仅已使用温度1和top_p 0.95进行测试,其他所有设置均已禁用。
官方地址:https://huggingface.co/miqudev/miqu-1-70b
miqu-1-70b的安装和使用方法
1、安装
下载地址:https://huggingface.co/miqudev/miqu-1-70b/tree/main
2、使用方法
博主正抓紧测试,更新中……
miqu-1-70b的案例应用
更新中……