文章目录
- 前言
- 一、整体概括
- 二、launch.json文件配置
- 三、调试展示
前言
之前博客这里介绍LLava1.5多模态大模型的安装、训练、预测等。但对于你想查看源码或多或少都有些麻烦,也不利于代码调试。基于此,本文是一篇基于vscode框架调试llava大模型的教程。
一、整体概括
我是在一张4090显卡调试llava代码,使用vscode编译器调试。我之所以能调试是我更改llava层,如下图。至于,你想了解环境安装或数据处理等,请参考我之前博客这里。本文是大致说明vscode调试代码。
二、launch.json文件配置
之前,一直不太会使用vscode配置大模型训练与预测参数,但你掌握了其launch.json配置,你将会觉得简单。你想了解详细,也可参考我的博客这里,而llava模型配置如下:
{"version": "0.2.0","configurations": [{"name": "finetune_llava_lora","type": "python","request": "launch",//"python": "/home/miniconda3/envs/dp/bin/python", // 指定python解释器"program": "/home/anaconda3/envs/llava/bin/deepspeed","console": "integratedTermina