背景

我在ubuntu的电脑上安装了TGI，直接安装，没有用docker，再解决了一系列环境问题和jar包冲突以后，终于装好了，然后使用了一下help命令：

text-generation-launcher --help

结果报错：

text-generation-launcher --help
text-generation-launcher: error while loading shared libraries: libpython3.9.so.1.0: cannot open shared object file: No such file or directory

解决方案

我是用的conda管理环境，然后我查找了该环境下的这个包在哪儿：

find /home/aaaa/miniconda3/envs/text-generation-inference/  -name libpython3.9.so.*
/home/aaaa/miniconda3/envs/text-generation-inference/lib/libpython3.9.so.1.0

我只想解决当前问题，所以解决方式：

export LD_LIBRARY_PATH=/home/aaaa/miniconda3/envs/text-generation-inference/lib/

再次

text-generation-launcher --help
Text Generation LauncherUsage: text-generation-launcher [OPTIONS]Options:--model-id <MODEL_ID>... ...

成功运行，搞定