第一步 安装python3.9,3.8到后面不支持
第二步 安装依赖
pip install torch1.12.0+cu102 torchvision0.13.0+cu102 torchaudio==0.12.0 --extra-index-url https://download.pytorch.org/whl/cu102 -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install fschat -i https://pypi.tuna.tsinghua.edu.cn/simple
第三步，权值格式转化（上一篇介绍如何下载7B）
python convert_llama_weights_to_hf.py --input_dir ./ --model_size 7B --output_dir ./output/7B
第四步，下载小羊驼权值
https://huggingface.co/lmsys/vicuna-7b-delta-v1.1/tree/main
大文件建议用迅雷下载，否则太慢了
第五步 生成小羊驼模型
python -m fastchat.model.apply_delta --base ./output/7B --target ./vicuna-7b --delta ./vicuna_data
第六步 测试
ython -m fastchat.serve.cli --model-path ./vicuna-7b --num-gpus 2
感觉对中文支持不错
参考：
https://zhuanlan.zhihu.com/p/620801429
https://zhuanlan.zhihu.com/p/622020107?utm_id=0
python 向量维度 python 向量计算
#内积可以描述向量间的投影关系，大小为 |a| |b|cos⟨a, b⟩：python 向量内积求向量长度：import numpy as np
a=np.asarray([1,1,1])
print(np.sqrt(a.dot(a)))
print(np.linalg.norm(a))python 求向量外积#外积的方向垂直于这两个向量，大小为 |a| |b|sin ⟨a, b⟩，是两个向量张
