vllm/README.md

# VLLM项目

## 项目启动
bash run_model_predict.sh
bash run_api.sh

## 调用示例
"http://192.168.31.74:12000/predict"

{
    "texts": "你好"
}
## 返回示例
## 请求参数
补充readme 2 years ago			`# VLLM项目`

			`## 项目启动`
chatgpt服务使用vllm方式预测 2 years ago			`bash run_model_predict.sh`
			`bash run_api.sh`

补充readme 2 years ago			`## 调用示例`
chatgpt服务使用vllm方式预测 2 years ago			`"http://192.168.31.74:12000/predict"`
补充readme 2 years ago
			`{`
chatgpt服务使用vllm方式预测 2 years ago			`"texts": "你好"`
补充readme 2 years ago			`}`
补充readme 2 years ago			`## 返回示例`
			`## 请求参数`