使用vllm部署
 
 

1 lines
46 B

gunicorn mistral_api:app -c gunicorn_config.py