You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
715 B
715 B
安装环境
conda create -n your_env_name python=3.8
启动项目
启动此项目前必须启动 vllm-main 项目
conda activate llama_paper
bash run_api_gunicorn.sh
测试
curl -H "Content-Type: application/json" -X POST -d '{"texts":"User:任务：生成目录\n为论文题目《俄乌冲突堑壕战研究》生成目录，要求只有一级标题和二级标题，一级标题使用中文数字 例如一、xxx；二级标题使用阿拉伯数字 例如1.1 xxx；一级标题不少于7个；每个一级标题至少包含3个二级标题\n\nAssistant:","nums": 3}' http://101.37.83.210:18000/articles_directory
返回"status_code"不出现 400 则调用成功