千问14b Qwen3-14B-AWQ 部署踩坑笔记

目录a10显卡加速：客户端请求 测试ok：方案一：使用通用的 vLLM Docker 镜像（测试ok）a10显卡加速：docker run -d --gpus all \ -p 8001:8000 \ --ipc=host \ -v /data/metahuman_work/models/Qwen3-14B-AWQ:/model \ --name qwen3-14b-awq \ docker.m.daocloud.io/vllm/vllm-openai:v0.10.1.1 \ --model /model \ --served-model-name Qwen3-14B-AWQ \ --max-model-len 8196 \ --gpu-memory-utilization 0.75客户端请求 测试ok：#!/usr/bin/env python3 import