Whisper 是 OpenAI 开源(MIT 许可)的语音转文字模型,把它"部署成 API"本质是起一个能接收音频文件、返回文字的服务。最省事的做法是用现成的 OpenAI 兼容服务(Speaches 或 whisper-asr-webservice,Docker 一条命令即起 /v1/audio/transcriptions);想要灵活就用 faster-whisper 自己包一层 FastAPI;纯 CPU / 树莓派 / 完全离线选whisper.cpp 自带 server;量小不想运维就直接调 OpenAI 官方 whisper-1 接口。本地部署的好处是数据不出网、无按分钟计费;粗略看月转录超过 300–500 小时才值得自托管,否则官方 API 更省心。
一、先认清:Whisper 是什么、有哪三种本地实现
Whisper 是 OpenAI 开源的自动语音识别(ASR)模型,支持 99+ 种语言转写、并把任意语言翻译为英文,代码与权重以 MIT 许可发布(可商用)。它本身只是一个模型,要"部署成 API"得先选一个运行时。2026 年主流有三条路,底层模型同源、精度一致,差别在推理引擎与依赖:
| | | |
|---|
| | | |
| | 同等精度下约 4 倍速、更省显存;支持 INT8 量化、Silero VAD、批量推理 | NVIDIA GPU / Python 服务、批处理 |
| | 无 Python/PyTorch 依赖,CPU、Apple Silicon(Metal)、AMD ROCm、树莓派都能跑;自带 HTTP server | |
GPU 上用 faster-whisper 需要 CUDA 12 + cuDNN 9;纯 CPU 用 whisper.cpp 或 faster-whisper 的 int8 量化版本最稳。下面四种"部署成 API"的方案,前三种都是自托管,第四种是调官方云。
二、方案1:现成的 OpenAI 兼容 API 服务(最快,推荐)
这是"whisper部署api"最省心的路径:直接用别人打包好的服务,接口与 OpenAI 官方 /v1/audio/transcriptions 完全兼容,你现有的 OpenAI SDK 只改一个 base_url 就能无缝切换。
① Speaches(原 faster-whisper-server),目前最活跃、最快的 OpenAI 兼容方案,支持流式(SSE 部分结果)、按请求选模型、以及同一服务跑 TTS(Kokoro/Piper)。一条命令起 GPU 版:
默认加载 Systran/faster-whisper-large-v3,首次请求自动从 Hugging Face 拉模型。调用:
② whisper-asr-webservice,生产部署里最常见的简单盒子,除了 OpenAI 兼容端点还直接回 SRT/VTT 字幕:
端点:POST /asr(返回 JSON/VTT/SRT/text)、POST /v1/audio/transcriptions(OpenAI 兼容)、POST /detect-language(仅检测语言)。多租户生产建议再套一层 LiteLLM 之类的网关做鉴权与限流。
三、方案2:自己写 FastAPI/Flask 包 faster-whisper(最灵活)
想要自定义参数、接业务库、或加说话人分离(WhisperX)时,直接把 faster-whisper 包成一个接口最直接。先装依赖:
最小可用服务(Flask 示例,生产换 FastAPI + uvicorn 更稳):
要点:segments 是生成器,不迭代不产生结果;device="auto" 会自动探测 CUDA;想要词级时间戳加 word_timestamps=True。
四、方案3:whisper.cpp 自带 server(CPU / 树莓派 / 纯离线)
没有 NVIDIA 显卡、或要塞进边缘设备时,whisper.cpp 是最轻的选择(Docker 镜像仅约 150 MB,Python 镜像约 2 GB)。编译并下载模型:
起内置 HTTP server,局域网内其他程序就能推音频过来:
注意:whisper-cli / whisper-server 只认 16-bit WAV,其他格式先用 ffmpeg 转:ffmpeg -i in.mp3 -ar 16000 -ac 1 -c:a pcm_s16le out.wav。显存不够可用附带的 quantize 工具压成 q5_0,一个 q5_0 的 large-v3 能塞进 4 GB 显卡。
五、方案4:直接调 OpenAI 官方 API(零运维)
如果你的量不大、或音频本就允许出网,最省事的就是直接用 OpenAI 的托管接口(模型名 whisper-1,对应 large-v2 级别):
代价:音频会上传至 OpenAI 服务器、按分钟计费、单文件上限 25 MB(长录音要用 ffmpeg 切片再合并时间戳)。适合原型验证与中小体量;数据合规要求高或月量很大时再考虑自托管。
六、模型怎么选(显存 / 精度对照)
关键提示:用 faster-whisper 的 INT8 量化,large-v3 的显存可压到约 3–5 GB,普通消费级显卡也能跑;large-v3-turbo 支持多语言识别转写,但没有经过语音翻译任务训练,传入 task=translate 不会正常翻译成英文,只会输出原语言文本;需要语音翻译能力请改用 large-v3 /medium。已知语言时显式传 language 可跳过检测、更快更准。
七、成本:本地部署 vs 官方 API(转折点)
公开口径(2026)下,官方 API 用 whisper-1 约为 $0.006 / 分钟(约 $0.36 / 小时)。自托管 GPU 实例租金约 $0.50–0.80 / 小时,在 large-v3-turbo、INT8 量化 + VAD 的理想条件下,单卡大约可并行处理 8 小时音频;实际吞吐受模型、量化、音频噪声影响波动很大,同样 2000 小时/年的业务,API 账单 700 美元以上,自托管约 100–160 美元(且机器还能干别的)。经验结论是:月转录低于 300–500 小时,API 在总拥有成本上更简单更便宜;高于这个量级,自托管在成本与控制力上都胜出。自托管的隐藏成本(模型更新、批量排队、GPU 故障、运维人力)也要算进去——转写只是你产品的附属功能时,API 通常更划算。
八、部署注意事项(非 FAQ)
- 别把端口裸奔到公网:API 服务默认只应绑
127.0.0.1,对外通过反向代理 + Key / JWT 鉴权;生产别直接把 8000/9000 暴露。
- "本地"不等于"自动私密":首次请求会联网拉模型权重;确认离线前先断网测试——应用能启动、模型从本地路径加载、临时文件按策略清理、无意外外联,才算真离线。
- turbo 不翻译:large-v3-turbo 是剪枝加速版,未训练翻译能力,要翻译务必换 large-v3 / medium。
- 30 秒窗口:Whisper 按 30 秒切片处理,长录音是分片拼接的;官方 API 单文件限 25 MB,超长需 ffmpeg 先切片再合并时间戳。
- 静音幻觉:会议录音、长停顿易让模型"编"内容,开启 Silero VAD(
vad_filter=True)可显著降噪与提速。
- 音频格式:多数实现依赖 ffmpeg;whisper.cpp 仅认 16-bit WAV,先转 16 kHz 单声道。
- 临时文件与日志:上传音频、导出文本可能落盘,按留存策略清理,避免敏感录音在服务器上滞留。
- 显存不足就降档:OOM 时切小模型(small/medium)或改 int8_float16、降 beam_size 到 1;CPU 模式设
device=cpu 并去掉 GPU 预留。
以上部署方法与接口约定综合自 OpenAI Whisper 官方仓库、faster-whisper(SYSTRAN)项目、whisper.cpp(ggml-org)项目、Speaches 与 whisper-asr-webservice 官方镜像文档,及 OpenAI 官方音频转录 API 文档。关于各模型的具体显存占用、本地部署实例价格、OpenAI 官方 API 的费率与文件大小上限会随版本与地区调整,具体请以各项目官方仓库与 OpenAI 定价页实时显示为准。