你要是想低成本做故事类短视频,又不想天天剪辑软件里抠细节,这篇的思路值得看——用Remotion做视频渲染,配合本地文生图模型和VoxCPM声音克隆,能搭出一整套低成本的视频生成流水线,全程靠WorkBuddy一句话调度就能跑起来。 先说说这套流程哪来的
Remotion是个用React写代码来生成视频的开源框架,不用学AE,也不用在时间轴上拖素材,靠代码就能控制每一帧的动画和转场,社区里有人管它叫"影片版ComfyUI"。VoxCPM则是一个开源的语音生成项目,支持本地跑,提供可控的声音克隆模式,上传一段参考音频就能克隆音色,再根据文案生成旁白,语速、情绪这些都能调。把这两样东西加上本地的文生图模型(比如通过ComfyUI跑SDXL)串起来,思路是通的——分镜生成图片,图片渲染成视频,配音再接上去,一条低成本视频生产线基本就成型了。
动手搭:先建一个skill
思路想清楚了就直接动手。打开WorkBuddy,选一个工作空间,然后告诉AI:在本项目中创建一个skill文件夹,并在其中创建一个skill。这个skill的目标是根据分镜信息,调用ComfyUI生成每个分镜的图片,再调用Remotion把分镜图片组合成视频。具体流程分四步:第一步读取输入的故事并生成分镜;第二步根据分镜为每个场景生成生图提示词;第三步调用本地ComfyUI,用SDXL模型按提示词生成所有场景图片;第四步通过Remotion把所有图片渲染成视频,图片切换之间要求带渐入渐出动画。这些要求说清楚,WorkBuddy很快就能把这个技能搭好。
拿个故事实测一下
找了个题材试水——"古代如何传递紧急军情"。让AI帮忙生成一个适合这种形式的故事,很快出来了十个场景:斥候发现远方尘烟、看到敌军骑兵集结、飞奔下山传信、点燃第一堆烽火、远方烽火台发现信号、第二座烽火台点燃、烽火链绵延百里、军情传至边关重镇、连夜披甲备战、黎明列阵完毕。每个场景都配了具体的镜头描述,比如烽火台斥候凝视地平线的远景、山道奔跑的动态动作镜头、航拍视角的群山烽火链这些。
故事生成后是一个叫prompts.json的文件,直接告诉AI根据这个json、用刚才建好的story-to-video这个skill帮忙生成视频。很快视频就做出来了,效果比预想中要好不少。
接下来补配音
视频有了,接下来可以补配音,自己口播或者交给AI都行。想让AI处理的话,继续告诉它:更新这个skill,接入VoxCPM,并提供一段参考音频,之后这个skill生成的视频就能自动带上配音了。技能建好以后,还得根据实际效果和自己的需求持续迭代打磨,跑几轮下来才会越来越顺手。
等这套流程迭代得差不多了,你手里拿到的就不再是一句"让AI随机生成视频"的提示词,而是一条可以重复调用、能人工把关、支持断点恢复长任务、也能替换本地模型和Remotion模板的生产线。要是再把自动生成故事这一步也接进去,下次要做视频,只需要说一句"帮我生成一个故事视频",WorkBuddy就能自动生成故事、拆分镜、生成图片、最终输出视频,全程不用你再插手。
随着AI技术往前走,这类工具组合起来能干的事确实越来越多。理论结合实践才是最好的学习方式,感兴趣的话可以按照这个思路自己搭一遍试试。要是本地没装ComfyUI,也不用为难,WorkBuddy里能直接找到现成的文生图skill用,搜一下"文生图",能找到不少选项。