谷歌推出Gemini决策接口:AI怎样分拣视频素材

AI生成概念图:三格画面分别展示同一场虚构访谈的单人近景、双人同框和无人空镜。来源:投黑马 Touheima.com

前沿科技 / 2026年11月14日 / 全文共1808字

11月11日,谷歌推出Gemini决策接口,并开放配套模型Gemini Decision 1供开发者调用。把一段视频和几道预先写好的问题一起提交,接口可以分别判断画面有没有受访者、镜头属于哪种景别、声音是否适合进入下一轮筛选。结果按字段返回,素材管理系统可以据此生成标签或把片段送给人复核。这些是可以设计的入库检查,准确率要用团队自己的素材验证。

一位独立开发者用同一段视频问了四个是非题,其中两题分别问画面有没有机器人和龙。接口给出的「是」概率约为92%和5%。这次测试公开了输入视频、问题和返回值,证实这类视频调用已经跑通。四项判断都来自同一段视频,样本还不足以估算影视素材的误标或漏标率。

素材入库时,可以问哪些问题

假设一档双机位访谈录完,文件夹里混着主持人近景、双人全景、开拍前的环境空镜和独立录音。同一台相机在不同段落也可能换构图。素材管理员可以先按相机编号、拍摄时间和场记记录归档,文件里缺少的内容标签,再交给模型补一轮。

Gemini决策接口接收一份共享输入。制作团队可以同时提交视频和场记文字,并给每道题单独写判断标准。是非题可以问「画面是否出现受访者」,选择题可以让模型在「单人近景」「双人同框」「无人物空镜」「其他」中选择。分级题则可以根据对白清晰度评分,把偶有背景声和大段无法听清分开。每道题单独判断,系统需要在收到结果后再组合处理。

例如,镜头景别可以直接成为一个搜索标签。画面只有空椅子、音轨却录到了采访时,系统仍应留下原素材,并把它标进音频复核队列。把画面和声音的判断分开,剪辑师就能找到可以保留的声音,也能避免用一个画面标签盖掉声音信息。声音与哪个机位同步,仍需用时间码或对齐波形来确认。

谷歌文档给出的单次上限是对同一份输入问1,000道独立问题。若目标是定位一小时访谈里哪几秒出现空镜,制作团队可以先按时间码或镜头边界切出代理片段,保留原素材编号和起止点,再分别提交判断。之后由素材系统把标签写回对应区间,剪辑师才能点开结果回到原片。对整段视频只问一次有没有空镜,答案的用途主要是筛查。

模型很有把握,剪辑师还要看什么

接口会随答案返回置信度。以是非题为例,「存在清楚对白」的概率描述该条件有多可能成立,置信度取「是」和「否」两个概率中较高的那个。比如模型给「是」8%的概率,置信度就是92%,对应它倾向于回答「否」。实际有多少判断正确,要拿人工标注的素材对照。背景里有人说话、主持人的画外音和受访者能直接剪用的对白,可能落在同一条录音里。问题只写「有没有人说话」,即使判断很准,结果也未必能指导剪辑。

素材里还会冒出预设类别没有覆盖的画面,比如双机位同步时拍到的场记板。谷歌文档建议给选择题留出「其他」,也可以另问素材是否符合分类范围。投黑马会先用一批已经人工标过的项目设定复核阈值,再抽查高置信度标签。只看低置信度队列,可能发现不了一批被模型自信标错的素材。

漏标和误标也应分开记录。把一段空镜误标为双人画面,剪辑师点开就能修正。把一段能用的补录漏掉,剪辑师搜索相应标签时可能一直找不到它。首次试用时可以只把模型结果作为可撤销的候选标签,并保留原场记。团队用这些标签做过几轮实际检索后,再决定哪些能直接写入正式素材库。

一条有效标签到底花多少钱

谷歌公布的付费档价格是每100万个输入词元0.10美元,输出词元不计费。同一个请求里,视频等共享输入计费一次,各道题另计指令和判断标准占用的输入词元。一段短片需要同时检查景别、人物和声音时,可以合在同一次调用。重新切段或换分辨率后再次提交,则按新的请求计费。

官方文档允许为视频设置媒体分辨率。判断画面是单人近景还是双人同框,可以先试较低分辨率。要看清远处的场记板或画面里的小字,代理片段可能需要更高分辨率,或者改由剪辑师回看原片。片段切多长、每段用多少词元,可以通过返回的用量字段核对。谷歌在上下文不超过约1.6万词元的测试中报告了150至250毫秒的端到端延迟。制作团队排期还要计入转码、上传和队列等待,长视频的吞吐需要单测。

同一份素材可以带着很多问题提交,隔夜整理几百条素材则需要逐条安排请求。当前模型不支持谷歌独立的批处理接口,摄制团队一次交来很多文件时,软件要按账户的请求和词元限额排队。试用时可以记录整批素材何时到齐、何时可搜索,把失败重试和需要复核的片段算进去。

对已能从相机元数据或场记表读出的字段,素材系统直接导入就能完成。对安静段落,音量阈值也能先筛一遍。碰到背景音乐很响、现场人声却听不清的片段,音量规则很难判断它能否剪用。这类问题才适合试用模型。未公开素材若要走云端接口,团队还要先核对客户是否允许上传,以及当前账户的数据处理条款。

对做素材管理和视频质检的创业团队,投黑马会用每条被剪辑师采纳的有效标签算成本。拿同一批访谈对照人工流程和模型辅助流程,分别记录入库时间、复核工时、有效标签数和被遗漏的可用镜头。若镜头能更快被找到,剪辑师也能直接跳回原片,团队才有理由为这套入库工具付费。

── 投黑马研究团队