多语言说话人识别基准 | VoicePing
Speaker Identification Speaker Recognition Open-Set Recognition Benchmark Multilingual AI Voice AI Meeting Transcription

大规模说话人识别会在哪里失效?五模型多语言开放集基准

Arun Kumar - VoicePing 2 分钟阅读
大规模说话人识别会在哪里失效?五模型多语言开放集基准

一项以身份分离的留出评估为主要结果、并以干净条件和900人图库作为辅助检验的五模型多语言开放集说话人识别基准。

说话人识别基准往往强调很小的等错误率差异和模型排名。本研究把重点放在开放集系统真正需要作出的判断上:当探测语音的说话人可能未被注册时,排名第一的匹配是否足够强且足够明确,能够被系统接受。

核心结论

当有4秒语音和4个注册样本时,五个模型的实际性能差异很小。在2秒条件下,ReDimNet-B6和w2v-BERT-SV构成领先组。ReDimNet的检查点规模较小,并且在主要留出评估以及干净条件和大图库辅助检验中都表现稳定,因此具有最强的综合研究依据。但这些证据仍不足以决定替换生产模型。

最重要的运行结论是,拒绝校准必须针对每个模型单独进行。统一的余弦阈值比较的不只是说话人区分能力,还会比较尺度不同的嵌入空间。每个检查点都需要使用有代表性的开发身份来选择相似度阈值和第一名/第二名分数差的margin。

下文将依次回答四个问题:语音很短时,哪些模型仍然可靠?有4秒语音时,模型差异是否仍然存在?应该如何拒绝未知说话人?综合准确率、计算量和许可证信息后,证据是否足以支持生产决策?

主要留出评估

哪一项证据应该占据最大权重?身份分离的开放集比较是主要证据,因为它在比较全部五个模型的同时,将校准说话人与最终测试说话人分开。每种语言保留20个身份在图库中,并完全移除10个身份。移除身份中的5个用于选择相似度阈值和前两名分数的margin,另外5个则在设置不变的情况下进行测试。由此得到100人图库、25个开发未知身份,以及与开发集身份分离的25个测试未知身份。所有模型使用相同的哈希探测语音群组。

开放集识别包含两个相互关联的判断:哪个注册说话人的相似度最高,以及该匹配是否足够可信、可以接受。本文报告等错误率(EER)、已知识别并正确接受率(DIR,即已知探测语音被正确识别且接受的比例),以及未知说话人的误接受率(FAR)。

阈值和margin仅使用开发身份进行选择,要求开发未知身份的FAR不高于1%,然后原样应用于测试群组。置信区间使用2,000次说话人聚类bootstrap,另用50个确定性的身份划分来测量结果对所选说话人的敏感度。这样的分离使留出评估成为本研究最可信的开放集证据。

使用4个注册嵌入的主要划分结果如下:

探测时长模型EER(95% CI)DIR(95% CI)观测测试 FAR
2sReDimNet-B61.40% (0.54–1.98)94.80% (91.60–97.60)1.60%
2sw2v-BERT-SV1.05% (0.51–1.53)92.20% (87.80–96.00)1.20%
2sWeSpeaker R221-LM1.80% (0.75–2.81)89.60% (85.00–93.60)0.80%
2sECAPA-TDNN2.20% (1.12–3.31)84.80% (79.80–89.20)0.80%
2sTitaNet-L2.22% (1.22–3.04)83.80% (78.20–88.80)2.00%
4sTitaNet-L0.60% (0.15–1.04)98.80% (97.60–99.80)2.40%
4sReDimNet-B60.20% (0.01–0.60)98.60% (97.20–99.60)0.00%
4sw2v-BERT-SV0.62% (0.11–1.39)98.40% (96.80–99.80)0.00%
4sWeSpeaker R221-LM0.60% (0.11–1.54)98.20% (96.20–99.60)1.20%
4sECAPA-TDNN0.80% (0.20–1.42)97.80% (96.00–99.20)1.20%

带置信区间的留出未知说话人风险与正确识别覆盖

该评估确立了研究中最强的总体证据。下一节按运行条件拆解这些证据,分别说明短语音、4秒语音和未知说话人拒绝下的模型选择。

按运行条件分析结果

上面的主要结果表回答三个运行问题。每个小节先给出稳定结论,再说明支撑它的点估计和不确定性。

只有2秒时,哪些模型仍然可靠?

只有2秒时,ReDimNet和w2v-BERT构成领先组。在主要划分上,ReDimNet的DIR最高。相对于TitaNet的配对说话人bootstrap比较估计,ReDimNet的DIR提高11.0个百分点(95% CI 7.4–15.2),w2v-BERT提高8.4个百分点(4.6–12.4),WeSpeaker提高5.8个百分点(2.2–9.6)。三者在Holm校正后仍显著;ECAPA的1个百分点提升不显著。

稳定性分析并不与该点估计矛盾,而是限定了结论范围。在50个确定性划分中,w2v-BERT的DIR中位数为92.8%,ReDimNet为92.0%,两者的第5至第95百分位范围大幅重叠。因此,证据支持的是短语音下的领先二人组,而不是可靠的第一至第五名严格排序。

有4秒时,模型选择仍然重要吗?

在当前证据下,实际意义已经不大。在4秒条件下,各候选模型相对于TitaNet的运行差异在校正后均不显著。区间相互重叠,五个模型都接近饱和。TitaNet观测到的98.8% DIR不能证明其更优,正如ReDimNet观测到的0% FAR也不能证明未知说话人风险为零。在250个测试未知探测语音中零误接受,对应的95%精确二项上界仍为1.46%。能够获得4秒语音时,不确定性和运行风险比模型排名更重要。

应该如何拒绝未知说话人?

应该使用针对模型的校准,而不是统一的余弦阈值。相似度阈值控制匹配的绝对强度,第一名/第二名margin则拒绝含糊的匹配。两者都必须在不使用最终测试身份的情况下选择。留出结果表明该规则能够迁移到未见过的未知说话人,但测试群组较小,仍存在较大不确定性。

以上是主要的留出结论。在更广泛地应用这些结论之前,下一节检验它们在更简单的干净基准和大得多的图库中是否仍然一致。

辅助检验

主要发现是否依赖单一协议?两项辅助检验分别回答不同部分。干净基准检验全部五个模型的基础能力和时长敏感度;900人诊断仅检验TitaNet与ReDimNet的图库扩展表现。两者都不能取代主要留出评估。

干净多语言基准

五个模型在干净语音上是否都具备较强基础能力?是的。干净基准每种语言使用30个已知身份和10个未知身份。主要条件是一个均衡的150人图库,使用4秒探测语音和4个注册嵌入。这是模型基础能力的辅助检验,不是未知说话人处理能力或会议可用性的主要结果。

干净多语言评估中的全部模型概览

在4秒条件下,没有模型的EER超过0.74%,所有模型的闭集top-1准确率都高于99.5%。ReDimNet的EER最低,但整体差距仅为0.33个百分点。

模型EER闭集 top-1固定阈值0.5下接受未知说话人的比例
ReDimNet-B60.40%99.67%26.8%
TitaNet-L0.53%99.67%36.4%
WeSpeaker R221-LM0.53%99.60%22.6%
ECAPA-TDNN0.67%99.60%21.4%
w2v-BERT-SV0.73%99.53%61.0%

固定阈值0.5下未知接受率相差39.6个百分点,说明同一阈值不能直接跨模型使用。与4秒条件下很小的EER差异相比,语音时长和注册样本数的实际影响更大:增加注册样本通常有帮助,2秒探测会暴露更明显的差异,而基准在4秒时开始趋于饱和。

EER对探测时长和注册嵌入数量的敏感度

这一趋势与公开结果方向一致,但并非复现实验。TitaNet论文 在清理后的VoxCeleb1验证试验上报告0.68% EER,ReDimNet论文 在VoxCeleb1-O Cleaned上对ReDimNet-B6 SF2-LM报告0.40%。这些试验在音频、时长、身份、分数总体和任务方面都不同于我们的多语言识别图库。

干净检验确认基础能力,但无法说明图库扩展时的稳定性。下一项诊断针对它所覆盖的两个模型回答这个更窄的问题。

900人图库诊断

图库扩大后,ReDimNet是否仍有竞争力?从方向性结果看,是的。该辅助诊断将同一干净源语料扩展到900个注册说话人和100个留出身份,但只覆盖TitaNet和ReDimNet。在4秒、4个注册嵌入条件下,ReDimNet与TitaNet的EER几乎相同(0.82%和0.84%),闭集top-1准确率分别为98.92%和98.81%。ReDimNet在该诊断下保持了更有利的分数分布。

这一结果只提供方向性辅助证据,并非主要证据:FAR校准和评估使用了同一未知身份群组。它表明ReDimNet在图库扩大时仍可能保持竞争力,但不是留出结果,也不是部署保证。

两项辅助检验在不改变主要结论的前提下增强了一致性证据。但准确率一致并不等于可以部署。下一节将考虑计算量、许可证和仍然缺失的测量。

部署评估

这些发现足以支持生产选择吗?还不够。准确率只是部署选择的一部分。本次运行记录了NVIDIA GeForce RTX 5090上的嵌入实时系数(RTF)。将RTF乘以4秒输入时长,得到下表中的近似嵌入时间;其中不包括模型加载、音频传输、图库评分、网络、并发或应用逻辑。

模型约计参数量4秒音频嵌入时间许可证状态
TitaNet-L23–25M5.1 ms模型卡 :CC BY 4.0
ECAPA-TDNN20M5.2 msSpeechBrain检查点 :Apache 2.0
WeSpeaker R221-LM23M6.3 msWeSpeaker :Apache 2.0
w2v-BERT-SV580M + 6.2M adapter15.7 ms代码仓库 :无机器可读许可证,需单独审查
ReDimNet-B615M17.9 msReDimNet :MIT

本次发布未测量峰值VRAM、检查点大小、冷启动时间、CPU生产性能、持续吞吐量和硬件容量。因此,部署决策需要在目标运行环境和并发配置下进行单独基准测试;该表不能确定生产部署的胜者。

这些缺失的测量并非附带说明,而是界定证据边界的关键。下一节明确说明这一边界。

局限性

本研究尚未证明什么?它没有证明模型在干净、且大多为单会话的音频之外仍然稳健。虽然注册窗口与探测窗口在时间上不重叠,但4,469个身份中有4,398个(98.4%)只有一条源录音。因此,结果可能保留麦克风、通道、房间、背景和会话特征,不能证明跨会话或真实会议环境中的稳健性。

留出未知说话人测试每个条件只有25个身份和250个探测语音。研究不涵盖重叠语音、说话人分离错误、嘈杂房间、生产并发或端到端延迟。结论支持模型与校准研究,但不能作为立即替换生产模型的依据。

这些局限规定了结果的使用范围。附录记录每项结果的生成方式,以及三个评估协议为何具有不同的证据权重。

方法附录

结果是如何生成并保持可比性的?本附录记录检查点来源、确定性采样、注册构建、校准搜索、不确定性估计以及每个协议的作用。

模型与检查点来源

五个公开检查点系列均使用同一余弦评分框架进行评估:

模型评估的检查点/来源嵌入维度研究角色
TitaNet-Lnvidia/speakerverification_en_titanet_large192公开架构基线
ReDimNet-B6IDRnD/ReDimNet, B6 ft-LM VoxCeleb2192主要紧凑候选模型
ECAPA-TDNNspeechbrain/spkrec-ecapa-voxceleb192成熟基线
WeSpeaker R221-LMWeSpeaker English ResNet221-LM256另一部署候选模型
w2v-BERT-SVZXHY-82/w2v-BERT-2.0_SV, Adapter-MFA256大型研究级参考模型

本研究评估的TitaNet是公开原始检查点;这些结果不应归因于任何单独微调的TitaNet检查点。

数据、采样与注册

评估清单包含来自4,469个标注身份的5,089条录音:英语1,665/1,489条录音/身份,日语1,704/1,476,韩语438/438,越南语425/209,中文857/857。这些是经过筛选的单人演讲、长篇访谈或频道录音,包括TED和特定语言集合;它们是评估数据,不代表模型训练语料。重叠审计未在各评估检查点公开记录的预训练语料中发现本研究的公开评估录音。

对于每种时长,评估框架以确定性方式采样固定的2秒、4秒或8秒窗口。每个已知身份提供4个注册窗口和10个探测窗口;每个未知身份提供10个探测窗口。时间区间互不重叠。音频以float32读取,混合为单声道,并在需要时重采样为16 kHz。框架不增加VAD、降噪、响度归一化、数据增强或说话人分离。

每个裁剪片段的嵌入先进行L2归一化。取最前面的1个、2个或4个注册向量求平均,再次归一化得到质心。每个归一化探测向量通过余弦相似度与所有质心评分。稳定哈希和随机种子1337确保所有模型使用相同身份和裁剪计划。

规则选择与不确定性

相似度阈值候选来自开发未知身份最高余弦分数的经验分位数,最多使用101个等间隔分位水平,并加入一个略高于最大分数的值。margin候选包括0,以及开发已知和未知身份第一名减第二名分数差的最多51个经验分位水平。

框架只保留开发未知身份FAR不高于1%的规则,并选择开发DIR最高的规则。若相同,则依次优先选择FAR更低、相似度阈值更低、margin更低的规则。所选规则原样应用于身份分离的测试说话人。不确定性使用2,000次说话人聚类bootstrap,并用50个确定性的身份划分检验稳定性。

证据定位

150人干净基准用于确认模型基础能力以及对时长和注册数量的敏感度。900人诊断检验TitaNet和ReDimNet在图库扩展时的表现,但校准和评估复用了同一未知身份群组,因此运行指标只具有方向性。身份分离的五模型评估将开发未知身份和测试未知身份分开,因此是本文报告的主要证据。这些协议回答不同问题,不能相互替代。

分享这篇文章

相关主题

继续阅读: Meeting transcription

Guides and proof for multilingual meeting transcription, AI minutes, speaker records, and meeting intelligence.

免费试用 VoicePing

借助 AI 翻译跨越语言障碍。立即开始使用免费计划。

免费开始