• 主题
高级搜索  >
历史搜索 清空历史
首页> 外文会议>IEEE International Conference on Acoustics, Speech and Signal Processing >End-To-End Spoken Language Understanding Without Matched Language Speech Model Pretraining Data
【24h】

End-To-End Spoken Language Understanding Without Matched Language Speech Model Pretraining Data

机译：没有匹配语言语音模型预训练数据的端到端口语理解

获取原文
页面导航
  • 摘要
  • 著录项
  • 相似文献
  • 相关主题

摘要

In contrast to conventional approaches to spoken language understanding (SLU) that consist of cascading a speech recognizer with a natural language understanding component, end-to-end (E2E) approaches for SLU infer semantics directly from the speech signal without processing it through separate subsystems. Pretraining part of the E2E models for speech recognition before finetuning the entire model for the target SLU task has proven to be an effective method to address the increased data requirements of E2E SLU models. However, transcribed corpora in the target language and domain may not always be available for pretraining an E2E SLU model. This paper proposes two strategies to improve the performance of E2E SLU models in scenarios where transcribed data for pretraining in the target language is unavailable: multilingual pretraining with mismatched languages and data augmentation using SpecAugment[1]. We demonstrate the effectiveness of these two methods for E2E SLU on two datasets, including one recently released publicly available dataset where we surpass the best previously published result despite not using any matched language data for pretraining.
机译：与将语音识别器与自然语言理解组件层叠在一起组成的传统口语理解（SLU）方法相比，SLU的端到端（E2E）方法直接从语音信号中推断出语义，而无需通过单独的子系统对其进行处理。实践证明，在针对目标SLU任务对整个模型进行微调之前，对E2E模型的一部分进行语音识别的预训练是解决E2E SLU模型不断增长的数据需求的有效方法。但是，目标语言和域中转录的语料可能并不总是可用于预先训练E2E SLU模型。本文提出了两种策略来提高E2E SLU模型的性能，在这种情况下无法获得用于目标语言进行预训练的转录数据：使用不匹配语言进行多语言预训练和使用SpecAugment [1]进行数据增强。我们在两个数据集上证明了这两种方法用于E2E SLU的有效性，其中包括一个最近发布的公开可用数据集，尽管未使用任何匹配的语言数据进行预训练，但我们仍超过了先前发布的最佳结果。

著录项

相似文献

  • 外文文献
  • 中文文献
  • 专利
获取原文

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

  • 客服微信

  • 服务号