首页> 中国专利> 一种基于汉语音位特征的文本查重方法

一种基于汉语音位特征的文本查重方法

摘要

本发明公开了一种基于汉语音位特征的文本查重方法,属于数据处理领域。查重方法包括如下步骤:S1:选取包括声母、韵母和声调在内的音位特征,使其覆盖汉语拼音标准下包括整体认读音节的所有情况;S2:遍历待查重的两个文档中的所有字,分别得到每个文档中各汉字的声母、韵母和声调在该文档中的频率,并分别将其作为声母、韵母和声调三个空间的向量;再求得两个文档在声母、韵母和声调三个空间的余弦距离;S3:基于得到的三个余弦距离,求得两个文档的相似度,并根据相似度阈值判断两个文档是否重复。本发明由于音位频率的计算只需一次内存访问的开销,因此效率高于基于关键词向量的方法。

著录项

  • 公开/公告号CN106649749B

    专利类型发明专利

  • 公开/公告日2019-07-16

    原文格式PDF

  • 申请/专利权人 浙江传媒学院;

    申请/专利号CN201611219144.1

  • 发明设计人 金哲凡;俞定国;

    申请日2016-12-26

  • 分类号

  • 代理机构杭州求是专利事务所有限公司;

  • 代理人张法高

  • 地址 310018 浙江省杭州市下沙学源街998号

  • 入库时间 2022-08-23 10:36:58

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2019-07-16

    授权

    授权

  • 2017-06-06

    实质审查的生效 IPC(主分类):G06F17/30 申请日:20161226

    实质审查的生效

  • 2017-06-06

    实质审查的生效 IPC(主分类):G06F 17/30 申请日:20161226

    实质审查的生效

  • 2017-05-10

    公开

    公开

  • 2017-05-10

    公开

    公开

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号