首页> 中国专利> 兴趣区域问题识别方法、兴趣区域巡检方法及装置

兴趣区域问题识别方法、兴趣区域巡检方法及装置

摘要

本申请提供了一种兴趣区域问题识别方法、兴趣区域巡检方法及装置,兴趣区域问题识别方法包括:获取作业区域中兴趣区域的第一图像;将所述第一图像输入问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第一问题信息,所述第一问题信息包括:所述兴趣区域的问题类型;输出所述第一问题信息。本申请可以避免出现操作失误的问题,还可以极大提升识别的作业效率和准确性。

著录项

  • 公开/公告号CN112733845A

    专利类型发明专利

  • 公开/公告日2021-04-30

    原文格式PDF

  • 申请/专利权人 广州极飞科技股份有限公司;

    申请/专利号CN202011624229.4

  • 发明设计人 张哲维;

    申请日2020-12-31

  • 分类号G06K9/32(20060101);G06K9/62(20060101);

  • 代理机构11463 北京超凡宏宇专利代理事务所(特殊普通合伙);

  • 代理人李莎

  • 地址 510000 广东省广州市天河区高普路115号C座

  • 入库时间 2023-06-19 10:48:02

说明书

技术领域

本申请涉及无人机技术领域,具体而言,涉及一种兴趣区域问题识别方法、兴趣区域巡检方法及装置。

背景技术

随着无人机技术的不断发展,行业级应用无人机的使用越来越广泛。其中,农业无人机是行业级应用无人机中占据重要位置的一类无人机。农业无人机可以用于农田的植保作业、农田巡检等,能够在农业领域的作业中起到提升作业效率、增加作业收益等效果。其中,用于农田巡检的无人机可以称为巡检无人机。

现有技术中,在使用巡检无人机进行农田问题巡查时,由工作人员手动遥控巡检无人机对农田进行巡检,巡检过程中巡检无人机采集农田的图像。巡检结束后,工作人员对巡检无人机采集到的图像进行人工甄别,以判别出农田是否出现问题。

但是,现有技术的方法需要人工参与作业,可能导致操作失误、作业效率低下等问题。

发明内容

本申请的目的在于,针对上述现有技术中的不足,提供一种兴趣区域问题识别方法、兴趣区域巡检方法及装置,以至少解决现有技术中农田巡检需要人工参与作业所导致的操作失误、作业效率低下等问题。

为实现上述目的,本申请实施例采用的技术方案如下:

第一方面,本申请实施例提供一种兴趣区域问题识别方法,包括:

获取作业区域中兴趣区域的第一图像;

将所述第一图像输入问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第一问题信息,所述第一问题信息包括:所述兴趣区域的问题类型;

输出所述第一问题信息。

作为一种可选的实现方式,所述问题识别模型包括:多个子问题识别模型,每个子问题识别模型用于识别一种问题类型;

所述将所述第一图像输入问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第一问题信息,包括:

将所述第一图像分别输入各子问题识别模型,得到各子问题识别模型分别输出的问题类型的概率信息;

根据各种问题类型的概率信息确定所述兴趣区域是否存在设定问题、以及存在设定问题的兴趣区域的问题类型。

作为一种可选的实现方式,所述第一问题信息还包括:所述兴趣区域中存在的问题在所述第一图像中的第一目标位置。

作为一种可选的实现方式,所述输出所述第一问题信息,包括:

显示所述第一图像;

当所述兴趣区域存在设定问题时,在所述第一图像的所述第一目标位置上叠加显示所述兴趣区域对应的兴趣点的相应的问题类型。

作为一种可选的实现方式,所述输出所述第一问题信息之后,还包括:

对于存在设定问题的兴趣区域,获取所述兴趣区域的第二图像,所述第二图像的采集时间晚于所述第一图像的采集时间;

将所述第二图像输入所述问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第二问题信息,所述第二问题信息包括:存在设定问题的兴趣区域的问题类型,兴趣区域中存在的问题在所述第二图像中的第二目标位置;

根据所述第一问题信息和所述第二问题信息,输出提示信息;所述提示信息用于指示:所述第一目标位置处的问题是否解决。

作为一种可选的实现方式,所述根据所述第一问题信息和所述第二问题信息,输出提示信息,包括:

确定所述第一目标位置和所述第二目标位置是否对应同一地理区域;

当所述第一目标位置与所述第二目标位置对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题未解决;

当所述第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题已解决。

作为一种可选的实现方式,所述提示信息还用于指示:所述兴趣区域中除第一目标位置以外的其他区域是否存在设定问题;

当所述第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题已解决,包括:

当所述第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息还用于指示:所述其他区域存在设定问题。

作为一种可选的实现方式,所述获取作业区域中兴趣区域的第一图像,包括:

向无人机发送兴趣区域对应的兴趣点的位置信息;

获取无人机根据所述位置信息在所述兴趣点拍摄得到的所述兴趣区域的第一图像;

其中,所述兴趣点的位置信息通过以下至少一种方式获得:

基于用户在所述作业区域对应的地图中选取的兴趣点获得;

通过预先训练好的兴趣点识别模型对所述作业区域对应的地图进行识别,以得到兴趣点;

通过预先训练好的兴趣点识别模型对所述作业区域对应的地图进行识别,以得到多个兴趣点,并获取用户从所述多个兴趣点选取出来的兴趣点。

作为一种可选的实现方式,所述作业区域对应有至少一个兴趣点分组,每个兴趣点分组对应有至少一个兴趣点,且每个兴趣点分组对应一种问题类型;

所述向无人机发送兴趣区域对应的兴趣点的位置信息,包括:

获取所需巡检的目标兴趣点分组;

根据所述目标兴趣点分组确定所需巡检的目标兴趣点;

向无人机发送所述目标兴趣点的位置信息,或向无人机发送所述目标兴趣点的位置信息及基于所述目标兴趣点生成的航线;

和/或,得到存在设定问题的兴趣区域的第一问题信息之后,所述方法还包括:

根据第一问题信息及兴趣区域对应的兴趣点,将兴趣点关联于对应的兴趣点分组。

作为一种可选的实现方式,所述获取作业区域中兴趣区域的第一图像之前,还包括:

获取作业区域的当前图像;

利用预先训练好的问题识别模型对所述当前图像进行处理,确定所述作业区域中存在设定问题的兴趣区域;

基于所述兴趣区域确定相机拍摄范围覆盖所述兴趣区域的拍摄点,以获得所述兴趣区域对应的兴趣点的原始信息,所述原始信息包括:兴趣点的位置信息。

作为一种可选的实现方式,所述原始信息还包括:无人机在兴趣点处摄取图像时的航向角、飞行高度、相机的俯仰角。

第二方面,本申请实施例提供一种兴趣区域巡检方法,包括:

基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检;所述原始信息包括:兴趣点的位置信息;

其中,所述基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检,包括:

基于作业区域的当前图像确定得到所述作业区域中存在设定问题的兴趣区域;基于所述兴趣区域确定相机拍摄范围覆盖所述兴趣区域的拍摄点,以获得所述兴趣区域对应的兴趣点的原始信息;控制无人机根据所述兴趣点的位置信息对所述兴趣区域进行巡检;

或者,所述作业区域对应有至少一个兴趣点分组,每个兴趣点分组对应有至少一个兴趣点,且每个兴趣点分组对应一种问题类型;所述基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检,包括:

获取所需巡检的兴趣点分组;根据所述兴趣点分组确定所需巡检的兴趣点;控制无人机根据所述兴趣点的位置信息对所述兴趣区域进行巡检。

作为一种可选的实现方式,所述控制无人机根据所述兴趣点的位置信息对所述兴趣区域进行巡检,包括:

当所需巡检的兴趣区域包括多个兴趣区域时,基于起始航点、各兴趣点和返航点生成巡检航线;

控制无人机依据所述巡检航线进行巡检,并沿巡检航线运行至任一兴趣点时,控制无人机以当前兴趣点对应的航向角和飞行高度飞行,并控制无人机所携带的相机以当前兴趣点对应的俯仰角对兴趣区域进行拍摄。

第三方面,本申请实施例提供一种兴趣区域问题识别装置,包括:

获取模块,用于获取作业区域中兴趣区域的第一图像;

处理模块,用于将所述第一图像输入问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第一问题信息,所述第一问题信息包括:所述兴趣区域的问题类型;

输出模块,用于输出所述第一问题信息。

作为一种可选的实现方式,所述问题识别模型包括:多个子问题识别模型,每个子问题识别模型用于识别一种问题类型;

处理模块具体用于:

将所述第一图像分别输入各子问题识别模型,得到各子问题识别模型分别输出的问题类型的概率信息;根据各种问题类型的概率信息确定所述兴趣区域是否存在设定问题、以及存在设定问题的兴趣区域的问题类型。

作为一种可选的实现方式,所述第一问题信息还包括:所述兴趣区域中存在的问题在所述第一图像中的第一目标位置。

作为一种可选的实现方式,输出模块具体用于:

显示所述第一图像;当所述兴趣区域存在设定问题时,在所述第一图像的所述第一目标位置上叠加显示所述兴趣区域对应的兴趣点的相应的问题类型。

作为一种可选的实现方式,处理模块还用于:

对于存在设定问题的兴趣区域,获取所述兴趣区域的第二图像,所述第二图像的采集时间晚于所述第一图像的采集时间;将所述第二图像输入所述问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第二问题信息,所述第二问题信息包括:存在设定问题的兴趣区域的问题类型,兴趣区域中存在的问题在所述第二图像中的第二目标位置;根据所述第一问题信息和所述第二问题信息,输出提示信息;所述提示信息用于指示:所述第一目标位置处的问题是否解决。

作为一种可选的实现方式,处理模块具体用于:

确定所述第一目标位置和所述第二目标位置是否对应同一地理区域。

当所述第一目标位置与所述第二目标位置对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题未解决。

当所述第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题已解决。

作为一种可选的实现方式,所述提示信息还用于指示:所述兴趣区域中除第一目标位置以外的其他区域是否存在设定问题。

处理模块具体用于:

当所述第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息还用于指示:所述其他区域存在设定问题。

作为一种可选的实现方式,获取模块具体用于:

向无人机发送兴趣区域对应的兴趣点的位置信息。

获取无人机根据所述位置信息在所述兴趣点拍摄得到的所述兴趣区域的第一图像。

其中,所述兴趣点的位置信息通过以下至少一种方式获得:

基于用户在所述作业区域对应的地图中选取的兴趣点获得;

通过预先训练好的兴趣点识别模型对所述作业区域对应的地图进行识别,以得到兴趣点;

通过预先训练好的兴趣点识别模型对所述作业区域对应的地图进行识别,以得到多个兴趣点,并获取用户从所述多个兴趣点选取出来的兴趣点。

作为一种可选的实现方式,所述作业区域对应有至少一个兴趣点分组,每个兴趣点分组对应有至少一个兴趣点,且每个兴趣点分组对应一种问题类型。

作为一种可选的实现方式,处理模块具体用于:

获取所需巡检的目标兴趣点分组。

根据所述目标兴趣点分组确定所需巡检的目标兴趣点。

向无人机发送所述目标兴趣点的位置信息,或向无人机发送所述目标兴趣点的位置信息及基于所述目标兴趣点生成的航线。

和/或,根据第一问题信息及兴趣区域对应的兴趣点,将兴趣点关联于对应的兴趣点分组。

作为一种可选的实现方式,处理模块还用于:

获取作业区域的当前图像;

利用预先训练好的问题识别模型对所述当前图像进行处理,确定所述作业区域中存在设定问题的兴趣区域;

基于所述兴趣区域确定相机拍摄范围覆盖所述兴趣区域的拍摄点,以获得所述兴趣区域对应的兴趣点的原始信息,所述原始信息包括:兴趣点的位置信息。

作为一种可选的实现方式,所述原始信息还包括:无人机在兴趣点处摄取图像时的航向角、飞行高度、相机的俯仰角。

第四方面,本申请实施例提供一种兴趣区域巡检装置,包括:

获取模块,用于获取作业区域中兴趣区域的原始信息。

处理模块,用于基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检;所述原始信息包括:兴趣点的位置信息。

其中,所述基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检,包括:

基于作业区域的当前图像确定得到所述作业区域中存在设定问题的兴趣区域;基于所述兴趣区域确定相机拍摄范围覆盖所述兴趣区域的拍摄点,以获得所述兴趣区域对应的兴趣点的原始信息;控制无人机根据所述兴趣点的位置信息对所述兴趣区域进行巡检;

或者,所述作业区域对应有至少一个兴趣点分组,每个兴趣点分组对应有至少一个兴趣点,且每个兴趣点分组对应一种问题类型;所述基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检,包括:

获取所需巡检的兴趣点分组;根据所述兴趣点分组确定所需巡检的兴趣点;控制无人机根据所述兴趣点的位置信息对所述兴趣区域进行巡检。

作为一种可选的实现方式,处理模块具体用于:

当所需巡检的兴趣区域包括多个兴趣区域时,基于起始航点、各兴趣点和返航点生成巡检航线;

控制无人机依据所述巡检航线进行巡检,并沿巡检航线运行至任一兴趣点时,控制无人机以当前兴趣点对应的航向角和飞行高度飞行,并控制无人机所携带的相机以当前兴趣点对应的俯仰角对兴趣区域进行拍摄。

第五方面,本申请实施例提供一种电子设备,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行如上述第一方面所述的兴趣区域问题识别方法的步骤或上述第二方面所述的兴趣区域巡检方法的步骤。

第六方面,本申请实施例提供一种智慧农业管理系统,包括上述第五方面所述的电子设备、无人机的控制终端以及无人机,或者,包括上述第三方面所述的兴趣区域问题识别装置和/或上述第四方面所述的兴趣区域巡检装置。

第七方面,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如上述第一方面所述的兴趣区域问题识别方法的步骤或上述第二方面所述的兴趣区域巡检方法的步骤。

本申请的有益效果是:

在获取到兴趣区域的图像之后,将兴趣区域的图像输入预先训练获取的问题识别模型中,即可以得到兴趣区域是否存在设定问题以及存在设定问题的兴趣区域的问题类型,可以将兴趣区域的图像以及问题识别信息输出以供用户查看。相比于现有的人工进行问题识别的方式,本实施例使用预先训练的模型自动识别兴趣区域的问题,因此,即使在图像数量较多时,也可以快速完成问题识别,因此,可以极大提升识别的作业效率。另外,问题识别模型预先使用大量的训练样本训练得到,因此,模型的鲁棒性高,因此,能够保证由模型所识别的问题类型的准确性。

附图说明

为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。

图1为本申请实施例提供的一种智慧农业管理系统的架构示意图;

图2为本申请实施例提供的一种兴趣区域问题识别方法的一流程示意图;

图3为本申请实施例提供的一种兴趣区域问题识别方法的另一流程示意图;

图4为本申请实施例提供的一种兴趣区域问题识别方法的又一流程示意图;

图5为在第一图像上叠加显示兴趣区域的问题类型的一种示意性界面图;

图6为本申请实施例提供的一种兴趣区域问题识别方法的再一流程示意图;

图7为本申请实施例提供的一种兴趣区域问题识别方法的获取第一图像的流程示意图;

图8为本申请实施例提供的一种兴趣区域巡检方法的流程示意图;

图9为本申请实施例提供的一种兴趣区域问题识别装置的模块结构图;

图10为本申请实施例提供的一种兴趣区域巡检装置的模块结构图;

图11为本申请实施例提供的一种电子设备110的结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,应当理解,本申请中附图仅起到说明和描述的目的,并不用于限定本申请的保护范围。另外,应当理解,示意性的附图并未按实物比例绘制。本申请中使用的流程图示出了根据本申请的一些实施例实现的操作。应该理解,流程图的操作可以不按顺序实现,没有逻辑的上下文关系的步骤可以反转顺序或者同时实施。此外,本领域技术人员在本申请内容的指引下,可以向流程图添加一个或多个其他操作,也可以从流程图中移除一个或多个操作。

另外,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。

需要说明的是,本申请实施例中将会用到术语“包括”,用于指出其后所声明的特征的存在,但并不排除增加其它的特征。

现有的使用巡检无人机进行农田巡检的场景中,巡检过程以及后期的问题识别,均需要依靠人工的方式进行。由于巡检过程是人工控制的,因此,可能导致操作失误。例如,需要巡检的某片农田未被巡检到,又例如,不需要巡检的某片农田被巡检。另外,后期的问题识别需要人工完成,导致作业效率低下,尤其当无人机巡检的范围较大时,无人机采集到的图像数量庞大,使得识别的工作量巨大、作业效率低下。

考虑到现有技术需要人工参与作业所导致的操作失误以及作业效率低下的问题,本申请实施例提供一种发明构思:自动控制无人机对需要巡检的兴趣区域进行巡检,并通过图像处理自动识别出兴趣区域所存在的问题,从而可以避免操作失误并且极大提升作业效率,同时,还能保证兴趣区域问题识别的准确性。

图1为本申请实施例提供的一种智慧农业管理系统的架构示意图,如图1所示,该智慧农业管理系统100包括:网络110、电子设备120、无人机的控制终端130以及无人机140。

在一些实施例中,电子设备120可以包括处理器。处理器可以处理与无人机有关的信息和/或数据,以执行本申请中描述的一个或多个功能。在一些实施例中,处理器可以包括一个或多个处理核(例如,单核处理器(S)或多核处理器(S))。仅作为举例,处理器可以包括中央处理单元(Central Processing Unit,CPU)、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、专用指令集处理器(Application Specific Instruction-set Processor,ASIP)、图形处理单元(Graphics Processing Unit,GPU)、物理处理单元(Physics Processing Unit,PPU)、数字信号处理器(Digital Signal Processor,DSP)、现场可编程门阵列(Field Programmable Gate Array,FPGA)、可编程逻辑器件(Programmable Logic Device,PLD)、控制器、微控制器单元、简化指令集计算机(ReducedInstruction Set Computing,RISC)、或微处理器等,或其任意组合。

在一些实施例中,电子设备120可以指云平台,或者,也可以指无人机的控制终端。应理解,当电子设备120指无人机的控制终端时,电子设备120与上述的无人机的控制终端130表示同一设备。

在一些实施例中,无人机的控制终端130可以经由网络110与电子设备以及无人机140进行通信。网络110可以用于信息和/或数据的交换。在一些实施例中,网络110可以是任何类型的有线或者无线网络,或者是他们的结合。仅作为示例,网络110可以包括有线网络、无线网络、光纤网络、远程通信网络、内联网、因特网、局域网(Local Area Network,LAN)、广域网(Wide Area Network,WAN)、无线局域网(Wireless Local Area Networks,WLAN)、城域网(Metropolitan Area Network,MAN)、广域网(Wide Area Network,WAN)、公共电话交换网(Public Switched Telephone Network,PSTN)、蓝牙网络、ZigBee网络、或近场通信(Near Field Communication,NFC)网络等,或其任意组合。在一些实施例中,网络110可以包括一个或多个网络接入点。例如,网络110可以包括有线或无线网络接入点,例如基站和/或网络交换节点。

在一些实施例中,无人机的控制终端130可以是位于地面端的控制设备,用于对无人机140进行远程操纵。在一些实施例中,无人机的控制终端可以是遥控器、智能手机、台式电脑、膝上型电脑、穿戴式设备(手表、手环)中的一种或多种。图1中以无人机的控制终端130为摇控器1301和终端设备1302为例来进行示意性说明。该终端设备1302例如是智能手机、可穿戴设备、平板电脑等,但本申请实施例并限于此。

在一些实施例中,无人机140可以与无人机的控制终端130以及电子设备120进行无线通信。无人机140可以包括拍摄部件、动力系统、飞行控制系统、机架、承载在机架上的多个云台以及电池等。在一些实施例中,无人机140可以是旋翼无人机,也可以是其他类型的无人机,本申请实施例对于无人机140的形态不做限定。

下面结合上述图1示出的智慧农业管理系统100中描述的内容,对本申请实施例提供的兴趣区域问题识别方法以及兴趣区域巡检方法进行详细说明。

为便于描述,本申请以下实施例将无人机的控制终端简称为控制终端。

图2为本申请实施例提供的一种兴趣区域问题识别方法的一流程示意图,该方法的执行主体例如可以为上述图1所示的电子设备120,但本申请并不以此为限。为便于描述,以下均以电子设备为例进行说明。如图2所示,该方法包括:

S201、获取作业区域中兴趣区域的第一图像。

可选的,上述兴趣区域可以为一个兴趣区域,也可以为多个兴趣区域。当为多个兴趣区域时,可以分别针对每个兴趣区域执行下述的步骤。

上述兴趣区域可以是预先确定的兴趣区域,例如,可以由用户预先设置兴趣区域,或者由电子设备自动确定出兴趣区域。确定兴趣区域的处理过程将在下述实施例中进行详细说明。

可选的,上述兴趣区域的第一图像可以由无人机采集,或者,也可以由设置在作业区域的田间摄像机采集。

确定出兴趣区域之后,电子设备可以向控制终端指示兴趣区域的原始信息。本申请实施例中,兴趣区域可以对应于一个或多个兴趣点。其中,兴趣点可以指无人机采集图像时所在的点,可以通过位置信息来表示一个兴趣点。无人机在兴趣点上拍摄时,所覆盖到的区域为该兴趣点对应的兴趣区域。兴趣区域的原始信息可以指兴趣区域对应的兴趣点的原始信息,该原始信息可以包括该兴趣点的位置信息。控制终端按照电子设备的指示,控制无人机飞行至兴趣区域对应的兴趣点并采集兴趣区域的第一图像。或者,电子设备还可以直接控制无人机飞行至兴趣区域对应的兴趣点并采集兴趣区域的第一图像。

无人机采集到图像之后,可以将图像发送给控制终端,由控制终端再发送给电子设备。或者,如果无人机与电子设备之间有通信连接,则无人机也可以不经由控制终端而直接将图像发送给电子设备。无人机发送图像时,可以是在完成一次巡检之后将图像批量进行发送,或者,也可以在采集到一帧新的图像后实时将采集的图像进行发送。

电子设备从控制终端或无人机接收到图像后,即获取到了兴趣区域的第一图像。

S202、将上述兴趣区域的第一图像输入问题识别模型,确定上述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第一问题信息,该第一问题信息包括:兴趣区域的问题类型。

可选的,问题识别模型可以为机器学习模型。示例性的,该机器学习模型可以使用图像分类识别方法完成兴趣区域的问题识别。该问题识别模型可以预先使用训练样本进行训练得到。训练样本可以包括兴趣区域的图像以及标注的该兴趣区域是否存在设定问题、问题类型、问题类型在该兴趣区域的图像中的位置等。使用这些训练样本,可以训练得到上述问题识别模型。

进而,在本步骤中,将无人机采集到的兴趣区域的图像输入到上述问题识别模型中,模型经过处理,可以输出该兴趣区域出现某种问题类型的概率,基于模型输出的概率,可以确定出兴趣区域是否存在设定问题以及存在设定问题的兴趣区域的问题类型。

以应用在农田的巡检场景为例,上述问题类型可以包括:杂草、虫害、作物倒伏、腰梗串水、地块有水等。

应理解,由上述问题识别模型所得到的问题类型可能为一种,也可能为多种。示例性的,某个特定的兴趣区域可能同时存在杂草以及虫害,则由问题识别模型可以得到杂草和虫害这两种问题类型。

值得说明的是,针对同一个兴趣区域,无人机采集到的图像可能为多帧,也可能为一帧。当采集到的图像为多帧时,电子设备可以按照图像的清晰度、角度等进行筛选,从而筛选出一帧质量最佳的图像并输入问题识别模型中进行处理。

S203、输出上述第一问题信息。

可选的,上述输出第一问题信息,可以是指显示和/或存储上述第一问题信息。

当电子设备经过前述处理得到上述第一问题信息后,可以直接显示上述第一图像以及上述第一问题信息,或者,也可以首先存储上述第一图像和上述第一问题信息,并在某些条件的触发下,显示上述第一图像和第一问题信息。示例性的,电子设备上提供兴趣区域问题查看界面,当用户在界面上选择某个兴趣区域之后,电子设备可以读取已存储的该兴趣区域的图像以及兴趣区域的问题信息。电子设备显示兴趣区域的图像以及问题信息的过程将在下述实施例中详细说明。

可选的,电子设备在存储上述第一图像以及第一问题信息时,可以将第一图像以及第一问题信息关联起来存储,以使得第一图像和第一问题信息的关联关系得以保留。

本实施例中,在获取到兴趣区域的图像之后,将兴趣区域的图像输入预先训练获取的问题识别模型中,即可以得到兴趣区域是否存在设定问题以及存在设定问题的兴趣区域的问题类型,可以将兴趣区域的图像以及问题识别信息输出以供用户查看。相比于现有的人工进行问题识别的方式,本实施例使用预先训练的模型自动识别兴趣区域的问题,因此,即使在图像数量较多时,也可以快速完成问题识别,因此,可以极大提升识别的作业效率。另外,问题识别模型预先使用大量的训练样本训练得到,因此,模型的鲁棒性高,因此,能够保证由模型所识别的问题类型的准确性。

在一种可选的实施方式中,上述问题识别模型可以为一个模型,该一个模型可以输出兴趣区域属于各种问题类型的概率。

在另一种可选的实施方式中,上述问题识别模型可以是由多个子问题识别模型组合形成的模型,即上述问题识别模型包括多个子问题识别模型,每个子问题识别模型用于识别一种问题类型。以前述的农田的巡检场景为例,问题类型可以包括:杂草、虫害、作物倒伏、腰梗串水、地块有水,则相应的,子问题识别模型可以包括:用于识别杂草的子问题识别模型、用于识别虫害的子问题识别模型、用于识别作物倒伏的子问题识别模型、用于识别腰梗串水的子问题识别模型、用于识别地块有水的子问题识别模型。

上述的多个子问题识别模型可以分别使用预先标注的训练样本训练获取。

当上述问题识别模型包括多个子问题识别模型时,上述步骤S202的一种可选方式为下述的处理过程。

图3为本申请实施例提供的一种兴趣区域问题识别方法的另一流程示意图,如图3所示,上述步骤S202的一种可选方式包括:

S301、将上述第一图像分别输入各子问题识别模型,得到各子问题识别模型分别输出的问题类型的概率信息。

S302、根据各种问题类型的概率信息确定上述兴趣区域是否存在设定问题、以及存在设定问题的兴趣区域的问题类型。

可选的,每个子问题识别模型可以识别并输出兴趣区域发生该子问题识别模型对应的问题类型的概率。在具体实施过程中,可以设置一个预设阈值,当发生该子问题识别模型对应的问题类型的概率大于该预设阈值时,表明该兴趣区域存在该子问题识别模型对应的问题类型。电子设备通过对每个子问题识别模型输出的概率值进行判断,得到兴趣区域的完整的问题类型。

假设问题识别模型的子问题识别模型包括:用于识别杂草的子问题识别模型、用于识别虫害的子问题识别模型、用于识别作物倒伏的子问题识别模型、用于识别腰梗串水的子问题识别模型、用于识别地块有水的子问题识别模型。则一种示例中,仅用于识别杂草的子问题识别模型输出的概率信息大于预设阈值,而其他子问题识别模型输出的概率信息均小于预设阈值,则电子设备可以确定兴趣区域的问题类型为杂草。另一种示例中,用于识别杂草的子问题识别模型和用于识别虫害的子问题识别模型输出的概率均大于预设阈值,而其他子问题识别模型输出的概率均小于预设阈值,则电子设备可以确定兴趣区域的问题类型为杂草和虫害。

本实施例中,问题识别模型包括了多个子问题识别模型,每个子问题识别模型分别用于识别一种问题类型,电子设备基于各子问题识别模型输出的概率信息可以得到兴趣区域的完整的问题类型,由于一个子问题识别模型仅用来识别一种问题类型,因此,模型的鲁棒性更高,所识别出的结果的准确性也更高。

作为一种可选的实施方式,基于上述问题识别模型得到的上述第一问题信息还包括:兴趣区域中存在的问题在第一图像中的第一目标位置。

其中,上述问题类型在第一图像中的第一目标位置,可以为问题类型在图像中的像素坐标,或者为像素坐标的范围等。

应理解,由上述问题识别模型所得到的问题类型可能为一种,也可能为多种。当为多种时,问题识别模型可以输出每种问题类型在图像中分别出现的位置。示例性的,某个特定的兴趣区域可能同时存在杂草以及虫害,则由问题识别模型可以得到杂草和虫害这两种问题类型、图像中出现杂草的位置以及图像中出现虫害的位置。

当上述问题识别模型包括多个子问题识别模型时,每个子问题识别模型可以分别确定出兴趣区域存在的问题类型在第一图像中的第一目标位置。

一种示例中,仅用于识别杂草的子问题识别模型输出的概率信息大于预设阈值,而其他子问题识别模型输出的概率信息均小于预设阈值,则电子设备可以确定兴趣区域的问题类型为杂草,且杂草发生的第一目标位置为识别杂草的子问题识别模型输出的位置。另一种示例中,用于识别杂草的子问题识别模型和用于识别虫害的子问题识别模型输出的概率均大于预设阈值,而其他子问题识别模型输出的概率均小于预设阈值,则电子设备可以确定兴趣区域的问题类型为杂草和虫害,且,杂草发生的目标位置为用于识别杂草的子问题识别模型所输出的位置,虫害发生的目标位置为用于识别虫害的子问题识别模型所输出的位置。

如前文所述,电子设备在得到上述第一图像和第一问题信息后,可以直接显示或者先存储之后在特定的触发条件下显示。以下对该显示的过程进行说明。

图4为本申请实施例提供的一种兴趣区域问题识别方法的又一流程示意图,如图4所示,上述步骤S202的一种可选方式包括:

S401、显示上述第一图像。

S402、当兴趣区域存在设定问题时,在上述第一图像的上述第一目标位置上叠加显示上述兴趣区域对应的兴趣点的相应的问题类型。

值得说明的是,上述步骤S401和S402可以同时执行。

可选的,上述标识信息可以为上述兴趣区域的问题类型的文字、图标等。

示例性的,假设上述第一图像上的目标位置为左上角顶点坐标(a,b)、右下角顶点坐标(c,d)这一坐标范围,则电子设备可以计算这一坐标范围的中心位置。电子设备在显示上述第一图像的同时,在第一图像的该中心位置上叠加显示兴趣区域的问题类型的文字、图标等。

可选的,电子设备可以通过图层叠加的方式在上述第一图像的上述目标位置上叠加显示兴趣区域的问题类型的文字和图标等。将第一图像作为下层的图层,将问题类型的问题、图标等坐标上层图层。在叠加时,上层图层可以以无透明度或者部分透明度的方式进行显示。

图5为在第一图像上叠加显示兴趣区域的问题类型的一种示意性界面图,如图5所示,第一图像对应兴趣区域的问题类型为杂草,则在第一图像中发生该问题类型的位置上,显示杂草的文字以及图标。

本实施例中,通过显示第一图像,以及在第一图像的目标位置上叠加显示兴趣区域的问题类型,使得用户可以直观方便地查看发送问题的位置以及具体的问题类型,便于用户后续的问题解决,因此可以极大提升用户的体验。

以上说明了电子设备识别以及输出兴趣区域的问题类型的过程。作为一种可选的实施方式,电子设备还可以对存在设定问题的兴趣区域再次进行识别以及比对,以确认问题是否已经解决。以及,基于两次图像的识别对比,发现新的问题类型。

图6为本申请实施例提供的一种兴趣区域问题识别方法的再一流程示意图,如图6所示,在上述步骤S203之后,还包括:

S601、对于存在设定问题的兴趣区域,获取该兴趣区域的第二图像,该第二图像的采集时间晚于上述第一图像的采集时间。

如前文所述,电子设备在得到兴趣区域的第一问题信息后,可以将第一图像以及第一问题信息关联起来进行存储。可选的,电子设备在存储这些信息时,可以将兴趣区域的标识作为索引,兴趣区域的标识例如可以为兴趣区域的标识、兴趣区域对应的兴趣点的经纬度信息等。进而,电子设备可以间隔一定的时间后,将该索引所标识的兴趣区域的信息发送给控制终端,由控制终端控制无人机再次对兴趣区域进行图像采集,或者,直接将该索引所标识的兴趣区域的信息发送给无人机,由无人机再次对兴趣区域进行图像采集。从而得到上述第二图像。

S602、将上述第二图像输入上述问题识别模型,确定上述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第二问题信息,该第二问题信息包括:存在设定问题的兴趣区域的问题类型,兴趣区域中存在的问题在上述第二图像中的第二目标位置。

使用问题识别模型得到第二问题信息的方法与使用问题识别模型得到第一问题信息的方法相同,可以参照前述实施例,此处不再赘述。

S603、根据上述第一问题信息和上述第二问题信息,输出提示信息,该提示信息用于指示:上述第一目标位置处的问题是否解决。

作为一种可选的实施方式,可以首先确定第一目标位置和第二目标位置是否对应同一地理区域,进而,当第一目标位置与所述第二目标位置对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题未解决,当第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题已解决。

可选的,可以通过判断第一目标位置和第二目标位置是否相同来确定第一目标位置和第二目标位置是否对应同一地理区域。具体实施过程中,无人机在不同时间采集兴趣区域的图像时,可以基于同样的参数采集。参数例如可以包括:所在的拍摄点以及航行角、飞行高度、相机俯仰角等。因此,同一地理区域在不同时间采集的两帧图像中的位置可以是相同的。相应的,如果第一目标位置与第二目标位置相同,即第一目标位置和第二目标位置对应同一地理区域,则可以表明第一目标位置和第二目标位置上存在设定问题,因此,表明第一目标位置问题得以解决。如果第一目标位置与第二目标位置不同,即第一目标位置和第二目标位置对应不同地理区域,则表明第一目标位置上的问题已经得到解决。

另外,当第一目标位置与第二目标位置对应不同地理区域时,表明第一目标位置区域的问题已解决,同时,又在第二目标位置上出现了设定问题。因此,作为一种可选的方式,上述提示信息还用于指示:兴趣区域中除第一目标位置以外的其他区域是否存在设定问题。

可选的,当第一目标位置与第二目标位置不对应同一地理区域时,输出的提示信息还用于指示:上述其他区域存在设定问题。

可选的,对于未解决的问题,电子设备可以输出针对该兴趣区域的告警信息,告警信息例如可以为:兴趣区域A的腰梗串水问题尚未解决,请关注。告警信息可以为文字、语音等形式。通过输出告警信息,可以提醒用户及时关注兴趣区域所发生的问题。

本实施例中,对发生问题的兴趣区域再次进行图像采集以及问题识别,并通过比对前后两次的问题判断出兴趣区域所发生的问题是否已经得到解决,通过这种方式,使得用户可以方便地获知兴趣区域的问题是否已经得到解决,进而可以在未解决时及时采取解决措施,从而可以帮助用户进一步提升作业效率。

作为一种可选的实施方式,前述步骤S201中获取作业区域中兴趣区域的第一图像可以通过控制无人机在兴趣区域对应的兴趣点进行拍摄来获得。以下对该方式进行说明。

图7为本申请实施例提供的一种兴趣区域问题识别方法的获取第一图像的流程示意图,如图7所示,该过程包括:

S701、向无人机发送兴趣区域对应的兴趣点的位置信息。

可选的,电子设备可以直接向无人机发送上述位置信息,也可以将上述无位置信息发送给控制终端,由控制终端发送给无人机,以控制无人机在该兴趣点上进行图像采集。

其中,兴趣点的位置信息可以通过如下任意一种方式获得。

第一种方式中,基于用户在作业区域对应的地图中选取的兴趣点获得。

在这种方式中,用户可以基于地图指示兴趣点的位置信息。相应的,电子设备可以获取用户基于地图指示的兴趣点的位置信息。另外,用户还可以指示兴趣点的飞行高度、俯仰角、航向角等巡检参数。

可选的,电子设备可以在用户操作界面上显示巡检区域内的卫星地图或高清地图,其中,高清地图可以由无人机在巡检区域内采集图像后基于采集图像生成。进而,用户可以针对地图上的一个或多个地块设置兴趣点。例如,用户选中某个地块作为兴趣区域,电子设备可以提示用户输入针对该兴趣区域对应的兴趣点的飞行高度、俯仰角、航向角等,电子设备将用户选择的该地块的经纬度作为该兴趣点的位置,将用户输入的信息作为该兴趣点的巡检参数。可选的,用户可以提前针对某一类兴趣点统一设置相同的巡检参数,进而,在选中一个兴趣点之后,可以直接将设置的巡检参数应用于该兴趣点。上述某一类兴趣点例如可以指需要识别是否有杂草的兴趣点、需要识别是否有虫害的兴趣点等。

第二种方式中,通过预先训练好的兴趣点识别模型对作业区域对应的地图进行识别,以得到兴趣点。

在这种方式中,可以预先使用训练样本训练得到上述兴趣区域识别模型。该兴趣区域识别模型例如可以为神经网络模型。进而,可以由无人机采集作业区域的完整图像,将该完整图像输入兴趣区域识别模型,可以得到无人机作业区域内的多个兴趣区域对应的兴趣点以及这些兴趣点的位置信息。另外,通过上述模型兴趣区域识别模型也可以输出无人机在各兴趣点的巡检参数。

第三种方式中,通过预先训练好的兴趣点识别模型对作业区域对应的地图进行识别,以得到多个兴趣点,并获取用户从多个兴趣点选取出来的兴趣点。

在这种方式中,可以预先使用训练样本训练得到上述兴趣区域识别模型。该兴趣区域识别模型例如可以为神经网络模型。进而,可以由无人机采集作业区域的完整图像,将该完整图像输入兴趣区域识别模型,可以得到无人机巡检区域内的多个兴趣区域的多个可选兴趣点以及这些可选兴趣点的位置信息。进而,电子设备可以将得到的多个可选兴趣点对用户进行显示,用户可以从中选择出需要巡检的兴趣点,和/或,用户还可以针对电子设备显示的兴趣点进行调整或增加兴趣点。用户选择完成后,电子设备记录用户所选择的各兴趣点的位置信息。另外,通过上述模型兴趣区域识别模型也可以输出无人机在各兴趣点的巡检参数。

可选的,在向无人机发送兴趣点的位置信息的同时,还可以将无人机在兴趣点的巡检参数发送给无人机。以控制无人机按照该巡检参数进行巡检。

S702、获取无人机根据上述位置信息在上述兴趣点拍摄得到的兴趣区域的第一图像。

在将上述兴趣区域对应的兴趣点的位置信息发送给无人机之后,无人机可以相应飞行至各兴趣点,并且可以按照各兴趣点的巡检参数进行图像采集,并将采集的图像发送至电子设备。

本实施例中,电子设备通过用户指示和/或模型自动生成兴趣点的方式得到兴趣点的位置信息并由无人机按照兴趣点的巡检参数执行自动的巡检,相比于现有技术,可以避免出现操作失误,提升作业效率。

在一种可选的实施方式,电子设备在向无人机发送兴趣区域对应的兴趣点的位置信息时,可以以兴趣区域分组的形式进行发送。其中,作业区域对应有至少一个兴趣点分组,每个兴趣点分组中可以对应至少一个兴趣点,并且每个兴趣点分组可以对应于一种问题类型。例如,某个兴趣点分组对应杂草类型,表示该兴趣点分组内的兴趣点主要需要关注杂草问题,相应的,该分组内的兴趣点的巡检参数可以使用相同或相近的参数值。

可选的,兴趣点分组可以按照各兴趣点需要关注的问题类型进行划分,从而使得一个兴趣点分组内的各兴趣点具有相同或者相近的巡检参数。

在这种方式中,电子设备在将兴趣点划分至至少一个兴趣点分组时,可以按照如下两种方式进行。

第一种方式中,可以由用户在指示兴趣点之后,再指示兴趣点分组。

示例性的,用户在高清地图上指示了5个兴趣点,该5个兴趣点的3个兴趣点需要关注杂草,2个兴趣点需要关注虫害,则用户可以选择该3个兴趣点,将其划分至一个兴趣点分组,并选择该2个兴趣点,将其划分至另一个兴趣点分组。电子设备根据用户的指示,保存兴趣区域点的信息。

第二种方式中,可以将用户指示的兴趣点输入预先训练获取的兴趣点分组模型,得到上述至少一个兴趣点分组。

这种方式中,兴趣点分组模型可以预先使用训练样本训练得到。示例性的,对于需要关注杂草的兴趣点分组,模型可以设定飞行的高度为1米-5米,俯仰角范围为30-75度等,如果某个兴趣点的信息与这些设定的信息符合,则模型可以判定该兴趣点可以划分至需要关注杂草的兴趣点分组。这种利用兴趣点分组模型自动划分得到兴趣点分组的方式,可以提升划分的效率,还可以保证划分结果的准确性。

基于上述兴趣点分组,在上述步骤S701中向无人机发送兴趣点的位置信息时,可以按照兴趣点分组进行发送。

可选的,可以首先取所需巡检的目标兴趣点分组,进而,根据目标兴趣点分组确定所需巡检的目标兴趣点,进而,向无人机发送该目标兴趣点的位置信息,或向无人机发送该目标兴趣点的位置信息及基于该目标兴趣点生成的航线。

上述目标兴趣点分组可以由用户指示,或者,也可以由电子设备选择。例如,电子设备按照一定的周期选择相应问题类型的兴趣点分组作为目标兴趣点分组。在得到目标兴趣点分组后,将属于该目标兴趣点分组的兴趣点作为目标兴趣点并向无人机发送目标兴趣点的位置信息、巡检参数。可选的,还可以同时发送基于该目标兴趣点生成的航线。

其中,航线信息可以基于兴趣区域分组中各兴趣区域的顺序、起始航点以及返航点生成。例如,电子设备可以按照兴趣点分组内各兴趣点的顺序,例如经纬度的顺序,以及起始航点和返航点,生成航线信息,并由无人机按照该航线信息进行巡检。

另外,作为一种可选的方式,在前述的得到存在设定问题的兴趣区域的第一问题信息后,还可以根据第一问题信息及兴趣区域对应的兴趣点,将兴趣点关联于对应的兴趣点分组。

例如,在某次巡检完成并完成图像识别之后,得到某个兴趣区域对应的问题类型,则可以将该兴趣区域对应的兴趣点关联至该问题类型对应的兴趣点分组。当电子设备再次向按照该兴趣点分组指示无人机采集图像时,被关联的兴趣点即可以被无人机巡检到。

以下,对前述步骤S201中提及的确定兴趣区域的过程进行说明。

可选的,在前述步骤S201的获取兴趣区域的第一图像之前,可以执行如下过程确定兴趣区域。

首先,获取作业区域的当前图像,进而,利用预先训练好的问题识别模型对该当前图像进行处理,确定作业区域中存在设定问题的兴趣区域。再基于该兴趣区域确定相机拍摄范围覆盖兴趣区域的拍摄点,以获得该兴趣区域对应的兴趣点的原始信息,原始信息包括:兴趣点的位置信息。

可选的,上述原始信息还可以包括:无人机在兴趣点处摄取图像时的航向角、飞行高度、相机的俯仰角。这些信息可以称作无人机在兴趣点的巡检参数。

其中,作业区域的当前图像可以由无人机或者田间摄像机等提前采集,在得到当前图像之后,可以将当前图像输入问题识别模型得到作业区域中存在设定问题的兴趣区域。进而,可以将相机拍摄范围覆盖该兴趣区域时所在的拍摄点作为该兴趣区域对应的兴趣点。电子设备可以记录该兴趣点的位置信息,以及无人机在该拍摄点拍摄时的航向角、飞行高度以及相机的俯仰角作为该兴趣点的原始信息。

值得说明的是,该确定兴趣区域的兴趣点的方式可以与前述步骤S701中得到兴趣点的位置信息的方式择一或者配合使用,本申请对此不作具体限定。

具体实施过程中,当电子设备为云平台或者无人机的控制终端时,电子设备可以通过与无人机直接交互来完成自动巡检以及问题识别。或者,当设备为云平台时,电子设备还可以通过前述的控制终端来控制无人机的巡检。在这种方式中,电子设备可以将确定的兴趣区域对应兴趣点的位置信息以及巡检参数发送给控制终端,再由控制终端控制无人机巡检。或者,当电子设备为无人机的控制终端时,控制终端可以自行确定兴趣区域对应兴趣点的位置信息以及巡检参数并控制无人机巡检。

以下对电子设备控制无人机巡检的处理过程进行说明。

图8为本申请实施例提供的一种兴趣区域巡检方法的流程示意图,该方法的执行主体为前述的电子设备。为便于理解,以下以电子设备为控制终端为例进行说明。如图8所示,该方法包括:

S801、确定作业区域中兴趣区域的原始信息。

S802、基于作业区域中兴趣区域的原始信息控制无人机对兴趣区域进行巡检。

其中,上述原始信息可以包括:兴趣区域对应的兴趣点的位置信息,还可以包括:无人机在兴趣点处摄取图像时的航向角、飞行高度、相机的俯仰角等。

一种可选方式中,控制终端可以基于作业区域的当前图像确定得到作业区域中存在设定问题的兴趣区域,并基于兴趣区域确定相机拍摄范围覆盖所述兴趣区域的拍摄点,以获得所述兴趣区域对应的兴趣点的原始信息。该方式的具体处理过程可以参照前述的实施例,此处不再赘述。在此基础上,控制终端可以控制无人机根据该兴趣点的位置信息对兴趣区域进行巡检。

另一种可选方式中,作业区域对应有至少一个兴趣点分组,每个兴趣点分组对应有至少一个兴趣点,且每个兴趣点分组对应一种问题类型。控制终端获取所需巡检的兴趣点分组;根据兴趣点分组确定所需巡检的兴趣点。该方式的具体处理过程可以参照前述的实施例,此处不再赘述。在此基础上,控制终端可以控制无人机根据兴趣点的位置信息对兴趣区域进行巡检。

作为一种可选的实施方式,控制终端在根据兴趣点的位置信息对兴趣区域进行巡检时,可以按照如下过程进行:

当所需巡检的兴趣区域包括多个兴趣区域时,基于起始航点、各兴趣点和返航点生成巡检航线。进而,控制无人机依据所述巡检航线进行巡检,并沿巡检航线运行至任一兴趣点时,控制无人机以当前兴趣点对应的航向角和飞行高度飞行,并控制无人机所携带的相机以当前兴趣点对应的俯仰角对兴趣区域进行拍摄。

示例性的,控制终端可以按照兴趣点分组内各兴趣点的顺序,例如经纬度的顺序,以及起始航点和返航点,生成航线信息,并由无人机按照该航线信息进行巡检。当无人机沿航线运行至某个兴趣点时,控制终端可以控制无人机以该兴趣点对应的航向角和飞行高度飞行,同时,控制无人机的相机按照该兴趣点对应的俯仰角进行拍摄,从而得到兴趣区域的图像。

本实施例中,控制终端控制无人机按照巡检航线进行巡检,并按照兴趣点对应的航向角、飞行高度、俯仰角进行图像采集,从而可以在巡检时避免冗余的飞行,同时,兴趣区域分组对应于一种问题类型,因此,无人机按照分组飞行时,还可以避免航向角、飞行高度、俯仰角等巡检参数被频繁的修改造成的性能下降。

基于同一发明构思,本申请实施例中还提供了与兴趣区域问题识别方法对应的兴趣区域问题识别装置,以及与兴趣区域巡检方法对应的兴趣区域巡检装置,由于本申请实施例中的装置解决问题的原理以及技术效果与本申请实施例上述兴趣区域问题识别方法以及上述兴趣区域巡检相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。

图9为本申请实施例提供的一种兴趣区域问题识别装置的模块结构图,如图9所示,该装置包括:

获取模块901,用于获取作业区域中兴趣区域的第一图像。

处理模块902,用于将所述第一图像输入问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第一问题信息,所述第一问题信息包括:所述兴趣区域的问题类型。

输出模块903,用于输出所述第一问题信息。

在一种可选的实施方式中,所述问题识别模型包括:多个子问题识别模型,每个子问题识别模型用于识别一种问题类型;

处理模块902具体用于:

将所述第一图像分别输入各子问题识别模型,得到各子问题识别模型分别输出的问题类型的概率信息;根据各种问题类型的概率信息确定所述兴趣区域是否存在设定问题、以及存在设定问题的兴趣区域的问题类型。

在一种可选的实施方式中,所述第一问题信息还包括:所述兴趣区域中存在的问题在所述第一图像中的第一目标位置。

在一种可选的实施方式中,输出模块903具体用于:

显示所述第一图像;当所述兴趣区域存在设定问题时,在所述第一图像的所述第一目标位置上叠加显示所述兴趣区域对应的兴趣点的相应的问题类型。

在一种可选的实施方式中,处理模块902还用于:

对于存在设定问题的兴趣区域,获取所述兴趣区域的第二图像,所述第二图像的采集时间晚于所述第一图像的采集时间;将所述第二图像输入所述问题识别模型,确定所述兴趣区域是否存在设定问题并得到存在设定问题的兴趣区域的第二问题信息,所述第二问题信息包括:存在设定问题的兴趣区域的问题类型,兴趣区域中存在的问题在所述第二图像中的第二目标位置;根据所述第一问题信息和所述第二问题信息,输出提示信息;所述提示信息用于指示:所述第一目标位置处的问题是否解决。

在一种可选的实施方式中,处理模块902具体用于:

确定所述第一目标位置和所述第二目标位置是否对应同一地理区域。

当所述第一目标位置与所述第二目标位置对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题未解决。

当所述第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息用于指示所述第一目标位置处的问题已解决。

在一种可选的实施方式中,所述提示信息还用于指示:所述兴趣区域中除第一目标位置以外的其他区域是否存在设定问题。

处理模块902具体用于:

当所述第一目标位置与所述第二目标位置不对应同一地理区域时,输出的提示信息还用于指示:所述其他区域存在设定问题。

在一种可选的实施方式中,获取模块901具体用于:

向无人机发送兴趣区域对应的兴趣点的位置信息。

获取无人机根据所述位置信息在所述兴趣点拍摄得到的所述兴趣区域的第一图像。

其中,所述兴趣点的位置信息通过以下至少一种方式获得:

基于用户在所述作业区域对应的地图中选取的兴趣点获得;

通过预先训练好的兴趣点识别模型对所述作业区域对应的地图进行识别,以得到兴趣点;

通过预先训练好的兴趣点识别模型对所述作业区域对应的地图进行识别,以得到多个兴趣点,并获取用户从所述多个兴趣点选取出来的兴趣点。

在一种可选的实施方式中,所述作业区域对应有至少一个兴趣点分组,每个兴趣点分组对应有至少一个兴趣点,且每个兴趣点分组对应一种问题类型。

在一种可选的实施方式中,处理模块902具体用于:

获取所需巡检的目标兴趣点分组。

根据所述目标兴趣点分组确定所需巡检的目标兴趣点。

向无人机发送所述目标兴趣点的位置信息,或向无人机发送所述目标兴趣点的位置信息及基于所述目标兴趣点生成的航线。

和/或,根据第一问题信息及兴趣区域对应的兴趣点,将兴趣点关联于对应的兴趣点分组。

在一种可选的实施方式中,处理模块902还用于:

获取作业区域的当前图像;

利用预先训练好的问题识别模型对所述当前图像进行处理,确定所述作业区域中存在设定问题的兴趣区域;

基于所述兴趣区域确定相机拍摄范围覆盖所述兴趣区域的拍摄点,以获得所述兴趣区域对应的兴趣点的原始信息,所述原始信息包括:兴趣点的位置信息。

在一种可选的实施方式中,所述原始信息还包括:无人机在兴趣点处摄取图像时的航向角、飞行高度、相机的俯仰角。

图10为本申请实施例提供的一种兴趣区域巡检装置的模块结构图,如图10所示,该装置包括:

获取模块1001,用于获取作业区域中兴趣区域的原始信息。

处理模块1002,用于基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检;所述原始信息包括:兴趣点的位置信息。

其中,所述基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检,包括:

基于作业区域的当前图像确定得到所述作业区域中存在设定问题的兴趣区域;基于所述兴趣区域确定相机拍摄范围覆盖所述兴趣区域的拍摄点,以获得所述兴趣区域对应的兴趣点的原始信息;控制无人机根据所述兴趣点的位置信息对所述兴趣区域进行巡检;

或者,所述作业区域对应有至少一个兴趣点分组,每个兴趣点分组对应有至少一个兴趣点,且每个兴趣点分组对应一种问题类型;所述基于作业区域中兴趣区域的原始信息控制无人机对所述兴趣区域进行巡检,包括:

获取所需巡检的兴趣点分组;根据所述兴趣点分组确定所需巡检的兴趣点;控制无人机根据所述兴趣点的位置信息对所述兴趣区域进行巡检。

在一种可选的实施方式中,处理模块1002具体用于:

当所需巡检的兴趣区域包括多个兴趣区域时,基于起始航点、各兴趣点和返航点生成巡检航线;

控制无人机依据所述巡检航线进行巡检,并沿巡检航线运行至任一兴趣点时,控制无人机以当前兴趣点对应的航向角和飞行高度飞行,并控制无人机所携带的相机以当前兴趣点对应的俯仰角对兴趣区域进行拍摄。

关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明,这里不再详述。

本申请实施例还提供了一种电子设备1100,该电子设备例如可以为云平台或无人机的控制终端。图11为本申请实施例提供的一种电子设备1100的结构示意图,如图11所示,电子设备1100包括:处理器1101、存储器1102、和总线1103。所述存储器1102存储有所述处理器1101可执行的机器可读指令,当电子设备1100运行时,所述处理器1101与所述存储器1102之间通过总线1103通信,所述机器可读指令被所述处理器1101执行时执行上述方法实施例中电子设备所执行的方法步骤。

本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述兴趣区域问题识别方法或兴趣区域巡检方法的步骤。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考方法实施例中的对应过程,本申请中不再赘述。在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个模块或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。

另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号