首页> 中国专利> 用于在基于云的对象辨识系统中触发深度传感器且发射RGBD图像的策略

用于在基于云的对象辨识系统中触发深度传感器且发射RGBD图像的策略

摘要

本发明呈现用于触发深度传感器及/或限制带宽及/或维护保密性的系统、设备和方法。通过将深度传感器的使用限制到光学图像独自为不充分的时间,会节省移动装置功率。此外,通过将光学图像的大小仅缩减到检测对象所需的所述图像的部分,会节省带宽且通过不传达不需要的或不当的信息来维护保密性。

著录项

  • 公开/公告号CN105723704A

    专利类型发明专利

  • 公开/公告日2016-06-29

    原文格式PDF

  • 申请/专利权人 高通股份有限公司;

    申请/专利号CN201480062754.8

  • 申请日2014-10-29

  • 分类号H04N13/02;H04N5/232;G06K9/00;

  • 代理机构北京律盟知识产权代理有限责任公司;

  • 代理人宋献涛

  • 地址 美国加利福尼亚州

  • 入库时间 2023-12-18 15:45:39

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2017-11-24

    授权

    授权

  • 2016-07-27

    实质审查的生效 IPC(主分类):H04N13/02 申请日:20141029

    实质审查的生效

  • 2016-06-29

    公开

    公开

说明书

相关申请案的交叉参考

本申请案主张2014年8月15日申请的名为“用于在基于云的对象辨识系统中触发 深度传感器且发射RGBD图像的策略(Strategiesfortriggeringdepthsensorsand transmittingRGBDimagesinacloud-basedobjectrecognitionsystem)”的美国申请案第 14/461,000号的权益和优先权,所述美国申请案主张2013年11月27日申请的名为“用 于在基于云的对象辨识系统中触发深度传感器且发射RGBD图像的策略(Strategiesfor triggeringdepthsensorsandtransmittingRGBDimagesinacloud-basedobjectrecognition system)”的美国临时申请案第61/909,963号的35U.S.C.§119(e)下的权益和优先权,所 述美国申请案和所述美国临时申请案的全文以引用的方式并入本文中。

技术领域

本发明大体上涉及深度传感器系统、设备和方法,且更具体地说,涉及确定何时在 移动装置中使用深度传感器及/或最小化从移动装置发送的图像的带宽。

背景技术

移动电话和其它移动装置可包含若干传感器,例如一或多个图像传感器、图像感测 装置、惯性传感器、磁罗盘和GNSS传感器。图像感测装置,例如光学相机,可包含一 或多个前置及/或后置相机。惯性传感器可包含加速计及/或陀螺仪。GNNS传感器可包 含GPS接收器。未来的移动装置还可包含Kinect深度传感器及/或结构化光传感器。在 功率优化和小型化方面的进步使得具有此类传感器的移动装置更具有可能性。

Kinect深度传感器包含在一起起作用的红外线投影仪和单色接收器,例如互补金属 氧化物半导体(CMOS)传感器。红外线投影仪发射已知的图案。单色接收器接收可用于 确定对象定位在何处以及其被放置在多远的经反射红外线图像。

结构化光传感器将预定义的光图案发射到对象上。同时,一或多个图像传感器观察 从附近的对象反射的光图案。经反射回的图案随移动装置与对象之间的距离改变而变 化。因此,经反射回的图案还可用于确定对象定位在何处以及其被放置在多远。

允许移动装置在任何时刻快镜拍摄深度的此类传感器需要显著功率来发射信号。接 着在移动装置处反射且接收回信号,这需要额外功率。此外,大量带宽经占用来发射用 于基于云的对象检测的图像。另外,相较于部分图像,当接收以及搜索对象的图像时的 搜索时间为显著的。此外,可在图像中揭露保密性信息。举例来说,图像的背景可揭露 个人拍摄图像的地点。所需的是用以改进对象检测及辨识时间同时使用较少带宽、图像 处理功率及/或增加保密性的方式。

发明内容

揭示用于缩减功率消耗、缩减带宽及/或增加保密性的系统、设备和方法。

根据一些方面,揭示一种在移动装置中用于触发深度传感器的方法,所述方法包括: 使用图像感测装置捕获图像;将所述图像中的至少某一部分发送到服务器以在所述图像 内搜索对象;接收指示在所述图像中未以充分确定性发现所述对象的指示;启用所述深 度传感器且捕获深度信息;将所述深度信息转换成深度图;以及将所述深度图中的至少 某一部分发送到所述服务器。

根据一些方面,揭示一种用于触发深度传感器的移动装置,所述移动装置包括:图 像感测装置,其捕获图像;发射器,其将所述图像中的至少某一部分发送到服务器以在 所述图像内搜索对象;接收器,其接收指示未以充分确定性发现所述对象的指示;所述 深度传感器,其捕获深度信息;和处理器,其耦合到所述图像感测装置、所述发射器、 所述接收器和所述深度传感器,其中所述处理器经配置以:启用所述深度传感器;将所 述深度信息转换成深度图;以及将所述深度图中的至少某一部分发送到所述服务器。

根据一些方面,揭示一种用于触发深度传感器的移动装置,所述移动装置包括:用 于使用图像感测装置捕获图像的装置;用于将所述图像中的至少某一部分发送到服务器 以在所述图像内搜索对象的装置;用于接收指示在所述图像中未以充分确定性发现所述 对象的指示的装置;用于启用所述深度传感器且捕获深度信息的装置;用于将所述深度 信息转换成深度图的装置;和用于将所述深度图中的至少某一部分发送到所述服务器的 装置。

根据一些方面,揭示一种用于移动装置的非暂时性计算机可读存储媒体,所述移动 装置用于触发深度传感器,所述非暂时性计算机可读存储媒体包含存储于其上的程序代 码,包括用于以下操作的程序代码:使用图像感测装置捕获图像;将所述图像中的至少 某一部分发送到服务器以在所述图像内搜索对象;接收指示在所述图像中未以充分确定 性发现所述对象的指示;启用所述深度传感器,捕获深度信息;将所述深度信息转换成 深度图;以及将所述深度图中的至少某一部分发送到所述服务器。

应理解,所属领域的技术人员将从以下详细描述而容易地明了其它方面,其中借助 于说明展示且描述各个方面。图式及详细描述应被视为本质上是说明性的而非限制性 的。

附图说明

将参考图式仅借助于实例来描述本发明的实施例。

图1说明用以在移动装置与远程服务器之间传达图像以搜索对象的方法。

图2说明用以在移动装置与远程服务器之间传达图像以及对应深度图的方法。

图3到6展示根据本发明的一些实施例的用以仅在不能于光学图像中检测到对象或 以低置信度检测到对象时发送深度图或部分深度图的方法。

图7到10展示根据本发明的一些实施例的用以基于深度图限制图像及/或深度图的 方法。

图11说明根据本发明的一些实施例的不使用服务器的移动装置中的方法。

图12到13分别展示根据本发明的一些实施例的移动装置和服务器。

图14说明根据本发明的一些实施例的用于触发深度传感器的移动装置中的方法。

具体实施方式

下文结合随附图式阐述的详细描述意图作为对本发明的各个方面的描述,而不意图 表示可在其中实践本发明的仅有方面。提供本发明中所描述的每一方面仅作为本发明的 实例或说明,且其不应必然地解释为比其它方面优选或有利。出于提供对本发明的透彻 理解的目的,详细描述包含特定细节。然而,所属领域的技术人员将明了,可在没有这 些特定细节的情况下实践本发明。在一些情况下,以框图的形式展示众所周知的结构和 装置以便避免混淆本发明的概念。首字母缩写词和其它描述性术语可仅出于便利及清晰 性的目的而使用,且不意图限制本发明的范围。

如本文中所使用,移动装置有时被称作移动站(MS)或用户装备(UE),例如,蜂窝式 电话、移动电话或其它无线通信装置、个人通信系统(PCS)装置、个人导航装置(PND)、 个人信息管理器(PIM)、个人数字助理(PDA)、膝上型计算机或能够接收无线通信及/或 导航信号的其它合适的移动装置。术语“装置”意图包含(例如)通过短程无线、红外线、 有线连接或其它连接与个人导航装置(PND)通信的装置,而不管在装置处还是在PND处 发生卫星信号接收、辅助数据接收及/或位置相关处理。并且,“移动装置”意图包含所 有装置,包含能够(例如)经由因特网、WiFi或其它网络与服务器通信的无线通信装置、 计算机、膝上型计算机、平板计算机、头戴式显示器、可佩戴式计算装置等,而不管是 在装置、服务器还是在与网络相关联的另一装置处发生卫星信号接收、辅助数据接收及 /或位置相关处理。上述各者的任何可操作组合也被视为“移动装置”。

可同时呈现来自图像感测装置(例如光学相机)的彩色图像(红色-绿色-蓝色图像或 RGB图像)和深度图(D)(从深度感测装置处理)以形成RGB-D或RGBD图像。来自深度 感测装置和深度传感器的深度信息经处理成深度图(D)。图像还包含光学图像、二维(2-D) 图像,RGB图像及其类似者。可基于(例如)增强现实(AR)应用中的对应深度图(D)更容 易地且快速地在RGB图像中发现对象。如先前所提及,深度传感器使用大量的功率来 发射经反射回以形成深度图(D)的信号。因此,所揭示的为用以将移动装置上的深度传 感器的使用限制到光学图像不充足的时间的系统、设备和方法。此外,所揭示的为用以 将光学图像的带宽仅缩减到云中的移动装置或远程服务器检测对象所需的图像的部分 的系统、设备和方法。

图1说明用以在移动装置100与远程服务器200之间传达图像以搜索对象的方法 110。远程服务器200可为基于云的对象辨识系统。一些方法可在不使用深度传感器信 息的情况下将整个图像传达到服务器200以发现特定对象。在120中,在此状况下,移 动装置100捕获光学图像。此外,移动装置100中的相机或其它图像感测装置充当用于 捕获图像的装置。在130中,移动装置100发送图像且远程服务器200接收图像。移动 装置100中的收发器或发射器充当用于将图像发送到服务器200以搜索对象的装置。服 务器200中的收发器或接收器充当用于从移动装置100接收图像的装置。在140中,服 务器200在图像内搜索对象。服务器200中的处理器充当用于在图像内搜索对象的装置。 在150处,服务器200发送在此实例中含有否定确认的结果且移动装置100接收所述结 果,所述否定确认指示在图像中未检测到对象。服务器200中的收发器或发射器充当用 于发送指示在图像中未发现对象的否定确认的装置。移动装置100中的收发器或接收器 充当用于接收否定确认(指示在图像中未发现对象)或部分确认(指示在图像中发现了对 象但具有超出阈值的高不确定性或低置信度)的装置。在一些实施例中,深度传感器可用 于以较高确定性检测对象。

图2说明用以在移动装置100与远程服务器200之间传达图像以及对应深度图的方 法210。所述图像可为光学图像、可见的图象、紫外线图像、红外线图像及/或其类似者。 在220处,移动装置100使用图像传感器捕获图像且使用深度传感器捕获深度图(D), 所述图像和所述深度图两者包含同一对象。在230处,移动装置100将图像和深度图(D) 两者传达到服务器200。在240处,服务器200使用图像及/或深度图(D)搜索对象。举 例来说,搜索可基于深度图(D)中的初步搜索在图像中进行。搜索可基于图像中的初步 搜索在深度图(D)中进行。搜索可作为对象与图像及/或深度图(D)的相关性进行。在250 处,服务器200传达搜索结果,在此状况下,所述搜索结果为指示服务器200基于深度 图(D)在图像中发现对象的肯定确认。在使用深度传感器来捕获深度图(D)以及每一图像 的情况下可使用过度的功率。并且,在传达整个图像和深度图的情况下可使用过度的带 宽。

图3到6展示根据本发明的一些实施例的用以仅在不能于图像中检测到对象或以低 置信度检测到对象时发送深度图或部分深度图的方法。

在图3中,方法300仅在不能通过搜索图像来另外检测到对象或以低置信度检测到 对象时发送深度图(D)。在310处,移动装置100捕获图像。在320处,将图像从移动 装置100传达到服务器200。或者,移动装置100可执行下文所描述的服务器200的功 能。在这些状况下,移动装置100执行描述为在服务器200中执行的操作且不在移动装 置100与服务器200之间发送以及接收消息。

在330处,服务器200搜索对象但不能够在此实例中发现对象。对象可为预定的, 例如特定个人的面部,或对象可为更一般的,例如任何面部。在340处,将搜索的结果 从服务器200传达到移动装置100。在此实例中,服务器200将否定确认(指示在图像中 未发现特定对象)发送回到移动装置100。服务器200可等效地发送具有低置信度值的肯 定确认(指示在图像中发现特定对象但不具有足够置信度或太多不确定性)。如果服务器 200以足够高的确定性发现对象,那么服务器200可发送肯定确认且移动装置100可跳 过触发深度传感器。

在350处,移动装置100基于否定确认触发深度传感器。也就是说,移动装置100 启用深度传感器且使用深度传感器捕获包含由相机捕获的同一对象的深度图(D)。移动 装置100可始终或任选地捕获新图像以更接近地对应于深度图(D)。在捕获深度图(D)之 后,移动装置100停用深度传感器。启用、捕获以及停用的序列是基于接收到否定确认 或具有低不确定性的确认。接收确认的接收器或收发器充当用于触发深度传感器以捕获 深度图(D)的装置。通过触发深度传感器,移动装置100仅在深度传感器用于捕获深度 图(D)的持续时间期间启用以及接合深度传感器。一旦深度传感器已捕获深度图(D),就 停用深度传感器以节省电池功率。

在360处,将深度图(D)从移动装置100传达到服务器200。在移动装置100捕获更 接近地对应于深度图(D)的新图像的实施例中,移动装置100还可发送新图像。移动装 置100中的收发器或发射器充当用于将深度图(D)发送到服务器200的装置。服务器200 中的收发器或接收器充当用于在服务器200处接收深度图(D)的装置。在370处,服务 器200在原始图像(在320处经接收)或新图像(在360处经接收)内搜索对象,但此次使用 来自360的深度图。在380处,将结果从服务器200传达到移动装置100。在此实例中, 结果含有指示搜索在图像内发现对象的肯定确认。

图4展示用以使用部分深度图的方法400。在410处,移动装置100捕获图像。在 420处,将图像从移动装置100传达到服务器200。在430处,服务器200在图像内搜 索对象,例如已知的面部或一般面部。在440处,将作为否定确认的结果从服务器200 传达到移动装置100。在此实例中,确认或为指示搜索未发现对象的否定确认,确认可 能为指示搜索发现对象但具有不充分的确定性的肯定确认。

在450处,移动装置100启用深度传感器,使用深度传感器捕获深度图(D)且基于 在440处所接收的否定确认停用深度传感器。在460处,移动装置100基于深度图自身 分析深度图(D),从而产生部分深度图(D')。

移动装置100中的处理器充当用于基于深度图自身将深度图(D)分析成部分深度图 (D')的装置。举例来说,SLAM或其类似者可用于分析深度图(D)。或者,深度图(D)的边 缘或原始图像中的边缘可用于分析深度图(D)。或者,部分深度图(D')仅包含深度的固定 范围。举例来说,部分深度图(D')可包含在固定范围内(例如,距深度传感器1米内)的深 度测量且排除在固定范围外的深度测量。或者,部分深度图(D')可仅包含深度测量的中 间范围(例如,从0.5米到2米)且排除在此中间范围外的深度测量。或者,部分深度图(D') 可包含超出固定距离(例如,大于2米)的深度测量且排除比此固定距离近的深度测量。

在一些实施例中,移动装置100检测到特定对象或保密信息(例如人面部、人头部、 人轮廓,文本或牌照)但所述特定对象或保密信息从部分深度图(D')、图像(在410处经捕 获)及/或部分图像被遮蔽或以其它方式被排除。以此方式,通过在全部深度图中排除地 点识别信息(例如,经捕获的特定房间或某一建筑物的信息)而在部分深度图中维护保密 性。除维护保密性以外,相较于全部深度图(D),需要较低带宽来发送部分深度图(D')。

在470处,将部分深度图(D')从移动装置100传达到服务器200。移动装置100中的 发射器或收发器充当用于将部分深度图(D')发送到服务器200以搜索对象的装置。如上 文所论述,对象可为特定的(即,如同特定个人的面部般先验已知的)或一般的(即,如同 所有面部或任何牌照般一般)。服务器200中的接收器或收发器充当用于从移动装置100 接收部分深度图(D')的装置。在一些实施例中,可在450处捕获比在410处所捕获的图 像更接近地匹配深度图(D)的新图像,这是因为捕获新图像在时间上与部分深度图(D')更 接近,因此可更接近地与部分深度图(D')相关。在这些实施例中,新图像或新图像的部 分可在470处与部分深度图一起发送。

发送部分深度图(D')可取决于一或多个因素,例如用户可配置参数、某人的环境的 识别信息的存在,或其类似者。在480处,服务器200再次在图像(从420接收)或新图 像或部分图像(从470接收)中搜索对象,但此次使用部分深度图(D')。服务器200中的处 理器充当用于基于部分深度图(D')再次搜索对象的装置。在490处,在此状况下,以指 示发现了对象的肯定确认将结果从服务器200传达到移动装置100。

可针对某些范围的阈值进行分析图像及/或深度图(D)。举例来说,某些范围可包含 (或排除)小于阈值距离(0<距离<Th1)的深度。或者,某些范围可包含(或排除)第一阈值距 离与第二阈值距离之间的所有元素(Th1<距离<Th2)。或者,某些范围可包含(或排除)大于 阈值距离的所有元素(Th2<距离<∞)。可先验地或动态地选择阈值(Th1及/或Th2)。举例来 说,可将阈值动态地设置成包含某一百分比的距离同时排除其它距离(例如,排除最近的 20%和最远的30%同时包含中间的50%)。某些范围内的元素或若干元素可占据图像的单 个部分(例如,最大部分)。或者,某些范围内的元素可占据图像的一个以上的不相交部 分。

在图5中,移动装置100执行图3和4的方法500。在510处,移动装置100使用 图像传感器捕获图像。在520处,移动装置100将图像发送到服务器200以搜索对象。 在530处,移动装置100接收否定确认。确认要么为指示未发现对象的否定确认要么为 指示发现了对象但具有不充分的确定性或具有低不确定性的确认。在540处,移动装置 100基于接收到否定确认或对低不确定性的指示而使用深度传感器捕获深度图(D)。此 时,实施例要么进行到550或替代地进行到560和570,接着在580处再次重新结合。

在550处,在从540继续到550的实施例中,移动装置100将深度图(D)发送到服 务器200以再次搜索对象,但此次使用深度图(D)。这些实施例接着继续到580。在560 处,在从540继续到560的其它实施例中,移动装置100基于深度图(D)自身分析深度 图(D),进而产生部分深度图(D')。在570处,移动装置100将部分深度图(D')发送到服 务器200以发现对象。在570处,移动装置100发送部分深度图(D')。在任一状况下, 可一起捕获且发送新图像以及深度图(D)或部分深度图(D')。在580处,移动装置100在 此实例中接收指示发现了对象的肯定确认。

在图6中,服务器200执行图3和4的方法600。在610处,服务器200从移动装 置100接收图像。在620处,服务器200在图像内搜索对象。在630处,服务器200发 送指示在图像中未发现对象的否定确认或指示发现了对象但具有不充分的确定性的确 认。此时,在再次在680处结合之前,实施例要么进行到640和650或进行到660和670。

在640处,服务器200从移动装置100接收响应于确认而发送的深度图(D)。此时, 服务器200还可接收如上文所指示的新图像。在650处,服务器200使用深度图搜索对 象。在一些实施例中,在660处,服务器200从移动装置100替代地接收部分深度图(D')。 此外,服务器200还可接收新图像,所述新图像比在610处所接收的图像更接近地与深 度图(D)相关。基于确认从移动装置100发送部分深度图(D')。在670处,服务器200使 用部分深度图(D')搜索对象。在680处,基于使用全部或部分深度图的搜索的结果,服 务器200发送在此实例中指示在图像中未发现对象的肯定确认。

图7到10展示根据本发明的一些实施例的用以基于深度图(D)限制图像及/或深度图 (D)的方法。在图7中,展示方法700。在710处,移动装置100使用图像传感器捕获图 像且使用深度传感器捕获深度图(D)。所述图像可为彩色图像(RGB图像)且所述深度图 (D)可为单色图像。在720处,移动装置100基于深度图(D)分析图像,从而产生部分图 像。在730处,移动装置100仅将部分图像传达到服务器200。或者,移动装置100可 仅将部分图像和部分深度图(D')传达到如图8中所展示的服务器200。在740处,服务器 200在部分图像内搜索对象。

通过在730处仅传达部分图像而非整个图像,节省了带宽资源、发射时间和发射功 率。此外,部分图像可较佳地维护保密性,如上文所指示。此外,通过在740处仅搜索 部分图像而非整个图像,可节省时间以在较小图像上执行搜索。如果由于保密性担忧而 传达部分图像,那么服务器200可能不能够确定用户的地点或环境或可能不接收其它识 别标记。

在一些实施例中,揭示用于触发深度传感器的移动装置中的方法。所述方法包括: 使用图像感测装置捕获图像;启用深度传感器、捕获深度信息以及停用深度传感器;将 深度信息转换为深度图;基于深度图分析图像,从而产生部分图像;以及将部分图像发 送到服务器以在部分图像内搜索对象。实施例还可发送深度图或部分深度图。以此方式, 可通过排除保密信息(例如,人面部、人头部、人轮廓、文本,牌照及/或其类似者)来维 护保密性。

在图8中,以方法800传达部分图像和对应部分深度图(D')两者。在810处,移动 装置100使用图像传感器捕获图像且使用深度传感器捕获深度图(D)。在820处,移动 装置100基于深度图(D)分析图像和深度图(D),从而产生部分图像和部分深度图(D')。在 830处,移动装置100将部分图像和部分深度图(D')传达到服务器200。在840处,服务 器200基于部分深度图(D')在部分图像中搜索对象。通过向服务器200提供部分图像和 部分深度图(D')两者,服务器200可比移动装置100执行更严密或详尽的测试。并且, 通过提供部分图像和部分深度图(D'),可维护保密性。

在图9中,移动装置100执行图7和8的方法900。在910处,移动装置100使用 图像传感器捕获图像且使用深度传感器捕获深度图(D)。在一些实施例中,处理在920 和930处继续,而在其它实施例中,处理在940和950处继续。在任一状况下,实施例 再次在960处重新结合。

在920处,服务器200基于深度图(D)分析图像,进而产生部分图像。在930处, 服务器200将部分图像发送到服务器200以便使服务器200搜索对象。在其它实施例中, 在940处,移动装置100基于深度图(D)分析图像和深度图(D),进而产生部分图像和对 应部分深度图(D')。在950处,移动装置100将部分图像和部分深度图(D')发送到服务器 200。实施例在960处重新结合以在移动装置100处接收由服务器200发送的发现对象 的肯定确认。

在图10中,服务器200执行图7和8的方法1000。在于1050处结合之前,一些实 施例执行1010和1020,而其它实施例执行1030和1040。在1010处,服务器200从移 动装置100接收部分图像。在1020处,服务器200在部分图像中搜索对象。在其它实 施例中,在1030处,服务器200从移动装置100接收部分图像和部分深度图(D')两者。 在1040处,服务器200基于部分深度图(D')在部分图像中搜索对象。在1050处,所述 方法通过服务器200发送在实例中指示于部分图像中发现了对象的肯定确认而结合起 来。

图11说明根据本发明的一些实施例的不使用服务器200的移动装置100中的方法 1100。如果移动装置100执行如上文所描述的服务器200的功能,那么移动装置100自 身执行触发事项以启用深度传感器,带宽受到限制且通过不发射图像或深度图(D)来固 有地维护保密性。

在1110处,移动装置100捕获图像。在移动装置100内,图像从1110传递到1120。 在1120处,移动装置100(而非服务器200)在图像内搜索对象。在此实例中,移动装置 100传递指示移动装置100未发现对象的否定确认。在1130处,移动装置100启用深度 传感器,使用深度传感器捕获深度图,以及停用深度传感器。

由于深度图(D)保持在移动装置100的内部,因此移动装置100不需要出于带宽或 保密性原因分析深度图(D)。在移动装置100内,深度图从1130传递到1140。此外,可 捕获新图像(与来自1110的原始图像相似)。在1140处,移动装置100(而非服务器200) 再次搜索对象,但此次具有深度图(D)的益处。来自步骤1140的肯定确认指示以充分确 定性发现了对象。

图12到13分别展示根据本发明的一些实施例的移动装置100和服务器200。在图 12中,移动装置100含有总线1210、图像传感器1220、深度传感器1230,其它任选的 传感器1240(如使用虚线所指示)和处理器1250。总线1210将图像传感器1220、深度传 感器1230和任选的传感器1240一起耦合到处理器1250。图像传感器1220或图像感测 装置捕获图像。图像传感器1220有时重新捕获较新的图像。

深度传感器1230包含红外线(IR)投影仪1232和IR传感器1234。深度传感器1230 捕获深度信息。相似地,深度传感器1230可包含用以发射唯一或加衬的图案的发射器 和对应接收器。其它传感器1240可包含加速计、陀螺仪、光传感器、磁强计或罗盘, 温度计及/或其类似者。处理器1250耦合到图像传感器1220、发射器1274,接收器1272 和深度传感器1230。处理器1250经配置以启用深度传感器1230且将深度信息转换成深 度图。处理器可进一步经配置以停用深度传感器。

移动装置100还可包含耦合到总线1210或处理器1250的存储器1260和收发器 1270。存储器1260可包含用以执行本文中所描述的实施例的代码。收发器1270包含接 收器1272和发射器1274,且允许移动装置100与服务器200通信。接收器1272接收指 示在图像中未发现对象或发现了对象但具有不充分确定性的指示。发射器1274将图像 中的至少某一部分发送到服务器200以在图像内搜索对象。图像中的至少某一部分可包 含部分图像或完整图像。发射器1274可进一步将深度图中的至少某一部分发送到服务 器200。发射器1274可将较新的图像和深度图中的至少某一部分这两者发送到服务器 200。有时,处理器1250经配置以至少部分地基于深度图而将深度图分析成部分深度图。 有时,处理器1250经配置以基于保密信息排除图像的部分以形成部分图像。

在图13中,服务器200包含处理器1320,存储器1310和收发器1330。存储器1310 可包含用以执行本文中所描述的实施例的代码。收发器1330允许服务器200与移动装 置100通信。

如本文中所使用,部分图像表示图像的(例如)某些范围内的或不含有保密信息的部 分或若干部分。此保密信息可包含人面部、人头部、人轮廓、文本和牌照中的一或多者。 部分图像可包含围绕部分图像的部分或若干部分的缓冲区域。部分图像可为长方形、椭 圆形或自由成形的图像。

部分深度图(D')对应于部分图像。也就是说,由部分图像覆盖(或不由部分图像覆盖) 的区域由部分深度图(D')覆盖(或不由部分深度图覆盖)。在此方面,部分图像与对应部分 深度图(D')成对。或者,将图像分析为部分图像,但传达整个深度图(D)。在一些实施例 中,部分图像和部分深度图(D')排除保密信息而不管某些范围。保密信息(或识别信息) 可用于识别个体。在其它实施例中,例如,如果在某一范围内的话,部分图像和部分深 度图(D')排除保密信息。

图14说明根据本发明的一些实施例的用于触发深度传感器的移动装置100中的方 法1400。在1410处,移动装置100使用图像感测装置或其它图像传感器捕获图像。所 述图像感测装置充当用于捕获图像的装置。所述图像感测装置可充当用于捕获新图像、 第二图像或经刷新图像的装置。

在1420处,移动装置100将图像中的至少某一部分发送到服务器200以在图像内 搜索对象。发射器充当用于将图像中的至少某一部分发送到服务器200以在图像内搜索 对象的装置。发射器还可充当:用于将深度图中的至少某一部分发送到服务器200的装 置;用于将部分深度图发送到服务器200的装置;及/或用于将经刷新图像和深度图中的 至少某一部分发送到服务器200的装置。发送图像中的至少某一部分的发射器可基于保 密信息排除图像的部分。此保密信息可包含人面部、人头部、人轮廓、文本或牌照中的 至少一者。

在1430处,移动装置100接收指示在图像中未发现对象的指示。接收器充当用于 接收指示在图像中未发现对象的指示的装置。

在1440处,移动装置100启用深度传感器且使用深度传感器捕获深度信息。移动 装置100任选地停用深度传感器。处理器充当用于启用深度传感器、捕获深度信息以及 停用深度传感器的装置。此外,处理器可充当用于至少部分地基于深度图而将深度图分 析成部分深度图的装置。

在1450处,移动装置100将深度信息转换成深度图。处理器还充当用于将深度信 息转换成深度图的装置。移动装置100可进一步将深度图中的至少某一部分发送到服务 器200。移动装置100可至少部分地基于深度图而将深度图分析成部分深度图,且接着 将部分深度图发送到服务器200。将深度图中的至少某一部分发送到服务器200可包含 捕获较新的图像以及将新图像和深度图中的至少某一部分发送到服务器200。

用于触发移动装置100中的深度传感器的服务器200中的方法包含以下操作。服务 器200从移动装置100接收由移动装置100内的图像感测装置捕获的图像中的至少某一 部分。服务器200在图像内搜索对象。服务器200发送指示在图像中未发现对象的指示 以使移动装置100启用深度传感器且捕获深度信息。

所述方法可进一步包含服务器200从移动装置100接收深度图中的至少某一部分, 其中深度图从来自深度传感器的深度信息转换。在一些实施例中,深度图中的至少某一 部分为由移动装置100分析以形成部分深度图的部分深度图。在一些实施例中,服务器 200从移动装置100接收深度图中的至少某一部分包括将较新的图像和深度图中的至少 某一部分接收到服务器200,其中经刷新图像由移动装置100捕获。所述方法可进一步 包含:服务器200接收图像中的至少某一部分包括接收基于保密信息排除图像的部分的 部分图像。

实施例包含用于触发移动装置100中的深度传感器的服务器200,所述移动装置100 包含:(1)接收器,其从移动装置100接收由移动装置100内的图像感测装置捕获的图像 中的至少某一部分;(2)发射器,其发送指示在图像中未发现对象或发现了对象但具有不 充分确定性的指示以使移动装置100启用深度传感器且捕获深度信息;和(3)处理器,其 耦合到接收器和发射器,其中处理器经配置以为了图像内的对象搜索图像中的至少某一 部分。

实施例包含用于触发移动装置100中的深度传感器的服务器200,所述移动装置100 包含:(1)用于从移动装置100接收由移动装置100内的图像感测装置捕获的图像中的至 少某一部分的装置;(2)用于为了图像内的对象搜索图像中的至少某一部分的装置;和(3) 用于发送指示在图像中未发现对象或发现了对象但具有不充分确定性的指示以使移动 装置100启用深度传感器且捕获深度信息的装置。

实施例包含用于服务器200的非暂时性计算机可读存储媒体,所述服务器200用于 触发移动装置100中的深度传感器,所述非暂时性计算机可读存储媒体包含存储于其上 的程序代码,包括用以执行以上方法的程序代码。

根据应用,本文中所描述的方法可通过各种方式来实施。举例来说,这些方法可以 硬件、固件、软件或其任何组合来实施。对于硬件实施方案,处理单元可实施于一或多 个专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻 辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、电 子装置、经设计以执行本文中所描述的功能的其它电子单元,或其组合内。

对于固件及/或软件实施方案,可使用执行本文中所描述的功能的模块(例如,程序、 功能等等)实施方法。举例来说,用于移动装置100(其用于触发深度传感器)的非暂时性 计算机可读存储媒体可包含存储于其上以执行本文中所描述的方法的程序代码。任何有 形地体现指令的机器可读媒体可用于实施本文中所描述的方法。举例来说,软件代码可 存储在存储器中,并且由处理器单元执行。存储器可实施在处理器单元内或处理器单元 外部。如本文中所使用,术语“存储器”是指任何类型的长期、短期、易失性、非易失 性或其它存储器,且不应限于任何特定类型的存储器或任何特定数目的存储器或存储有 存储器的特定类型的媒体。

如果在固件及/或软件中实施,那么功能可作为一或多个指令或代码存储在计算机可 读媒体上。实例包含使用数据结构编码的计算机可读媒体和使用计算机程序编码的计算 机可读媒体。计算机可读媒体包含物理计算机存储媒体。存储媒体可为可由计算机存取 的任何可用的媒体。作为实例且非限制,此类计算机可读媒体可包括RAM、ROM、 EEPROM、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置,或可用 于存储呈指令或数据结构形式的所要程序代码并且可由计算机存取的任何其它媒体;如 本文中所使用,磁盘和光盘包含压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘 (DVD),软性磁盘和蓝光光盘,其中磁盘通常以磁性方式再现数据,而光盘使用激光以 光学方式再现数据。以上各者的组合也应包含在计算机可读媒体的范围内。

除了存储在计算机可读媒体上之外,指令及/或数据还可作为信号提供于包含在通信 设备中的发射媒体上。举例来说,通信设备可包含具有指示指令和数据的信号的收发器。 所述指令和数据经配置以使一或多个处理器实施权利要求书中概述的功能。也就是说, 通信设备包含具有指示用以执行所揭示功能的信息的信号的发射媒体。在第一时间,通 信设备中所包含的发射媒体可包含用以执行所揭示的功能的信息的第一部分,而在第二 时间,通信设备中所包含的发射媒体可包含用以执行所揭示的功能的信息的第二部分。

提供对所揭示方面的先前描述以使得所属领域的任何技术人员能够制造或使用本 发明。所属领域的技术人员将容易明了对这些方面的各种修改,且可在不脱离本发明的 精神或范围的情况下将本文中所界定的一般原理应用于其它方面。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号