重建三维模型的方法及装置和三维模型采集及重建系统

技术领域

本发明涉及三维技术领域，尤其是涉及一种重建三维模型的方法、一种重建三维模型的装置以及计算机存储介质和一种三维模型采集及重建系统。

背景技术

数字物体例如人体三维采集重建是虚拟现实领域重要的研究问题，随着技术的发展，通过低成本采集设备实现人体的动态采集成为非常有前景的应用。但是，由于动态物体本身动态速率比较快，运动情况复杂，表面情况多变等因素，目前没有很好的方法对其进行跟踪建模。同时，对动态物体建模的精度取决于采样精度和计算机实时处理能力，现有的硬件条件下也十分受限。

相关技术中，通过采用Dynamic Fusion(动态融合)对动态物体进行建模，但是该方法由于速度的限制，最终获得的模型的分辨率不高。这个速度限制主要来源于在方法计算过程中所使用的体素建模方法，体素建模是计算机图形学中常用的一种方法，模型最终的精度、分辨率取决于体素模型采用的立方体数量多少，而计算机能够实时处理立方体的数量取决于GPU(Graphics Processing Unit，图形处理器)的计算能力。例如，对于DynamicFusion算法，在采用1080Ti GPU的情况下，只能实时处理256

发明内容

本发明旨在至少解决现有技术中存在的技术问题之一。为此，本发明的一个目的在于提出一种重建三维模型的方法，该方法可以在不提高GPU计算力的情况下，提高三维模型的分辨率。

本发明的目的之二在于提出一种重建三维模型的装置。

本发明的目的之三在于提出一种计算机存储介质。

本发明的目的之四在于提出一种三维模型采集及重建系统。

为了解决上述问题，本发明第一方面实施例提供的重建三维模型的方法，包括：获取目标物体的三维彩色点云数据；根据所述三维彩色点云数据生成第一分辨率下的三维体素数据；将所述第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据，其中，所述第一分辨率小于所述第二分辨率；根据所述第二分辨率下的三维体素数据获得所述目标物体的三维模型。

根据本发明实施例的重建三维模型的方法，在基本不提高GPU计算力的情况下，通过采用超分辨率神经网络模型，将第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据，其中，第一分辨率小于第二分辨率，即将低分辨率体素数据生成为高分辨率体素数据，进而以高分辨率体素数据获得目标物体的三维模型，从而可以提高三维模型的分辨率。

在一些实施例中，所述超分辨率神经网络模型通过以下步骤训练获得：获取物体的彩色三维点云序列；基于动态融合方法求解变形场以对所述彩色三维点云序列进行配准；将所述彩色三维点云序列在所述第一分辨率下获得第一组体素数据，以及，将所述彩色三维点云序列在所述第二分辨率下获得第二组体素数据；以所述第一组体素数据为输入，以所述第二组体素数据为基准，训练基础网络模型，以获得所述超分辨率神经网络模型。

在一些实施例中，获取目标物体的彩色三维点云数据，包括：获取目标物体时序上连续的深度图像序列和彩色图像序列；对每一帧深度图像进行处理以获得三维点云数据，以及，对每一帧彩色图像进行处理以获得颜色数据；将对应帧图像的三维点云数据与颜色数据进行配准，获得所述三维彩色点云数据。

在一些实施例中，根据所述三维彩色点云数据生成第一分辨率下的三维体素数据，包括：基于动态融合方法求解变形场，对所述三维彩色点云数据进行配准，以生成所述第一分辨率下的三维体素数据。

在一些实施例中，根据所述第二分辨率下的三维体素数据获得所述目标物体的三维模型，包括：通过网格提取方法从所述第二分辨率下的三维体素数据中获得所述目标物体的三维模型。

本发明第二方面实施例提供一种重建三维模型的装置，包括：点云数据获取模块，配置为获取目标物体的三维彩色点云数据；第一体素数据生成模块，配置为根据所述三维彩色点云数据获得第一分辨率下的三维体素数据；第二体素数据生成模块，配置为将所述第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据，其中，所述第一分辨率小于所述第二分辨率；模型重建模块，配置为根据所述第二分辨率下的三维体素数据获得所述目标物体的三维模型。

根据本发明实施例的重建三维模型的装置，在基本不提高GPU计算力的情况下，通过采用超分辨率神经网络模型，由第二体素数据生成模块将第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据，其中，第一分辨率小于第二分辨率，即将低分辨率体素数据生成为高分辨率体素数据，进而模型重建模块以高分辨率体素数据获得目标物体的三维模型，从而可以提高三维模型的分辨率。

本发明第三方面实施例提供一种计算机存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现上述实施例所述的重建三维模型的方法。

本发明第四方面实施例提供一种三维模型采集及重建系统，包括：深度相机，用于采集目标物体的深度图像；彩色相机，用于采集所述目标物体的彩色图像；数据处理设备，与所述深度相机和所述彩色相机分别连接，用于执行上述实施例所述的重建三维模型的方法。

根据本发明实施例的三维模型采集及重建系统，通过数据处理设备采用上述实施例提供的重建三维模型的方法，可以在不提高GPU计算力的情况下，提高三维模型的分辨率。

在一些实施例中，所述深度相机包括ToF相机。

在一些实施例中，所述彩色相机包括RGB彩色相机。

本发明的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：

图1是根据本发明一个实施例的重建三维模型的方法的流程图；

图2是根据本发明一个实施例的神经网络训练过程的示意图；

图3是根据本发明一个实施例的重建三维模型的装置的结构框图；

图4是根据本发明一个实施例的三维模型采集及重建系统的结构框图。

具体实施方式

下面详细描述本发明的实施例，参考附图描述的实施例是示例性的，下面详细描述本发明的实施例。

为了解决上述问题，本发明的一个目的在于提出一种重建三维模型的方法，该方法可以在不提高GPU计算力的情况下，提高三维模型的分辨率。

本发明第一方面实施例提供的重建三维模型的方法，在实施例中，在同一三维彩色点云数据输入的情况下，设定的体素数据的分辨率参数不同，则最终获得的模型的分辨率也是不同的，但若分辨率越高其计算量就越大。基于以上原理，本发明实施例的基本思路为：在基本不提高GPU计算能力的情况下，利用低分辨率下的体素数据进行计算，进而利用超分辨率神经网络模型获得高分辨率下的体素数据，并以高分辨率下的体素数据重建目标物体的三维模型，从而相较于直接采用低分辨率体素数据对动态物体进行建模的方法，可以提高三维模型的分辨率。

如图1所示，本发明实施例的方法至少包括步骤S1-步骤S4。

步骤S1，获取目标物体的三维彩色点云数据。

其中，三维彩色点云数据是由点云数据和彩色图像数据两种模态信息融合而成。

在实施例中，点云数据可以通过深度相机获得，用于记录目标物体的几何位置信息；彩色图像数据可以通过彩色相机获得，用于记录目标物体的颜色纹理信息。进而，对获取的点云数据和彩色图像数据进行处理，以获得目标物体的三维彩色点云数据。

步骤S2，根据三维彩色点云数据生成第一分辨率下的三维体素数据。

其中，第一分辨率为预先设定值，其取决于GPU的计算处理能力，在实时条件下可以达到的最高程度，例如在采用1080Ti GPU的情况下，可以实时处理256

在实施例中，本发明实施例在基本不提高GPU计算能力的情况下，可以采用动态融合方法对低分辨率下的体素数据进行计算，即根据三维彩色点云数据生成第一分辨率下的三维体素数据。

步骤S3，将第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据。

其中，第一分辨率小于第二分辨率。第二分辨率为预先设定值，其取决于系统所需模型的清晰度，例如，第一分辨率为256

超分辨率是指通过硬件或软件的方法提高原有图像的分辨率。超分辨率神经网络模型可以对低分辨率的待评估图像进行超分辨率处理，获得高分辨率的参考图像，上述处理过程可以理解为，超分辨率神经网络模型学习了类似插值算法的运算过程，因此可以将低分辨率的待评估图像转换为高分辨率的参考图像。

具体地，以第二分辨率下的三维体素数据作为最终目标结果，对第一分辨率下的三维体素数据进行超分辨率神经网络训练，即将低分辨率体素数据输入超分辨率神经网络模型，以获得高分辨率体素数据。

步骤S4，根据第二分辨率下的三维体素数据获得目标物体的三维模型。

具体地，相较于直接采用第一分辨率下的三维体素数据重建目标物体三维模型的方式，本发明实施例采用超分辨率神经网络模型，将第一分辨率下的三维体素数据生成为第二分辨率下的三维体素数据，即将低分辨率体素数据生成为高分辨率体素数据，并以高分辨率即第二分辨率下的三维体素数据重建目标物体的三维模型。从而，在不提高GPU计算能力的情况下，可以提高三维模型的分辨率。

举例说明，在采用1080Ti GPU的情况下，采用现有技术中动态物体建模的方法只能实时处理256

此外，本发明实施例通过采用超分辨率神经网络模型，在同等分辨率条件下，也可以减少重建三维模型时所需的计算量。例如，对于分辨率为16

根据本发明实施例的重建三维模型的方法，在基本不提高GPU计算力的情况下，通过采用超分辨率神经网络模型，将第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据，其中，第一分辨率小于第二分辨率，即将低分辨率体素数据生成为高分辨率体素数据，进而以高分辨率体素数据获得目标物体的三维模型，从而可以提高三维模型的分辨率。

在一些实施例中，本发明实施例对于超分辨率神经网络模型通过以下步骤训练获得：获取物体的彩色三维点云序列；基于动态融合方法求解变形场以对彩色三维点云序列进行配准；将彩色三维点云序列在第一分辨率下获得第一组体素数据，以及，将彩色三维点云序列在第二分辨率下获得第二组体素数据；以第一组体素数据为输入，以第二组体素数据为基准，训练基础网络模型，以获得超分辨率神经网络模型。

具体地，对于使用的超分辨率神经网络模型，其训练过程为对彩色三维点云序列分别在低分辨率即第一分辨率和高分辨率即第二分辨率条件下，生成两组体素数据，进而以低分辨率数据即第一组体素数据为输入，高分辨率数据即第二组体素数据为基准，训练神经网络，例如图2所示，以网络预测的高分辨率体素数据即第二体素数据作为目标结果，采用神经网络超分辨方法对第一体素数据即低分辨率体素数据进行多次指导训练，以获取最终的超分辨率神经网络模型如采集获取的高分辨率体素数据。

在一些实施例中，本发明实施例对于获取目标物体的彩色三维点云数据，可以包括，获取目标物体时序上连续的深度图像序列和彩色图像序列；对每一帧深度图像进行处理以获得三维点云数据，以及，对每一帧彩色图像进行处理以获得颜色数据；将对应帧图像的三维点云数据与颜色数据进行配准，获得三维彩色点云数据。

其中，对于获得的深度图像序列和彩色图像序列进行处理，可以包括去噪声处理、平滑处理、前后景分割等。具体地，由于在初始获得的深度图像中通常会将背景、环境中的非处理目标等摄入，为了能够精确地将实际的目标物体在计算机环境中重建出三维模型，通过去噪处理、平滑算法可以获得目标物体的图像。以及通过前后景分割的处理，可以将三维建模的目标物体与背景分离。以及通过获取目标物体时序上连续的深度图像序列和彩色图像序列，并对每一帧图像进行处理，便于实时动态重建目标物体的三维模型。

在一些实施例中，本发明实施例对于根据三维彩色点云数据生成第一分辨率下的三维体素数据，可以包括，基于动态融合方法求解变形场，对三维彩色点云数据进行配准，以生成第一分辨率下的三维体素数据。

其中，动态融合方法的核心为建立一个关键帧下的模型，之后关于场景发生的变化均可以通过几何变换对应至该模型上，即对每一次新读取的深度图像经几何变换后再融合至关键帧下的模型中，该变换过程相当于取消了场景的变换。以此通过采用动态融合方法使得场景逐渐变得更加真实丰满。

在实施例中，在拍摄时，拍摄的一帧图像仅拍摄到人体的部分信息，多帧通过不同角度拍摄的图像，各帧之间包含一定的公共部分，因此要生成完整的三维模型，还需要对图像进行配准。具体地，基于动态融合方法求解变形场，以公共部分为基准，把不同时间、角度、照度等拍照参数下获取的多帧图像叠加匹配到统一的坐标系中，以生成第一分辨率下的三维体素数据。

在一些实施例中，通过网格提取方法从第二分辨率下的三维体素数据中获得目标物体的三维模型。

在实施例中，三维体素数据蕴含了其对应的空间点之间的邻接关系，通过不同的判断方式确定相邻的点是否进行拼接。本发明实施例采用网格提取方法来获得目标物体的三维模型，例如，建立三角形网格，依据空间点在空间上的距离关系，将相同平面的点或者是距离在阈值范围内的点连接成三角形网格，并在建立好每一个区域的网格后，将网格进行拼接，以生成三维模型。或者，也可以依据实际的深度图像建立不同形状的网格，对此不作限制。

本发明第二方面实施例提供一种重建三维模型的装置，如图2所示，本发明实施例的装置10包括点云数据获取模块1、第一体素数据生成模块2、第二体素数据生成模块3以及模型重建模块4。

其中，点云数据获取模块1配置为获取目标物体的三维彩色点云数据；第一体素数据生成模块2配置为根据三维彩色点云数据获得第一分辨率下的三维体素数据；第二体素数据生成模块3配置为将第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据，其中，第一分辨率小于第二分辨率；模型重建模块4配置为根据第二分辨率下的三维体素数据获得目标物体的三维模型。

需要说明的是，本发明实施例的重建三维模型的装置10的具体实现方式与本发明上述任意实施例的重建三维模型的方法的具体实现方式类似，具体请参见关于方法部分的描述，为了减少冗余，此处不再赘述。

根据本发明实施例的重建三维模型的装置10，在基本不提高GPU计算力的情况下，通过采用超分辨率神经网络模型，由第二体素数据生成模块3将第一分辨率下的三维体素数据输入超分辨率神经网络模型以生成第二分辨率下的三维体素数据，其中，第一分辨率小于第二分辨率，即将低分辨率体素数据生成为高分辨率体素数据，进而模型重建模块4以高分辨率体素数据获得目标物体的三维模型，从而可以提高三维模型的分辨率。

本发明第三方面实施例提供一种计算机存储介质，其上存储有计算机程序，其中，计算机程序被处理器执行时实现上述实施例提供的重建三维模型的方法。

本发明第四方面实施例提供一种三维模型采集及重建系统，如图3所示，本发明实施例的包括三维模型采集及重建系统20包括深度相机5、彩色相机6以及数据处理设备7。

其中，深度相机5用于采集目标物体的深度图像；彩色相机6用于采集目标物体的彩色图像；数据处理设备7与深度相机5和彩色相机6分别连接，用于执行上述实施例提供的重建三维模型的方法。

需要说明的是，数据处理设备7的具体实现方式与本发明上述任意实施例的重建三维模型的方法的具体实现方式类似，具体请参见关于方法部分的描述，为了减少冗余，此处不再赘述。

根据本发明实施例的三维模型采集及重建系统20，通过数据处理设备7采用上述实施例提供的重建三维模型的方法，可以在不提高GPU计算力的情况下，提高三维模型的分辨率。

在一些实施例中，深度相机5可以包括ToF相机。

在一些实施例中，彩色相机6可以包括RGB彩色相机。

在本说明书的描述中，流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示意性实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。

尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。