首页> 中国专利> 基于超分辨率重建技术的低分辨率人脸图像的重建方法

基于超分辨率重建技术的低分辨率人脸图像的重建方法

摘要

本发明涉及基于超分辨率重建技术的低分辨率人脸图像的重建方法,属于图像处理领域,本发明包括:对原始图像进行基于人脸三点定位的归一化,得到待重建的归一化人脸图像;再通过生成训练集,对待重建的低分辨率图像进行去噪并通过模糊度估计确定学习样本,通过LLE学习得到最终重建出的高分辨率图像。本发明采用的人脸图像的归一化方法不仅准确,而且和训练集的归一化方法一致,提升了低分辨率人脸图像的准确性。再采用基于低频分量的超分辨率人脸图像的重建方法,制作出低分辨率人脸图像的大尺寸重建像,较好地解决了低分辨率人脸图像的重建难题。

著录项

  • 公开/公告号CN102968775A

    专利类型发明专利

  • 公开/公告日2013-03-13

    原文格式PDF

  • 申请/专利权人 清华大学;

    申请/专利号CN201210435373.2

  • 发明设计人 苏光大;任小龙;苏楠;

    申请日2012-11-02

  • 分类号

  • 代理机构北京清亦华知识产权代理事务所(普通合伙);

  • 代理人廖元秋

  • 地址 100084 北京市海淀区清华园1号

  • 入库时间 2024-02-19 17:37:56

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2015-04-15

    授权

    授权

  • 2013-04-10

    实质审查的生效 IPC(主分类):G06T5/50 申请日:20121102

    实质审查的生效

  • 2013-03-13

    公开

    公开

说明书

技术领域

本发明属于图像处理领域,特别涉及一种制作低分辨率人脸重建像的方法。

背景技术

当前,视频监控得到了迅速的发展,在安防工作中发挥了越来越重要的作用。在视频 监控的图像中,记录了许多与案件有关的人像信息。但是,由于视频监控的涉案人脸图像 往往很小,因此无法分辨涉案人,致使许多案件的办案工作陷入了困境。这种小人脸图像 的本质问题是人脸分辨率低的问题。低分辨率人脸图像的重建技术是公安部门办案工作急 需的关键技术。本发明所指人脸图像,限定为正面人脸图像(下同)。包括人的头顶之下、 颏底线之上、左耳到右耳之间的部分(参见中华人民共和国公共安全行业标准GA/T 893-2010“安防生物特征识别应用术语”)。

专利号为ZL 2005 1 0067692.X的专利公开一种人脸几何尺寸归一化的方法:即基于 人脸几何尺寸归一化的人脸图像识别方法中的人脸三点归一化方法。确定图像中人脸的 左、右眼和颌下点的坐标,并按三点归一化方法生成标准的尺寸的归一化低分辨率人脸图 像。

目前常用的超分辨率人脸图像重建的方法为:利用一个包含成对的高分辨率图像及其 对应的低分辨率图像的数据集作为训练库。将待重建的含有低分辨率人脸的图像分为若干 小块,对待重建的低分辨率图像中的每一个小块,通过LLE表示成训练库中所有低分辨率 图像对应位置小块的线性组合,然后使用相同的线性组合权重对训练库中相应高分辨率图 像对应位置的小块进行组合,得到重建后的超分辨图像对应位置的小块。将得到的重建后 的超分辨图像对应位置的小块进行拼接,块与块之间有少量的重叠,重叠的部分取平均值。 最后得到整个重建后的超分辨大图。该方法虽然能对超低分辨率图像进行重建,但是, 其直接在时域中进行流形学习,局部几何结构相似度不高,流行学习效果较差。此外其重 建过程中受光照及噪声影响较大,未对超低分辨率人脸图像进行配准,对实际场景中的超 分辨率图像重建效果较差。

发明内容

本发明的目的是为克服已有技术的不足之处,提出了一种基于超分辨率重建技术的低 分辨率人脸图像的重建方法,较好地解决了低分辨率人脸图像的重建难题。

一种基于超分辨率重建技术的低分辨率人脸图像的重建方法,其特征在于,包括以下 步骤:

1)对原始图像进行基于人脸三点定位的归一化,得到待重建的归一化人脸图像,具体包 括:

1.1)对含有低分辨率人脸图像的原始图像进行裁剪,裁剪出包含低分辨率人脸图像 的矩形区域,得到低分辨率人脸图像;该区域左上、左下、右上、右下4个顶点在原始图 像中坐标分别为:(m1,n1)、(m1,n2)、(m2,n1)、(m2,n2),m、n分别表示坐 标系中的点的横坐标和纵坐标;

1.2)对1.1)中得到的低分辨率人脸图像进行等比放大,放大倍率为K×K,放大后 图像的高度为L,L=K×(n2-n1),k满足:K≥150/(n2-n1);

1.3)对放大后的低分辨率人脸图像采用基于人脸三点定位的归一化方法进行归一 化,得到一幅待重建的标准尺寸的归一化人脸图像;

1.31)在放大后的低分辨率人脸图像a上确定左眼球上的一点A的坐标(x11,y11)、右 眼球上的一点B的坐标位置(x21,y21),通过A、B两点做直线L1,并确定下颌点C0坐标 (x01,y01),按放大倍率K将三点的坐标对应至原裁剪图像坐标,分别为(x1,y1),(x2,y2), (x0,y0);

1.32)对原始图像进行基于人脸几何尺寸归一化的人脸图像识别方法中的人脸三点 归一化方法,得到尺寸为H×W的待重建的归一化人脸图像,其中H,W满足下式:

H=64,(n2-n1)6432,64>(n2-n1)3216,32>(n2-n1)16,---(1)

W=H×3/4,H0=5×H/12,H1=63×H/120,H2=7×H/120;

2)对标准的待重建的归一化人脸图像进行基于低频分量的超分辨率人脸图像的重建得到 512×384高分辨率图像:

2.1)生成训练集:

2.11)将不低于100幅的清晰正面人脸图像作为训练集的图像;

2.12)采用人脸三点定位归一化方法将训练集中的每一幅图像变为512×384的标准 分辨率人脸图像;

2.13)对每一幅512×384的标准分辨率图像使用9-7滤波器下采样生成32×24,64 ×48,128×96,256×192,512×384的五种清晰的分辨率样本,再对每一幅512×384的 标准分辨率图像使用高斯金字塔滤波器下采样生成32×24的模糊的分辨率样本;

2.14)对64×48,128×96,256×192,512×384的四种清晰的分辨率样本用9-7滤 波器组进行拉普拉斯金字塔分解提取高频分量并保存,作为高分辨率图像小波系数样本;

2.15)对32×24,64×48,128×96,256×192四种清晰的分辨率样本进行最邻近插 值与双三次线性插值,取两者平均,用9-7滤波器组进行拉普拉斯金字塔分解提取它们的 高频分量并保存,作为清晰的低分辨率图像小波系数样本,同时对模糊的32×24分辨率 样本进行最邻近插值与双三次线性插值,取两者平均,用9-7滤波器组进行拉普拉斯金字 塔分解提取其高频分量并保存,作为模糊的32×24低分辨率图像小波系数样本;

2.2)对待重建的低分辨率图像进行去噪并通过模糊度估计确定学习样本:

2.21)对归一化后的待重建的32×24低分辨率图像进行去噪;步骤如下:

对待重建图像进行拉普拉斯金字塔分解,计算出其所有高频系数绝对值的中位数σ作为噪 声标准差估计值,根据经典去噪算法以λσ为阈值进行去噪,λ为经验系数,取值范围为 0.05<λ<0.3;

2.22)进行模糊程度估计,算出模糊程度系数:

u=ΣhΣi,---(2)

h为待重建的低分辨率图像的高频系数绝对值之和,∑i为去噪后的待重建的32×24低分 辨率图像像素值之和;

2.23)根据模糊程度系数u选取学习样本:

u<0.05,时学习采用模糊的32×24样本,u≥0.05时采用清晰的32×24样本;

2.3)通过LLE学习得到最终重建出的高分辨率图像:

2.31)从32×24到64×48放大:

2.31.1)将于2.21)中得到的去噪后的32×24低分辨率图像的像素值直接作为重 建出的64×48高分辨率图像的低频系数;

2.31.2)对去噪后的32×24低分辨率图像进行最邻近插值与双三次线性插值,取 两者平均,用9-7滤波器组进行拉普拉斯金字塔分解得到其高频系数;

2.31.3)将去噪后的32×24低分辨率图像分割为大小为s×t的小块,s取值范围 为4~8,t取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.31.4)利用LLE学习得到2.31.3)中分割出的小块对应位置的64×48高分辨率 小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.31.2)中得到的高频系数组成的向量, xLR(i)为第i个在2.23)确定的样本集中相应位置小块的高频系数组成的向量,在2.23)确 定的样本集相应位置的小块中取前k个(5<k<8)与yLR均方误差最小的样本小块,计算如 下极值问题:

W=arg>minw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的 向量;w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量;进而 计算出学习得到的64×48高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的64×48清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、 (4)两式中ε=1;

2.31.5)重复2.31.4)得到所有2.31.3)中分割出的小块对应的64×48高分辨率小 块的高频系数

2.31.6)将2.31.5)中学习得到的64×48高分辨率小块进行拼接,相邻小块间重叠 部分取所有参与重叠的小块的均值作为结果,得到64×48高分辨率图像的高频系数;

2.31.7)将得到的64×48高分辨率图像的高、低频系数进行反变换便得到64×48 高分辨率图像;

2.32)从64×48到128×96放大:

2.32.1)将从2.31)步得到的64×48高分辨率图像作为此步的64×48低分辨率图 像,其像素值直接作为重建出的128×96高分辨率图像的低频系数;

2.32.2)对64×48低分辨率图像进行最邻近插值与双三次线性插值,取两者平均, 用9-7滤波器组进行拉普拉斯金字塔分解得到其高频系数;

2.32.3)将64×48低分辨率图像分割为大小为s×t的小块,s取值范围为4~8,t 取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.32.4)利用LLE学习得到2.32.3)中分割出的小块对应位置的128×96高分辨率 小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.32.2)中得到的高频系数组成的向量, xLR(i)为第i个64×48清晰的分辨率样本集相应位置小块的高频系数组成的向量,在64× 48清晰的分辨率样本集相应位置的小块中取前k个(5<k<8)与yLR均方误差最小的样本小 块,计算如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的128×96高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的128×96清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.32.5)重复2.32.4)得到所有2.32.3)中分割出的小块对应的128×96高分辨率 小块的高频系数

2.32.6)将2.32.5)中学习得到的128×96高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为结果,得到128×96高分辨率图像的高频系数;

2.32.7)将得到的128×96高分辨率图像的高、低频系数进行反变换便得出128× 96高分辨率图像;

2.33)从128×96到256×192放大:

2.33.1)将从2.32)步得到的128×96高分辨率图像作为此步的128×96低分辨率 图像,其像素值直接作为重建出的256×192高分辨率图像的低频系数;

2.33.2)对128×96低分辨率图像进行最邻近插值与双三次线性插值,取两者平均, 用9-7滤波器组进行拉普拉斯金字塔分解提取得到其高频系数;

2.33.3)将128×96低分辨率图像分割为大小为s×t的小块,s取值范围为4~8, t取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.33.4)利用LLE学习得到2.33.3)中分割出的小块对应位置的256×192高分辨 率小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.33.2)中得到的高频系数组成的向量, xLR(i)为第i个128×96清晰的分辨率样本相应位置小块的高频系数组成的向量,在128× 96清晰的分辨率样本相应位置的小块中取前k个(5<k<8)与yLR均方误差最小的样本小块, 计算如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的256×192高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的256×192清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.33.5)重复2.33.4)得到所有2.33.3)中分割出的小块对应的256×192高分辨率 小块的高频系数

2.33.6)将2.33.5)中学习得到的256×192高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为最终结果,得到256×192高分辨率图像的高频 系数;

2.33.7)将得到的256×192高分辨率图像的高、低频系数进行反变换便得出256 ×192高分辨率图像;

2.34)从256×192到512×384放大:

2.34.1)将从2.33)步得到的256×192高分辨率图像作为此步的256×192低分辨 率图像,其像素值直接作为重建出的512×384高分辨率图像的低频系数;

2.34.2)对256×192低分辨率图像进行最邻近插值与双三次线性插值,取两者平 均,用9-7滤波器组进行拉普拉斯金字塔分解提取得到其高频系数;

2.34.3)将256×192低分辨率图像分割为大小为s×t的小块,s取值范围为4~8, t取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.34.4)利用LLE学习得到2.34.3)中分割出的小块对应位置的512×384高分辨 率小块的高频系数:

令yLR为单个于2.34.3)中得到小块对应的于2.34.2)中得到的高频系数组成的向量, xLR(i)为第i个256×192清晰的分辨率样本相应位置小块的高频系数组成的向量,在256 ×192清晰的分辨率样本相应位置小块中取前k个(5<k<8)与yLR均方误差最小的样本小 块,计算如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的512×384高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的512×384清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.34.5)重复2.34.4)得到所有2.34.3)中分割出的小块对应的512×384高分辨率 小块的高频系数

2.34.6)将2.34.5)中学习得到的512×384高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为最终结果,得到512×384高分辨率图像的高频 系数;

将得到的512×384高分辨率图像的高、低频系数进行反变换便得到最终重建出的512 ×384高分辨率图像。

本发明的特点及效果:

本发明首先采用低分辨率人脸图像的归一化方法,特别是采用了基于人脸三点定位归 一化方法的低分辨率人脸图像的归一化方法(见发明专利:基于人脸几何尺寸归一化的人 脸图像识别方法,发明专利号:ZL 2005 1 0067692.X,),这种人脸图像的归一化方法不 仅准确,而且和训练集的归一化方法一致,提升了低分辨率人脸图像的准确性。获得归一 化的低分辨率人脸图像后,再采用基于低频分量的超分辨率人脸图像的重建方法,制作出 低分辨率人脸图像的大尺寸重建像,较好地解决了低分辨率人脸图像的重建难题。

附图说明

图1为本发明的低分辨率人脸实施例图像。

图2为本实施例裁剪的低分辨率人脸图像。

图3为本实施例的裁剪的低分辨率人脸的放大图像。

图4为本实施例的低分辨率人脸的放大图像的三点定位图像。

图5为本实施例的基于人脸三点定位的低分辨率人脸图像的归一化图像,图像尺寸为 32×24。

图6为本实施例的低分辨率人脸图像的重建像。

图7为本实施例的低分辨率人脸对应的真实清晰人脸图像。

具体实施方式

本发明提出的基于超分辨率重建技术的低分辨率人脸图像的重建方法结合附图及实 施例详细说明如下:

本发明提出的一种基于超分辨率重建技术的低分辨率人脸图像的重建方法,包括低分 辨率人脸图像的归一化和基于低频分量的超分辨率重建;具体包括以下步骤:

1)对原始图像进行基于人脸三点定位的归一化,得到待重建的归一化人脸图像

1.1)对含有低分辨率人脸图像的原始图像进行裁剪,裁剪出包含低分辨率人脸图像 的矩形图像区域,得到低分辨率人脸图像;该区域左上、左下、右上、右下4个顶点坐标 分别为:(m1,n1)、(m1,n2)、(m2,n1)、(m2,n2),m、n分别表示坐标系中点 的横坐标和纵坐标;

1.2)对1.1)得到的低分辨率人脸图像进行等比放大,放大倍率为K×K,放大后图 像的高度为L,L=K×(n2-n1),k满足:K≥150/(n2-n1);

1.3)对放大后的低分辨率人脸图像采用基于人脸三点定位的归一化方法进行归一 化,得到一幅待重建的标准尺寸的人脸图像;

1.31)在放大后的低分辨率人脸图像a上确定左眼球上的一点A的坐标(x11,y11)、右 眼球上的一点B的坐标位置(x21,y21),通过A、B两点做直线L1,并确定下颌点C0坐标 (x01,y01),,按放大倍率k将三点的坐标对应至原裁剪图像坐标,分别为(x1,y1),(x2,y2), (x0,y0);

1.32)对原始图像进行基于人脸几何尺寸归一化的人脸图像识别方法中的人脸三点 归一化方法,得到尺寸为H×W的待重建的归一化人脸图像,具体包括(属于已有技术):

1.32.1)计算直线L1和水平线的夹角α;直线L1和水平线的夹角α由下式求得, 其中(x1,y1),(x2,y2)分别对应左右眼球坐标:

对该人脸图像a进行旋转角度为α的旋转处理,得到人脸图像b;旋 转表达式如下:

xy=cosαsinα-sinαcosαxy

式中,x、y为输入人脸图像的坐标,x、y为人脸图像b的坐标;

1.32.2)在人脸图像b上计算确定出左眼球上的一点C的坐标位置(x3,y3)、右眼 球上的一点D的坐标位置(x4,y4),通过C、D两点做直线L2,确定出旋转后的人脸图像 的下颌点E的坐标位置(x5,y5);

1.32.3)规定几何尺寸归一化的人脸图像的几何尺寸的数值,其中宽度的尺寸为W, 高度的尺寸为H;规定颌下线上的任何一点到两眼连线的垂直距离的标准值为H0,到图像 下边框的垂直距离的标准值为H1,两眼连线到图像上边框的垂直距离的标准值为H2;H, W满足下式:

H=64,(n2-n1)6432,64>(n2-n1)3216,32>(n2-n1)16,---(1)

W=H×3/4,H0=5×H/12,H1=63×H/120,H2=7×H/120;

1.32.4)求出E点到直线L2的垂直距离hy,并计算图像放缩系数K=hy/H0;其 中,E点到直线L2的垂直距离hy

hy=y5-y3+y42

1.32.5)对人脸图像b按照放缩系数K进行放大或缩小处理,得到满足标准距离H0的人脸图像c;

1.32.6)在人脸图像c上确定出左眼球上的一点M的坐标位置(x6,y6)、右眼球上 的一点N的坐标位置(x7,y7),以及下颌点P的纵坐标y8位置;y8=MidPoint.y+H0

1.32.7)对人脸图像c进行裁减得到标准的待重建的归一化人脸图像d:裁去人脸 图像c中x坐标小于(x6+x7)/2-W/2、大于(x6+x7)/2+W/2的部分,以及y坐标小于 (y7-H2)、大于(y8+H1)的部分;若裁减后图像的宽度小于W或者高度小于H,则采用插 值的方法,将宽度补到W或者高度补到H;

2)对标准的待重建的归一化人脸图像进行基于低频分量的超分辨率人脸图像的 重建得到512×384高分辨率图像:

2.1)生成训练集:

2.11)将不低于100幅的清晰正面人脸图像作为训练集的图像;

2.12)采用人脸三点定位归一化方法将训练集中的每一幅图像变为512×384的标准 分辨率人脸图像;

2.13)对每一幅512×384的标准分辨率图像使用9-7滤波器下采样生成32×24,64 ×48,128×96,256×192,512×384的五种清晰的分辨率样本,再对每一幅512×384的 标准分辨率图像使用高斯金字塔滤波器下采样生成32×24的模糊的分辨率样本;

2.14)对64×48,128×96,256×192,512×384的四种清晰的分辨率样本用9-7滤 波器组进行拉普拉斯金字塔分解提取高频分量并保存,作为高分辨率图像小波系数样本;

2.15)对32×24,64×48,128×96,256×192四种清晰的分辨率样本进行最邻近插 值与双三次线性插值,取两者平均,用9-7滤波器组进行拉普拉斯金字塔分解提取它们的 高频分量并保存,作为清晰的低分辨率图像小波系数样本,同时对模糊的32×24分辨率 样本进行最邻近插值与双三次线性插值,取两者平均,用9-7滤波器组进行拉普拉斯金字 塔分解提取其高频分量并保存,作为模糊的32×24低分辨率图像小波系数样本

2.2)对待重建的低分辨率图像进行去噪并通过模糊度估计确定学习样本:

2.21)对归一化后的待重建的32×24低分辨率图像进行去噪;步骤如下:

对待重建图像进行拉普拉斯金字塔分解,计算出其所有高频系数绝对值的中位数σ作为噪 声标准差估计值,根据经典去噪算法以λσ为阈值进行去噪,λ为经验系数,取值范围为 0.05<λ<0.3;

2.22)进行模糊程度估计,算出模糊程度系数:

u=ΣhΣi---(2)

h为待重建的低分辨率图像的高频系数绝对值之和,∑i为去噪后的待重建的32×24低分 辨率图像像素值之和;

2.23)根据模糊程度系数u选取学习样本:

u<0.05,时学习采用模糊的32×24样本,u≥0.05时采用清晰的32×24样本;

2.3)通过LLE学习得到氟化钙的高分辨率图像:

2.31)从32×24到64×48放大:

2.31.1)将于2.21)中得到的去噪后的32×24低分辨率图像的像素值直接作为重 建出的64×48高分辨率图像的低频系数;

2.31.2)对去噪后的32×24低分辨率图像进行最邻近插值与双三次线性插值,取 两者平均,用9-7滤波器组进行拉普拉斯金字塔分解得到其高频系数;

2.31.3)将32×24低分辨率图像分割为大小为s×t的小块,s取值范围为4~8,t 取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.31.4)利用LLE学习得到2.31.3)中分割出的小块对应位置的64×48高分辨率 小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.31.2)中得到的高频系数组成的向量, xLR(i)为第i个在2.23)确定的样本集中相应位置小块的高频系数组成的向量,在2.23)确 定的样本集相应位置的小块中取前k个(5<k<8)与yLR均方误差最小的样本小块,计算如 下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的 向量;w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量;进而 计算出学习得到的64×48高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的64×48清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、 (4)两式中ε=1;

2.31.5)重复2.31.4)得到所有2.31.3)中分割出的小块对应的64×48高分辨率小 块的高频系数

2.31.6)将2.31.5)中学习得到的64×48高分辨率小块进行拼接,相邻小块间重叠 部分取所有参与重叠的小块的均值作为结果,得到64×48高分辨率图像的高频系数;

2.31.7)将得到的64×48高分辨率图像的高、低频系数进行反变换便得到64×48 高分辨率图像;

2.32)从64×48到128×96放大:

2.32.1)将从2.31)步得到的64×48高分辨率图像作为此步的64×48低分辨率图 像,其像素值直接作为重建出的128×96高分辨率图像的低频系数;

2.32.2)对64×48低分辨率图像进行最邻近插值与双三次线性插值,取两者平均, 用9-7滤波器组进行拉普拉斯金字塔分解得到其高频系数;

2.32.3)将64×48低分辨率图像分割为大小为s×t的小块,s取值范围为4~8,t 取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.32.4)利用LLE学习得到2.32.3)中分割出的小块对应位置的128×96高分辨率 小块的高频系数:

令yLR为单个于2.3.1.3)中得到小块对应的于2.32.2)中得到的高频系数组成的向量, xLR(i)为第i个64×48清晰的分辨率样本集相应位置小块的高频系数组成的向量,在64× 48清晰的分辨率样本集相应位置的小块中取前k个(5<k<8)与yLR均方误差最小的样本小 块,计算如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的128×96高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的128×96清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.32.5)重复2.32.4)得到所有2.32.3)中分割出的小块对应的128×96高分辨率 小块的高频系数

2.32.6)将2.32.5)中学习得到的128×96高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为结果,得到128×96高分辨率图像的高频系数;

2.32.7)将得到的128×96高分辨率图像的高、低频系数进行反变换便得出128× 96高分辨率图像;

2.33)从128×96到256×192放大:

2.33.1)将从2.32)步得到的128×96高分辨率图像作为此步的128×96低分辨率 图像,其像素值直接作为重建出的256×192高分辨率图像的低频系数;

2.33.2)对128×96低分辨率图像进行最邻近插值与双三次线性插值,取两者平均, 用9-7滤波器组进行拉普拉斯金字塔分解提取得到其高频系数;

2.33.3)将128×96低分辨率图像分割为大小为s×t的小块,s取值范围为4~8, t取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.33.4)利用LLE学习得到2.33.3)中分割出的小块对应位置的256×192高分辨 率小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.33.2)中得到的高频系数组成的向量, xLR(i)为第i个128×96清晰的分辨率样本相应位置小块的高频系数组成的向量,在128× 96清晰的分辨率样本相应位置的小块中取前k个(5<k<8)与yLR均方误差最小的样本小块, 计算如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的256×192高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的256×192清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.33.5)重复2.33.4)得到所有2.33.3)中分割出的小块对应的256×192高分辨率 小块的高频系数

2.33.6)将2.33.5)中学习得到的256×192高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为最终结果,得到256×192高分辨率图像的高频 系数;

2.33.7)将得到的256×192高分辨率图像的高、低频系数进行反变换便得出256 ×192高分辨率图像;

2.34)从256×192到512×384放大:

2.34.1)将从2.33)步得到的256×192高分辨率图像作为此步的256×192低分辨 率图像,其像素值直接作为重建出的512×384高分辨率图像的低频系数;

2.34.2)对256×192低分辨率图像进行最邻近插值与双三次线性插值,取两者平 均,用9-7滤波器组进行拉普拉斯金字塔分解提取得到其高频系数;

2.34.3)将256×192低分辨率图像分割为大小为s×t的小块,s取值范围为4~8, t取值范围为8~12,相邻小块间有(s-1)×(t-1)的重叠;

2.34.4)利用LLE学习得到2.34.3)中分割出的小块对应位置的512×384高分辨 率小块的高频系数:

令yLR为单个于2.34.3)中得到小块对应的于2.34.2)中得到的高频系数组成的向量, xLR(i)为第i个256×192清晰的分辨率样本相应位置小块的高频系数组成的向量,在256 ×192清晰的分辨率样本相应位置小块中取前k个(5<k<8)与yLR均方误差最小的样本小 块,计算如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的512×384高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的512×384清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.34.5)重复2.34.4)得到所有2.34.3)中分割出的小块对应的512×384高分辨率 小块的高频系数

2.34.6)将2.34.5)中学习得到的512×384高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为最终结果,得到512×384高分辨率图像的高频 系数;

2.34.7)将得到的512×384高分辨率图像的高、低频系数进行反变换便得到最终 重建出的512×384高分辨率图像;

实施例

1)对原始图像进行基于人脸三点定位的归一化,得到待重建的归一化人脸图像

1.1)对含有低分辨率人脸图像的原始图像进行裁剪,裁剪出包含低分辨率人脸图像 的矩形图像区域,得到低分辨率人脸图像,如图2所示,该区域左上、左下、右上、右下 4个顶点坐标分别为:(898,526)、(898,556)、(924,526)、(924,556);

1.2)对1.1)得到的低分辨率人脸图像进行等比放大,放大倍率为6×6,放大后图 像的高度为L=180,如图3所示;

1.3)对放大后的低分辨率人脸图像采用基于人脸三点定位归一化的方法进行归一 化,得到一幅待重建的标准尺寸的人脸图像如图5所示;

1.31)在放大后的低分辨率人脸图像a上确定左眼球上的一点A的坐标(63,104)、 右眼球上的一点B的坐标位置(112,105),通过A、B两点做直线L1,并确定下颌点C0 坐标(87,174),如图4所示,按放大倍率6将三点的坐标对应至原裁剪图像坐标,分别 为(908,543),(916,543),(912,555);

1.32)对原始图像进行基于人脸几何尺寸归一化的人脸图像识别方法中的人脸三点 归一化方法,得到尺寸为32×24的待重建的归一化人脸图像,具体包括(属于已有技术)

1.32.1)计算直线L1和水平线的夹角α;

直线L1和水平线的夹角α由下式求得,其中(x1,y1),(x2,y2)分别对应左右眼球坐标:

α=arctan(y2-y1x2-x1)

1.32.2)对该人脸图像a进行旋转角度为α的旋转处理,得到人脸图像b; 旋转表达式如下:

xy=cosαsinα-sinαcosαxy

式中,x、y为输入人脸图像的坐标,x、y为人脸图像b的坐标;

1.32.3)在人脸图像b上计算确定出左眼球上的一点C的坐标位置(x3,y3)、右眼 球上的一点D的坐标位置(x4,y4),通过C、D两点做直线L2,确定出旋转后的人脸图像 的下颌点E的坐标位置(x5,y5);

1.32.4)规定几何尺寸归一化的人脸图像的几何尺寸的数值,其中宽度的尺寸为 24,高度的尺寸为32;规定颌下线上的任何一点到两眼连线的垂直距离的标准值为H0, 到图像下边框的垂直距离的标准值为H1,两眼连线到图像上边框的垂直距离的标准值为 H2

1.32.5)求出E点到直线L2的垂直距离hy,并计算图像放缩系数K=hy/H0;其 中,E点到直线L2的垂直距离hy

hy=y5-y3+y42

1.32.6)对人脸图像b按照放缩系数K进行放大或缩小处理,得到满足标准距离H0的人脸图像c;

1.32.7)在人脸图像c上确定出左眼球上的一点M的坐标位置(10,17)、右眼球 上的一点N的坐标e位置(18,17),以及下颌点P的纵坐标y8位置;y8=29;

1.32.8)对人脸图像c进行裁减得到标准的待重建的归一化人脸图像d:裁去人脸 图像c中x坐标小于(x6+x7)/2-W/2、大于(x6+x7)/2+W/2的部分,以及y坐标小于 (y7-H2)、大于(y8+H1)的部分;若裁减后图像的宽度小于W或者高度小于H,则采用插 值的方法,将宽度补到W或者高度补到H;

2)对标准的待重建的归一化人脸图像进行基于低频分量的超分辨率人脸图像的 重建得到512×384高分辨率图像:

2.1)生成训练集:

2.11)用100幅的清晰正面人脸图像作为训练集的图像;

2.12)采用人脸三点定位归一化方法将训练集中的每一幅图像变为512×384的标准 分辨率人脸图像;

2.13)对每一幅512×384的标准分辨率图像使用9-7滤波器下采样生成32×24,64 ×48,128×96,256×192,512×384的五种清晰的分辨率样本,再对每一幅512×384的 标准分辨率图像使用高斯金字塔滤波器下采样生成32×24的模糊的分辨率样本;

2.14)对64×48,128×96,256×192,512×384的四种清晰的分辨率样本用9-7滤 波器组进行拉普拉斯金字塔分解提取高频分量并保存,作为高分辨率图像小波系数样本;

2.15)对32×24,64×48,128×96,256×192四种清晰的分辨率样本进行最邻近插 值与双三次线性插值,取两者平均,用9-7滤波器组进行拉普拉斯金字塔分解提取它们的 高频分量并保存,作为清晰的低分辨率图像小波系数样本,同时对模糊的32×24分辨率 样本进行最邻近插值与双三次线性插值,取两者平均,用9-7滤波器组进行拉普拉斯金字 塔分解提取其高频分量并保存,作为模糊的32×24低分辨率图像小波系数样本

2.2)对待重建的低分辨率图像进行去噪并通过模糊度估计确定学习样本:

2.21)对归一化后的待重建的32×24低分辨率图像进行去噪;步骤如下:

对待重建图像进行拉普拉斯金字塔分解,计算出其所有高频系数绝对值的中位数σ作为噪 声标准差估计值,根据经典去噪算法以λσ为阈值进行去噪,λ=0.15;

2.22)进行模糊程度估计,算出模糊程度系数:

u=ΣhΣi=0.03,---(1)

h为待重建的低分辨率图像的高频系数绝对值之和,∑i为去噪后的待重建的32×24 低分辨率图像像素值之和;

2.23)根据模糊程度系数u选取学习样本:

因为u=0.03<0.05,学习采用模糊的32×24样本;

2.3)通过LLE学习得到最终重建的高分辨率图像:

2.31)从32×24到64×48放大:

2.31.1)将于2.2.1)中得到的去噪后的32×24低分辨率图像的像素值直接作为重 建出的64×48高分辨率图像的低频系数;

2.31.2)对去噪后的32×24低分辨率图像进行最邻近插值与双三次线性插值,取 两者平均,用9-7滤波器组进行拉普拉斯金字塔分解得到其高频系数;

2.31.3)将32×24低分辨率图像分割为大小为5×10的小块,相邻小块间有4×9 的重叠;

2.31.4)利用LLE学习得到2.31.3)中分割出的小块对应位置的64×48高分辨率 小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.31.2)中得到的高频系数组成的向量, xLR(i)为第i个在模糊的32×24样本集中相应位置小块的高频系数组成的向量,在模糊的 32×24样本集相应位置的小块中取前k=6个与yLR均方误差最小的样本小块,计算如下极 值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的 向量;w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量;进而 计算出学习得到的64×48高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的64×48清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、 (4)两式中ε=1;

2.31.5)重复2.31.4)得到所有2.31.3)中分割出的小块对应的64×48高分辨率小 块的高频系数

2.31.6)将2.31.5)中学习得到的64×48高分辨率小块进行拼接,相邻小块间重叠 部分取所有参与重叠的小块的均值作为结果,得到64×48高分辨率图像的高频系数;

2.31.7)将得到的64×48高分辨率图像的高、低频系数进行反变换便得到64×48 高分辨率图像;

2.32)从64×48到128×96放大:

2.32.1)将从2.31)步得到的64×48高分辨率图像作为此步的64×48低分辨率图 像,其像素值直接作为重建出的128×96高分辨率图像的低频系数;

2.32.2)对64×48低分辨率图像进行最邻近插值与双三次线性插值,取两者平均, 用9-7滤波器组进行拉普拉斯金字塔分解得到其高频系数;

2.32.3)将64×48低分辨率图像分割为大小为5×10的小块,相邻小块间有4×9 的重叠;

2.32.4)利用LLE学习得到2.32.3)中分割出的小块对应位置的128×96高分辨率 小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.32.2)中得到的高频系数组成的向量, xLR(i)为第i个64×48清晰的分辨率样本集相应位置小块的高频系数组成的向量,在64× 48清晰的分辨率样本集相应位置的小块中取前k=6个与yLR均方误差最小的样本小块,计 算如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的128×96高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的128×96清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.32.5)重复2.32.4)得到所有2.32.3)中分割出的小块对应的128×96高分辨率 小块的高频系数

2.32.6)将2.32.5)中学习得到的128×96高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为结果,得到128×96高分辨率图像的高频系数;

2.32.7)将得到的128×96高分辨率图像的高、低频系数进行反变换便得出128× 96高分辨率图像;

2.33)从128×96到256×192放大:

2.33.1)将从2.32)步得到的128×96高分辨率图像作为此步的128×96低分辨率 图像,其像素值直接作为重建出的256×192高分辨率图像的低频系数;

2.33.2)对128×96低分辨率图像进行最邻近插值与双三次线性插值,取两者平均, 用9-7滤波器组进行拉普拉斯金字塔分解提取得到其高频系数;

2.33.3)将128×96低分辨率图像分割为大小为5×10的小块,相邻小块间有4×9 的重叠;

2.33.4)利用LLE学习得到2.33.3)中分割出的小块对应位置的256×192高分辨 率小块的高频系数:

令yLR为单个于2.31.3)中得到小块对应的于2.33.2)中得到的高频系数组成的向量, xLR(i)为第i个128×96清晰的分辨率样本相应位置小块的高频系数组成的向量,在128× 96清晰的分辨率样本相应位置的小块中取前k=6个与yLR均方误差最小的样本小块,计算 如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的256×192高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的256×192清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.33.5)重复2.33.4)得到所有2.33.3)中分割出的小块对应的256×192高分辨率 小块的高频系数

2.33.6)将2.33.5)中学习得到的256×192高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为最终结果,得到256×192高分辨率图像的高频 系数;

2.33.7)将得到的256×192高分辨率图像的高、低频系数进行反变换便得出256 ×192高分辨率图像;

2.34)从256×192到512×384放大:

2.34.1)将从2.33)步得到的256×192高分辨率图像作为此步的256×192低分辨 率图像,其像素值直接作为重建出的512×384高分辨率图像的低频系数;

2.34.2)对256×192低分辨率图像进行最邻近插值与双三次线性插值,取两者平 均,用9-7滤波器组进行拉普拉斯金字塔分解提取得到其高频系数;

2.34.3)将256×192低分辨率图像分割为大小为5×10的小块,相邻小块间有4 ×9的重叠;

2.34.4)利用LLE学习得到2.34.3)中分割出的小块对应位置的512×384高分辨 率小块的高频系数:

令yLR为单个于2.34.3)中得到小块对应的于2.34.2)中得到的高频系数组成的向量, xLR(i)为第i个256×192清晰的分辨率样本相应位置小块的高频系数组成的向量,在256 ×192清晰的分辨率样本相应位置小块中取前k=6个与yLR均方误差最小的样本小块,计算 如下极值问题:

W=argminw(i)||ϵyLR-Σi=1kw(i)xLR(i)||2,Σi=1kw(i)=1---(3)

令G=(εyLR1T-X)T(εyLR1T-X),其中X的每列为xLR(i),共k列,1为元素皆为1的向量, w(i)为k个待求系数,此极值问题的解为W为w(i)组成的向量,进而计算出 学习得到的512×384高分辨率图像小块的高频系数向量为:

yHR=Σi=1kw(i)xHR(i)ϵ---(4)

其中xHR(i)为xLR(i)对应的512×384清晰分辨率样本小块的高频系数向量;

若进行光照处理,(3)、(4)两式中若不进行光照处理,(3)、(4) 两式中ε=1;

2.34.5)重复2.34.4)得到所有2.34.3)中分割出的小块对应的512×384高分辨率 小块的高频系数

2.34.6)将2.34.5)中学习得到的512×384高分辨率小块进行拼接,相邻小块间重 叠部分取所有参与重叠的小块的均值作为最终结果,得到512×384高分辨率图像的高频 系数;

2.34.7)将得到的512×384高分辨率图像的高、低频系数进行反变换便得到最终 重建出的512×384高分辨率图像,如图6所示;

将将上述方法,按照低分辨率人脸图像的裁剪、低分辨率人脸图像的放大、三点定位 归一化、重建、存储的步骤编制程序,实现超分辨率重建技术的低分辨率人脸图像的重建, 得到最终重建结果如图6所示。低分辨率人脸对应的真实清晰人脸图像如图7所示。从图 6、图7中可以看到,本发明效果明显。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号