双屏协同交互下的远程互动课堂教学方法

技术领域

本申请涉及智能课堂领域，且更为具体的涉及一种双屏协同交互下的远程互动课堂教学方法。

背景技术

双屏协同交互下的远程互动课堂教学是指在远程教学环境中，教师和学生通过两个屏幕进行交互和教学。其中一个屏幕用于教师展示课件、讲解内容等，另一个屏幕用于学生参与互动、回答问题等。双屏协同交互下的远程互动课堂教学具有很多优点：1、提供更丰富的教学资源：通过远程互动课堂，教师可以利用互联网上的各种资源，如教学视频、在线教材、网络实验等，为学生提供更丰富的学习资源，丰富了教学内容和方式。2、提高学生参与度：远程互动课堂可以利用实时问答工具、在线讨论等方式，鼓励学生积极参与课堂互动。学生可以通过双屏协同交互，实时回答问题、提出疑问，增加了学生的参与度和积极性。3、弥补时空限制：远程互动课堂可以打破时空限制，学生可以在任何时间、任何地点参与学习。这对于异地学生、工作人员或有特殊需求的学生来说，具有很大的便利性和灵活性。但是双屏协同交互下的远程互动课堂教学也有一些限制，比如线上上课，教师对学生的学习状态难以得到及时了解。

因此，期待一种优化的双屏协同交互下的远程互动课堂教学方案。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种双屏协同交互下的远程互动课堂教学方法，其能够基于学生的面部特征来判断学生是否在认真听课，之后将学生的听课情况及时反馈给老师。这样，可以提高学生的上课注意力，老师可以更准确地掌握学生的学习状态，提高学生学习效率。

根据本申请的一个方面，提供了一种双屏协同交互下的远程互动课堂教学方法，其包括：

获取预定时间段的学生面部监控视频；

以预定采样频率从所述学生面部监控视频得到多个监控关键帧；

将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以得到空间增强面部特征图；

将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以得到通道增强面部特征图；

融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图；以及将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真。

在上述的双屏协同交互下的远程互动课堂教学方法中，将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以得到空间增强面部特征图，包括：

使用所述第一卷积神经网络模型的卷积编码部分对所述监控关键帧进行深度卷积编码以得到初始卷积特征图；

将所述初始卷积特征图输入所述第一卷积神经网络模型的空间注意力部分以得到空间注意力图；

将所述空间注意力图通过Softmax激活函数以得到空间注意力特征图；以及计算所述空间注意力特征图和所述初始卷积特征图的按位置点乘以得到空间增强面部特征图。

在上述的双屏协同交互下的远程互动课堂教学方法中，将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以得到通道增强面部特征图，用于：

使用所述第二卷积神经网络模型的各层在层的正向传递中对输入数据进行：

对所述输入数据进行基于二维卷积核的卷积处理以生成卷积特征图；

对所述卷积特征图进行基于局部特征矩阵的池化处理以生成池化特征图；

对所述池化特征图进行激活处理以生成激活特征图；

计算所述激活特征图的沿通道维度的各个特征矩阵的全局均值以获得通道特征向量；

计算所述通道特征向量中各个位置的特征值相对于所述通道特征向量的所有位置的特征值的加权和的比值以获得通道加权特征向量；以及以所述通道加权特征向量的各个位置的特征值作为权重对所述激活特征图的沿通道维度的特征矩阵进行点乘以获得生成特征图；

其中，所述第二卷积神经网络模型的最后一层输出的所述生成特征图为所述通道增强面部特征图。

在上述的双屏协同交互下的远程互动课堂教学方法中，融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图，包括：

计算所述空间增强面部特征图的沿通道维度的各个特征矩阵与所述通道增强面部特征图的沿通道维度的各个特征矩阵之间的KL散度以得到多个KL散度值；

计算所述多个KL散度值的加和值作为所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度；

将所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度排列为几何相似度全局输入向量；

将所述几何相似度全局输入向量输入Softmax函数以得到概率化几何相似度全局特征向量；以及以所述概率化几何相似度全局特征向量中各个位置的特征值作为权重值来融合所述空间增强面部特征图和所述通道增强面部特征图以得到所述分类特征图。

在上述的双屏协同交互下的远程互动课堂教学方法中，将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真，包括：

将所述分类特征图按照行向量或者列向量展开为分类特征向量；

使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。

与现有技术相比，本申请提供的双屏协同交互下的远程互动课堂教学方法，其能够基于学生的面部特征来判断学生是否在认真听课，之后将学生的听课情况及时反馈给老师。这样，可以提高学生的上课注意力，老师可以更准确地掌握学生的学习状态，提高学生学习效率。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1图示了根据本申请实施例的双屏协同交互下的远程互动课堂教学方法的流程图。

图2图示了根据本申请实施例的双屏协同交互下的远程互动课堂教学方法的架构图。

图3图示了根据本申请实施例的双屏协同交互下的远程互动课堂教学方法中融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图的流程图。

图4图示了根据本申请实施例的双屏协同交互下的远程互动课堂教学方法中将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真的流程图。

图5图示了根据本申请实施例的电子设备的框图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

如上述背景技术所言，双屏协同交互下的远程互动课堂教学是指在远程教学环境中，教师和学生通过两个屏幕进行交互和教学。其中一个屏幕用于教师展示课件、讲解内容等，另一个屏幕用于学生参与互动、回答问题等。双屏协同交互下的远程互动课堂教学具有很多优点：1、提供更丰富的教学资源：通过远程互动课堂，教师可以利用互联网上的各种资源，如教学视频、在线教材、网络实验等，为学生提供更丰富的学习资源，丰富了教学内容和方式。2、提高学生参与度：远程互动课堂可以利用实时问答工具、在线讨论等方式，鼓励学生积极参与课堂互动。学生可以通过双屏协同交互，实时回答问题、提出疑问，增加了学生的参与度和积极性。3、弥补时空限制：远程互动课堂可以打破时空限制，学生可以在任何时间、任何地点参与学习。这对于异地学生、工作人员或有特殊需求的学生来说，具有很大的便利性和灵活性。但是双屏协同交互下的远程互动课堂教学也有一些限制，比如线上上课，教师对学生的学习状态难以得到及时了解。因此，期待一种优化的双屏协同交互下的远程互动课堂教学方案。

目前，深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外，深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域，也展现出了接近甚至超越人类的水平。

近年来，深度学习以及神经网络的发展为双屏协同交互下的远程互动课堂教学方法提供了新的解决思路和方案。

相应地，考虑到在双屏协同交互下的远程互动课堂教学过程中，老师难以及时了解学生的学习状态，难以对学生的听课情况及时掌握。基于此，在本申请的技术方案中，采用基于深度学习的人工智能检测技术，能够基于学生的面部特征来判断学生是否在认真听课，之后将学生的听课情况及时反馈给老师。这样，可以提高学生的上课注意力，老师可以更准确地掌握学生的学习状态，提高学生学习效率。

具体地，在本申请的技术方案中，首先，获取预定时间段的学生面部监控视频。接着，考虑到所述学生面部监控视频中存在诸多内容相近的图像帧，即所述学生面部监控视频中存在诸多冗余信息，这会增加额外的计算量。因此，在对所述学生面部监控视频进行编码以提取学生面部状态变化特征之前，先对所述学生面部监控视频进行关键帧提取处理。在本申请的一个具体的示例中，以预定采样频率对所述学生面部监控视频进行采样处理以得到多个监控关键帧。

进一步地，使用在图像的局部隐含特征提取方面具有优异表现的卷积神经网络模型来进行所述监控关键帧的特征挖掘，特别地，考虑到对于所述监控关键帧来说，其中的各个局部隐含特征之间都具有着关联性，并且在进行所述监控关键帧的特征提取时，还应关注于其在空间上的重要特征的分布信息以及在通道上的内容特征关联信息。因此，在本申请的技术方案中，为了能够提高对于所述监控关键帧的特征提取效果以准确地判断当前学生听课是否认真，进一步使用双重注意力的卷积神经网络模型来进行所述监控关键帧的特征挖掘。

特别地，这里，所述双重注意力机制为空间注意力机制和通道注意力机制。也就是，将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以挖掘出所述监控关键帧中的重要特征分布在空间位置上的特征信息，从而得到空间增强面部特征图；并且，将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以挖掘出其在通道上的内容特征关联信息，从而得到通道增强面部特征图。应可以理解，所述通道注意力所提取到的图像特征反映了特征通道间的相关性和重要性，所述空间注意力所提取到的图像特征则反映了空间维度特征差异的权重，用来抑制或强化不同空间位置的特征。所述通道注意力和所述空间注意力能够分别关注图像中的特征内容和特征位置，在一定程度上相互补充，提升了网络的特征提取效果，使得不同类型的关于污水中污染物含量的有效信息被大量捕捉到，可有效增强特征辨别学习能力，在网络训练过程中，任务处理系统更专注于找到输入图像数据中显著的与当前输出相关的有用信息，从而提高输出的质量，且渐增的注意力模块将带来持续的性能提升。

然后，再融合所述空间增强面部特征图和所述通道增强面部特征图以融合所述监控关键帧中面部的重要特征分布信息以及内容关联特征分布信息，并以此作为分类特征图通过分类器中得到用于表示当前时间点学生听课是否认真的分类结果。这样，可以提高学生的上课注意力，老师可以更准确地掌握学生的学习状态，提高学生学习效率。

特别地，在本申请技术方案中，多尺度特征融合：空间增强面部特征图和通道增强面部特征图分别从空间和通道两个维度提取了关键信息。通过融合这两个特征图，可以将它们所代表的不同层次的特征信息相结合，提供更全面、更丰富的信息来支持分类任务。但同时由于两者是通过不同注意力机制的卷积神经网络模型提取到的，因此两者在高维空间的特征分布可能不对应，直接采用加权融合，可能会导致信息丢失或者扭曲，因此进一步地利用所述空间增强面部特征图的沿通道维度的各个特征矩阵的特征流形相对于所述通道增强面部特征图的全局特征流形之间的几何相似度来融合两者以得到所述分类特征图。

具体地，融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图，包括：计算所述空间增强面部特征图的沿通道维度的各个特征矩阵与所述通道增强面部特征图的沿通道维度的各个特征矩阵之间的KL散度以得到多个KL散度值，并计算所述多个KL散度值的加和值作为所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度；将所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度排列为几何相似度全局输入向量；将所述几何相似度全局输入向量输入Softmax函数以得到概率化几何相似度全局特征向量；以所述概率化几何相似度全局特征向量中各个位置的特征值作为权重值来融合所述空间增强面部特征图和所述通道增强面部特征图以得到所述分类特征图。

在本申请的技术方案中，以KL散度来度量所述空间增强面部特征图的沿通道维度的各个特征矩阵的特征流形相对于所述通道增强面部特征图的全局特征流形之间的几何相似度，并利用Softmax函数来实现几何相似度度量的概率化，进而以所述概率化几何相似度全局特征向量作为权重向量来对所述空间增强面部特征图进行特征流形调制，并将调制后的空间增强面部特征图与所述通道增强面部特征图进行特征流行整合以得到所述融合特征图。这样，基于所述空间增强面部特征图相对于所述通道增强面部特征图的高维特征分布的几何相似度约束可以保证融合特征图在高维空间中的分布与原始特征图的分布相近，从而避免了信息的丢失或扭曲。并且，也可以增强融合特征图的表达能力，因为它可以利用原始特征图之间的相关性和互补性，从而提取出更多的有效信息。

在介绍了本申请的基本原理之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。

图1为根据本申请实施例的双屏协同交互下的远程互动课堂教学方法的流程图。如图1所示，根据本申请实施例的双屏协同交互下的远程互动课堂教学方法，包括：S110，获取预定时间段的学生面部监控视频；S120，以预定采样频率从所述学生面部监控视频得到多个监控关键帧；S130，将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以得到空间增强面部特征图；S140，将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以得到通道增强面部特征图；S150，融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图；以及S160，将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真。

图2为根据本申请实施例的双屏协同交互下的远程互动课堂教学方法的架构图。如图2所示，在该架构中，首先，获取预定时间段的学生面部监控视频。然后，以预定采样频率从所述学生面部监控视频得到多个监控关键帧。接着，将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以得到空间增强面部特征图。同时，将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以得到通道增强面部特征图。然后，融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图。最后，将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真。

在步骤S110中，获取预定时间段的学生面部监控视频。如上述背景技术所言，双屏协同交互下的远程互动课堂教学是指在远程教学环境中，教师和学生通过两个屏幕进行交互和教学。其中一个屏幕用于教师展示课件、讲解内容等，另一个屏幕用于学生参与互动、回答问题等。双屏协同交互下的远程互动课堂教学具有很多优点：1、提供更丰富的教学资源：通过远程互动课堂，教师可以利用互联网上的各种资源，如教学视频、在线教材、网络实验等，为学生提供更丰富的学习资源，丰富了教学内容和方式。2、提高学生参与度：远程互动课堂可以利用实时问答工具、在线讨论等方式，鼓励学生积极参与课堂互动。学生可以通过双屏协同交互，实时回答问题、提出疑问，增加了学生的参与度和积极性。3、弥补时空限制：远程互动课堂可以打破时空限制，学生可以在任何时间、任何地点参与学习。这对于异地学生、工作人员或有特殊需求的学生来说，具有很大的便利性和灵活性。但是双屏协同交互下的远程互动课堂教学也有一些限制，比如线上上课，教师对学生的学习状态难以得到及时了解。因此，期待一种优化的双屏协同交互下的远程互动课堂教学方案。

目前，深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外，深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域，也展现出了接近甚至超越人类的水平。

近年来，深度学习以及神经网络的发展为双屏协同交互下的远程互动课堂教学方法提供了新的解决思路和方案。

相应地，考虑到在双屏协同交互下的远程互动课堂教学过程中，老师难以及时了解学生的学习状态，难以对学生的听课情况及时掌握。基于此，在本申请的技术方案中，采用基于深度学习的人工智能检测技术，能够基于学生的面部特征来判断学生是否在认真听课，之后将学生的听课情况及时反馈给老师。这样，可以提高学生的上课注意力，老师可以更准确地掌握学生的学习状态，提高学生学习效率。

具体地，在本申请的技术方案中，首先，获取预定时间段的学生面部监控视频。

在步骤S120中，以预定采样频率从所述学生面部监控视频得到多个监控关键帧。考虑到所述学生面部监控视频中存在诸多内容相近的图像帧，即所述学生面部监控视频中存在诸多冗余信息，这会增加额外的计算量。因此，在对所述学生面部监控视频进行编码以提取学生面部状态变化特征之前，先对所述学生面部监控视频进行关键帧提取处理。在本申请的一个具体的示例中，以预定采样频率对所述学生面部监控视频进行采样处理以得到多个监控关键帧。

在步骤S130中，将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以得到空间增强面部特征图。使用在图像的局部隐含特征提取方面具有优异表现的卷积神经网络模型来进行所述监控关键帧的特征挖掘，特别地，考虑到对于所述监控关键帧来说，其中的各个局部隐含特征之间都具有着关联性，并且在进行所述监控关键帧的特征提取时，还应关注于其在空间上的重要特征的分布信息以及在通道上的内容特征关联信息。因此，在本申请的技术方案中，为了能够提高对于所述监控关键帧的特征提取效果以准确地判断当前学生听课是否认真，进一步使用双重注意力的卷积神经网络模型来进行所述监控关键帧的特征挖掘。

具体地，在上述的双屏协同交互下的远程互动课堂教学方法中，将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以得到空间增强面部特征图，包括：使用所述第一卷积神经网络模型的卷积编码部分对所述监控关键帧进行深度卷积编码以得到初始卷积特征图；将所述初始卷积特征图输入所述第一卷积神经网络模型的空间注意力部分以得到空间注意力图；将所述空间注意力图通过Softmax激活函数以得到空间注意力特征图；以及计算所述空间注意力特征图和所述初始卷积特征图的按位置点乘以得到空间增强面部特征图。

在步骤S140中，将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以得到通道增强面部特征图。特别地，这里，所述双重注意力机制为空间注意力机制和通道注意力机制。也就是，将所述监控关键帧通过使用空间注意力的第一卷积神经网络模型以挖掘出所述监控关键帧中的重要特征分布在空间位置上的特征信息，从而得到空间增强面部特征图；并且，将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以挖掘出其在通道上的内容特征关联信息，从而得到通道增强面部特征图。应可以理解，所述通道注意力所提取到的图像特征反映了特征通道间的相关性和重要性，所述空间注意力所提取到的图像特征则反映了空间维度特征差异的权重，用来抑制或强化不同空间位置的特征。所述通道注意力和所述空间注意力能够分别关注图像中的特征内容和特征位置，在一定程度上相互补充，提升了网络的特征提取效果，使得不同类型的关于污水中污染物含量的有效信息被大量捕捉到，可有效增强特征辨别学习能力，在网络训练过程中，任务处理系统更专注于找到输入图像数据中显著的与当前输出相关的有用信息，从而提高输出的质量，且渐增的注意力模块将带来持续的性能提升。

具体地，在上述的双屏协同交互下的远程互动课堂教学方法中，将所述监控关键帧通过使用通道注意力的第二卷积神经网络模型以得到通道增强面部特征图，用于：使用所述第二卷积神经网络模型的各层在层的正向传递中对输入数据进行：对所述输入数据进行基于二维卷积核的卷积处理以生成卷积特征图；对所述卷积特征图进行基于局部特征矩阵的池化处理以生成池化特征图；对所述池化特征图进行激活处理以生成激活特征图；计算所述激活特征图的沿通道维度的各个特征矩阵的全局均值以获得通道特征向量；计算所述通道特征向量中各个位置的特征值相对于所述通道特征向量的所有位置的特征值的加权和的比值以获得通道加权特征向量；以及以所述通道加权特征向量的各个位置的特征值作为权重对所述激活特征图的沿通道维度的特征矩阵进行点乘以获得生成特征图；其中，所述第二卷积神经网络模型的最后一层输出的所述生成特征图为所述通道增强面部特征图。

在步骤S150中，融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图。融合所述空间增强面部特征图和所述通道增强面部特征图以融合所述监控关键帧中面部的重要特征分布信息以及内容关联特征分布信息，并以此作为分类特征图。在本申请技术方案中，多尺度特征融合：空间增强面部特征图和通道增强面部特征图分别从空间和通道两个维度提取了关键信息。通过融合这两个特征图，可以将它们所代表的不同层次的特征信息相结合，提供更全面、更丰富的信息来支持分类任务。但同时由于两者是通过不同注意力机制的卷积神经网络模型提取到的，因此两者在高维空间的特征分布可能不对应，直接采用加权融合，可能会导致信息丢失或者扭曲，因此进一步地利用所述空间增强面部特征图的沿通道维度的各个特征矩阵的特征流形相对于所述通道增强面部特征图的全局特征流形之间的几何相似度来融合两者以得到所述分类特征图。

具体地，融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图，包括：计算所述空间增强面部特征图的沿通道维度的各个特征矩阵与所述通道增强面部特征图的沿通道维度的各个特征矩阵之间的KL散度以得到多个KL散度值，并计算所述多个KL散度值的加和值作为所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度；将所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度排列为几何相似度全局输入向量；将所述几何相似度全局输入向量输入Softmax函数以得到概率化几何相似度全局特征向量；以所述概率化几何相似度全局特征向量中各个位置的特征值作为权重值来融合所述空间增强面部特征图和所述通道增强面部特征图以得到所述分类特征图。

在本申请的技术方案中，以KL散度来度量所述空间增强面部特征图的沿通道维度的各个特征矩阵的特征流形相对于所述通道增强面部特征图的全局特征流形之间的几何相似度，并利用Softmax函数来实现几何相似度度量的概率化，进而以所述概率化几何相似度全局特征向量作为权重向量来对所述空间增强面部特征图进行特征流形调制，并将调制后的空间增强面部特征图与所述通道增强面部特征图进行特征流行整合以得到所述融合特征图。这样，基于所述空间增强面部特征图相对于所述通道增强面部特征图的高维特征分布的几何相似度约束可以保证融合特征图在高维空间中的分布与原始特征图的分布相近，从而避免了信息的丢失或扭曲。并且，也可以增强融合特征图的表达能力，因为它可以利用原始特征图之间的相关性和互补性，从而提取出更多的有效信息。

图3图示了根据本申请实施例的双屏协同交互下的远程互动课堂教学方法中融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图的流程图。如图3所示，融合所述空间增强面部特征图和所述通道增强面部特征图以得到分类特征图，包括：S151，计算所述空间增强面部特征图的沿通道维度的各个特征矩阵与所述通道增强面部特征图的沿通道维度的各个特征矩阵之间的KL散度以得到多个KL散度值；S152，计算所述多个KL散度值的加和值作为所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度；S153，将所述空间增强面部特征图的沿通道维度的各个特征矩阵相对于所述第二特征矩阵的全局特征分布的几何相似度排列为几何相似度全局输入向量；S154，将所述几何相似度全局输入向量输入Softmax函数以得到概率化几何相似度全局特征向量；S155，以所述概率化几何相似度全局特征向量中各个位置的特征值作为权重值来融合所述空间增强面部特征图和所述通道增强面部特征图以得到所述分类特征图。

在步骤S160中，将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真。将所述分类特征图通过分类器中得到用于表示当前时间点学生听课是否认真的分类结果。这样，可以提高学生的上课注意力，老师可以更准确地掌握学生的学习状态，提高学生学习效率。

图4图示了根据本申请实施例的双屏协同交互下的远程互动课堂教学方法中将将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真的流程图。如图4所示，将所述分类特征图通过分类器以得到分类结果，所述分类结果用于表示当前时间点学生听课是否认真，包括：S161，将所述分类特征图按照行向量或者列向量展开为分类特征向量；S162，使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及S163，将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。

综上，根据本申请实施例的所述双屏协同交互下的远程互动课堂教学方法被阐明，其能够基于学生的面部特征来判断学生是否在认真听课，之后将学生的听课情况及时反馈给老师。这样，可以提高学生的上课注意力，老师可以更准确地掌握学生的学习状态，提高学生学习效率。

下面，参考图5来描述根据本申请实施例的电子设备。图5为根据本申请实施例的电子设备的框图。如图5所示，电子设备10包括一个或多个处理器11和存储器12。

处理器11可以是中央处理单元（CPU）或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。

存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器（RAM）和/或高速缓冲存储器（cache）等。所述非易失性存储器例如可以包括只读存储器（ROM）、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的双屏协同交互下的远程互动课堂教学方法中的功能以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储学生面部监控视频等各种内容。

在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构（未示出）互连。

该输入装置13可以包括例如键盘、鼠标等等。

该输出装置14可以向外部输出各种信息，包括当前时间点学生听课是否认真等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图5中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的双屏协同交互下的远程互动课堂教学方法中的功能中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的双屏协同交互下的远程互动课堂教学方法中的功能中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。