NTRU格上无证书加密

陈虎; 胡予濮

doi:10.11999/JEIT150380

摘要: 为降低密钥尺寸，利用陷门抽样算法在优选的NTRU格上抽取部分私钥并使用多项式环上带误差的学习问题计算公钥等方法来构造格上无证书加密方案。它的安全性基于多项式环上带误差学习的判定问题和小多项式比判定问题等两个困难问题假设。为获取更好的效率，该文还提出一个无证书并行加密方案。该方案用中国剩余定理分解扩大后的明文空间为多个不同素理想之积来实现并行加密。它还用中国剩余定理分解加密运算所在的多项式环获取中国剩余基来优化算法，使算法只涉及整数间运算。结果显示该方案具有计算和通信复杂度低等特点。

关键词:

Abstract: To lower the sizes of keys, a certificateless encryption scheme is put forward by using a trapdoor sampling algorithm over a selected NTRU lattice to extract partial private keys and using Ring Learning With Errors (RLWE) problem to generate public keys. Its security is based on both assumptions of the decisional ring learning with errors problem and the decisional Small Polynomial Ratio (SPR) problem. To further improve efficiency, a certificateless parallel encryption scheme with more efficient algorithms only using arithmetic in integers is also given by respectively using the Chinese Remainder Theorem (CRT) to decompose the enlarged plaintext space into the product of distinct prime ideals and to break down the ring, over which encryption operations work, for obtaining the Chinese Remainder basis. The given results show that the proposed schemes are characterized by low computation complexity and small communication complexity.

Key words:

Certificateless cryptosystem /
Lattice cryptography /
Ring Learning With Errors (RLWE) problem /
Decisional Small Polynomial Ratio (SPR) problem

1. 引言

骨架行为识别是通过提取骨架序列中的动作特征，进而实现对人体行为的理解与描述的方法。骨架行为识别是机器视觉领域的热点研究方向之一，其可实现计算机准确识别目标对象的动作，进而分析视频中人体的动作，提高了计算机的动态感知能力，因此骨架行为识别技术广泛应用于视频监控^[1]、视频理解^[2,3]等领域。

针对骨架行为识别，国内外学者分别基于卷积神经网络和图卷积神经网络两类方法开展了大量的理论与实验研究。其中，基于卷积神经网络^[3-6]，文献[3]提出将骨架序列的时空信息编码为彩色纹理图像，并使用卷积神经网络学习行为的判别特征；文献[4]将3维卷积引入骨架行为识别，通过3维卷积神经网络学习深度图序列的时空信息，并融合关节特征向量输入的SVM分类结果，实现行为识别；文献[5]将双流结构与3维卷积结合，提出了双流3维卷积网络，并将骨架信息映射到3D坐标空间进行时空信息的编码，实现了时空信息的提取。

基于图卷积神经网络，文献[7]融合图卷积神经网络与时间卷积网络，提出了一种时空图卷积模型，以提取骨架序列的空间信息与时间信息；文献[8]结合图卷积与长短时记忆网络(LSTM)，提出了一种图卷积LSTM网络，通过图卷积与LSTM网络，分别提取骨架序列中的空间信息与时间信息；为捕获关节间更丰富的依赖关系，文献[9]引入了一种编码器-解码器结构以捕获动作的潜在依赖关系，并通过图卷积与时间卷积分别学习空间与时间信息，实现了时空信息的提取。

基于上述，针对骨架行为识别国内外诸多学者尽管开展了大量研究并取得了一定的研究成果^[3-9]，但不难发现：(1) 3维卷积无法直接针对具有非欧式空间数据的3维骨架序列进行时空信息的提取；(2) 图卷积仅能提取空间信息，时空信息依赖图卷积与LSTM(或时间卷积)分别进行提取，且未考虑空间与时间信息间的关联性；(3) 缺少对于特定关节的关注，无法聚焦重要的动作信息。

针对上述问题，本文提出了一种基于3维图卷积与注意力增强的行为识别模型。本文首先介绍了3维卷积与图卷积的具体工作原理；其次基于图卷积中可处理变长邻居节点的图卷积核，引入3维卷积的3维采样空间将2维图卷积核改进为具有3维采样空间的图卷积核，提出了一种3维图卷积方法；然后，为增强对于特定关节的关注，聚焦重要的动作信息，设计了一种注意力增强结构；再者，结合3维图卷积与注意力增强结构，构建了基于3维图卷积与注意力增强的行为识别模型；最后，基于NTU-RGBD和MSR Action 3D骨架动作数据集开展了骨架行为识别的研究。研究结果进一步验证了本文提出的行为识别模型的时空信息的有效提取能力及优秀的识别准确率。

2. 3维卷积与图卷积

2.1 3维卷积

3维卷积的3维采样空间由多个连续帧中相同位置的采样区域构成，其包含时间与空间2个维度。通过3维卷积核将多个连续帧中采样区域的数据进行堆叠求和生成多维数据，从而实现了对3维采样空间的卷积操作^[10,11]，如图1所示。设3维卷积核的卷积核尺寸为[P_i, Q_i, R_i]，则第i层网络中第j张特征图的(x, y, z)位置响应可表示为

图 1 3维卷积的卷积操作

下载: 全尺寸图片幻灯片

${v} _{{ij} }^{{xyz} } = \sigma \left({{b} _{{ij} }}{\rm{ + }}\sum\limits_{{p} = 0}^{{{P} _i} - {\rm{1}}} {\sum\limits_{{q} = 0}^{{{Q} _i}{\rm{ - 1}}} {\sum\limits_{r{\rm{ = 0}}}^{{{R} _i}{\rm{ - 1}}} {{w} _{{ij} }^{{pqr} }{v} _{{\rm{(}}i{\rm{ - 1)}}j}^{{\rm{(}}{x} + {p} {\rm{)(}}{y} + q{\rm{)(}}{z} + r{\rm{)}}}} } } \right)$

(1)

其中，P_i, Q_i为3维卷积核的两个空间维度尺寸，R_i为3维卷积核的时间维度尺寸， ${w} _{{ij} }^{{pqr} }$ 表示3维卷积核中的采样权重，b_ij表示偏置值；σ(·)函数包含批量标准化与激活函数等操作。

3维采样通过将前一层输出中多个连续帧进行加权叠加，其不仅能采集空间信息，且能构建当前特征图与前一层输出中多个连续帧的连接，实现了多帧范围内时间信息的捕捉。因此，3维卷积不仅能同时实现空间与时间信息的采集，且能保留两者的关联性，故3维卷积可适用于连续动作视频帧序列等欧式空间内3维序列型数据的时空特征采集。

2.2 图卷积

图卷积是学习图结构数据的一种通用有效的方式。图卷积通过可处理变长邻居节点的图卷积核，将邻居节点的隐藏状态进行加权求和，以此来聚合邻居节点的信息，实现了图结构数据的卷积操作，提取了图上信息^[12]。因此，图卷积能处理具有广义拓扑结构的图结构数据，故其广泛运用于骨架行为识别^[2]和姿态估计^[13]等领域。

设第l层网络的输出图中有m个节点，从第1个节点到第m个节点的n维隐藏状态表示为h^l₁,h^l₂,···,h^l_m，如图2所示。图节点状态记为H^l[h^l₁,h^l₂,···,h^l_m]∈ ${\mathbb{R}^{{m} \times {n} }}$ ，连接关系可通过邻接矩阵A∈ ${\mathbb{R}^{{m} \times {m} }}$ 表述，则l+1层输出的第1个节点响应为

图 2 图卷积的卷积操作

下载: 全尺寸图片幻灯片

$\begin{split} {{h}}_1^{l{\rm{ + 1}}} & = {{\sigma }} (b + {{{D}}^{ - 1/2}}{{A}}{{{D}}^{ - 1/2}}{{{H}}^l}{{W}})\\ & = {{\sigma }}(b + [{a_{1,1}}{{h}}_1^l,\;{a_{1,2}}{{h}}_2^l,\;{a_{1,3}}{{h}}_3^l,\;...,\;{a_{1,m}}{{h}}_m^l]{{W}}) \end{split}$

(2)

其中，D表示A的度矩阵，a为A的元素用以判断节点是否为存在连接的邻居节点，W表示图卷积的权重矩阵，b表示偏置值，σ(·)表示非线性变化的激活函数。

3. 基于3维图卷积与注意力增强的行为识别模型

3.1 3维图卷积

3.1.1 3维图卷积原理

骨架序列的空间结构特征与时间特征能够表述骨架序列中动作的完整信息，且两者之间存在关联不可独立分析。因此，为实现骨架序列中时空信息的有效提取，开展3维图卷积方法的研究是非常有必要的。

值得指出的是，3维卷积中3维采样空间为栅格化采样，其仅适用于欧式空间内3维序列型数据的特征采集，对于非欧式空间3维数据的采样存在采样空间中邻居节点数量不固定的问题。因此，(1) 3维卷积无法针对具有非欧式空间3维数据的骨架序列进行时空信息的提取；(2) 图卷积通过可处理变长邻居节点的图卷积核，其仅能实现图上空间信息的提取。为提取骨架序列的时空信息，基于图卷积中可处理变长邻居节点的图卷积核，以3维卷积中的3维采样空间为改进思想，将2维图卷积核改进为具有3维采样空间的图卷积核，本文提出了一种3维图卷积方法，其能有效提取非欧式空间内3维骨架序列的时空信息。

3维图卷积针对骨架序列的采样操作中，3维采样空间的邻居节点既包含当前帧内与节点存在连接的邻居节点也包含多个连续帧内相同位置节点的邻居节点。基于3维图卷积核，通过3维采样空间内邻居节点数据的加权堆叠求和来生成多维数据，从而实现了骨架序列的3维图卷积，有效提取了骨架序列的时空信息。如图3所示，设3维采样空间中有L张连续骨架帧，从第1帧到第L帧记作G⁰,G¹,···,G^L-1，则3维图卷积的输出结果可表示为

图 3 骨架序列中的3维图卷积

下载: 全尺寸图片幻灯片

${{x}}' = {{\sigma }}\left(b{\rm{ + }}\sum\limits_{t = 0}^{L{\rm{ - }}1} {\sum\limits_{c = 0}^{C{\rm{ - }}1} {\sum\limits_{k = 0}^{K{\rm{ - }}1} {{{{D}}^{ - 1/2}}{{A}}{{{D}}^{ - 1/2}}{ {G}}_{c,\;k}^{\;t}{{W}}_{c,\;k}^{\;t}} } } \right)$

(3)

其中，A表示连接关系的邻接矩阵，D表示A的度矩阵， ${{G}}_{c,\;k}^{\;t}$ 表示3维采样空间中第t帧的第k个邻居节点的第c通道特征值， ${{W}}_{c,\;k}^{\;t}$ 表示3维图卷积的权重矩阵，b表示偏置值；σ(·)函数包含批量标准化与激活函数等操作。

值得注意的是，3维图卷积在时间维度上采样骨架序列中的连续L帧，在未进行填充操作的情况下，每一次3维图卷积操作将使骨架序列减少L–1帧的序列长度。且基于padding填充操作，通过设置时间维度的采样步长，3维图卷积可实现倍率减少序列长度。

3.1.2 3维图卷积的有效性

骨架序列中3维采样空间是3维图卷积的核心，为证明3维图卷积的有效性，开展了3维图卷积与2维图卷积提取骨架序列特征的差异性研究。

如图4(a)所示，应用于骨架序列的2维图卷积仅输出对应当前第T帧的单帧图(式(4))，故每次图卷积运算仅处理当前第T帧内的空间信息，未对时间信息进行提取^[7]，且2维图卷积切断了骨架帧间的时间关系，无法提取时空信息。

图 4 骨架序列中2维图卷积与3维图卷积的差异性

下载: 全尺寸图片幻灯片

$\begin{split} {{{x}}'}_{{\rm{2D}}}^{T}& = {{\sigma }}(b + {{x}}_{2D}^T) \\ & = \sigma \left(b + \sum\limits_{c = 0}^{C - 1} {\sum\limits_{k = 0}^{K - 1} {{{{D}}^{ - 1/2}}{{A}}{{{D}}^{ - 1/2}}{{{G}}_{c,k}}{{{W}}_{c,k}}} } \right) \end{split}$

(4)

对比2维图卷积，3维图卷积(图4(b))则通过采集当前第T 帧的空间信息与第T 帧周围L–1帧的时间信息(式(5))，保留了骨架帧间的时间关系，实现了时空信息的提取。通过将卷积层输出特征图与多个相邻帧相连，既提取了空间信息又捕获了时间信息^[12]。其次，通过同时联合空间信息与时间信息进行提取，3维图卷积解决了2维图卷积与时间卷积网络融合带来的空间信息与时间信息关联性被破坏的问题，保留了两者的关联性。本文将进一步开展实验，以验证3维图卷积对比2维图卷积的有效性。

$\begin{split} {{{x}}'}_{3{\rm{D}}}^{T} & = {{\sigma }}\left(b{\rm{ + }}\sum\limits_{t = 0}^{L - 1} {{{x}}_{2D}^t} \right) \\ & = {{\sigma }}\left(b{\rm{ + }}\sum\limits_{t = 0}^{L - 1} \sum\limits_{c = 0}^{C - 1} \sum\limits_{k = 0}^{K - 1} {{{{D}}^{ - 1/2}}{{A}}{{{D}}^{ - 1/2}}{{G}}_{c,k}^{\;t}{{W}}_{c,k}^t} \right) \end{split}$

(5)

由图4(a)、图4(b)与式(4)、式(5)的对比可知：(1) 2维图卷积仅对单张骨架帧的空间信息进行处理，由于其切断了骨架帧间的时间关系，故无法提取时间信息；(2) 基于具有时间与空间两个采样维度的3维采样空间，3维图卷积通过添加聚合时间维度上相关的邻居节点信息，既提取了骨架序列间的时间信息，又提取了空间信息，实现了时空信息的有效提取，且保留了空间与时间信息的相关性。

综上所述，针对具有非欧式空间3维数据的骨架序列，基于3维采样空间，3维图卷积通过聚合空间与时间维度上的邻居节点信息，实现了骨架序列中时空信息的有效提取。

3.2 注意力增强结构

骨架行为识别中动作的大部分动作信息可由少数关节表示，如挥手的大部分动作信息可由肩、肘、腕3个关节表示，故聚焦特定关节能一定程度提升骨架行为的识别准确率。

3维图卷积的输入特征中各个关节的权重均一致，针对特定动作其存在缺乏对于特定关节关注的问题。注意力机制通过注意力矩阵表示骨架序列中各关节对应的注意力权重并加权输入模型，实现了针对特定关节的关注^[14]。基于上述，为解决3维图卷积缺乏对于特定关节关注的问题，本文设计了一种注意力增强结构。其不仅能增强对于特定关节的关注，且不削弱非关注关节点的信息，如图5所示。

图 5 注意力增强结构示意图

下载: 全尺寸图片幻灯片

注意力增强结构首先通过计算关节相似性度权重系数，求解生成中间特征，然后利用两层感知机，实现骨架序列中关节权重分布的提取，最后，结合结构输入特征，实现对于特定关节的注意力增强，注意力增强算法流程如下所示：

输入. 具有n维m个关节的骨架序列特征；

输出. 由输入骨架序列与关节加权的骨架序列求和生成的骨架序列；

步骤 1　基于相似度计算函数Score求解各关节间的相似度，并利用softmax函数进行相似度归一化，实现关节相似性权重系数α的生成；

步骤 2　基于权重系数α进行关节信息的加权求和并与原始特征拼接，实现中间特征 ${{H}}'$ 的生成；

步骤 3　通过两层感知机(s,u)结合tanh与sigmoid非线性化操作，实现关节权重矩阵V的计算；

步骤 4　基于关节权重v_i针对骨架序列中关节进行加权，并通过求和结构输入特征h_i得到结构输出 ${\hat {{h}}_{i} }$ 。

$\left. {\begin{aligned} & {{\alpha _{ij}} = {\rm{softmax}}({\rm{Score}}({{h}}_i^{\rm{T}}{{{h}}_j}))}\\ & {{{{h}}_i}^\prime = \sum\limits_{\forall j} {{\alpha _{ij}}{{{h}}_j},{{{{H}}'}_i} = [{{{h}}_i}:{{{h}}_i}^\prime ]} }\\ & {{{V}} = {\rm{sigmoid}}({{{W}}_u}\tanh ({{{W}}_s}{{H}}' + {b_s}){\rm{ + }}{b_u})}\\ & {{{\hat {{h}}}_i} = ({\rm{1 + }}{v_i}){{{h}}_i}} \end{aligned}} \right\}$

(6)

基于上述研究，注意力增强结构通过计算骨架序列中关节的权重并结合结构输入特征构建增强特征，既实现了对于特定关节点的注意力增强，又不削弱非关注关节点的信息，更有利于模型学习重要特征。

综上所述，基于3维图卷积与注意力增强的行为识别模型具有以下特点：(1) 3维图卷积将2维图卷积的2维采样区域扩展到3维采样空间，包含空间与时间2个维度，实现了骨架序列中时空信息的有效提取；(2) 基于注意力增强结构，增强了对于特定关节点的关注，更有利于模型学习重要特征。

4. 实验设计与结果分析

4.1 实验数据集及评价指标

NTU-RGBD^[15]：该数据集为最为广泛应用的行为识别大型实验数据集之一，其包含56880个动作样本。动作样本可划分为60个动作类别，每一个动作类别均通过3个视角的Kinect相机采集40个志愿者的25个关节点动作来构建。数据集具有基于视角(X-View)与基于运动对象(X-Sub)两种划分方式。为验证基于3维图卷积与注意力增强的行为识别模型的性能，评价指标采用Top-1识别准确率和Top-5识别准确率，针对模型在两种数据集划分方式下的性能进行综合评价。

MSR Action 3D^[16]：该数据集包含16个动作类别的320个动作样本，每一个动作样本均有Kinect相机采集人体的20个关节点来构成。数据集可划分为3类子集(AS1, AS2, AS3)，各类子集均包含8类动作，其中AS1和AS2子集均为简单的相似动作，AS3子集为复杂动作^[17]，评价标准采用Top-1识别准确率评价模型。

4.2 网络结构与参数配置

网络结构：单特征输入由于限制了网络模型从多种特征中学习各种信息，故影响了网络模型的识别准确率。为学习多种特征进一步提高网络模型的识别准确率，基于3维图卷积与注意力增强结构并以双特征作为输入，构建了基于3维图卷积与注意力增强的行为识别模型。双特征分别为表示静态特性的骨架特征与表示运动特性的骨架序列帧差特征。

该模型中的单流网络由3维图卷积与注意力增强结构构成，每一层3维图卷积前均设置注意力增强结构；利用3维图卷积的串联，构建了单流网络；通过叠加平均双流网络的预测分数，实现了双流融合并预测动作标签。若采用NTU数据集中25个关节表示的300帧骨架序列的动作样本，则模型具体结构如表1所示。

表 1 基于3维图卷积与注意力增强的行为识别模型的网络结构

结构层	输入	$\left[ {\begin{array}{*{20}{c}} {{\text{注意力增强结构}}}\\ {3{\text{维图卷积}}} \end{array}} \right]$	···	$\left[ {\begin{array}{*{20}{c}} {{\text{注意力增强结构}}}\\ {3{\text{维图卷积}}} \end{array}} \right]$	···	$\left[ {\begin{array}{*{20}{c}} {{\text{注意力增强结构}}}\\ {3{\text{维图卷积}}} \end{array}} \right]$	···	Flatting	FC	Fusion
特征1	[3,300,25]	[16,300,25]	···	[32,150,25]	···	[64,75,25]	···	[120000]	[64]	[60]
特征2	[3,300,25]	[16,300,25]	···	[32,150,25]	···	[64,75,25]	···	[120000]	[64]	[60]

下载: 导出CSV

| 显示表格

参数配置：动作帧数规整化(NTU：300帧；MSR：100帧)；设置批量处理尺寸(batch_size)为32；采用SGD为模型优化器；设置初始学习率为0.1；循环轮数(epoch)为80，并在第50轮进行学习率衰减。

4.3 模型对比实验

4.3.1 模型深度实验

模型深度在一定程度上影响模型的识别准确率，浅层模型识别准确率不高，深层模型存在过拟合。为探究最优的模型深度，以结合注意力增强结构的3维图卷积层数为变量，分别构建了5层至11层的网络结构，并基于以X-View划分的NTU数据集开展骨架行为识别的实验研究，实验结果如表2所示。

表 2 不同模型深度的识别准确率对比(%)

模型深度	5层3DGCN	6层3DGCN	7层3DGCN	8层3DGCN	9层3DGCN	10层3DGCN	11层3DGCN
Top-1	92.18	92.59	92.76	92.93	93.04	93.30	93.01
Top-5	99.05	99.07	99.07	99.10	99.07	99.49	99.17

下载: 导出CSV

| 显示表格

由表2可知：当模型层数为10层时，基于Top-1与Top-5评价指标，模型均取得最高识别准确率，分别为93.30%与99.49%，故模型最优模型深度为10层。

4.3.2 时间维度的邻居采样范围实验

3维图卷积通过扩展多个连续帧内相同位置节点的邻居节点，实现了时间信息的采样。时间维度上的邻居采样范围会影响模型时间信息的采样能力，长采样范围无法关注短时重要信息，短采样范围则无法提取上下文信息。为探究最优的采样范围，本文分别设置了5类采样范围并基于以X-View划分的NTU数据集开展骨架行为识别的实验研究，实验结果如表3所示。

由表3可知：当邻居采样范围为9帧时，基于Top-1与Top-5评价指标，模型取得最高的识别准确率，分别为93.30%与99.49%，故模型最优的采样范围选用9帧。

4.3.3 注意力对比实验

为验证注意力增强结构相较于其他注意力机制在3维图卷积模型上的优势，基于注意力增强结构与3种注意力机制分别开展了对比实验。实验均基于以X-View划分的NTU数据集开展，实验结果如表4所示。

表 3 不同邻居采样范围的识别准确率对比(%)

采样范围	3帧采样范围	5帧采样范围	7帧采样范围	9帧采样范围	11帧采样范围
Top-1	92.55	92.73	92.90	93.30	93.08
Top-5	99.11	99.40	99.00	99.49	99.10

下载: 导出CSV

| 显示表格

表 4 注意力增强结构与多种注意力机制的识别准确率对比(%)

模型	3DGCN	3DGCN+Hard Attention	3DGCN+Soft Attention	3DGCN+Self Attention	3DGCN+注意力增强结构
Top-1	92.90	92.87	93.04	92.98	93.30
Top-5	99.14	99.02	99.04	99.12	99.09

下载: 导出CSV

| 显示表格

由表4可知：(1) 相较于未使用注意力增强结构的3维图卷积模型，结合注意力增强结构的3维图卷积模型虽在Top-5评价指标下识别准确率下降了0.05%，但在Top-1评价指标下识别准确率提升了0.4%，达到最高93.30%的识别准确率；(2) 对比其他3种注意力机制，通过结合注意力增强结构，3维图卷积模型在Top-1评价指标下的识别准确率得到最显著提升，其也充分论证了注意力增强结构对于增强关节关注的有效性。

因此，注意力增强结构不仅能够增强3维图卷积针对特定关节的关注，且进一步提高了识别准确率。

4.4 识别准确率对比实验

为评估基于3维图卷积与注意力增强的行为识别模型的性能，基于NTU-RGBD和MSR Action 3D数据集，开展了骨架行为的识别准确率对比实验。

4.4.1 NTU-RGBD

为验证基于3维图卷积与注意力增强的行为识别模型相较于基于3维卷积与图卷积行为识别模型的优秀性能，分别基于X-View与X-Sub划分的NTU数据集开展了骨架行为识别的实验研究，并采用Top-1准确率为评价指标，实验结果如表5所示。

表 5 NTU数据集上不同模型的识别准确率对比(%)

模型	使用方法	X-View	X-Sub
文献[18]	3维卷积+双流	72.58	66.85
文献[6]	图卷积+TCN	88.30	81.50
文献[19]	图卷积	89.60	82.60
本文模型	3维图卷积+注意力增强	93.30	89.43

下载: 导出CSV

| 显示表格

由表5可知：

(1) 在以X-View与X-Sub两种方式划分的NTU数据集上，基于3维图卷积与注意力增强的行为识别模型均取得最高的识别准确率，分别为93.30%与89.43%；

(2) 相较于同样采用双流结构的3维卷积方法，基于注意力增强的3维图卷积模型，在X-View与X-Sub下分别提高了20.72%与22.58%；

(3) 相较于使用2维图卷积的文献[6]，基于3维图卷积与注意力增强的模型识别准确率在X-View与X-Sub下分别提高了5.0%与7.93%，实验结果进一步验证了3维图卷积对比2维图卷积的有效性。

4.4.2 MSR Action 3D

上述单一数据集上的对比实验仅反映模型在单一数据集上的性能表现，为进一步验证模型在不同数据集上的性能，综合表现模型的泛化性能，需在全新数据集上开展模型性能的测试。为验证基于3维图卷积与注意力增强的行为识别模型的泛化性能，基于MSR Action 3D骨架行为识别数据集的3类子集(AS1, AS2, AS3)，开展了识别准确率对比实验。对比实验采用Top-1准确率为评价指标，实验结果如表6所示。

由表6可知：

(1) 基于注意力增强的3维图卷积模型，在AS1, AS2, AS3 3种训练条件下均取得了高于3维卷积与图卷积的识别准确率，进一步验证了模型时空信息提取的有效性；

表 6 MSR Action 3D数据集上3种训练条件下的识别准确率对比(%)

模型	使用方法	AS1	AS2	AS3	平均
文献[4]	3维卷积+SVM	92.03	88.59	95.54	92.05
文献[20]	3维卷积+SPMF	96.73	97.35	98.77	97.62
文献[21]	图卷积	93.70	95.80	96.60	95.20
本文模型	3维图卷积+注意力增强	96.78	98.56	99.02	98.12

下载: 导出CSV

| 显示表格

(2) 本文提出的基于3维图卷积与注意力增强的行为识别模型，在NTU-RGBD与MSR Action 3D数据集上均取得了优秀的识别准确率，进一步验证了模型具有良好的泛化性能。

综上实验结果表明：基于3维图卷积与注意力增强的行为识别模型相较于基于3维卷积与图卷积的行为识别方法，既实现了骨架序列中时空信息的有效提取与对特定关节的注意力增强，又具有优秀的识别准确率与泛化性能。

5. 结束语

为有效提取非欧式空间中3维骨架序列的时空信息，并实现针对特定关节的关注，本文提出了一种基于3维图卷积与注意力增强的行为识别模型。(1) 3维图卷积基于具有时间与空间两个采样维度的3维采样空间，聚合前帧内邻居节点的空间信息与时间维度上相关的邻居节点时间信息，实现了时空信息的有效提取，且保留了空间与时间信息的相关性。(2) 对比传统注意力机制，注意力增强结构不仅能增强对于特定关节的关注，且不削弱非关注关节点的信息。实验结果表明：首先，对比传统注意力机制，注意力增强结构能更有效增强对于特定关节的关注，且能进一步提高识别准确率。其次，基于3维图卷积与注意力增强的行为识别模型具有优秀的识别准确率与泛化性能。

值得指出的是，人体行为在未剪辑视频中仅占据小段时间，本文所提出的行为识别模型仅是基于人工剪辑视频，未剪辑视频中准确定位动作的问题在研究中未予以考虑。针对如何在未剪辑视频中准确定位动作与识别动作的问题，其在后续的研究中拟进一步展开。

GENTRY C, PEIKERT C, and VAIKUNTANATHAN V. Trapdoors for hard lattices and new cryptographic constructions[C]. Proceedings of the 40th ACM Symposium on Theory of Computing (STOC08), Victoria, Canada, 2008: 197-206. doi: 10.1145/1374376.1374407.

AGRAWAL S, BONEH D, and BOYEN X. Lattice basis delegation in fixed dimension and shorter-ciphertext hierarchical IBE[J]. LNCS, 2010, 6223: 98-115. doi: 10.1007 /978-3-642-14623-7_6.

DUCAS L, LYUBASHEVSKY V, and PREST T. Efficient identity-based encryption over NTRU lattices[J]. LNCS, 2014, 8874: 22-41. doi: 10.1007/978-3-662-45608-8_2.

BRAKERSKI Z, GENTRY C, and VAIKUNTANATHAN V. Fully homomorphic encryption without Bootstrapping[C]. Proceedings of the 3rd Innovations in Theoretical Computer Science (ITCS) Conference, Cambridge, Massachusetts, 2012: 309-325.

LOPEZ-ALT A, TROMER E, and VAIKUNTANATHAN V. On-the-fly multiparty computation on the cloud via multikey fully homomorphic encryption[C]. Proceedings of the 44th ACM Symposium on Theory of Computing (STOC12), New York, USA, 2012: 1219-1234. doi: 10.1145/2213977.2214086.

BRAKERSKI?Z and VAIKUNTANATHAN V.? Lattice- based? FHE?as?secure?as?PKE[C]. Proceedings of the 5rd Innovations in Theoretical Computer Science (ITCS) Conference, Princeton, New Jersey, 2014: 1-12.

MICCIANCIO D and PEIKERT C. Trapdoor for lattices: simpler, tighter, faster, smaller[J]. LNCS, 2012, 7237: 738-755.

JARVIS K and NEVINS M. ETRU: NTRU over the Eisenstein integers[J]. Designs, Codes and Cryptography, 2015, 74(1): 219-242.

BI J G and CHENG Q. Lower bounds of shortest vector lengths in random NTRU lattices[J]. Theoretical Computer Science, 2014, 560(2): 121-130. doi: 10.1007/978-3-642- 29952-0_18.

SEPAHI R, STEINFELD R, and PIEPRZYK J. Lattice- based certificateless public-key encryption in the standard model[J]. International Journal of Information Security, 2014,?13(4):?315-333. doi: 10.1007/s10207-013-0215-8.

JIANG Mingming, HU Yupu, LEI Hao, et al. Lattice-based certificateless encryption scheme[J]. Frontiers of Computer Science, 2014,?8(5):?828-836. doi: 10.1007/s11704-014-3187-6.

AL-RIYAMI S S and PATERSON K G. Certificateless public key cryptography[J]. LNCS, 2003, 2894: 452-473.

DENT A. A survey of Certificateless encryption schemes and security models[J]. International Journal of Information Security, 2008,?7(5):?347-377. doi: 10.1007/s10207-008-0055-0.

陈虎, 张福泰, 宋如顺. 可证安全的无证书代理签名方案[J]. 软件学报, 2009, 20(3): 692-701. doi: 10.3724/SP.J.1001.2009. 00574.

CHEN Hu, ZHANG Futai, and SONG Rushun. Certificateless proxy signature scheme with provable security[J]. Journal of Software, 2009, 20(3): 692-701. doi: 10.3724/SP.J.1001.2009.00574.

ALWEN J and PEIKERT C. Generating shorter bases for hard random lattices[J]. Theory of Computing Systems, 2011, 48(3): 535-553.

LYUBASHEVSKY V, PEIKERT C, and REGEV O. On ideal lattices and learning with errors over rings[J]. Journal of the ACM, 2013, 60(6): 43:1-43:35.

STEHLE D?and STEINFELD R. Making NTRU as secure as worst-case problems over ideal lattices[J]. LNCS, 2011, 6632: 27-47.

LYUBASHEVSKY V, PEIKERT C, and REGEV O. A toolkit for ring-LWE cryptography[J]. LNCS, 2013, 7881: 35-54.

LINDNER R and PEIKERT C. Better key sizes (and attacks) for LWE-based encryption[J]. LNCS, 2011, 6558: 319-339. doi: 10.1007/978-3-642-19074-2_21.

期刊类型引用(9)

1.	何嘉彬，李雷孝，林浩，徐国新. 面向计算机视觉的吸烟检测方法研究综述. 计算机工程与应用. 2024(01): 40-56 . 百度学术
2.	曹毅，吴伟官，张小勇，夏宇，高清源. 基于自校准机制的时空采样图卷积行为识别模型. 工程科学学报. 2024(03): 480-490 . 百度学术
3.	黄华. 龙门吊轨道交叉下连续箱梁移位工序AI识别模型. 结构工程师. 2024(02): 184-191 . 百度学术
4.	朱红蕾，卫鹏娟，徐志刚. 基于骨架的人体异常行为识别与检测研究进展. 控制与决策. 2024(08): 2484-2501 . 百度学术
5.	费树岷，赵宏涛，杨艺，李春锋. 基于时序拓扑非共享图卷积和多尺度时间卷积的骨架行为识别. 信息与控制. 2023(06): 758-772 . 百度学术
6.	孙满贞，张鹏，苏本跃. 基于骨骼数据特征的人体行为识别方法综述. 软件导刊. 2022(04): 233-239 . 百度学术
7.	何凯，孙闽红，王之腾. 基于时频图像色度差异的雷达智能抗欺骗干扰. 弹箭与制导学报. 2022(03): 47-54 . 百度学术
8.	张蔚澜，齐华，李胜. 时空图卷积网络在人体异常行为识别中的应用. 计算机工程与应用. 2022(12): 122-131 . 百度学术
9.	蔡兴泉，封丁惟，王通，孙辰，孙海燕. 基于时间注意力机制和EfficientNet的视频暴力行为检测. 计算机应用. 2022(11): 3564-3572 . 百度学术

其他类型引用(15)

姓名
邮箱
手机号码
标题
留言内容
验证码

留言板

NTRU格上无证书加密

doi: 10.11999/JEIT150380

计量

出版历程