基于Im2col的并行深度卷积神经网络优化算法
作者:胡健; 龚克; 毛伊敏; 陈志刚; 陈亮
更新时间:
针对大数据环境下并行深卷积神经网络(DCNN)算法中存在的数据冗余、卷积层运算的速度慢和损失函数的收敛性差等问题,提出了一种基于im2col方法的并行深卷积神经网络优化算法IA pdcnnoa。首先,提出了一种基于Marr-Hildreth算子的并行特征提取策略mho-PFES。提取数据中的目标特征作为卷积的输入,可以有效避免大量冗余特征的问题。其次,设计了一种基于im2col方法的并行模型训练策略im-PMTs。通过设计马氏的距离中心值去除冗余卷积核,并将并行训练模型与MapReduce和im2col方法相结合,最后提出了一种改进的小批量梯度下降策略im bgds,以消除异常节点的训练数据对批量梯度的影响,并解决了收敛性损失函数的差异问题。实验结果表明,IA-pdcnnoa算法在大数据环境下的深度卷积计算中具有良好的性能,适合大规模并行深度卷积模型训练。
