本发明提供一种能够在短时间内完成轻量模型的学习的学习处理装置以及方法。一种从已有的第一学习模型得到新的第二学习模型的学习处理装置，具备：输入部，其得到学习第一学习数据集来事先生成的第一学习模型和未被剪枝的神经网络，以下称神经网络为NN；重要参数确定部(304)，其使用第一学习模型和NN对作为学习对象的NN进行初始化，使用第二学习数据集和初始化后的NN，确定初始化后的NN的识别处理中的参数的重要度；新模型生成部(306)，其使用参数的重要度，进行从初始化后的NN删除不重要的参数的剪枝处理，生成第二NN；学习部，其使用第二学习数据集而学习第二NN；以及输出部，其将学习后的所述第二NN作为第二学习模型而输出。