本发明公开了一种横向联邦学习系统优化方法、设备及可读存储介质，所述方法包括：随机确定待训练的神经网络模型的神经元启闭模式；将神经元启闭模式发送给各参与设备，以供各参与设备按照神经元启闭模式对各自本地的神经网络模型中的神经元进行启闭处理，并对处理后的神经网络模型进行本地训练得到本地模型参数更新；对各本地模型参数更新进行融合，将融合得到的全局模型参数更新发送给各参与设备，以供各参与设备根据全局模型参数更新对各自本地的所述神经网络模型进行模型更新。本发明中所采用的随机选择神经元关闭的策略，相对于现有的避免过拟合现象的方案，能够很好地与联邦学习结合，不会带来过多额外的时间成本和计算资源消耗。