本发明提出了用于基于对正常输入和输出通道的访问来测试设备上机器学习模型(例如设备的网络模型)的系统和方法，其中，通过训练来设计模型的结构，使得模型仅在其内部结构保持在所需状态的情况下才会对给定的一组测试输入产生独特的输出。可以通过使用训练输入的模型预训练使模型易于进行此类测试，所述训练输入被设计为将模型训练成适当的结构和/或使模型在稍后被给予一组特定的测试输入时产生独特的输出。如果模型的结构保持在允许的限度内，则设备在被测试时将产生可预测的输出。如果不是，则可以强制设备返回到预训练模型。