本发明公开了一种基于直反射三光路激光外差干涉渐开线样板测量的光学非线性误差补偿方法，属于精密测量领域。本发明用于补偿此光学系统中双频激光频率混叠导致的非线性误差一次谐波和二次谐波。分别根据连续小波变换原理和最小二乘非线性拟合方法，对非线性误差函数进行Morlet小波变换，利用产生的小波系数矩阵信息提取小波脊线，分析小波脊线上的特征信息进行小波系数重构，得到对非线性一次谐波的补偿离散数据阵列。基于最小二乘非线性拟合方法迭代拟合出非线性二次谐波的补偿离散数据阵列。最后，通过阵列减法得到补偿后的非线性误差数据。本发明对基于直反射三光路激光外差干涉渐开线样板测量结果精度的提升有着重要作用。