Условие первого максимума дифракционной решетки:

$d\;sin\;\phi=\lambda$

Значение синуса угла $\phi$ по условию задачи равно:

$sin\phi=\frac a{\sqrt{l^2+a^2}}$

Постоянная решетки равна:

$d=\frac1N$мм

Длина волны равна:

$\lambda=\frac a{N\cdot\sqrt{l^2+a^2}}$

Получение правильного числового значения длины волны:

$\lambda=\frac{0,9}{5\cdot10^2\cdot\sqrt{(0,4)^2+(0,09)^2}}\approx4,39\cdot10^{-7}$ м