Есть три пути, для решения этого уравнения, и даже четыре. Самый привычный: через дискриминант

$D=6^2-4\times1\times5=16$

$x_{1,2}=\frac{-6\pm\sqrt{16}}2=\begin{array}{c}\begin{array}{l}-5\\-1\end{array}\end{array}$

Сравниваем корни: наименьший из них -5