Решение задачи:

Так как присутствует квадратный корень, то напишем Область Допустимых Значений (ОДЗ):
Под корнем может быть только положительное число:
6-x≥0
6≥x или x≤6
Теперь займемся преобразованиями:
x²-3x+√6-x=√6-x+40
x²-3x+√6-x-√6-x-40=0
x²-3x-40=0
Получилось обычное квадратное уравнение, которое решим через дискриминант:
D=(-3)²-4*1*(-40)=9+160=169
x₁=(-(-3)+13)/(2*1)=(3+13)/2=16/2=8
x₂=(-(-3)-13)/(2*1)=(3-13)/2=-10/2=-5
Вспоминаем про ОДЗ, "х" должен быть меньше или равен 6, т.е. 8 не подходит.
Ответ: -5