Решение задачи:

В данной функции присутствует модуль, следовательно функцию надо разложить на две функции, в зависимости от значения модуля:
|x-3|=x-3, при x-3≥0 (т.е. x≥3)
|x-3|=-(x-3), при х-3<0 (т.е. х<3)
Тогда вся функция будет выглядеть так:
5(x-3)-x²+7x-12, при x≥3
-5(x-3)-x²+7x-12, при x<3
5x-15-x²+7x-12, при x≥3
-5x+15-x²+7x-12, при x<3
-x²+12x-27, при x≥3
-x²+2x+3, при x<3
Построим по точкам графики обеих функций, но первый график на диапазоне от 3 до +∞, а второй график на диапазоне от -∞ до 3 (как указано в системе).
Функция y=-x²+12x-27 (Красный график)

X	3	5	7	9
Y	0	8	8	0

Функция y=-x²+2x+3 (Синий график)

X	3	2	1	0	-1
Y	0	3	4	3	0

Три общие точки с прямой y=m будут только в двух случаях, как показано на рисунке. m₁=0, m₂ - надо вычислить.
Как видно из рисунка, вторая прямая касается синей параболы в самой верхней ее точке, т.е. нам надо найти координаты вершины:
x₀=-b/2a=-2/(2*(-1))=-2/(-2)=1
y₀(x₀)=-1²+2*1+3=-1+2+3=4 - это и есть m₂.
Ответ: m₁=0 и m₂=4