Решение задачи:

Если просто подставить значения a и b, то вычислить значение будет очень проблематично, поэтому преобразуем это выражение.
Для начала избавимся от квадрата скобки по формуле квадрат суммы:
12ab+2(-3a+b)² = 12ab+2((-3a)²+2(-3a)b+b²) = 12ab+2(9a²-6ab+b²) =
Теперь раскроем скобку:
= 12ab+18a²-12ab+2b² = 18a²+2b² =
А вот теперь подставляем значения:
= 18(√10)²+2(√3)² = 18*10+2*3 = 180+6 = 186
Ответ: 186