Решение задачи:

По теореме косинусов:
AC²=AB²+BC²-2*AВ*BC*cos∠ABC
9²=5²+7²-2*5*7*cos∠ABC
81=25+49-70*cos∠ABC
81-25-49=-70*cos∠ABC
7=-70*cos∠ABC |:7
1=-10*cos∠ABC
cos∠ABC=1/(-10)=-0,1
Ответ: -0,1