Решение задачи:

По условию задачи /KAC>90°, т.е. это наибольший угол в треугольнике AKC следовательно, сторона KC, противолежащая этому углу тоже наибольшая (по теореме о соотношениях между сторонами и углами треугольника). Сторона AC равная 3√2 - наибольшая сторона исходного треугольника ABC (т.к. 3√2>√11>1). Следовательно, угол ABC - наибольший угол треугольника ABC.
По условию задачи треугольник KAC подобен исходному треугольнику ABC. А значит углы этих треугольников соответственно равны (по определению подобных треугольников). Поэтому наибольшие углы двух рассматриваемых треугольников равны, т.е. /KAC=/ABC. /ACK не равен /ACB ( т.к. KC пересекает сторону AB в точке, отличной от B), поэтому /ACK = /BAC. Следовательно, /AKC=/ACB => cos(/AKC)=cos(/ACB).
Применяя теорему косинусов мы можем записать AB²=AC²+BC²-2*AC*BC*cos(/ACB).
(√11)²=(3√2)²+1²-2*3√2*1*cos(/ACB);
11=9*2+1-6*√2*cos(/ACB);
11-19=-6*√2*cos(/ACB);
8=6*√2*cos(/ACB);
cos(/AKC)=cos(/ACB)=8/(6*√2)
cos(/AKC)=cos(/ACB)=4/(3*√2)
cos(/AKC)=2/3*√2
Ответ: cos(/AKC)=2/3*√2