Решение задачи:

Площадь прямоугольника равна произведению его сторон.
По определению, все углы прямоугольника прямые, следовательно, диагональ и две стороны образуют прямоугольный треугольник.
Следовательно, мы можем применить теорему Пифагора, обозначим длину неизвестной стороны как "х":
96²+x²=100²
x²=100²-96²
Можно вычислить "в лоб", а можно немного облегчить себе задачу, применив формулу разность квадратов:
x²=(100-96)(100+96)
x²=4*196
x=√4*196=2*14=28
S=96*28=2688
Ответ: 2688