Как это упростить? Ничего не могу понять.

sin^2(8a) + cos^2(8a) + 1

В алгебре существует такое тождество, оно называется "основное тригонометрическое тождество" и выглядит вот так: sin²a+cos²a=1.
В решении этого примера нужно применить именно это тождество:
sin²(8a)+cos²(8a)+1= 1+1= 2