6cos^2+5cos (П/2-x) = 7

Непонятно, что в квадрате: х или cos. Будем считать, что cos

6 (cosx) ^2+5cos (pi/2-x) = 7

6-6 (sinx) ^2+5sinx=7

y=sinx

6y^2-5y+1=0

y1=1/3

x1 = (-1) ^n*arcsin (1/3) + pi*n

y2=1/2

x2 = (-1) ^n*pi/6+pi*n