2 sin 2 x + cos 2 x = 5 sinx cosx

2sin^2x+cos^2x-5sinxcosx=0

Делим на косинус квадрат альфа, не равно 0.

2tg^2x-5tgx+1=0

Методом ввода переменной: пусть t=tgx, то 2t^2-5t+1=0, дальше решаешь квадратное уравнение, корни плохие, но может так и должно быть, подставляешь: тангенс икс = (корни уравнения) и по формуле выводишь.