Sin^2x-3 cos^2 x + 2 sin x cos x=0

Делите все на sin^2x

Получите

3tg^2x-2tgx-1=0

Это квадратное уравнение

D=16

Первый корень 1

Второй корень - 1/3

tgx=1

tgx=-1/3

x=arctg (pi/4) + pi*n где n принадлежит целым числам

x=arctg (-1/3) + pi*m где m принадлежит целым числам