4) 3tgx-12ctgx+5=0
5) 10sin^2x-3sin2x=8

1)
приводим к общему знаменателю 
теперь разделим на cos^2
получится 3tg^2x-12+5tgx=0
обознач tgx=Y
3y^2+5y-12=0
D=169
y1=
y2=-3
x1= arctg+ pn
x2=-arctg3+pn

2)
распишем косинус двойного угла и 8 как осн тригометр тождество 
получим 
10sin^2-6cosxsinx-8sin^2x-8cos^2x=0
разделим все на cos^x
2tg^2x-6tg-8=0
обознач tg=y
D=100
y1=4
y2=-1

x1=arctg4+pn
x2=-p4+pn