3a^2+12/10a:a^4-16/3a-6

Раскрываем скобки:

9 а^2+4b^2+12 (ab) + a^2+25b^2-10 (ab) = 189

упрощаем:

10a^2+29b^2+2 (ab) = 189

Подставляем a^2=16; b^2=1:

160+29+2 (ab) = 189

находим:

ab=0

Угол между векторами равен 90 градусов.