1) при каком значении λ a+3b и b-λa векторы и будут ортогональны.

2 при каком λ векторы а и с = (5; 2λ; - λ) будут коллинеарны.

1) векторы ортогональны, когда их скалярное произведение = 0,

(a+3b) * (b-λa) = 0;

a * (b-λa) + 3b * (b-λa) = 0;

a*b - λa*a + 3b*b - 3λab = 0;

a*b + 3b*b = λa*a + 3λab;

a*b + 3b*b = λ * (a*a + 3ab);

λ = (a*b + 3b*b) / (a*a + 3ab)