X^3-12+6x^2-2x^2 разложить на множители

Тут явная опечатка, не должно быть двух членов с x^2.

1) Если это + 6x, то так:

x^3 - 2x^2 + 6x - 12 = x^2 * (x-2) + 6 (x-2) = (x-2) (x^2+6)

2) Если это - 2x, то так:

x^3 + 6x^2 - 2x - 12 = x^2 * (x+6) - 2 (x+6) = (x+6) (x^2-2) = (x+6) (x-√2) (x+√2)