Какие значения M квадратичных двух корней равна нулю?

3x^2 + (5m+3m^2) x-25+9m^2=0

Корни будут противоположными если их сумма равна 0, т. е. по теореме Виета, второй коэффициент должен быть равен 0. Т. е. 3m-15=0. Т. е. m=5. Но надо еще проверить, чтобы корни существовали, т. е. дискриминант был неотрицательным, что очевидно выполняется.