Укажите в каком случае точки p m и к не лежат на одной прямой

Ответ очевиден! Если их не нанесли на одну прямую.

Если серьезно, то так. Соедините эти точки отрезками. Если сумма длин двух каких-то отрезков равна третьей, значит, таки, они лежат на одной прямой! Ежели же сумма любых двух отрезков больше третьей, то они образуют треугольник и не лежат на одной прямой.