Я слыхал, что на северном полюсе стороны света не имеют значения. Там во все стороны только юг. Но ведь так наверно можно считать находясь в самой точке северного полюса, где находится земная ось. Или нет?

Рассмотрите такое пояснение:

По идее да, только при совпадении магнитного полюса с географическим.

В реальности же это разные точки, поэтому, находясь в точке, где находится "магнитная ось", всё же ещё будет направление на север, только географический, хотя показания компаса будут хаотичные. Также, находясь на географичксом полюсе, где "земная ось", всё же будет направление на север, только магнитные, показания компаса будут устойчивыми.