阴山位于内蒙古自治区中部，内蒙古高原南缘，横旦于河套平原之北。呈东西走向，长约1200公里，宽约50~100公里。

西部为狼山、色尔腾山、乌拉山，中部为大青山。秦、汉、魏、晋时称“阳山”，隋唐时称“秦山”、“大千山”，辽、金、元始称“阴山”，因在中国之北方，气候寒冷，故称“阴山”。

阴山山脉峰峦重叠，山峰多呈屋脊状或齿状，多悬崖陡峭，岩石裸露，植被稀疏。一般海拔1500~2000米，最高峰为“呼和巴什格山”，海拔2364米，在乌拉特后旗巴音布拉格镇境内。