和林格尔，是蒙古语，汉语意思为“二十家子”或“二十间房子”。在清朝康熙年间，朝廷在今县城地设置驿站，当时蒙古族牧民称其为“和林格尔”；一说是因为所派二十名人员携带家眷来此建驿站，故名为“二十家子”；一说是因为盖有二十间房子作为驿站人员和接待用房，故称为“二十间房子”。此后，这里形成城镇，遂以“和林格尔”命名。

和林格尔县历史悠久，早在四千多年前，就有炎黄子孙在这里繁衍生息。

秦朝时，和林格尔属于云中郡辖地；西汉时，这里设置为定襄郡，郡治在盛乐（今盛乐镇）；东汉至晋朝时，这里为鲜卑拓跋氏辖地，鲜卑族建立北魏后，拓跋珪先立都盛乐城，12年后迁都于平城（今山西大同），故都设置为云中郡，也称朔州，后又该置为盛乐郡，领归顺、还安两县；隋朝时，在此设置定襄郡，公元584年，突厥沙钵略可汗建立突厥国，建筑大利城（今城关镇南园子），建都18年。

唐朝贞观年间，先后设置为云中都护府、单于都护府；唐末五代十国时，和林格尔属于辽国；元代时，设置为丰州，属于大同路；明朝洪武年间，设置为玉林、林川二卫，到明朝嘉靖年间，土默特俺答汗驻牧丰州滩，和林格尔一带为蒙古族各部落散居和狩猎之地；清康熙年间，在今县城地设置西路驿站；到雍正时，设置为和林格尔笔帖士，乾隆时设置为协理通判，隶属山西朔平府；公元1865年，设置和林格尔厅；公元1912年，改为县署知事；1922年，改为县政府，隶属绥远特别区（1929年改称绥远省）。

抗日战争时期，八路军120师警备六团在这里建立“和（林）右（玉）清（水河）”抗日根据地。在根据地内，还建立了中共工委和民主政府。中央军委和毛泽东主席电令贺龙、关向应、滕俊情成立三县抗日民主政府，成立绥南地委，开展抗日战争；1948年，杨成武率部打响归绥战役，和林格尔是老区后方，支援前线部队。解放战争年代，在老根据地羊群沟，先后与山西省的右玉，乌盟的凉城和呼市的清水河、托克托并称为中共和右清工委和右清抗日民主政府。

1949年绥远和平解放后，在和林格尔建立和林格尔县人民政府，先属绥南专署、萨县专署，后归平地泉行政区、乌兰察布盟公署管辖；1995年，经国务院批准，划归呼和浩特市。