吕祖庙建于清朝中期，据说当年道祖吕洞宾曾来此地，认为此处是一个殊胜之地，于是萌发了建寺的念头，因此应化显灵，治病救人，百姓感其恩德而建起了寺庙。当时寺庙的规模不大，后来在五台山临济宗僧人续洲大师主持下集资扩建，号“妙法禅寺”，奠定本寺基本规模。

同治年间大同总兵一品顶戴马升驻守包头，背上长了个大疮久治不愈，于是来到庙里祈拜吕祖，之后病果然痊愈了，于是大兴土木相继修建弥勒殿及大雄宝殿，以后又继续扩展，逐渐成为了塞北名寺。它曾被称为包头“十大寺庙之一”。

吕祖庙是一座道佛合一的寺庙，庙内同时供奉吕洞宾和如来佛。寺庙修筑在西北梁最高的位置上，站于寺里可俯瞰东河区的全景。寺庙最有特色的建筑是砖石券顶的无梁殿宇，为汉式寺庙风格，共有五进院落，三层大殿、配殿、禅堂僧舍、库房和庙门对面的戏台，共占地四五十亩。民国三十一年（1942年）在此举行了佛像的开光大典。现在恢复了农历初一、十五记诸佛菩萨圣诞庆日为正常宗教活动，四月十四吕祖诞生日和四月初八释迦佛诞生日为传统盛大庙会，也是这里最热闹的日子，届时寺里会举行传统的庙会，有为期三天的唱戏表演。