李玉堂，原名李贵德，光绪九年（公元1883年）出生在榆社县南山晕村一个农民家庭。祖父是木匠，父亲李唐俊每年的冬闲季节，都会赶着牲口、带上干粮去太谷县、和顺县一带拉脚赚钱。母亲勤劳俭朴，生有两子一女。当时李家生活比较贫困，后来逐渐置买了土地，盖起了房子，成为这三十多户小山村的富裕户之一。
　　 李玉堂的父辈兄弟四人，伯父李唐勋考中进士、三叔李唐英中了举人。他的两个叔伯兄长李建德、李立德曾出国留学（一个在英国、一个在日本），这对他产生了很大影响。他自幼好学，在本村读书时就很勤奋，从小特别喜欢看历史书籍《三国演义》、《水浒》、《西游记》等名著。有的书他看过多遍，就能够熟读如流。十二岁时跟着他在河曲县教馆的三叔念书。由于聪颖过人、刻苦学习，在作对联时，别人编出上联，他立刻对出下联，让人惊叹不已。十五岁那年，他住在南山晕村石堖山的一个龙王庙里，一面看守家中在这里放的木料，一面钻研学习。当时他渴望阅读《易经》，但是榆社买不到。一天，一个河南人来到南山晕村卖书，告诉他河南可以买到。他就锁上门，偷偷出走，长途跋涉要到河南去买书，路上遇到倾盆大雨，满身淋湿，加之前不着村后不着店，只好在一个土山洞里住了一夜。第二天继续赶路，路过一个小村子，一对老夫妻在打扫院子，见他这般可怜模样，便让他进屋内，给他烤干衣服，并给他吃了饭。问明来意后，老夫妻称赞他有志气，还给他指明了去河南的路。这样他终于买到了自己喜爱的书。五六天后，他终于又回到了南山晕村的家里。这时家里的人已经乱成一团，到太原去寻找他的人还没有回来……
　　 由于他刻苦学习《四书》、《五经》，学习方方面面知识，终于在清朝末年考中了秀才，在辽州(今左权县)名列榜首。1906年，他考入山西省优级师范学校（享受公费待遇的）。次年又被选送到江苏省南通师范学校学习，1910年毕业。他先后担任北京女子师范学校、山西省第五单级师范学校教员、山西省立第五中学教务主任、代理校长、山西省立第一中学学监、教务主任、校长。随后又在河北省烟酒事务局工作，还曾任山西省印花税务局任科长。
　　 民国十二年（1923年）在担任山西省立第一中学校长期间，李玉堂代表山西省九所公立学校、七所公立师范、和铭贤、进山、云山等私立中学，被选为山西省代表赴滇（云南）出席全国教育第九届联合会(山西省仅有两名)。1924年秋天，他牵头建立了中国共产党山西省第一支部——太原支部，后来中共临时山西省委也设在省立一中，并以一中为基地，开展了轰轰烈烈的革命斗争。“五卅惨案”后，全校学生带头参加了太原市五万人反对帝国主义大示威游行等等多次活动。他逐渐成为党的重要骨干力量，蒋、阎反动势力多次利诱他，动员他参加国民党，并承诺给他提职升官，均遭到他的拒绝。
　　 他常常对家里人说：“我要是今天回不来，就是被他们抓走了。”为了正义，他不顾个人安危，毫不犹豫支持共产党的革命事业。他积极支持中国共产党在山西省立一中进行地下活动，多次想办法将阎锡山派来的进行搜捕活动的军警支走，保护了党的地下组织和地下党员傅恭（彭真）等人。1927年“四一二”反革命大屠杀后。党的领导机关撤离学校，他与阎伪意见不合，辞去一中校长职务。阎锡山政府主要官员马君图引诱他说：“如果你能杀人，我就派你当县长。”李玉堂严词拒绝：“我干不了。”他决心不与反对派同流合污。
　　 民国17年（1928年）步入政界，李玉堂先后担任河北烟酒税务局、山西省印花税务局科长等职务。抗日战争爆发后，李玉堂放弃城市生活回到了南山晕村，加入本村互助组，又将全部家产献给抗日政府，带领全家积极投入抗日救国运动。他同村民们一起日出而作、日落而息，披星戴月，不辞劳苦。在那个灾荒年间，吃糠咽菜的日子里，他的身体受到严重的影响。由于拔草过多，他把大拇指的指甲都掉了，但还是那样的平心静气、乐观健谈。他给村里死难者写祭文，编悼词，给出生的孩子起名字，每逢过年给村里农民编写对联，在群众中有很高的威望。
　　 同时，他还历任榆社县抗日政府、太行三专署文化宣传委员、晋冀鲁豫边区参议员、边区政府行政委员北方大学筹备委员、秘书等职务。在北方大学协助范文澜编辑《中国历史》（简编本）。
　　 抗日战争期间，一次日军扫荡，在和群众转移中他与汉奸相遇。他的一个本家吓的跪在地上苦苦求饶，被一个汉奸刺了一刀，李玉堂毫不畏惧义正词严地对汉奸说：“你是中国人，应该有中国人的良心，不应该残害自己的同胞，中国人不应杀中国人……”汉奸羞愧地放过了他和群众。
　　 在抗日战争的岁月里，他在家里成立了宣传抗日救亡的课堂，村里的老年人、青年人每到晚上，就三五成群到他家里聚会，在一间烟雾弥漫的小房子里，听他兴致勃勃讲抗日战争的形势、毛泽东主席的“论持久战”，听他宣传爱国思想，宣传杨家将、岳飞、戚继光等民族精神……大家听的津津有味，总是深夜才陆续散去。
　　 当他年过花甲，还是常常爬山涉水，忍饥挨饿，走遍了太行山的山山水水，积极宣传抗日真理，和党的政策，动员群众参军、参战，受到了群众的欢迎，多次参加榆社县抗日政府召开的开明绅士会、扩干会，并且在会上宣传抗日。同时他走遍了榆社各个区，发表了多次演讲，受到了群众的欢迎。
　　 全国解放后，1950年他当选为山西省人民政府参议员，1951年当选为山西省各界人民代表大会特别代表。1952年毛泽东主席任命他为山西省人民政府委员，同年9月周来总理任命他为山西省文化教育委员会委员，1952年被任命为山西省图书博物馆馆长，还被选为山西省第一届、第二届人民代表会代表、山西省政协委员、常委等职务。
　　 原山西省政协秘书长刘秀峰对李玉堂在抗日战争的表现做了高度评价：“李玉堂老先生是一个真正的爱国主义者，在抗日战争那样艰苦困难的环境里，始终坚定不移跟着共产党走。作为一个老知识分子，这是非常可贵的。”
　　 1970年后，他虽然生病瘫痪，但仍坚持参加会议，关心国家大事。他自作小结：“我是一生短于交际，不尚浮华，自食其力，不与人争的人。”
　　 1979年7月28日李玉堂逝世，8月18日安葬在太原双塔革命公墓。山西省常委、山西省委统战部长、省政协主席郑林、原省委秘书长史纪言、原副省长王中青和山西省领导机关、中央机关有关领导人、各界人士等参加了追悼会，全国人大常委会委员长彭真送了花圈，原山西省委书记王大任、在北京中央领导机关工作的原晋察冀边区政府主席杨秀峰、副主席戎子和发来唁电，唁电中写道：“先生一生从事三晋文教事业，成绩卓著，功在人间。”