吕梁高等专科学校前身为吕梁师范专科学校（成立于1978年）和吕梁理工专科学校（筹建于1986年），1990年两校合并，定名为吕梁高等专科学校。

吕梁高等专科学校首任校长为我国著名诗词学者李旦初教授：李旦初（1935—）湖南省安化人。1960年武汉大学中文系毕业。1961年分配晋中师专任教。1966年调柳林县孟门公社插队。1979年任山西师范学院吕梁专科班教师、教务主任。1984年起担任吕梁师专首任校长。1984年9月18日，吕梁高专印发（84）校字2号《关于颁布校训和校歌的通知》的文件，颁布校训为“高瞻远瞩，博览多思”，校歌为《我们是创新的一代》，校训“高瞻远瞩，博览多思”有特定的含义。“校歌《我们是创新的一代——吕梁师专校歌》由首任校长李旦初亲自作词，孟只争作曲。李旦初校长于1987年秋调山西大学任常务副校长(主持工作)，1995年退休。