山西省太原市西山矿区煤炭开采始于隋唐时期，有着悠久的历史。到20世纪20年代，开办注册的小煤窑有120多座。1933年（民国22年），由阎锡山创办的西北实业公司收购了其中规模较大的白家庄庆丰窑（日出煤60-70吨），在此基础上于次年成立西北煤矿第一厂，年产量为1.5万吨。
1937年（民国26年）日本侵略者侵占太原，西北煤矿第一厂被日军占领，之后相继更名为西山煤矿厂、西山采炭所。1945年（民国34年），抗日战争胜利后，西北实业公司接管西山采炭所，复名为西北煤矿第一厂。至新中国成立前，西山矿区煤炭开发主要依靠手工开采和畜力运输，机械化程度很低，生产效率低下。
1949年（民国38年）4月，西山白家庄解放，太原市军事管制委员会轻重工业接管组接管西北煤矿第一厂。当年8月20日，成立太原煤矿公司西北煤矿第一厂，不久更名为西山煤矿第一厂；同时对从阎锡山政权手中接管过来的“虎峪、玉门煤炭产销合（作社）联（合）社”进行改编，将所属48个小煤窑合并成立西山煤矿第二厂。
1950年6月后，西山煤矿第一厂、西山煤矿第二厂曾一度合并，统称西山煤矿。1951年底，西山煤矿第二厂从西山煤矿分出，由生产原煤转向生产土窑焦，更名为西铭焦炭厂。1952年，西山煤矿原煤产量为85.39万吨。
1956年1月1日，经山西省人民政府工业厅和煤炭工业部太原煤矿管理局协商同意，报国家计委批准，将西山煤矿和西铭焦炭厂合并，成立西山矿务局，属国营企业，当年生产原煤184万吨。从此揭开了西山矿区规模化开采的新篇章。
西山矿务局成立后，依靠科技进步，逐步实现由手工作业向机械化作业的过渡。先后引进截煤机、康拜因采煤机、耙斗装煤机等设备，提高了生产机械化水平。1960年原煤炭产量为524．9万吨。1963年至1965年，原煤年产量保持在350万吨左右。
1966年后，受“文革”影响，全局生产建设发展缓慢。进入70年代后，进行以矿井改扩建为重点、以发展综采为方向的技术改造，首次引进2套英国综采设备，综合机械化采煤开始起步。1975年，采煤机械化程度达到33.3%，原煤产量572.5万吨。
1978年党的十一届三中全会后，西山矿务局进入持续稳定健康发展的新阶段。局党政贯彻中央“调整、改革、整顿、提高”的方针，继续进行改扩建，建设古交新区，完成一批矿区配套工程。1979年开始使用综掘机。1981年生产原煤1003万吨，实现生产规模的新飞跃。1985年生产原煤1262万吨，成为山西省八大煤炭基地之一，跻身全国千万吨大局行列。
1986年后，西山矿务局加快现代化矿井和质量标准化建设步伐，进行一系列重大改革，实现了原煤产量、精煤产量、企业收入的大幅度增长。1990年，原煤产量达到1572.1万吨，名列全国第七位。1991年，采煤机械化程度达100%。1994年，荣登中国500家工业企业排行榜。1995年，原煤产量达1753万吨，名列全国第四位；精煤产量达693万吨，跃居全国第一位。
1996年后，西山矿务局致力于建设现代化大型企业集团，进一步加快改革发展步伐。1997年，被大众国际公司评估为AA级信用企业。1998年1月，西山矿务局改制为西山煤电（集团）有限责任公司，实现由工厂制向公司制的过渡，当年获“全国五一劳动奖状”荣誉称号。推进企业股份制改造，1999年4月组建山西西山煤电股份有限公司。2000年7月，西山煤电A股股票在深圳成功上市，初步构建母子（分）公司结构基本框架，当年获“全国煤炭工业科技进步十佳企业”荣誉称号。
2001年10月，以西山煤电（集团）有限责任公司、汾西矿业（集团）有限责任公司、霍州煤电（集团）有限责任公司为主体，组建山西焦煤集团公司，总部设在西山煤电（集团）有限责任公司。2002年11月，以西山煤电（集团）有限责任公司上市后的存续资产为基础，成立西山煤矿总公司。
西山煤矿总公司、山西西山煤电股份公司积极调整产品结构，大力发展循环经济，企业驶入了做强做大快车道。2002年原煤产量突破2000万吨大关，达2365万吨。2004年原煤产量达3010.3万吨，实现了新的历史性跨越。山西西山煤电股份公司连续3年进入中国上市公司100强。
2005年12月，根据山西省国资委关于债转股工作要求，西山煤矿总公司、山西西山煤电股份有限公司改制为西山煤电集团有限责任公司。当年，生产原煤3150.3万吨、精煤1286.5万吨，发电量13.9亿千瓦小时，实现利润5.7亿元，被授予“全国五一劳动奖状”、“中国煤炭工业优秀企业”等荣誉称号，被国务院六部委确定为国家首批循环经济试点单位。