东南大学地质博物馆前身为南京地质学校地质陈列馆。该馆1953年由朱熙人老师捐献矿产地质标本精品300余件给学校，后经专业学科老师搜集、采集和采购，并对矿物、矿床、地层、古生物标本逐一鉴定分类，至1956年建成了初具规模、品种比较齐全的地质陈列馆。数十年来，结合生产实习，历届校友和兄弟院校的大力支持，鼎盛时期馆藏标本达数万件，包括矿物岩石、古生物、地层、地质构造、宝玉石等，其门类齐全、数量之多在全国院校地质陈列馆名列前茅。

2000年4月，原东南大学、南京铁道医学院、南京交通高等专科学校合并，南京地质学校并入，组建新的东南大学。2012年9月，东南大学在九龙湖校区图书馆二楼重建地质陈列馆，并命名为“东南大学地质博物馆”。2012年10月，东南大学岩土工程学科带头人、东南大学首席教授刘松玉以个人名义捐资10万元人民币、建立了地质博物馆发展基金，购置了部分珍贵标本，并将部分校友捐赠的奇石一起收藏于馆内，丰富了馆藏。在学科师生共同努力下于2013年10月建成并开馆。

2020年6月-2021年8月，东南大学图书馆牵头对地质博物馆进行了重新设计与改造，刘松玉教授、杜延军教授、刘文亮博士、朱宜生副教授、经绯副教授等具体负责，精选各类矿物、矿产、古生物化石、宝玉石等地质标本进行布展，馆貌焕然一新。现馆面积450平方米，馆藏标本一万余件，展区分序厅、矿物岩石、矿产、古生物、宝玉石观赏石等部分，其中矿产、古生物部分标本种类全，独具特色。