中国地质博物馆前身是1916年设于北京西城区丰盛胡同3号的前北平地质调查所地质矿产陈列馆。新馆大楼建成于1958年，翌年10月正式开放。被中央有关单位和北京市授予全国科普教育基地、全国青少年科技教育基地、北京市优秀爱国主义教育基地。

中国地质博物馆大楼为一幢L型的六层高大建筑，占地面积10000平方米，塔式楼顶及馆名七个大字十分醒目。从大楼1至4层，拥有面积各为500-600平方米的6个陈列室和1个临时展厅。4楼设国土资源厅，2楼设地球史室和古生物室，3楼设矿物岩石室和宝玉石室，总陈列面积达4500平方米。大楼底层主要用作标本库房。5楼、6楼为办公、科研、实验、图书资料、照相、录相、美工等工作用房。

中国地质博物馆是我国唯一的全国性地学类博物馆。也是亚洲最大的地质学类博物馆。该馆藏有地质标本12万件，其固定陈列室有“国土资源室”，展出国土、海洋各种资源和开发利用的程度；矿产资源有化工矿产、钢铁金属矿产、有色金属矿产等；“地球史室”介绍了地球46亿年以来从荒无沉寂的星体到生机勃勃现代世界的历史；“古生物室” 揭示了从元古代至第四纪以来生物的演化过程，展出了不同地层中的各类生物化石；“矿物岩石室”使人们更好地认识矿物岩石世界；“宝玉石室”分为宝石、玉石、 彩石、砚石四个单元展。

本馆研究员、副研究员等各类科研干部。馆下设办公室、党群工作部、保管部、陈列艺术部、社教部等8个处室。

2004年07月14日中国地质博物馆经过大规模修缮改造和数字化工程建设，重新开馆。修缮改造后的中国地质博物馆展览陈列面积达4500平方米，全面创新展陈手段，大量采用声光电、多媒体、虚拟现实等技术，重建了地球厅、矿物岩石厅、宝石厅、史前生物厅、国土资源厅等五个基本陈列展厅，馆藏标本20万件。其中不乏巨型山东龙、水晶王、辰砂王、中华龙鸟、重达3561克的狗头金以及“北京人”的饰物、“元谋人”的牙齿等珍品。