La colección tiene su origen en la Escuela de Minas de Almadén, allí se formó un primer núcleo de piezas, que se trasladó a Madrid, cuando lo hizo la propia Escuela, en 1835. Los primeros datos documentados sobre compras destinadas a esta colección se remontan a 1831, cuando la Dirección General de Minas adquirió a la Real Academia de Freiberg (Sajonia - Alemania) más de 300 minerales. Estas compras se sucedieron hasta mediados del siglo XIX, lo que permitió contar en 1850, con más de 4000 minerales, procedentes de minas históricas europeas (Sajonia, Bohemia, Francia, Cornualles) y americanas (Potosí, Guanajuato, Zacatecas, Perú, etc.).

A lo largo de la segunda mitad del siglo XIX y primeros años del XX este fondo se enriqueció con donaciones personales e institucionales, realizadas, entre otros, por Felipe Naranjo Garza, Policarpo Cía, la Inspección General de Minas de Filipinas o el marqués de la Ribera.

La necesidad de salas para presentar esta colección se recoge en los primeros planos para la construcción del actual edificio de la Escuela, trazados en 1893 por el arquitecto Ricardo Velázquez Bosco, donde se reserva al Museo el espacio que actualmente ocupa.

Los fondos del Museo se complementan con una valiosa colección de libros sobre paleontología, mineralogía e historia natural, conservada en la Biblioteca histórica del centro.

Benjamín Calvo, actual Director del Museo, ha elaborado una completa guía sobre El Museo Histórico Minero Don Felipe de Borbón y Grecia, publicada por la Escuela Superior de Ingenieros de Minas de Madrid, en 2002. La colección arqueológica dispone de un catálogo propio: Fondos arqueológicos del Museo Histórico Minero D. Felipe de Borbón y Grecia, coordinado por María José Bernárdez Gómez y Juan Carlos Guisado di Monti, editado por la Escuela en 2004.