El Museo fue creado por el Ayuntamiento en 1988 aunque no comenzó a funcionar con su actual configuración hasta 1998. La mayor parte de los fondos que lo integran son de carácter arqueológico, si bien en él también están presentes objetos y elementos del pasado reciente de la ciudad de Baza.

Actualmente el museo dispone de cuatro salas de exposición permanente que se han estructurada en cuatro grandes periodos cronológico-culturales: prehistoria, época íbera, época romana, y época medieval y moderna.
Además posee una quinta sala dedicada a exposiciones de carácter temporal y otro tipo de actividades culturales.