La sede de CaixaForum Madrid es un antiguo edificio de tipo fabril, erigido con fachadas de ladrillo y que se hallaba encajonado entre calles estrechas. Fue reformado por el estudio de arquitectura Herzog & De Meuron, con resultados elogiados por su originalidad.
La antigua mole mantuvo sus fachadas, pero a fin de ganar espacio fueron perforadas o abiertas en su planta baja prescindiendo de pilares. Así, el edificio de ladrillo parece flotar gracias a una sustentación central que pasa casi desapercibida. El nuevo museo se corona con varias plantas añadidas que muestran al exterior un acabado oxidado.
El acceso a la planta principal es por una escalera de peldaños metálicos, y las restantes plantas se organizan alrededor de otra escalera circular que recuerda al Museo Guggenheim de Nueva York.
El acceso al museo desde el Paseo del Prado se efectúa por una pequeña plaza ganada con la demolición de una vieja gasolinera. La fachada lateral de un bloque anexo quedaba al descubierto, y fue embellecida mediante un espectacular tapiz vegetal, conformado por cientos de plantas que se mantienen vivas mediante un sistema de riego oculto.