Ideja e një ndërtese të re lindi shtatëmbëdhjetë vjet më parë, kur Dukati i Madh u bë një nga gjashtë vendet themeluese të Bashkimit Evropian dhe autoritetet vendosën të mbështesin imazhin e Luksemburgut jo vetëm si një shtet i prosperuar ekonomikisht, por edhe si një qendër e rëndësishme kulturore e kontinentit. Sidoqoftë, vetë ideja e krijimit të një koleksioni të artit bashkëkohor dhe mishërimi i saj arkitektonik në formën e një projekti nga J. M. Pei u takua me rezistencë në qarqe të ndryshme të shoqërisë me mendje konservatore. Si rezultat, koncepti i tij u rishikua disa herë, dizajni dhe madje ndërtimi u pezullua. Vetëm në vitin 1997 u përcaktua vendi për muzeun: rrënojat e kalasë së Tungenit (1732), të cilat u përfshinë në ndërtesën e re. Në vitin 1999, filloi ndërtimi, por më pas ai u ndërpre për katër vjet sepse Pei donte të përdorte vetëm gur gëlqeror të artë nga Franca për ndërtimin e tij, dhe kjo solli shumë probleme të reja.
Gjithashtu, vështirësitë lindën me koleksionin: meqenëse nuk kishte kurrë një koleksion të artit të shekullit të 20-të në Luksemburg, ai duhej të krijohej. Për shkak të fondeve të kufizuara, nuk flitej për blerjen e veprave nga Dali dhe Picasso: shumica dërrmuese e ekspozitave nga 230 objektet që i përkisnin muzeut i përkasin periudhës pas 1980. Por, sipas drejtorit të muzeut, Marie-Claude Beaux, ajo është krijuar për të zgjeruar më tej koleksionin, për të mbledhur artin e së ardhmes, artin e shekullit XXI.
Kompleksi ndodhet në mes të një parku, midis dy rretheve të biznesit të qytetit. Karakteristika e tij përcaktuese është kulla e gjelbër e qelqit mbi atriumin kryesor, që të kujton fortesën mbi të cilën ishte ndërtuar. Pothuajse të gjitha dyshemetë e nivelit kryesor janë bërë prej qelqi, kështu që shumica e sallave kanë dritë natyrore. Në katin e parë ka dy galeri të vogla dhe një sallë leksionesh. Jashtë, muret e muzeut janë përballur me gur gëlqeror me ngjyrë mjalti, hyrja kryesore e muzeut është një përbërje hapësinore komplekse në formën e një kamareje. Sipërfaqja e përgjithshme e ndërtesës është 10,000 sq. m, nga të cilat 4800 sq. m - hapësirat e ekspozitës. Muzeu mban emrin e Grand Dukës Jean, i cili tani ka transferuar menaxhimin e vendit tek djali i tij Henri.
