Idén om en ny byggnad föddes för sjutton år sedan, då Storhertigdömet blev ett av de sex grundande länderna i Europeiska unionen, och myndigheterna beslutade att stödja bilden av Luxemburg inte bara som en ekonomiskt välmående stat utan också som ett viktigt kulturcentrum på kontinenten. Men själva idén att skapa en samling av samtida konst och dess arkitektoniska utföringsform i form av ett projekt av J. M. Pei mötte motstånd i olika kretsar i det konservativt sinnade samhället. Som ett resultat reviderades hans koncept flera gånger, design och till och med konstruktion avbröts. Först 1997 bestämdes museets plats: ruinerna av Tungen-fästningen (1732), som ingick i den nya byggnaden. År 1999 började byggandet, men sedan avbröts det i fyra år eftersom Pei bara ville använda gyllene kalksten från Frankrike för sin konstruktion, och detta gav upphov till många nya problem.
Dessutom uppstod svårigheter med samlingen: eftersom det aldrig fanns en samling 1900-talskonst i Luxemburg, måste den skapas. På grund av begränsade medel var det inget tal om att köpa verk av Dali och Picasso: de allra flesta utställningarna från de 230 föremål som tillhör museet tillhör perioden efter 1980. Men enligt museets chef, Marie-Claude Beaux, är det utformat för att ytterligare utöka samlingen, för att samla framtidens konst, konst från XXI-talet.
Komplexet ligger mitt i en park, mellan två affärsdistrikt i staden. Dess avgörande egenskap är det grönaktiga glastornet ovanför huvudatriumet som påminner om fästningen som det byggdes över. Nästan alla våningar i huvudnivån är gjorda av glas, så de flesta hallarna har naturligt ljus. På bottenvåningen finns två små gallerier och en föreläsningssal. Utanför står museets väggar mot honungfärgad kalksten, museets huvudingång är en komplex rumskomposition i form av en nisch. Byggnadens totala yta är 10 000 kvm. m, varav 4800 kvm. m - utställningsutrymmen. Museet bär namnet på storhertigen Jean, som nu har överfört landets ledning till sin son Henri.
