Byggnaden byggdes på platsen för ett spansk museumskomplex i kolonistil som förstördes av jordbävningen 1989. De eleganta formerna och den ursprungliga materialanvändningen, som är karakteristiska för Jacques Herzog och Pierre de Meuron, väckte aktivt motstånd från stadens konservativa myndigheter, men museumadministrationens uthållighet gjorde det ändå möjligt att genomföra projektet.
Strukturen är helt klädd med koppar (totalt 7602 paneler i olika former användes) och är den största byggnaden täckt med denna metall i världen.
Huvudelementet i projektet är ett böjt torn som reser sig över trädtopparna i Golden Gate Park, där museet ligger. Det erbjuder utsikt över staden och förbinder också byggnaden med San Francisco: tornets storlek gjorde det möjligt att bli en märkbar del av stadslandskapet.
Huvudvolymen, rektangulär i plan, skärs av små gårdar planterade med ormbunkar. Glasväggar har gjort dessa trädgårdar till en del av museets interiör.
Särskild uppmärksamhet ägdes åt arkitekterna för att betona det kontinuerliga flödet av utrymme: ingången till museet är ansluten till en stor lobby med en öppen innergård, därifrån leder en bred trappa till hallarna på andra våningen. Detta underlättas också av utställningshallarnas böjda planritningar. Museets interiörer är dekorerade med eukalyptusträ.
Kostnaden för hela projektet var 190 miljoner dollar, som samlades in av privatpersoner, trots att både samlingen (konst från Afrika, Oceanien, Mesoamerica) och själva museet tillhör staden.