La collection est destinée à un édifice conçu au-delà de la notion traditionnelle de musée monographique. Il est envisagé comme un lieu d’échanges, de spiritualité, de communion entre les peuples, dans une visée œcuménique et fraternelle. La collection doit former le théâtre de ces rencontres et les stimuler. Pour cela, il doit comprendre, outre les espaces de conservation et de présentation de la collection, un lieu culturel (la salle de concert) et une bibliothèque faisant partie intégrante du circuit de visite.

Dans le premier acte de donation daté du 18 juillet 1966, il est stipulé que les donateurs seront « consultés sur la désignation de l’architecte et l’approbation des plans définitifs, ainsi que sur les conditions de présentation des œuvres ». Cette condition, qui ouvrira la porte à un contexte particulièrement difficile, correspond précisément au caractère atypique de ce projet, puisque au duo maître d’ouvrage / maître d’œuvre, il fait entrer en scène une troisième partie qui est l’auteur même de la consécration.

André Hermant est choisi par les époux Chagall sans que les raisons en soient clairement précisées. Le projet n'a pas fait l'objet d'un concours. Il est probable que les recommandations dont Hermant bénéficiait dans le milieu des musées, notamment grâce à son travail pour le réaménagement du musée des Antiquités nationales à Saint-Germain-en-Laye et à son rôle d’architecte-conseil au sein de l’Inspection générale des musées classés et contrôlés, aient jouer en sa faveur. Les premières esquisses du musée datées de 1962 montrent qu’Hermant avait été engagé bien avant l’arrêté officiel de sa nomination en 1969.

Hermant répond à la commande par une stricte observance des conditions stipulées par les Chagall dans la donation, et envisage une organisation autour des salles principales du Message Biblique et du Cantique des Cantiques. Les espaces culturels sont relégués aux extrémités et pensés dans un parcours muséographique intégrant également les espaces extérieurs.