À son ouverture, le succès est immédiat auprès des professionnels, du grand public et de la presse. Ce « beau musée tout blanc » selon l'expression de Pierre Cabane (Guide des musées de France, Éditions Bordas, Paris, 1984, p. 402) connaît dès le départ un taux de fréquentation élevé et toujours constant. Le directeur du musée du Louvre en 1973 – Michel Laclotte – adresse, en ces termes, un courrier très élogieux à Hermant : « Votre musée m'a, au sens propre, enchanté. Il ménage toutes sortes de surprises et en même temps rassure par sa logique. Votre salle de concerts est tout simplement un chef-d'œuvre d'élégance et d'ingéniosité […] Votre réussite me paraît absolue. »

Toutefois, l'amertume d'Hermant est perceptible dans les échanges épistolaires avec Jean Chatelain. L'architecte redoute que le musée ne soit qu'un

triomphe accordé au peintre alors qu'il souhaite que la notion d'œuvre collective soit valorisée et que chaque participant soit mentionné dans les articles de presse à l'inauguration. Il convoque le droit de la propriété intellectuelle pour « demander qu'aucune reproduction du bâtiment qu'il s'agisse de journaux, revues, brochures, livres, cartes postales, y compris télévision ou cinéma […] soit effectuée qui ne respecte les dispositifs de la loi du 11 mars 1957 sur la propriété artistique. »
Le fait est que l'architecte est très peu visible, voire absent, des clichés réalisés pendant les cérémonies officielles – il est photographié de profil ou au second plan – alors que Chagall, les élus et les représentants de l'administration muséale sont toujours bien représentés. Sans doute, et paradoxalement, Hermant n'avait-il pas cherché à figurer de manière plus évidente.