Les époux Chagall habitaient à Saint-Paul-de-Vence. La chapelle du Calvaire à Vence, située non loin de là, leur parut particulièrement stimulante pour présenter les douze toiles du Message Biblique dans les chapelles latérales, tandis que les autres œuvres devaient être présentées dans des petits édifices votifs désaffectés, échelonnés en chemin de croix jusqu'à la chapelle. Toutefois, compte tenu de l'exiguïté des lieux et des conditions inadéquates de conservation des œuvres, le choix définitif s'est porté sur un terrain situé sur la colline de Cimiez, à Nice, non loin du centre-ville mais dans un cadre calme propice à la méditation.

Le terrain retenu, une parcelle très végétalisée de 11.850 m² nommée « terrain de l'Olivetto » en raison de la présence d'une oliveraie, appartenait à un banquier américain d'origine russe, Abraham Stolkind. En 1964, il accepta d'en faire don à la municipalité à
la condition que celle-ci y installât un centre culturel et social. Mais le décès de ce dernier entraîna l'acquisition du terrain par ses héritiers qui le revendirent à la ville de Nice en 1966.

Depuis plusieurs années, ce terrain faisait l'objet de vives controverses dans la presse locale en raison de son état d'insalubrité et de son occupation illégale. Il avait été autrefois la propriété de la princesse Marie Branicko, veuve du prince Georges Radziwill, qui y avait fait construire une somptueuse villa à la fin du XIXe siècle. Mais laissée à l'état d'abandon par le dernier propriétaire, la villa devint le lieu de squats. Le 16 octobre 1968, la ville de Nice fit don du terrain à l'État pour la construction du musée Chagall. Les bâtiments existants furent démolis et le club de boulistes de l'Olivetto qui y avait aménagé ses terrains migra en contrebas du site sur une parcelle proche.