À partir d'août 1950, à la demande du ministère de la Reconstruction, il conçoit avec ses confrères Robert Camelot et Jean de Mailly le plan d'aménagement du quartier de La Défense, extension de Paris vers l'ouest. Sous l'étiquette d'un « Manhattan à la française », leur approche urbanistique s'efforce d'associer, sur 346 hectares, l'art de la composition et les théories du mouvement moderne. Dans le prolongement de l'avenue de Neuilly, des tours de bureaux et de logements ordonnancées sont reliées par des portiques. L'une d'elle, plus haute, se détache pour faire signal dans l'axe de la perspective royale, face au Centre national des industries et des techniques (Cnit), dont Zehrfuss, Camelot et de Mailly sont également les architectes. Des immeubles bas, dénommés « palais royaux » en référence au plan du Palais-Royal de Paris, sont organisés autour de vastes cours-jardins et pondèrent la rupture d'échelle avec la banlieue. Approuvé en 1956, ce projet va se transformer au fil du temps.
Après le retour du général de Gaulle en 1958, la création de l'Établissement public pour l'aménagement de La Défense (ÉPAD) fait évoluer le plan initial, entérinant le principe d'un urbanisme sur dalle au détriment du boulevard urbain.
