Il est une figure majeure de l'architecture de la seconde moitié du XXe siècle en France, auteur ou coauteur de quelques-uns des bâtiments les plus marquants de l'après-guerre.
Entre 1943 et 1947, alors directeur du service d’architecture et d’urbanisme de la reconstruction en Tunisie, il associera à l’expérimentation des théories du mouvement moderne les savoir-faire constructifs de l’architecture vernaculaire.
En France, il conçoit avec ses confrères Camelot et de Mailly le premier schéma d’aménagement du quartier de La Défense, et signe ou cosigne les édifices les plus marquants de l’après-guerre : l’imprimerie Mame à Tours (1953), l’usine Renault de Flins (1957), le siège de l’Unesco à Paris et ses extensions (1952-1980), le CNIT à La Défense (1958), le musée gallo-romain de Lyon (1975). Pour toutes ces architectures l’effet majeur résulte de la force des principes constructifs.
Au fil de ces projets, Bernard Zehrfuss collaborera avec les plus grands ingénieurs ou constructeurs de son temps comme Prouvé, Nervi ou Esquillan ainsi qu’avec de nombreux artistes tel que Picasso, Miró, Del Marle, Pillet. Il a aussi réalisé plusieurs sièges sociaux dont ceux de Siemens et Sandoz, un hôtel à Megève, des ensembles de logements et Super Montparnasse, rare exemple de tour mixte bureaux-logements à Paris.
Bernard Zehrfuss lègue un ensemble d'œuvres majeures à redécouvrir.