Hoewel J.J.P Oud zijn carrière begint met het bouwen van huizen voor familieleden in Purmerend, groeit hij al snel uit tot een architect met een internationale reputatie. Vooral in Duitsland stijgt zijn roem in de jaren twintig tot grote hoogte. Dit komt met name door zijn werkzaamheden in dienst van de gemeente Rotterdam tussen 1918 en 1933. Oud ontwerpt dan volkshuisvesting, waaronder de woonblokken in Spangen en de Kiefhoek. Kenmerkend voor deze vroege ontwerpen zijn de eenvoudige vormen, het achterwege laten van ornamenten en referenties naar het verleden en een interesse in industriële bouwtechnieken. Later keert Oud terug naar traditionelere bouwmaterialen en maakt hij wel weer gebruik van ornamenten, zoals in het kantoorgebouw BIM/Shell in Den Haag. Die verandering komt hem op veel kritiek te staan van voorstanders van het modernisme.
Oud verbindt zich soms voor korte periodes aan bewegingen, waaronder De Stijl, het Nieuwe Bouwen en de internationale CIAM beweging. Ook was hij lid van de Rotterdamse vereniging Opbouw. Het weglaten van versieringen, belangrijk in al deze bewegingen, de geometrische vormen van De Stijl en de nadruk op functionalisme en standaardisatie van het Nieuwe Bouwen, sluiten aan bij Ouds idealen. Toch kiest hij uiteindelijk altijd zijn eigen koers. De weg die hij bewandelt is er één van veelzijdigheid: Oud ontwerpt bedrijfsgebouwen, monumenten, openbare gebouwen en zelfs meubels en interieurs. Dit laatste misschien niet altijd van harte, zo blijkt uit een brief waarin Oud stelt dat, wanneer je ervan droomt om grootse dingen te bouwen, het niet altijd leuk is om de kleinst mogelijke dingen te ontwerpen. Toch verdienen ook deze kleine dingen de aandacht. De collectie in Museum Boijmans Van Beuningen laat zien dat Ouds inspanningen prachtige meubels hebben opgeleverd.
