La voie existe dès l'Ancien Régime. Elle se situe à l'extérieur du bourg à proprement parler, c'est-à-dire au-delà de la porte qui fermait l'accès à la rue du Pont (actuelle rue Armand Paulmard). Elle mène alors aux communaux situés le long du ruisseau de la Sauce qu'un pont permet de franchir. Le pont est en ruine dans les années 1780. Il est reconstruit au même emplacement dans les années qui suivent. Le côté sud de la rue est déjà largement bâti lorsqu'est levé le plan du cadastre ancien dit napoléonien en 1836. Certaines maisons abritent des auberges, comme celles de Louis Confland (parcelle n°333, vers 1840) et de Pierre Debout-Abram (parcelle n°335, vers 1860). La rue est située en effet sur le passage des voyageurs arrivant par la route de Neufchâteau à Besançon (actuelle avenue des Pâtis). Au début du 20e siècle, la rue change de physionomie avec la construction de plusieurs demeures bourgeoises. Joseph-Auguste et Jacquemin Javelet, commis d'agent de change à Lyon, font ainsi bâtir la maison du n°10 en 1903. Certains propriétaires n'hésitent pas à faire référence au vocabulaire de l'hôtel particulier urbain (chaîne d'angle et lucarnes de la maison du n°6) ou même du château (tour de la maison du n°2) pour affirmer un certain statut social. Cette phase se termine par l’agrandissement du Château Rance (1907) du côté nord.