La ligne Paris-Mulhouse est mise en service sur l'ensemble de son tracé en 1858 par la Compagnie des Chemins de Fer de l'Est. C'est dans ce contexte que la gare de Jussey est créée avec ses différents bâtiments (gare de voyageurs, quais, gare du transit de marchandises) en lisière nord du village, à la bifurcation de la route départementale n° 3 (ancienne route royale de Besançon à Neufchâteau) vers Cendrecourt. Ce lieu presque inoccupé va prendre le nom de "la Gare" et se développer : un dépôt de charbon et une coopérative agricole en profitent. La population augmentant, la ville décide même de la construction d'une petite école en 1931.

Le bâtiment de voyageurs relève du type 6 de la Compagnie, type conçu tout exprès pour la ligne Paris-Mulhouse. Lorsque la ligne de Jussey à Darnieulles-Uxegney est mise en service en 1886, Jussey reçoit les équipements d'une gare de bifurcation (remise et pont tournant) et un quai militaire. Le pavillon abritant les salles d'attente, qui n'existait pas à l'origine, est peut-être construit à ce moment. Plusieurs équipements prennent place à l'est de ce bâtiment. Le foyer de mécaniciens, qui suit un plan-type conçu par Paul-Adrien Gouny en 1903, est donc établi après cette date. Des cartes postales anciennes montrent dans son prolongement un château d'eau en béton (années 1930 ?), disparu aujourd'hui. Un embranchement particulier est construit dès le début du 20e siècle au moins entre la ligne et l'entrepôt de charbon de bois, devenu ensuite Menuiserie générale française. La ligne Jussey-Darnieulles disparaît en 1994, mais celle de Paris-Mulhouse est toujours en service. Le foyer de mécaniciens a été converti en logements. D'autres éléments ont été démolis, dont le pont tournant et une halle, visible entre les voies sur des cartes postales anciennes.

Un tramway passe aussi à Jussey au début du 20e siècle. L'enquête d'utilité publique prescrite par un arrêté du 10 février 1898 du préfet de Haute-Saône porte sur le tracé de la voie projetée de Jussey à Gray (elle se poursuivait jusqu'à Dole). La ligne de tram, inaugurée en 1903, fonctionne jusqu'en 1938. La Compagnie générale des Chemins de Fer vicinaux en assure la construction. La halte de la section de la Ville n'existe plus (elle se situait approximativement au croisement des avenues de Verdun et de la Gare (archives départementales de Haute-Saône, 211 S 10)). La gare de Jussey en constituait le terminus, mais toute installation liée au tram a aussi maintenant disparu.