Le 8 mai 1751, Paul Rance et Louise Verney, veuve de Claude Tremiot, respectivement fermier et sous-fermier du "petit moulin situé au bas de l'église de Scey-sur-Saône" qui appartenait au duc de Bauffremont, font constater par Gabriel Garnier, juge ordinaire de la baronnie, les détériorations de l'édifice en partie occasionnées par les inondations du ruisseau de la Fontaine Larie de l'hiver précédent. Les travaux, qui consistent principalement à rétablir le déchargeoir, doivent être exécutés avant l'hiver par Sébastien Cornevin, meunier à Breurey, pour un montant de 690 livres. Le bâtiment lui-même, dont la présence est donc attestée dès cette époque, a sans doute subi d'importantes modifications dès les décennies suivantes. La forme des baies de l'étage côté rue, couvertes d'arcs segmentaires, permet de dater ce niveau de la seconde moitié du 18e siècle voire du début du 19e siècle. Le rez-de-chaussée pourrait être plus ancien. L'édifice est appelé "Petit Moulin" pour le distinguer du moulin à farine sur la Saône. Il figure dans le plan du cadastre ancien dit napoléonien (1836). L'état de section (1839) indique qu'il appartient alors à la veuve et aux héritiers de Simon Gremaux. Ils le gardent en leur possession jusqu'en 1878. La propriété s'étend aux îlots formés par les dérivations de la source Larie et la source de la Baume qui se rejoignent pour former le canal du Petit Moulin (parcelles n°451, 454 et 455). La famille possède également une maison avec jardin de l'autre côté de la rue (parcelles n°536 et 537) à l'emplacement de l'actuelle maison du n°15 de la rue du Petit Moulin. En 1900, la commune acquiert du meunier Claude Lallemant le Petit Moulin, qui change de vocation dans les années suivantes. Il est en effet au centre du nouveau système d'alimentation en eau de la commune mis en œuvre en 1906 et 1907. Les eaux de la source de la Baume y sont conduites grâce à une nouvelle canalisation, et une pompe élévatrice y est installée. Celle-ci permet de refouler les eaux dans une nouvelle conduite passant sous les actuelles rue de la Fontaine Larie, rue de l’Église et rue de La Neuvelle, jusqu'à un réservoir de 400 m3 construit dans la quartier de La Prouse qui domine le reste de la ville, soit une dénivellation de 42 mètres. De là, l'eau s'écoule par gravitation jusqu'à des bornes-fontaines ou des fontaines-abreuvoirs. La pompe élévatrice est achetée auprès de l'entreprise Japy frères pour un montant de 7.070 francs. Même après le changement de vocation de l'édifice, une partie de celui-ci subsiste comme habitation.