Au 16e siècle, ce lieu renferme un beau vignoble.
Lors de la réalisation du premier cadastre de la commune, dit "napoléonien", en 1837, il existait déjà des constructions ainsi qu'un parc et un étang à la Charmotte. Une construction qui correspond peu ou prou au bâtiment habité par les propriétaires actuels ainsi qu'une autre petite construction à l'est de la première s'élevaient sur ce site. L'existence d'un parc au nord des constructions et d'un étang au sud-est atteste l'importance du domaine dès cette époque.
En 1850, la propriété appartient à la famille Sermage, famille implantée à Gy depuis le 16e siècle. Cette famille Sermage compte des notables : notaires comme Jehan qui habitait la rue du Grand Mont, magistrats… Un calvaire de 1676 garde d'ailleurs le souvenir de l'un des membres de la famille : Joanes Sermage.
Au début du 20e siècle, la propriété est acquise par Edmond Milleret, pépiniériste qui se bat pour la restauration du vignoble sur le site.
Il exploite la ferme de la Charmotte avec sa femme qui voit dans l’approvisionnement du bourg en lait une source de revenus. Elle augmente donc son cheptel laitier (5 vaches) et produit du beurre, des pâtes molles. L’activité augmentant, une laiterie est créée. La ferme et la laiterie sont cédées à Paul Hutin en 1921.
En 1925, Eugène Thorelle, fromager installé à Montrouge, près de Paris, achète la laiterie la Charmotte car il déplore la qualité des produits qu’il vend à l'époque. Au regard de la demande de sa clientèle parisienne, il modifie et diversifie sa production : bries, camemberts… Dès leur fabrication, les fromages sont envoyés à Montrouge où ils sont ensuite affinés.
Les fromages produits à la Charmotte n’étaient donc pas commercialisés en Haute-Saône mais en région parisienne. C'est peut-être la raison pour laquelle l'activité de cette laiterie est assez peu connue et documentée localement.
Des plans de la propriété, datés de 1931, permettent cependant de mieux comprendre l'évolution du site. A cette époque, de nouveaux bâtiments sont venus compléter le domaine : une laiterie fromagerie à l'est de la maison (sur l'emplacement de la petite construction figurée sur le cadastre napoléonien) et une porcherie plus à l'est. Entre ces deux bâtiments, s'est développé un espace réservé aux cultures maraichères. Un jardin a également été créé au sud de la maison d'habitation.
En 1938, la Charmotte est parmi les plus importantes laiteries du département (collecte de 2 millions de litres et jusqu’à 11 millions de litres en 1979). La zone de ramassage du lait s’étend sur de nombreuses communes situées à proximité de Gy.
La construction du nouveau bâtiment de la laiterie date probablement du milieu du 20e siècle. Ainsi, il ne figure par encore sur les cartes postales anciennes de la Charmotte remontant à la première moitié du 20e siècle.
En 1964, deux logements pour le personnel sont construits au nord-est du site, le premier pour le responsable de la laiterie et le second pour le responsable de la ferme.
En 1969, la laiterie est mise en gérance et c’est la société des fromages savoyards qui en assure le fonctionnement.
Elle ferme toutefois en 1983 après plus de 60 ans d’activité.