Comme dans la quasi totalité des paroisses, l'ancien cimetière de Gy se trouvait autour de l'église. Toutefois, en 1604, dans un document d'archives, le cimetière est qualifié de « cimetière neuf » et en 1669, un terrain est acheté à Antoine Savoye pour agrandir ce premier cimetière.
Vers 1780, le cimetière devient trop petit et il est transféré en 1787 dans la vigne du vicaire temporel. Puis, en 1825 , il est à nouveau transféré à l'emplacement actuel et un mur de clôture est édifié en 1829.
En 1865, une porte avec grille en fer pour l’entrée du cimetière est réalisée pour un montant de 1232 francs.
Le bâtiment qui se trouve au sud du cimetière est une ancienne ferme appartenant à l'hospice d'après l'atlas de Dieu réalisé vers 1860.
A cette époque et, comme le montre aussi le premier cadastre de la commune (1837), le cimetière n'était pas aussi grand qu'aujourd'hui, il couvrait seulement environ la moitié du cimetière actuel.
Mongreville, Jérôme. Photographe. Région Bourgogne-Franche-Comté, Service Inventaire et Patrimoine, 1983-2024.