Jusqu’au début du 19e siècle, les cimetières sont établis autour des églises de la ville : Saint-Anatoile, Saint-Maurice, Notre-Dame, Saint-Jean-Baptiste et Saint-Pierre-hors-les-murs. Les questions d'hygiène publique et le manque de place obligent les édiles à chercher un terrain à l’extérieur de la ville.

En 1811, les élus Dunand et Bernard et l’architecte municipal Dez sont chargés de trouver un emplacement pour les défunts de la paroisse de l’église Saint-Jean-Baptiste (ex-église de carmes), dépourvue de cimetière, et pour les autres paroisses de la ville, et " de faire un état estimatif des dépenses que cet établissement pourrait occasionner ". En 1821, Hugues Baudin, principal du collège et conseiller municipal, offre au nom d'une société composée " d’un assez grand nombre des habitants de cette ville, formant une compagnie qui veut rester inconnue " un terrain de 64 ares au lieu-dit Saint Roch, sur le coteau de la montagne de Belin. L'acte de donation précise que le terrain servira uniquement de cimetière pour la paroisse Saint-Anatoile, les succursales Notre-Dame, Saint-Maurice et l'hospice civil. Le terrain assez pentu nécessite des travaux de nivellement et la construction de murs de clôture. Un cimetière, établi cette même année au Pré-Sainte-Marie pour la paroisse Saint-Jean-Baptiste, est reconnu impropre à son usage et supprimé en 1823.

L’arrêté municipal du 22 juin 1840 et l’ordonnance royale du 6 décembre 1843 règlementent les concessions, dites perpétuelles, trentenaires ou temporaires des cimetières. En 1843, le maire souhaite agrandir le cimetière et demande au ministre de la Guerre de reporter le mur oriental du cimetière de 30 mètres. Dans le cadre de divers " travaux d’utilité communale " est prévu en 1847 l’agrandissement du cimetière et la construction d’une loge de concierge, à l’angle nord-ouest, mais ces travaux ne sont pas réalisés.

Le 4 août 1870, le conseil municipal vote l’agrandissement du cimetière grâce au don d’un terrain (baron Lepin) et l’acquisition de deux parcelles de vigne. L’architecte voyer Compas dresse un devis de 11 500 francs. La mise en adjudication des travaux n’a lieu qu’en décembre 1872, et le nouveau cimetière (dit du Haut) " est aujourd’hui à même de recevoir les sépultures " en mai 1873. En 1878, le mur ouest s’affaisse sur une longueur de 12 mètres, nécessitant des travaux de consolidation. A cette époque, les allées principales de la partie basse forment une croix dont les branches sont occupées par les concessions trentenaires et perpétuelles, au centre de laquelle un périmètre ovale est réservé aux personnalités salinoises. La tombe du général Lepin est construite au bout de l’allée orientale, au bord de la partie haute. Outre les " concessions mélangées " bordant les murs nord et sud, les quartiers rectangulaires sont occupés par les fosses communes. Le cimetière est de nouveau agrandi en 1892-1893, suite à une longue opération d’expropriations de terrains pour cause d’utilité publique (côté sud). En 1906, une bande de terrain de 13 ares est acquise sur le côté nord, permettant un ultime agrandissement du cimetière.