Le 23 septembre 1910, le cimetière exigu encerclant l’église de Ray-sur-Saône est désaffecté par un arrêté préfectoral car présentant « un danger réel et permanent pour la santé publique ». Les communes de la paroisse - Ray-sur-Saône, Recologne-lès-Ray et Ferrières-lès Ray - sont alors chargées de proposer à la préfecture un nouvel emplacement d’ici six mois. Elles ont des difficultés à trouver un terrain d’entente, aussi bien sur le financement que sur le choix du terrain, aussi la réalisation du projet est-elle repoussée à 1912. Un premier devis et un plan sont toutefois dressés en mai 1911, sur la demande de la commune de Ray, par l’architecte Louis Colard, résidant à Gray. Le site choisi est le terrain situé à l’arrière de la chapelle Sainte-Anne, bordé d’un côté par la rue de Tincey et de l’autre côté par le chemin de Ferrières ; il est occupé par une maison dont la démolition est programmée. La réalisation de portes en ferronnerie, par la maison Guillot-Pelletier, est prévue pour orner la porte cochère, d’aspect monumental, donnant sur la route de Lavoncourt (nous ignorons si elles ont été exécutées ; toujours est-il que c’est un autre modèle qui existe aujourd’hui). Le maire de Ray-sur-Saône Eugène Jardel et son conseil municipal approuvent ce plan et le devis d'un montant de 9 000 francs. Les travaux sont adjugés le 4 octobre 1911 à Albert Jardel, fils d’Eugène, entrepreneur à Ray, le délai de réalisation étant fixé au 25 avril 1912. Un devis supplémentaire du 3 janvier 1912 augmente les frais de 3 600 francs. La réception provisoire a lieu le 20 septembre 1912. La croix érigée au centre du cimetière et portant cette date a été remplacée en 1921 par le monument aux morts. Selon la tradition orale, elle est restée dans un coin du cimetière jusqu’en 1960, lorsque le duc de Marmier la fait déplacer à son emplacement actuel, au croisement de la route du château avec celle de Lavoncourt (RD 27).