L'hôtel porte le nom de la famille des propriétaires. L'édifice est construit par Pierre Hardy et doit être achevé en 1874. L'agrafe de l'arc segmentaire de la porte principale porte la date de 1875. Des "appartements meublés pour les baigneurs" sont mentionnés dans le plan de la commune de la carte du département de la Nièvre votée par le Conseil général et dressée par le service vicinal sous la direction du Ministère de l'Intérieur (1878). À cette époque, l'hôtel se présente comme un corps de bâtiment de plan rectangulaire de cinq travées de longueur s'élevant sur trois niveaux. Des travaux d'agrandissement sont conduits dès les années suivantes. L'ajout d'une salle à manger en rez-de-chaussée contre le mur-pignon sud-est fait passer l'édifice de 36 à 40 ouvertures en 1885. L'hôtel est l'objet d'autres travaux à la suite d'un incendie en 1900. Des cartes postales anciennes montrent l'état de l'édifice avant la construction des deux étages carrés au-dessus de la salle à manger en 1920. Charles Caillot, petit-fils de Pierre Hardy, et son épouse Berthe Pierdet deviennent propriétaires de l'hôtel en 1921. De cette décennie date une gravure publicitaire montrant l'hôtel dans son état "originel". Dans cette vue de fantaisie, il est toutefois doté d'un toit brisé et d'une tour carrée qui semblent n'avoir jamais existé. Berthe Pierdet, dernière "maîtresse d'hôtel" de l'établissement, décède en 1980.

L'histoire de l'Hôtel Hardy est exceptionnellement bien connue grâce à l'acquisition par la Bibliothèque Jean Jaurès de Nevers de plusieurs documents (dont une collection de 780 menus) en 2011 et surtout au don des archives de la famille et de l'établissement aux Archives départementales de la Nièvre par Madame Bottiau, l'une des filles de Charles Caillot et Berthe Pierdet, en 2012. L'édifice, quant à lui, subsiste, mais il est à l'état d'abandon.