Au 17e siècle, le demi-bastion le long de la Saône et le bastion du Moineau ne sont pas reliés à l'enceinte. En 1814, un projet vise à transformer le château en un gros bastion, le liant à celui du Moineau par un rempart. Cette proposition est abandonnée. Suite à la construction d'une courtine entre les bastions du Moineau et de Khel (achevée en 1825), le Génie propose, en 1824, d'en bâtir une seconde entre les deux bastions à l'arrière du château. Elle servirait également à accueillir des écuries. Une tenaille placée entre la courtine et la demi-lune sécuriserait la défense de ce front. Mais dès l'année suivante, la courtine envisagée est réduite à un simple rempart casematé avec en son centre, une poterne (date portée de 1828). Les travaux débutent en 1825 pour une mise en service en 1827. Un mémoire du Génie de la Direction de Besançon, daté de 1859, indique que la poterne "est couverte par une tenaille en terre en avant de laquelle est une double caponnière pour assurer la communication avec la demi-lune en avant".

Cette courtine échappe au démantèlement de la place après son déclassement. Toutefois, une partie du mur est détruite en 1965 pour assurer le passage des camions, créant ainsi une énorme brèche lors de la démolition des anciennes écuries dans la cour du château.