Era una simple puerta de pared, que incluso fue sellada durante la Guerra de los Treinta Años por razones de seguridad, ya que este pasaje no era realmente necesario. La zona detrás de la Puerta de José estaba apenas construida en ese momento.
Solo en el siglo XVIII la puerta recibió su casa de puerta, que hoy adorna una figura de san José - también un elemento del siglo XVIII, ya que antes se llamaba simplemente "Puerta Inferior del Rin". Otro nombre, ya olvidado, para esta puerta es "Puerta de Pützgasser", que aún era común a principios del siglo XX.