Le nom « Kleine Bach », « petit ruisseau » en français, a été choisi en 1480 en référence au ruisseau de l’ancienne ville. Autrefois, la ruelle était sombre et difficilement praticable à cause de son étroitesse et du ruisseau qui y coulait. C’est pourquoi de nombreuses légendes sont nées, telle celle du « bouc hirsute » qui poussait les enfants marchant le long de la ruelle et faisait ainsi toujours tomber les bidons de lait que les enfants portaient. La maison numéro 3, construite en 1791 par la communauté juive, abritait une synagogue, une école ainsi que les appartements du professeur. À l’origine, les fenêtres sur le fronton étaient ornées d’étoiles de David en verre coloré. Après la construction de la Nouvelle synagogue sur le la rue du Starkenburg, « Starkenburgweg » (inaugurée en 1900 et détruite en 1938), la maison a été vendue et réaménagée par les nouveaux propriétaires pour devenir habitable. Aujourd’hui s’y trouve une école de peinture.

L’étage supérieur de la maison numéro 12, érigée en 1560, a été déplacé entre 1994 et 1995 vers un site voisin, suite à la construction d’un parking souterrain, puis remis en place à la fin des travaux. Des photographies qui montrent comment la maison était entièrement accrochée à une grue, sont exposées dans le musée. La maison numéro 14, construite aux alentours de 1422/23, est la plus ancienne maison à colombages de la ville. À cause de la construction du parking souterrain de l’hôtel mitoyen, elle a été démontée et conservée ailleurs, pour finalement être remise à sa place en 1998-99.

L’ancienne maison de la famille Sickinger se trouve entre le « Kleinen Bach » et la « Siegfriedstraße ». La partie habitable de ce pavillon nobiliaire, située au fond de l’ensemble des bâtiments et adossée à l’ancien mur de la ville, mérite aussi le coup d’œil. Son histoire remonte au XIVe siècle (le fief du Boos de Waldeck, plus tard de Sickingen). L’annexe de la cour comportait autrefois des bâtiments d’exploitation. La Sickinger Tor, aujourd’hui dans la Siegfriedstraße où elle a été déplacée, constituait jadis l’entrée depuis la vieille ville vers la cour.