Næsten lænet op mod Sct. Bendts Kirkes kirkegårdsmur ligger De Mahlerske Huse. Navnet har de fået efter den sidste private ejer, murermester Mahler, som byggede det gule hus i 1865, mens det røde er meget ældre og har fungeret som bomhus og accissebod. Murermester Mahler jun. solgte i 1922 husene til Sct. Bendts Kirke på betingelse af, at han og hans kone skulle have gratis bolig der til deres død. I porten øst for husene findes en "griserist", som skulle forhindre grise og andre husdyr i at gå ind og rode på kirkegården.