Дом под Милостивой Матерью Божьей носит такое название потому, что в одной из ниш здания на первом этаже по улице Фрета ещё до Второй мировой войны была установлена статуя Девы Марии. На втором этаже в нише располагалась статуя Агнца Божьего. Здание было построено для зажиточного мясника Гунского в 1784 году. Горожане во время эпидемии холеры в 1852 году собирались у дома и молились перед статуями. В 1856 году по проекту архитектора Александра Ордона была проведена реставрация здания. Во время Варшавского восстания здание было частично разрушено, но при этом сохранился фасад. В 50-е годы здание подвергли реконструкции, а в 1955 году приняли решение снять статуи, а вместо них установили статуи богини охоты Дианы и диких зверей, изготовленные по проекту Дануты Колларской. В настоящее время оригинальные статуи Девы Марии и Агнца Божьего можно увидеть во дворе францисканского монастыря на соседней улице Закрочимской. Дом под Милостивой Матерью Божьей относится к наиболее интересным зданиям Нового города польской столицы.