En 1845, la première famille juive est venue s'installer à Medernach. D'autres familles juives vivaient dans les villages voisins (Waldbillig, Christnach). La plupart d'entre elles étaient actives dans le commerce du bétail. En 1860, la population juive comptait 25 personnes. À partir de 1875, ils acquièrent la nationalité luxembourgeoise et s'intègrent pleinement dans la société du village.

Nathan Kahn, né à Medernach en 1852, acquiert la nationalité luxembourgeoise en 1876. Il se présente aux élections communales de 1908 et est élu.

En 1882, une "maison de prière" (appelée synagogue) est créée pour les Juifs de Medernach, Waldbillig et Christnach. En 1930, la communauté juive de Medernach comptait 33 membres.

Le 16 octobre 1941, 18 Juifs de Medernach ont été déportés vers le ghetto de Litzmannstadt, en Pologne. En février 1942, Norbert Kahn est arrêté par la Gestapo parce qu'il ne porte pas l'étoile de David qui l'identifie comme juif. Du camp de concentration de Hinzert, en Allemagne, il a été déporté à Buchenwald, en Allemagne, où il a été assassiné. Sa mère est déportée à Cinqfointaines, au Luxembourg, où elle meurt également.

Le 8 28 juillet 1942, les huit derniers Juifs de Medernach ont été déportés vers le ghetto de Theresienstadt, en Bohême (aujourd'hui République tchèque).

À la fin de la Seconde Guerre mondiale, aucun membre de cette petite communauté juive n'avait survécu. Le seul survivant issu d'une famille de la communauté juive vivait avec sa famille en France où son père, sa mère et son frère ont été arrêtés, déportés et assassinés.

En 1959 et 2021, des mémoriaux ont été inaugurés à l'emplacement de l'ancienne "synagogue".