Det hentyder til at bakkerne omkring byen har form som en hestehov. Kirken ligger midt i den lille landsby.
Fausing Kirke stammer originalt fra tidlig middelalder, altså 1100-1200-tallet, og kirken var derfor opringeligt bygget i romansk stil med skib og et kor som var smallere end skibet.
Kirken adskiller sig fra mange af de andre kirke på djursland, for kirken tidligt fik et tår på, som er i den romanske stil. Tårnet blev dog inddraget til kirkerum i 1700-tallet, og den del af tårnet som stak op over taget på den øvrige kirke, blev fjernet. I 1800-tallet blev kirken forsynet med en tagrytter, og efter en fornyelse i 1923 har denne båret kirkens klokke.
I gotisk tid, kom kirkens våbenhus til.
Ved en restaurering i 1885-86 blev der fundet kalkmalerier i kirken. Disse blev dog kalket over igen i 1960'erne.