Kølstrup kirke er smukt beliggende overfor Ulriksholm Slot ved Kertinge Nor. Bygget i romansk stil omkring år 1100. Består af kor og skib, sengotisk tårn og gravkapel mod nord fra 1713. I sengotisk tid fik kirken hvælv. Tårnrummet, der en tid var gravkapel for familien Brüggemand, er nu våbenhus. Rig barok altertavle skåret i 1713 og med våben for Godske Hans von Brüggemand. Renæssance alterstager. Et elfenbenskrucifiks fra det 14. århundrede i korbuen. Prædikestolen er fra 1610 med søjler og relieffer. Døbefonten er fra det 12. århundrede, ligesom det tidlig gotiske krucifiks. Stoleværket er rigt udskåret i barok fra midten af det 18. århundrede.
På skibets nordvæg og i vestenden findes pulpiturer fra henholdsvis 1737 og 1717. I tårnrummet hænger to epitafier fra 18. århundrede over Brüggemanns to hustruer, desuden to romanske gravsten.
Vibeke Kruse, Chr. d. IV's elskerinde og mor til Ulrik Christian Gyldenløve, Ulriksholm er bisat i Kølstrup kirke.
Til kirken hører en meget smuk gammel præstegård, der er fredet.