Pierwszy kościół w Geidžiai został zbudowany przez Ważinskich, ale dokładna data nie jest znana w źródłach historycznych. Jest bardzo prawdopodobne, że fundamenty położono w XVIII wieku, w latach czterdziestych. W 1862 roku właściciel ziemski Ważinskich wybudował nową, przestronną drewnianą kaplicę, która należała do parafii w Tirkszlach. W latach międzywojennych znajdowało się tu oratorium św. Anny, w którym niekiedy odprawiał nabożeństwa ksiądz z Tirkszli.

Opinie