Si tratta di una Via crucis monumentale, con annessa una chiesa in cui si venera un’immagine mariana. Il luogo di culto fu voluto verso il 1640 dal vescovo del luogo, preoccupato di rievangelizzare gli abitanti di quel territorio dopo gli sbandamenti verificatisi al tempo della Riforma protestante. A tale scopo aveva chiamato i domenicani, cui affidò il «Calvario» e il convento. Uno di questi frati, di ritorno da Roma, portò con sé un’immagine mariana, che divenne subito oggetto di grande venerazione. Quando il santuario fu inaugurato intervennero il reggente della Lituania e tutta la nobiltà; questa grandiosa festa, rimasta nella memoria dei fedeli, ha contribuito a fare di Zemajcju Kalvarija un santuario molto frequentato e un luogo in cui si accorreva per ricevere consolazione e forza nei molti momenti tristi della storia della Lituania. Il convento domenicano venne chiuso nel 1940, ma il santuario, rimasto aperto, è intensamente frequentato.
