Süngütaşı Köyü sınırları içerisinde, yaklaşık 1890 metre yükseklikteki devasa bir kayalık üzerine inşa edilen Zivin Kalesi, Doğu Anadolu'yu Kafkaslar'a bağlayan tarihi kervan yolunu ve çevredeki su kaynaklarını denetlemek amacıyla kurulmuş stratejik bir yapıdır. Kuzeybatısından Aras Irmağı'na dökülen Zivin Çayı geçen ve doğal kayalık zemine uygun biçimde kaba moloz taştan inşa edilen kale, Demir Çağı'ndan Orta Çağ'a kadar uzanan köklü bir geçmişe sahiptir.
Kalede çıkarılan seramik parçaları ile I. Dünya Savaşı ve Rus işgali sırasında sökülerek Tiflis Müzesi'ne götürülen Urartu Kralı Menua'ya ait Kuzey Seferi Yazıtı, yapının Urartu döneminde kurulduğunu ve o tarihlerdeki isminin Zua veya Şaşilu olabileceğini göstermektedir. İlerleyen süreçte Selçuklu ve Osmanlı dönemlerinde de kullanılan kale, özellikle Saltuklular devrinde geçirdiği kapsamlı yenileme çalışmaları nedeniyle ağırlıklı olarak Orta Çağ mimari karakterini taşımaktadır.
Günümüzde surları büyük ölçüde yıkılmış ve harap durumda olmasına rağmen, iç kısmında ana kayaya oymayla yapılmış dikdörtgen planlı iki sarnıç, dışındaki doğu bölümde yuvarlak planlı sarnıçlar ile bir sunak çukuru ve batı cephesinde içi toprakla kapandığı için sadece girişi görülebilen kaya basamaklı bir su tüneli varlığını sürdürmektedir.
