Zilupes pilsētas bibliotēka tika dibināta 1947 gadā. Par to liecina bibliotekāres A.Spitānes ieraksts pirmajā inventārajā grāmatā 1947. Gadā 20. septembrī. Vēsturiskais bibliotēkas dibinātājs – Ludzas apriņķa Zilupes pilsētas izpildu komiteja.

Bet bibliotēkas aizsākumi Zilupē meklējami jau 1925. gadā. Kā liecina pilsētas vecākie iedzīvotāji, bibliotēka darbojās jau pirmskara gados.”1925. gadā nodibināja Zilupes Latviešu biedrību, otrajā stāvā tai bija bibliotēka (1284 sējumi)” – „Latvijas pilsētas enciklopēdija”-R., 1999. T. Puisāns savā grāmatā „Nogrimušās jaunavas mantojums”, izd. 1992.g. arī apgalvo, ka Zilupes Latviešu biedrības bibliotēka atradās Domes ielā 1.

Zilupes pilsētas bērnu bibliotēka dibināta 1952 gadā. Sākumā tā saucās Zilupes patstāvīgā bērnu bibliotēka.

Bibliotēku adreses – Skolas ielā, Baznīcas ielā 17 (bijušajā luterāņu baznīcas ēkā), tur bija izvietots arī Tautas nams, Brīvības ielā 9.

1962. gada jūlijā bibliotēkas tika pārceltas uz jauno Tautas nama ēku, Tautas ielā 1.

Kā patstāvīga iestāde Zilupes pilsētas bērnu bibliotēka eksistēja līdz 2002. gadam. 2002. gada 25. janvārī Zilupes novada dome pieņēma lēmumu apvienot pilsētas bērnu bibliotēku un pilsētas bibliotēku.

Bibliotēku reģistrā Zilupes pilsētas bibliotēka reģistrēta 2004. gadā 21. janvārī.