Swobody autonomiczne, przyznane Galicji w drugiej połowie XIX w. stworzyły okazję do pojawienia się nowych inicjatyw w różnych dziedzinach życia społeczeństwa tej części zniewolonej rozbiorami Polski. Nowe możliwości zostały skutecznie wykorzystane także w diecezji przemyskiej rządzonej na początku XX w. przez bł. bp. Józefa Sebastiana Pelczara. W trosce o formację młodego pokolenia bp Pelczar postanowił utworzyć tzw. "Małe Seminarium". Myśl o stworzeniu tego rodzaju instytucji diecezjalnej znalazła swe miejsce w liście bp. Pelczara z 13 stycznia 1901 r., z racji obejmowania władzy w diecezji przemyskiej w charakterze jej ordynariusza. W zamyśle bp. Pelczara miał powstać rodzaj bursy - internatu, której wychowankowie uczęszczali do gimnazjum im. Kazimierza Morawskiego w Przemyślu. Według intencji bp. Pelczara, powołana do życia w 1902 r. nowa instytucja diecezjalna miała na celu umożliwienie edukacji młodym chłopcom, którzy pochodzili z biednych rodzin i którzy zamierzali w przyszłości obrać stan kapłański.

Bp Pelczar był zresztą głównym fundatorem budynku, przystąpił energicznie do realizacji swego planu. Najpierw dokonano zakupu działki budowlanej wraz z ogrodem. Wybór padł na tereny, na których stał pierwotny klasztor Sióstr Karmelitanek Bosych.

Projekt obiektu opracował przemyski architekt Stanisław Majerski. Budowa, która trwała około roku, została ukończona w sierpniu 1902 r. Koszty zakupu ziemi, budowa i urządzenia wnętrz sięgnęły sumy ponad 80000 koron. Budynek posiadał 7 pokoi dla chłopców oraz jeden dodatkowy, przeznaczony dla chorych. Urządzono także 2 mieszkania dla księży, kaplicę, aulę dla nauki, kuchnię i refektarz (jadalnię) . Wielką pomocą dla uczniów była biblioteka seminaryjna, która liczyła w 1918 r. ponad 1000 książek.

Główny fundator zakładu - bł. bp Józef Pelczar dokonał poświęcenia Małego Seminarium w samą uroczystość Wszystkich Świętych, zlecając kierownictwo nad nim ks. dr. Janowi Mazankowi. Troska o wyżywienie mieszkańców została powierzona siostrom ze Zgromadzenia Sióstr Najświętszego Serca Jezusowego. Wprawdzie budynek został zaprojektowany dla ok. 60 wychowanków, jednak na pierwszy rok szkolny 1902/1903 przyjęto 32 chłopców. W późniejszych latach liczba alumnów - małoseminarzystów zazwyczaj wahała się w granicach 40-50 osób. Kryterium przyjęcia stanowiło dobre świadectwo dotychczasowej nauki szkolnej i pozytywna opinia duszpasterzy - księdza proboszcza lub katechety. Zgodnie z założeniami Małe Seminarium miało pomagać uczniom pochodzącym z biednych rodzin, stąd koszty utrzymania pokrywali dobroczyńcy, którymi byli najczęściej księża diecezji przemyskiej. Także bp Pelczar otaczał troskliwą opieką materialną Małe Seminarium. Zgodnie z założeniami uczniowie nie płacili za swój pobyt, choć oczywiście rodzice chłopców wielokrotnie dostarczali płodów rolnych do seminaryjnej kuchni. Proponowano też, by wychowankowie, po usamodzielnieniu się, starali się materialnie wspierać Małe Seminarium.

Codzienne życie gimnazjalistów było unormowane specjalnym regulaminem, który określał czas przeznaczony na naukę i rozrywkę. Znalazło się w nim także miejsce na formację duchową. Uczestniczyli więc w codziennych modlitwach i Mszy św., mieli okazje do regularnej spowiedzi świętej. W dzień powszedni seminarzyści wstawali o godz. 6.00. Po modlitwie porannej i po Mszy św., po spożyciu śniadania o godz. 7.30 wychodzili do gimnazjum. Po powrocie jedli obiad i po krótkim odpoczynku - rekreacji przystępowali do nauki własnej. Wieczorem uczestniczyli we wspólnym nabożeństwie, po którym następowała kolacja. O godz. 21.00 udawali się na zasłużony odpoczynek. Wraz z upływem czasu pojawiły się wśród alumnów - wychowanków koła zainteresowań, takie jak kółko biblijne, Sodalicja Mariańska.

Nad codziennym funkcjonowaniem Małego Seminarium czuwali kapłani specjalnie w tym celu delegowani przez biskupów ordynariuszy. Zazwyczaj było ich dwóch. Na czele zakładu stał rektor. W dziejach Seminarium funkcję tę pełnili: ks. Jan Mazanek (1902-1907). ks. Władysław Kochowski (1907-1908). ks. Paweł Rawski (1908-1911), ks. Tomasz Wąsik ( 1911-1933), ks. Roman Głodowski (1933-1936), ks. Michał Jastrzębski ( 1936-1944), ks. Stanisław Jakiel (1944), ks. Julian Ataman (1944-1947) oraz ks. Antoni Gagatnicki (1947-1953). Współpracownikami rektora byli wychowawcy noszący tytuł "prefekta". Wśród nich byli: ks. Michał Wojtaś, ks. Jan Bazylski, ks. Józef Polit, ks. Józef Trybus, ks. Jan Jakubczyk i ks. Bolesław Taborski. Zarówno rektor jak i współpracujący z nim prefekt starali się o stworzenie atmosfery przyjaznej wychowaniu młodych ludzi, mając na względzie fakt obierania przez nich drogi kapłańskiej. Kapłani ci organizowali także dodatkowe wykłady, mające na celu poszerzenie wiedzy u małoseminarzystów. Fakt istnienia Małego Seminarium w Przemyślu stwarzał okazję do realizowania w praktyce chrześcijańskiego modelu wychowania. Pod okiem kapłanów - wychowawców młodzi chłopcy, pochodzący z ubogich rodzin mogli bezpiecznie wzrastać i przygotowywać się do startu w dorosłe życie.

W zawiązującej się z biegiem czasu wspólnocie młodych ludzi wielu z nich podejmowało różne obowiązki, tzw. "domowe", które wyrabiały w nich poczucie odpowiedzialności i solidarności z innymi. Wśród gości odwiedzających zakład był także bł. Józef Sebastian Pelczar, który korzystając z okazji swego pobytu wśród młodzieży kierował zazwyczaj do zgromadzonych kilka słów, zachęcając ich do gorliwości.

Założyciel "Collegium Marianum" - bł. bp Pelczar wielokrotnie w swych wystąpieniach wyrażał swą aprobatę dla działalności Małego Seminarium, zachęcając duchowieństwo i wiernych do popierania działalności tej instytucji. Cieszył się szczególnie z tego, że wielu wychowanków wstępowało w mury przemyskiego Seminarium Duchownego służąc wiernie diecezji. Podobną postawę pełną życzliwości zajmowali jego następcy - bp Anatol Nowak oraz bp Franciszek Barda.

Mimo iż nie zachowały się kompletne archiwalia Małego Seminarium, na podstawie fragmentarycznych danych można szacunkowo określić, że w latach istnienia tej instytucji (1902-1953), jej mury opuściło ok. 750 wychowanków. Wielu spośród nich pracowało później jako duchowni w diecezji przemyskiej.

Niestety, czarne chmury pojawiły się nad Małym Seminarium nie tylko podczas wojen światowych. Najgorsze czasy przyszyły w okresie stalinizmu. Właśnie wówczas władze komunistyczne siłą doprowadziły do zamknięcia placówki. Fakt ten nastąpił w marcu i w czerwcu 1953 r. Mimo protestów ówczesnego rektora - ks. Antoniego Gagatnickiego budynek przydzielono najpierw Spółdzielni Inwalidów "Start", a następnie, w 1962 r., urządzono w nim internat dla studium nauczycielskiego. Kolejnym użytkownikiem obiektu było Zjednoczenie Państwowych Gospodarstw Rolnych w Przemyślu. Dopiero w 1982 r. budynek został zajęty przez Wyższe Seminarium Duchowne służąc do 1996 r. jako mieszkania dla alumnów.

Przemyskie Małe Seminarium, w ciągu wielu lat swego istnienia spełniło zadanie postawione przed nim przez założyciela - bp. Pelczara. Stworzyło okazję do zdobycia wiedzy i wychowania dla młodych ludzi, których w normalnych warunkach nie było stać na naukę. Owocna praca wielu jego wychowanków, zarówno duchownych jak i świeckich, może być potwierdzeniem słuszności decyzji bp. Pelczara powołującego do życia "Collegium Marianum".