Przyszły kardynał urodził się 21 listopada 1926 w Dallas. Był synem Harolda E. White’a i Mary L. Hayes, lecz gdy w młodym wieku stracił ojca, rodzina przeniosła się do Kansas City w stanie Missouri, gdzie jego matka wyszła za Jerome’a Bauma, który adoptował chłopca i dał mu swe nazwisko.

Po nauce i studiach w tym mieście i w St. Louis przyjął 12 maja 1951 w Kansas City święcenia kapłańskie. Wielokrotnie powtarzał potem, że kapłaństwo jest „miłością jego życia”. Pracował duszpastersko na miejscu, a w latach 1956-58 uzupełniał studia na Papieskim Ateneum Angelicum w Rzymie, uzyskując doktorat z teologii. Po powrocie do kraju pełnił różne funkcje w diecezji Kansas City-Saint Joseph, a w latach 1962-65 był jednym z ekspertów Soboru Watykańskiego II (pracował w Sekretariacie ds. Jedności Chrześcijan). Mniej więcej w tym samym czasie powstał w łonie episkopatu amerykańskiego Komitet do Spraw Ekumenicznych i Międzyreligijnych, którego pierwszym dyrektorem wykonawczym został właśnie ks. Baum (1964-67). Ekumenizm pozostał jego wielką pasją i przedmiotem zainteresowań do końca życia.

18 lutego 1970 Paweł VI mianował 43-letniego wówczas kapłana biskupem diecezji Springfield-Cape Girardeau (w stanie Missouri), sakrę nominat przyjął 6 kwietnia tegoż roku. W 3 lata później, 5 marca 1973 papież przeniósł go na metropolitalną stolicę arcybiskupią Waszyngtonu a po dalszych 3 latach – na konsystorzu 24 maja 1976 włączył go w skład Kolegium Kardynalskiego. W wieku niespełna 50 lat kard. Baum był wówczas jednym z najmłodszych członków tego gremium.

Jako metropolita stolicy USA rozwinął ożywioną działalność duszpasterską i społeczną – szerzył kult Eucharystii i cześć do Matki Bożej, potępiał rasizm, nazywając go „herezją i grzechem” oraz karę śmierci. Powołał w swej archidiecezji Sekretariaty ds. Czarnych Katolików i ds. Katolików Języka Hiszpańskiego. Po latach kard. Baum powiedział, że w Waszyngtonie nie miał szczególnego programu duszpasterskiego, ale starał się być nauczycielem wiary zachęcającym miejscowych wiernych do kochania Jezusa i służenia Mu.

W 1978 dwukrotnie brał udział w konklawe, które wybrało najpierw Jana Pawła I, a następnie Jana Pawła II. I właśnie papież-Polak ściągnął energicznego arcybiskupa Waszyngtonu, którego poznał kilka miesięcy wcześniej, w czasie swej pierwszej podróży do USA, do Watykanu, mianując go 15 stycznia 1980 prefektem Kongregacji Wychowania Katolickiego oraz wielkim kanclerzem Papieskiego Uniwersytetu Gregoriańskiego i Papieskiego Instytutu Archeologii Chrześcijańskiej. Na tym stanowisku, a wcześniej także jako biskup kard. Baum uczestniczył w wielu ważnych wydarzeniach kościelnych, m.in. w licznych zgromadzeniach Synodu Biskupów, reprezentował papieża na różnych wydarzeniach Kościołów lokalnych. W tym też czasie był członkiem komisji przygotowującej nowy Katechizm Kościoła Katolickiego, o którym powiedział później, że „jest to wielkie wydarzenie, księga dla każdego, którą każdy powinien czytać, poznawać i modlić się nią”.

6 kwietnia 1990 Ojciec Święty powołał 63-letniego purpurata na stanowisko większego penitencjarza apostolskiego. Ustąpił z niego 22 listopada 2001, nazajutrz po swych 75. urodzinach. Mimo osiągnięcia wieku emerytalnego uczestniczył jeszcze, po śmierci Jana Pawła II, w konklawe, które 19 kwietnia 2005 wybrało Benedykta XVI. Był wówczas jedynym kardynałem-elektorem, mianowanym przez Pawła VI. W rok później - 21 listopada 2006 skończył 80 lat i stracił prawa wyborcze. Pod koniec życia wrócił do Waszyngtonu i tam zmarł.

Kolegium Kardynalskie liczy obecnie 220 członków, z których 120 ma prawo udziału w konklawe i wybierania papieża. 29 z nich mianował św. Jan Paweł II, 60 – jego następca i 31 – Franciszek. Wśród 100 kardynałów-nieelektorów jest jeden, kreowany przez Pawła VI (Paulo Evaristo Arns OFM), 72 – przez Jana Pawła II, 19 – przez Benedykta XVI i 8 przez Franciszka.

Najstarszymi wiekowo kardynałami są obecnie Włoch Loris Capovilla (ur. 14 X 1915), Kolumbijczyk José Pimiento Rodríguez (18 II 1919) i Libańczyk Nasrallah Pierre Sfeir (15 V 1920), najmłodszymi zaś Tongańczyk Soane Patita Paini Mafi (ur. 19 XII 1961), Urugwajczyk Daniel Fernando Sturla Berhouet SDB (4 VII 1959) i Hindus Baselios C. Thottunkal z Kościoła syromalankarskiego (15 VI 1959). Najdłuższy staż w Kolegium Kardynalskim ma wspomniany Brazylijczyk Paulo Evaristo Arns OFM (14 IX 1921), mianowany kardynałem 5 III 1973. Ponadto należy pamiętać, że Benedykta XVI mianował kardynałem Paweł VI dnia 27 VI 1977 a Franciszka – św. Jan Paweł II w dniu 21 II 2001.