Z powodzeniem kontynuował misję swojego poprzednika Stefana Wyszyńskiego jako przewodnika Polaków w drodze do wolności. To w znacznym stopniu dzięki jego działaniom i talentom mediacyjnym łagodzone były w praktyce restrykcje stanu wojennego stosowane przez reżim komunistyczny. 12 grudnia 2012 roku w wilanowskiej siedzibie prymasa senator Grzegorz Bierecki wręczył Józefowi Glempowi statuetkę Feniksa, najwyższe wyróżnienie Spółdzielczych Kas Oszczędnościowo-Kredytowych. W styczniu 2012 u Glempa zdiagnozowano złośliwy nowotwór na dolnym płacie prawego płuca. W lutym tego samego roku duchowny został zoperowany. Po rocznych zmaganiach z chorobą Józef Glemp zmarł w warszawskim szpitalu przy ul. Płockiej.