Der Mauerbau hätte verhindert, dass er in Westberlin Architektur studiert habe. Er wäre „vielleicht ein leidlich guter Architekt geworden“, die Mauer habe ihn dann aber zum Pfarrerdienst geführt. „Besser hätte es mich gar nicht erwischen können“, so der frühere Oppositionelle.
Aufgewachsen im kriegszerstörten Ostteil Berlins besuchte er im Westen der Stadt ein Gymnasium, musste aber dann wegen des Mauerbaus mit der 11. Klasse den Schulbesuch abbrechen. In der DDR wurde ihm wegen Verweigerung der Mitgliedschaft in der sozialistischen Jugendorganisation „Freie Deutsche Jugend“ (FDJ) das Abitur und damit auch das Architekturstudium versagt.
Als Eppelmann nach absolvierter Facharbeiterausbildung als Maurer 1966 den Dienst an der Waffe in der „Nationalen Volksarmee“ (NVA) und den Fahneneid zur Verteidigung des „Sozialismus gegen alle Feinde“ verweigerte, wurde er wegen Befehlsverweigerung zu acht Monaten Gefängnis verurteilt. Danach wurde er „Bausoldat“, eine Sonderform des Wehrdienstes, bei der die Waffendienstverweigerer einen kleinen Spaten auf den Schulterklappen ihrer Uniform trugen.
Schließlich studierte Eppelmann Theologie an der Berliner Fachschule Paulinum, absolvierte sein Studium 1974 mit dem ersten und zweiten Examen und wurde nach fünfzehn Jahren Hilfspredigerdienst zum Pfarrer an der Samariter-Kirchgemeinde und Kreisjugendpfarrer im Ostberliner Bezirk Friedrichshain ordiniert.
Wegen seines Engagements innerhalb der stetig wachsenden Bürgerrechtsbewegung planten Mitarbeiter des damaligen „Ministeriums für Staatssicherheit“ (MfS) in den 1980er Jahren die Ermordung des oppositionellen Pfarrers, die jedoch vom Führungsstab des MfS zurückgehalten wurde.
Eppelmann war Gründungsmitglied und später Vorsitzender der Oppositionsbewegung „Demokratischer Aufbruch“ (DA), Mitglied des zentralen „Runden Tisches“, Minister ohne Geschäftsbereich in der 1990 von Hans Modrow (SED) geführten DDR-Regierung und nach den ersten demokratischen Volkskammerwahlen im März 1990 Minister für Abrüstung und Verteidigung im Kabinett von Lothar de Maiziere (CDU). Als der DA mit der CDU fusionierte wurde Eppelmann im August 1990 CDU-Mitglied und war von 1990 bis 2005 Mitglied im Deutschen Bundestag und begleitete dort den Vorsitz der Enquete-Kommission zur „Aufarbeitung der Geschichte und Folgen der SED-Diktatur“. Nunmehr leitet er die Bundesstiftung zur Aufarbeitung der SED-Diktatur.
1969 heiratete Eppelmann Eva-Maria Strauth. Die eheliche Gemeinschaft, in der fünf Kinder geboren wurden, wurde nach neunzehn Jahren geschieden. Er ist wieder verheiratet.