Setelah menyelesaikan pendidikan di bangku sekolah, Mahfud melanjutkan pendidikan sarjana hukum tata Negara di Universitas Islam Indonesia (UII), Yogyakarta sejak 1978 sampai 1983.
Dia juga sembari mengambil pendidikan sarjana sastra Arab di Universitas Gajah Mada, Yogyakarta.
Selesai menempuh pendidikan sarjananya, Mahfud menjadi dosen di kampusnya dulu, Universitas Islam Indonesia (UII).
Tetapi Mahfud tidak berhenti sampai di situ, ia melanjutkan program pascasarjana dengan mengambil jurusan ilmu politik di Universitas Gajah Mada, Yogyakarta pada 1989.
Kemudian dia melanjutkan pendidikan program doktoral dengan jurusan Ilmu Hukum Tata Negara di Universitas Gajah Mada, Yogyakarta pada 1993.
Mahfud pernah menjabat sebagai Menteri Pertahanan RI tahun 2000-2001. Kemudian setelah masa jabatannya selesai, ia menjadi Menteri Kehakiman dan HAM.
Satu tahun berselang, Mahfud menjadi Wakil Ketua Umum Dewan Tanfidz DPP Partai Kebangkitan Bangsa (PKB) periode 2002-2005.
Mahfud kemudian menjadi anggota Dewan Permusyawaratan Rakyat Republik Indonesia (DPR-RI) komisi II periode 2004-2006.
Komisi I periode 2006-2007, dan Komisi III periode 2007-2008. Pada tahun yang sama, Mahfud menjabat sebagai Wakil Ketua Badan Legislatif DPR RI periode 2007-2008.
Kemudian pada 22 Agustus 2011, Mahfud dilantik sebagai Ketua Mahkamah Konstitusi (MK) periode 2008-2013 dan selama masa jabatannya itu, ia melakukan program kerja penerapan keadilan substantif.