Osmanlı Devleti’nde dört defa kaptanıderya olan Gürcü asıllı Damat Halil Rıfat Paşa’nın oğludur. 1270 (1853)’de İstanbul’da doğdu. Mahmud Celâleddin Paşa, babasının vefatında 23 yaşlarında idi. Konya Valisi meşhur Ali Kemalî Paşa, Damat Halil Paşa’nın kâhyası olduğu için genç Mahmud Bey bir müddet onun gözetimi altında büyüdü. Bu kâhya efendi Halil Paşa’nın servetini, kendi geleceğini temin maksadıyla Damat Ahmed Fethi Paşa’ya takdim etmek arzusuna kapıldığından, görevinden uzaklaştırıldı. Bu suretle Damat Halil Paşa’nın serveti de evlât ve ahfadına kaldı. Mahmud Bey’e nezaret için de Hacı Bekir Efendi kâhya tayin edildi.

İlk tahsiline yeni açılmış bir mektepte başlayan Mahmud Celâleddin sonradan mektepden alınmış ve özel olarak evde okutulmuştur. Tahsilini tamamladıktan sonra Babıali’ye girdi. Bir aralık henüz öğrenmeye başladığı Fransızcasının kuvvetlenmesi için Paris sefaretine memur olarak gönderilmiş ve bir müddet sonra da İstanbul’a dönmüştür. İlk tahsilden sonra bir müddet Sadaret mektubî kalemine, amedî odasına devam etmiştir.

18 Zilkade 1283 (5 Aralık 1876) Salı günü Hırkai Saadet dairesinde yapılan bir merasimle, Sultan Abdülmecid’in kızı Seniha Sultan’la evlendirildi ve II. Abdülhamid’in kaynı oldu. O sırada 23, eşi ise 25 yaşında idi. Bu evlenmeden 1877’de Sabahattin, 1879’da da Lütfullah Beyler dünyaya geldi.

Mahmud Celâleddin Paşa sonra Şurayı Devlet’e aza ve 1 Rebiyülahir 1294’da (15 Nisan 1877) 24 yaşında vezir oldu. Daha sonra Sadık Paşa kabinesinde 15 Rebiyülahir 1295’te (18 Nisan 1878) Adliye nazırı oldu.

Mahmud Celâleddin Paşa, Sadık Paşa’nın 29 Mayıs 1878’de sadaretten azli üzerine Adliye nazırlığından ayrılmış ve sonra tekrar Şurayı Devlet azası olmuştur. Hür fikirli olduğundan bahsedilen Mahmud Celâleddin Paşa, Sultan Abdülhamid ile o zamanki devlet adamlarının kötü idaresini tenkit ettiği için daha sonra iş başına getirilmeyerek uzun zaman köşkünde ve yalısında işsiz olarak fakat müreffeh bir tarzda yaşamıştır. Aralık 1899 tarihinde oğulları Lütfullah ve Sabahattin Beyleri de yanına alarak Avrupa’ya kaçmıştır.

30 Haziran 1903’te çoktan beri tutulduğu albüminörü hastalığından vefat etti. Henüz 48 yaşında idi. İstanbul’da refah içinde yaşayan Paşa Brüksel’de yoksulluk içinde öldü. Perlaşez’a defnolundu. 1908 meşrutiyetinin ilânı üzerine 15 Kasım 1908’de kemikleri Marsilya’dan vapurla İstanbul’a getirilerek büyük bir kalabalık ile vapurdan alınıp ertesi gün merasimle Eyüp Sultan’da babası Halil Rıfat Paşa Türbesi’ne defnedildi.

Mahmud Paşa nazik, tatlı dilli, kadirşinas, nüktedan ve irfan sahibi bir zat idi. Asaf mahlasıyla üstadane şiirleri vardır. Divanı basılmıştır. Pendik sahilindeki evi şairlerin toplandığı bir yerdi. Bunlar arasında Hersekli Arif Hikmet ve Üsküdarlı Talat Beyler de bulunuyordu. Âlimlerden Abdurrahman Süreyya Efendi ile Hüseyin Daniş Bey de çocuklarının muallimlerinden sadece ikisi idi. Paşa’nın Üsküdar’da Altunizade Camii sağ tarafında çam ağaçlı büyük bahçe içindeki köşkü de ediplerin toplandığı bir yerdi.

Mahmud Celâleddin Paşa’nın 500 sayfalık divanı ve bestelenmiş şarkıları vardır.

Mahmud Celâleddin Paşa’nın eşi Seniha Sultan debdebeyi ve gösterişi seven bir hanım idi. Kocasından sonra 9 sene yaşadı. Ve 61 yaşının içinde iken 7 Muharrem 1331 (14 Aralık 1912) tarihinde vefat etti. Dedesi Sultan Mahmud’un türbesine gömüldü.