Mahmud Abbas, 1935 yılında, İsrailin kuzeyinde bulunan Safed kasabasında dünyaya geldi. 1948de bir mülteci olarak gittiği Suriyede bir süre öğretmen olarak çalıştı. Daha sonra Şam ve Kahire üniversitelerinde hukuk eğitimi gördü. Moskovada tarih alanında doktora yaptı.
Abbas, çalışma hayatına Katarda atıldı. Burada ilerde kendisini Filistin hareketinin başına getirecek ilk adımları atarak, yeraltında faaliyet gösteren Filistinli grupları organize etmeye başladı. Burada yetiştirdiği gençler daha sonra Filistin Kurtuluş Örgütünde önemli görevlere geldi..
Mahmud Abbas, Yaser Arafat ile birlikte El Fetihi kurdu. Filistin davası için mücadele ederken, Arafatı Ürdün, Lübnan ve Tunustaki sürgününde yalnız bırakmadı.
Abbas, hep arka planda olmayı tercih etse de, bu durum onun uluslararası arenada, Arap liderleri ve istihbarat şefleriyle güçlü bağlantılar kurmasını engellemedi. Bu bağlantılar onun Filistin Kurtuluş Örgütünde yükselmesini de sağladı. İlk olarak örgütün mali işlerinin sorumluluğunu aldı. 70lı yıllarda güvenlikle ilgili görev üstlendi, 1980de ise FKÖnün ulusal ve uluslararası ilişkileri departmanı sorumlusu oldu.
Pragmatik olarak tanınan Abbas siyasi alanda riskli kararlar almaktan çekinmedi. İsrail-Filistin çatışmasına barışçıl çözüm bulunmasını savundu, Yahudi gruplarla diyaloğa destek verdi, iki devletli çözümden yana oldu. Oslodaki gizli görüşmelere katılan Filistin heyetinin başkanlığını üstlenmesi Abbasın FKÖ içinde güvercin olarak tanınmasına yolaçtı. 1993 yılında örgüt adına İsrail ile barış anlaşmasına imza attı.
69 yaşındaki abbas, 48 yıllık bir sürgünden sonra 1995te Filistin topraklarına döndü.
2003te, İsrail ile ABDnin Yaser Arafatı muhatap olarak kabul etmemelerinin ardından yeni lider adayı olarak sivrildi. Aynı yıl Filistin Özerk Yönetiminin ilk başbakanı oldu; ancak tüm yetkilerine sahip olamadı, bu da hareket alanını oldukça sınırladı. Yaser Arafat ile yaşadığı iktidar mücadelesi sonucu 4 ay sonra başbakanlığı bıraktı. Arafatın ölümüyle FKÖ genel sekreterliğine getirildi.
El Fetih liderlerinden Mervan Bargutinin adaylıktan çekilmesinin ardından, Filistin halkının çoğunluğunun desteğiyle seçimleri kazandı.