1888de Bottropda dünyaya geldi. 1908-1913 yılları arasında Ruhr bölgesinde ilkokul öğretmenliği yaptı. 25 yaşına geldiğinden okulundan izin alarak Berlin Kraliyet Sanat Akademisinde iki yıl okuduktan sonra bitirme sınavlarını verip sanat öğretmenliği için gerekli sertifikayı aldı. 1916dan başlayarak üç yıl Bottropda hocalık yaptıktan sonra 1919da Münihe taşında ve burada Franz von Stuckun resim öğrencisi oldu.
1920de Weimarda Bauhaus Tasarım Okuluna yazılarak 32 yaşında okulun en yaşlı öğrencisi oldu. Burada malzemelerini çöplerden sağlayarak ilk defa soyut cam resimlerle deneysel çalışmalara girişti; 1922de cam atölyesini yeniden organize etti. 1925te Bauhaus ile Dessaua taşınan Albers, burada profesörlüğe getirildi. Aynı yıl içinde dokuma sanatları bölümündeki öğrencilerden Anni Fleischaman ile evlendi. 1933te Black Mountain Collegee atanan Albers 16 yıllık hocalığı esnasında pek çok genç sanatçıyı bu okula çekti. 1939da Amerikan vatandaşlığına geçen Albers ilk kez değişmeyen bir biçimi renklerle çeşitlendirdi
1950de geçtiği Yale Üniversitesi sanat bölümünde mimarlık ve tasarım bölümlerini yönetti. 1958de emekli olduktan sonra iki yıl daha konuk profesörlük yaptı. Başyapıtı olan Kareye Saygıyı 1950den sonra çalıştı. Burada Albersin renk deneylerinin özü gösterilmekte ve Op-art, kinetik sanat, renklerin yanyana uygulandığı resimlerde ve Yeni Soyut çalışmaların gelişmesi üzerinde önemli bir etken olan algılama teorisine ilişkin düşüncelerini açıkladı. Değişmeyen geometrik bir tramı esas alarak renk etkisinin durum, çevre, ışık sayısı ve yoğunluğu gibi faktörlere bağlılığını gösterdi.
1961 yılında Amsterdamda Stedelijik Müzesinde ilk retrospektif Albers sergisi açıldı. İki yıl sonra Renklerin Etkileşimi adı altında bilgilerini bir araya toplayan bir tür görmenin okulu olan kuramsal yazısı çıktı. 14 tane şeref doktoru unvanına sahip olan Albers 25 Mart 1976da Amerikada öldü.