10 yaşında kulaktan duyduğu melodileri piyanoda çalarak kendi kendine müziği öğrenmeye başladı. Yerel gruplarla, özellikle kilise ortamlarında çalarak büyüdü. Ailesi, “Baltimore School for the Performing Arts” ’ta eğitim alabilmesi için Virginia’dan Baltimore’a taşındı. Holmes, ilerleyen yıllarda kendi mezun olduğu bu okula geri dönerek Caz Bölümü Direktörü olarak görev yaptı. Eğitimine, Johns Hopkins Üniversitesi bünyesindeki Peabody Konservatuvarı’nda devam etti ve Caz Performansı alanında Lisans derecesi aldı. Yıllar içinde birçok ödül kazandı; bunlar arasında iki Grammy adaylığı, NAACP ACT-SO Yarışması’nda Altın Madalya, John Lennon Şarkı Yazarlığı Yarışması’nda mansiyon, Independent Music Awards’ta finalistlik ve VH1 Yılın Şarkısı Ödülleri’nde mansiyon bulunmaktadır. Holmes, Grammy ödüllü caz trompetçisi Roy Hargrove ve vokalist Nnenna Freelon ile birlikte dünya çapında turnelere katıldı. Hâlen, Art Blakey’nin Jazz Messengers grubunda yer almış ünlü saksofoncu Javon Jackson’ın dörtlüsünde yer almaktadır. Joel Holmes, kariyeri boyunca solo, duo ve trio formatlarında dünyanın dört bir yanında konserler vermiştir. Turne yaptığı ülkeler arasında İtalya, Fransa, Tayvan, Japonya, Ukrayna, Kazakistan, Kırgızistan, Rusya, Yunanistan, Belçika, Almanya, İsveç, Norveç, Hollanda, İngiltere ve İspanya yer almaktadır.