Самоопределяемый «деревенский парень», родившийся в Южной Джорджии и выросший в Алабаме, Джо часто сопровождал своего путешествующего евангелиста-отца в поездках. Выросши, он также научился играть на гитаре и пианино, развивая свои вокальные навыки в церкви. Мечта Джо о поступлении в Университет Дилларда в Новом Орлеане для изучения бизнеса и права отошла на второй план, когда он решил переехать в Нью-Джерси в поисках музыкальной карьеры. После того как он занял первое место в R&B чартах для Mercury Records в 1993 году с песней «Я влюблен», Джо начал набирать популярность в середине 90-х с хитом R&B и поп «Все вещи (ваш мужчина не сделает)».