Hendricks s-a născut pe 16 septembrie 1921, pe numele complet John Carl Hendricks - New York Times explică faptul că artistul a renunţat la litera „h” din prenumele său când a început să cânte.

Recunoscut pentru improvizaţiile sale, combinaţia de versuri şi vocalize, el a făcut parte din Lambert, Hendricks & Ross - format împreună cu Dave Lambert şi Annie Ross (înlocuită apoi cu Yolande Bavan). Grupul a cunoscut succesul în 1958, cu albumul „Sing a Song of Basie”, şi s-a destrămat în 1964, după ce a lansat mai multe albume de studio şi live prin Columbia Records.

„High Flying”, lansat în 1962, a fost recompensat cu Grammy pentru cel mai bun grup vocal, iar în 1998, „Sing a Song of Basie” a primit Grammy Hall of Fame Award.

Hendricks a creat şi „Evolution of the Blues”, un show care a avut reprezentaţii timp de cinci ani în San Francisco, el a fost profesor de jazz şi critic.

De-a lungul carierei a avut mai multe colaborări, între care cea cu soţia lui, Judith, în cvartetul Jon Hendricks and Company, dar şi cu Bobby McFerrin, împreună cu care a lansat „Another Night in Tunisia”, în 1986.