Джимми Кобб стал известен в 50-е-60-е годы прошлого века как участник ансамбля Майлза Дэвиса, бэнда, который приносил славу не одному джазовому музыканту, хоть год проработавшему в его составе.
Однако сначала этот джазмен, основное призвание которого было в аккомпаниаторстве, начал осваивать азы музыки, выступая в родном Вашингтоне, где он родился в 1929 году.
Именно там он начал выступать в местных ансамблях, играя на ударных инструментах, а главное – аккомпанировать солистам, которые приезжали на гастроли. Сам музыкант вспоминал, что ему приходилось тогда играть с Чарли Роузом, Билли Холидэй, Фрэнком Уэссом.
В 1951 году он вступил в группу Эрла Бостика, а через год уже руководил ансамблем Дайны Вашингтон, которая была его женой.
В 1957 году непоседливый музыкант уже творил с квинтетом Кеннабола Эддерли, в 1958 – с Диззи Гиллеспи и Стэном Гетцем, и в том же 1958 начал работать в оркестре Майлза Дэвиса, что оказалось для него залогом успеха. Именно в этом оркестре Кобб оставался до 1963 года, засветившись на пластинках «Kind Of Blue», «Sketches Of Spain», «Someday My Prince Will Come», «At The Blackhawk», «Miles Davis At The Carnegie Hall», «Seven Steps To Heaven».
В 1999 году Кобб выступил в Москве с Валерием Пономаревым и Георгием Гараняном.