Em 1923 mudou-se de New Jersey para Nova Iorque e envolveu-se no ambiente de grandes músicos, dentre os quais os pianistas do stride da época: Fats Waller, James P. Johnson e, especialmente, Willie “The Lion” Smith.
Seu primeiro trabalho profissional importante foi em 1925, contratado pelo grupo que acompanhava a cantora e bailarina Katie Krippen. Integrou também a orquestra de June Clark e Ilmer Snowden e acompanhou as cantoras de blues Maggie Jones e Clara Smith.
Em seguida, começou a participar no vaudeville, gênero de músicas com letras picantes que realizava o famoso circuito TOBA (Theatre Owners Booking Association), sindicato de empresários especializados em shows para negros nos Estados Unidos. Ao mesmo tempo, tocava piano em salas de cinema mudo para sobreviver.
Em 1929, em Kansas City, passou a fazer parte da banda de Bennie Moten (da qual se tornou pianista titular, substituindo Moten após algum tempo) e onde gravou seus primeiros solos. A banda se dissolveu com o falecimento de Moten e Count Basie foi contratado pelo Reno Club, onde o som que o tornaria famoso começa a tomar forma, unido ao poderoso saxofone de Lester Young.
As grandes orquestras, como a de Benny Goodman, por exemplo, imprimiram um novo estilo ao jazz, caracterizado pela intensidade rítmica, própria para a dança, em um tempo de dificuldades econômicas, com um som suave, sólido, arranjos e organizações especiais. Nessa complexa paisagem musical estava presente Basie, com um estilo de poucas notas ou acordes incisivos, de grande riqueza rítmica.
Iniciou assim uma brilhante carreira musical, tornando-se famoso e popular, com sua banda de solistas esplêndidos, que contava com Lester Young e Hershel Evans ao saxofone, e Buck Clayton e Harry Edison ao trompete.
Uma semana mais tarde, Count Basie foi contratado pela gravadora Decca. Suas primeiras apresentações decepcionaram em Nova Iorque e Pittsburg. Contudo, com a inclusão Billie Holiday e do vocalista Jimmy Rushing, a orquestra de Basie alcançou popularidade, especialmente no Harlem.
Faleceu enquanto dormia, em 26 de abril de 1984.
O confronto bélico influenciou na formação e, em alguns casos, na dissolução de orquestras. A banda de Basie, com seus excepcionais solistas, viveu uma época de transição durante a guerra, reinventando-se.
Em 1952, através de Norman Granz, foi contratado pelo selo Verve, ressurgindo com um conceito de música mais maduro, no qual introduziu mudanças importantes, ampliando a banda para aumentar o volume sonoro e trabalhar melhor os sons. Entre os músicos que se incorporaram à orquestra estavam Freddie Green e o cantor Joe Willians.