Né en 1905 à Nashville, Leroy Carr déménage avec sa famille à Indianapolis en 1912 et y apprend le piano par lui-même en écoutant le pianiste Ollie Akins.
Il devient très jeune musicien professionnel, bootlegger occasionnel, goûte à la prison en 1925, puis reprend le piano un an plus tard dans les clubs de jazz locaux.
C'est là qu'il rencontre Francis "Scrapper" Blackwell, guitariste occasionnel et bootlegger à plein temps, avec qui il commence à jouer.
En 1928 ils enregistrent ensemble How Long How Long Blues, qui devient un énorme succès mondial et fait leur réputation. Puis ce sera d'autres morceaux devenus des standards quelques années plus tard : Naptown Blues, We're Gonna Rock, Corn Licker Blues...
Malheureusement le goût de Leroy Carr pour le whisky lui sera fatal. Il enregistre son dernier disque en février 1935, sous le titre prophétique de "Six Cold Feet in the Ground" et meurt deux mois plus tard, vraisemblablement d'une cirrhose....à l'âge de 30 ans !
D'autres pianistes comme Bumble Bee Slim, Peetie Wheatstraw et Walter Davis ont été, des dizaines d'années après sa disparition, influencés par Carr et Blackwell.
De nombreux interprètes ont enregistré plusieurs chansons de Carr – notamment How Long How Long Blues, In the Evening (When the Sun Goes Down), Blues Before Sunrise et Sloppy Drunk Blues.