Nacido en Beaumont, Texas, Graham tocó el bajo en la exitosa e influyente banda de funk Sly and the Family Stone de 1966 a 1972. Se dice que fue pionero en el arte de tocar el pop slap en el bajo eléctrico, en parte para proporcionar elementos percusivos y rítmicos además de las notas de la línea de bajo cuando la banda de su madre carecía de un baterista; la palmada del pulgar se usa para emular un bombo y el estallido del dedo índice o medio como un tambor. Este estilo se ha convertido en el arquetipo del funk moderno. El juego Slap-pop combina una técnica percusiva de golpear el pulgar de las cuerdas inferiores con un chasquido agresivo de las cuerdas superiores, a menudo en alternancia rítmica. La técnica de bofetadas y pop incorpora una gran proporción de notas silenciadas o «muertas» a notas normales, lo que se suma al efecto rítmico.
Este estilo de bajo «bofetada» fue utilizado más tarde por artistas como Les Claypool (de Primus), Bootsy Collins, Louis Johnson, Mark King, Flea, Tim Commerford, Peter Hook, Mike Mills, Victor Wooten, Jonas Hellborg, Kim Clarke of Defunkt, Marcus Miller, Stanley Clarke, John Norwood Fisher, P-Nut, Danny McCormack, Matt Noveskey, Dirk Lance y Pino Palladino.
Después de Sly and the Family Stone, Graham formó su propia banda, Graham Central Station. El nombre es un juego de palabras en Grand Central Station, la estación de tren ubicada en Manhattan, Nueva York. La estación central de Graham tuvo varios éxitos en la década de 1970, incluyendo «Hair».
A mediados de la década de 1970, Larry Graham trabajó con Betty Davis, la segunda ex esposa de la leyenda del jazz Miles Davis. La banda de Betty Davis incluía miembros de
Larry Graham Net Worth ,