Gibson war Jude. Er stammte aus einer Musikerfamilie, die eine Reparaturwerkstatt für Klaviere betrieb. Er begann in den 1920er Jahren als Kind in der Bronx und Harlem Klavier zu spielen. Seinen ersten professionellen Klavierauftritt hatte er im Alter von 13 Jahren mit dem Orchester seines Onkels. Er fing an, Boogie Woogie zu spielen und im Jive-Stil zu sprechen. Als Teenager wurde er in schwarze Speakeasies in Harlem eingeladen, um Klavier zu spielen.
In den 1930er Jahren, nach dem Ende der Prohibition, spielte Gibson regelmäßig in den Nachtclubs von Harlem. Er unterstrich seinen Klavierstil mit einer laufenden Linie von Jive-Pattern, die direkt auf Aufnahmen der Jazzpersönlichkeit Tempo King aus den späten 1930er Jahren zurückgeführt werden können, insbesondere auf "I'll Sing You a Thousand Love Songs" mit seinen enthusiastischen Ausrufen. Nach Kings Tod im Jahr 1939 machte sich Gibson Kings stimmliche Manierismen zu eigen.
Gibson spielte gern Melodien von Fats Waller, und als Waller Gibson 1939 in einem Club in Harlem hörte, engagierte er ihn als seinen Ersatzpianisten bei Clubterminen. Zwischen 1939 und 1945 spielte Gibson in Manhattan Jazzclubs in der 52. Straße ("Swing Street"), insbesondere im Three Deuces, das von Irving Alexander geführt wird, und im Leon and Eddie's, das von Leon Enkin und Eddie Davis geführt wird. Während eines Vorsprechens für ein Engagement in einem Nachtclub, bei dem er Klavier für eine Sängerin spielte, gab er seinen wahren Namen Harry Raab an. Der Clubbesitzer bestand auf einem „Showbiz“-Namen und rief: „Ich nenne euch zwei The Gibsons!“ Harry nahm Gibson als seinen Berufsnamen an.
In den 1940er Jahren war Gibson dafür bekannt, ungewöhnliche Songs zu schreiben, die ihrer Zeit voraus waren. Er war auch bekannt für seinen einzigartigen, wilden Gesangsstil, seine energischen und unorthodoxen Klavierstile und seine komplizierte Mischung aus Hardcore-, Gutbucket-Boogie-Rhythmen mit Ragtime-, Stride- und Jazz-Klavierstilen. Er nahm den Boogie-Woogie-Beat seiner Vorgänger, machte ihn aber hektisch, ähnlich der Rock'n'Roll-Musik der 1950er Jahre. Beispiele für seinen wilden Stil finden sich in „Riot in Boogie“ und „Barrelhouse Boogie“. Ein Beispiel für seinen seltsamen Gesangsstil ist "The Baby and the Pup". Andere Songs, die er aufnahm, waren "Handsome Harry, the Hipster", "I Stay Brown All Year' Round", "4-F Ferdinand the Frantic Freak", "Get Your Juices at the Deuces" und "Stop That Dancin' Up There". "
In seiner Autobiografie behauptete er, er habe den Begriff Hipster zwischen 1939 und 1945 geprägt, als er in der Swing Street auftrat, und begann, „Harry the Hipster“ als seinen Künstlernamen zu verwenden. Gibsons Wildmann-Theatralik strafte die Tatsache Lügen, dass er auch ein hochqualifizierter klassischer Musiker war. Während er nachts an „Swing Street“ arbeitete, war er tagsüber Fellow an der Juilliard Graduate School. Gibson wurde eingeladen, in der Carnegie Hall für ein Jazzkonzert am 2. Dezember 1944 aufzutreten. Gibson spielte eine ernsthafte Interpretation von Bix Beiderbeckes Klavierstück „In a Mist“. Es folgte ein Plattenvertrag mit Musicraft Records, aus dem das Erfolgsalbum „Boogie Woogie in Blue“ hervorging.
Er nahm "Who Put the Benzedrine in Mrs. Murphy's Ovaltine?" auf, das im Januar 1946 veröffentlicht wurde. Radiosender in ganz Amerika weigerten sich, es zu spielen, und er wurde in der Musikindustrie auf die schwarze Liste gesetzt. Obwohl sein Mainstream-Filmauftritt in Junior Prom in diesem Jahr veröffentlicht wurde, konnte er die Bekanntheit der "Benzedrine" -Platte nicht überwinden. Sein eigener Drogenkonsum führte zu seinem Niedergang, und mit der steigenden Popularität junger Rock'n'Roll-Musiker unter Teenagern in den 1950er Jahren waren ältere Musiker nicht mehr gefragt.
Als Gibson in den 1960er Jahren den Erfolg der Beatles sah, wechselte er zum Rock and Roll. In den 1970er Jahren spielte er Hard Rock, Blues, Bop, neue Songs und einige Songs, die Ragtime mit Rock and Roll mischten. Aus seinem Hipster-Act wurde ein Hippie-Act. Seine alten Platten wurden in der Dr. Demento-Radiosendung wiederbelebt, insbesondere "Benzedrine", das 1975 auf dem Compilation-Album Dr. Demento's Delights enthalten war.
Sein Comeback führte zu drei weiteren Alben: „Harry the Hipster Digs Christmas“, „Everybody’s Crazy but Me“ (der Titel stammt aus den Texten von „Stop That Dancin‘ Up There“) (Progressive, 1986) und „Who Put the Benzedrine in Mrs. Murphys Ovomaltine (Delmark, 1989). Die beiden letzteren enthalten Jazz-, Blues-, Ragtime- und Rock'n'Roll-Songs über Reefer, Nacktbaden, Hippie-Kommunen, Stripclubs, männliche Chauvinisten, "Rocking the 88s" und Shirley MacLaine.
Gibson war vielleicht der einzige Jazzpianist der 1930er und 1940er Jahre, der in den 1970er und 1980er Jahren in Rockbands spielte. Die einzigen Konstanten waren seine Neigung, hart rockenden Boogie Woogie zu spielen, und seine augenzwinkernden Anspielungen auf Drogenkonsum. An Herzinsuffizienz leidend, hatte Harry vor langer Zeit entschieden, dass er sein Leben zu seinen eigenen Bedingungen beenden würde, falls er jemals chronisch krank würde. Harry Gibson nahm sich das Leben, indem er sich am 3. Mai 1991 eine Pistole an den Kopf hielt. Er war 75 Jahre alt.
