Ike Cole wurde als Sohn von Rev. Edward J. Coles und Perlina (Adams) Coles geboren und wuchs in Chicago, Illinois, auf. Seine Brüder Nat King Cole (1919–1965), Eddie (1910–1970) und Freddy (1931–2020) verfolgten ebenfalls Karrieren in der Musik. Ike spielte in seiner Jugend Schlagzeug. Während des Koreakrieges spielte er Bassdrum in einer Band der US-Armee und zog nach seiner Entlassung nach Chicago zurück, wo er sein eigenes Jazztrio gründete.
Er trat in den 1950er Jahren im Fernsehen auf und hielt eine Residenz in Las Vegas, später tourte er international. Als er 1966 bei seinem ersten Swing durch den Westen im Beverly Hills Club spielte, sagte ein Kritiker der Times: „Ikes Klavierwerk ist, genau wie das von Nat, herausragend, und er scheint jede Minute zu genießen, in der er im Rampenlicht steht.“ Cole verdiente sich Auftritte in den TV-Varieté-Shows von Andy Williams, Dean Martin und Red Skelton und wurde bald regelmäßig für Shows in Las Vegas gebucht. Obwohl Ike Cole oft ein Medley der Hits seines älteren Bruders sang, spielte er hauptsächlich Jazzstandards.
Mit seinem Trio tourte Ike Cole regelmäßig durch Japan, Australien und Europa und trat in Clubs in den Vereinigten Staaten auf, insbesondere in Chicago in Clubs wie dem Pump Room und dem Playboy Club, bevor er 1986 mit seiner Frau Margie nach Arizona zog. Ike und Margie Cole waren 52 Jahre bis zu Ikes Tod verheiratet.
Der Vergleich mit seinem Bruder Nat war, sagte Ike Cole 1971 der Times, ein ausgesprochen zweischneidiger Segen. Der positive Vergleich mag hilfreich gewesen sein, aber er litt, sagte er, unter falschen Anschuldigungen, er versuche, „von dem Namen zu leben“. Ike sagte, er habe einmal überlegt, seinen Namen zu ändern, aber kurz vor seinem Tod Nats Bitte nachgegeben, den Familiennamen Cole weiterzuführen.
Zu Beginn seiner Karriere gefragt, ob er jemals absichtlich den Stil seines berühmten Bruders kopiert habe, sagte Cole zu The Times: „Vielleicht unbewusst. Ich schätze, das ist ein Familienmerkmal, weil meine Brüder auch so singen.“ Ike machte mehr als seinen Frieden mit der Beziehung, und 1990, dem 25. Todestag seines Bruders, tat er sich mit einem anderen Bruder, Freddy, zusammen, um mit ihrer Show „We Remember Nat . . . Ein Gruß an unseren Bruder.“
Als Nichte Natalie Cole die Lieder ihres verstorbenen Vaters für ihr Album von 1991 aufnahm, spielte Ike Keyboard. Das Album wurde weltweit mehr als 6 Millionen Mal verkauft und erhielt Grammys für das Album des Jahres, die Schallplatte des Jahres und die beste traditionelle Pop-Performance sowie den Song des Jahres für den Songwriter Irving Gordon.
Er starb am 22. April 2001 im Alter von 73 Jahren in Sun Lakes, Arizona, an Krebs. Seine Jazzbibliothek wurde der Musikabteilung der Hamilton High School gespendet.
