Basile wurde als Giuseppe Ottaviano Baselli im nordfranzösischen Somain geboren. Seine Eltern betrieben ein eigenes Café, das die italienischen Einwanderer bewirtete, die nach dem Ersten Weltkrieg nach Somain in der Region Nordfrankreich kamen. Sie waren Musikliebhaber und gaben ihre Leidenschaft an ihre Söhne Giuseppe (Spitzname Joss) und Enrico weiter. Beide begannen schon als Kinder Akkordeon zu spielen. Ihre ersten Auftritte waren Auftritte für Gäste im Café, doch als Teenager spielten sie zunehmend auf Hochzeiten und anderen lokalen Festen.
Nach dem Zweiten Weltkrieg lernte Baselli zufällig den Akkordeonvirtuosen Gus Viseur kennen. Letzterer hatte den einflussreichen und heute gängigen Bal-Musette-Stil geschaffen (er beeinflusste auch den Harmoniker Toots Thielemans). Viseur war von Basellis Spiel beeindruckt und ermutigte ihn, eine musikalische Karriere anzustreben. Die beiden wurden unzertrennlich.
Baselli zog 1950 nach Paris und ergatterte den Job, der sein Leben verändern sollte: Er lernte die französische Sängerin Patachou kennen, die sich in der Bal-Musette-Szene einen Namen machte, und wurde zunächst ihr Begleiter, später ihr musikalischer Leiter und Solist. Mit ihrem Erfolg stieg auch seiner auf. Baselli heiratete Viseurs Tochter etwa zur selben Zeit, als Patachou ein Café in Montmartre eröffnete; es entwickelte sich zum Zentrum des Bal-Musette-Geschehens in Paris.
Während Patachous gefeierter Amerika-Tournee 1958 (auf der sie als Edith Piafs Chanson-Nachfolgerin gefeiert wurde) wurde Basellis Spiel von Sid Frey, dem Inhaber des Labels Audio Fidelity, bemerkt und fasziniert. Er benannte ihn in Jo Basile um und nutzte Patachous Popularität zunächst, um Basiles französische Café-Lieder und Instrumentalversionen einiger ihrer Hits aufzunehmen. Es war die erste einer langen Reihe von LPs (mindestens ein Dutzend Alben), die sich alle bemerkenswert ähnlich sahen und perfekt zu vielen Space-Age-Pop-/Exotica-Platten der damaligen Zeit passten.
Die Albumcover zeigten Basile ausnahmslos beim Spielen seines Instruments (wobei das Material meist die beliebtesten Lieder und Pop-Hits eines bestimmten Landes waren) auf einem Motorroller mit einer attraktiven jungen Frau auf dem Rücksitz. 1964 erwies sich als ein Wendepunkt. Basile tat sich mit dem großartigen brasilianischen Trio Bossa Tres für den Klassiker Swingin‘ Latin zusammen und später für das Foreign Film Festival in Cannes, wo der Akkordeonist in Begleitung der amerikanischen Jazzmusiker Dick Hyman, Milt Hinton, Tony Mottola (als „Mr. Big“), Bobby Rosengarden, Phil Kraus und Al Caiola Musik der Komponisten Nino Rota und Luis Bonfa spielte.
1965 verließ Basile Patachous Band und wurde musikalischer Leiter der französischen Pop-Ikone Barbara. Dies war ein Glücksfall, denn die Sängerin hatte ihre eigene Fernsehsendung, in der Basile sowohl als Solist als auch als Begleiter auftrat. Dieser Auftritt war sein Einstieg ins französische Fernsehen. Er schrieb und arrangierte nicht nur Lieder für Barbaras Show, sondern auch für andere Sendungen; seine Stücke gingen schließlich in die Hunderte. Zwei Jahre später verließ er die Show und ging mit Patachou erneut auf Amerika-Tournee. Doch der Stress der Tourneen und Auftritte brachte ihn dazu, über andere Möglichkeiten nachzudenken, mit Musik seinen Lebensunterhalt zu verdienen.
Mit seinen zahlreichen Kompositionen für die Barbara-Show als Vorbild und einem hervorragenden Lebenslauf begann er ernsthaft mit dem Komponieren und Arrangieren für französisches Fernsehen und Film. Eines seiner bemerkenswertesten Werke war „Le Manège Enchanté“, eine Stop-Action-Zeichentrickserie von Serge Danot. Ein BBC-Produzent bat den Vater der Schauspielerin Emma Thompson, Eric, einen englischsprachigen Kommentar zu übersetzen und aufzunehmen. Thompson entschied jedoch, dass die Drehbücher auf Englisch einfach nicht funktionierten, und schrieb seine eigene Geschichte, wobei er die Charaktere sogar umbenannte. Unter dem Titel „The Magic Roundabout“ war die Serie in Großbritannien ein noch größerer Erfolg. Basselli komponierte auch die Filmmusik für den abendfüllenden Film „Dougal and the Blue Cat“, den Danot als Spin-off der Serie produzierte.
Basile schrieb aber auch Dutzende von Popsongs. Einer seiner bekanntesten ist „Free Again“, der 1966 von Barbra Streisand als Eröffnungssong für „My Name Is Barbra“ aufgenommen wurde. In seinem letzten Jahrzehnt gründete Basile seinen eigenen Verlag Opaline und moderierte seine eigene Fernsehsendung „Le Monde de l'Accordeon“, in der er die Talente begabter Meister des Instruments präsentierte. Außerdem schrieb und arrangierte er für Dutzende von Sängern auf Französisch, Englisch und Italienisch und arbeitete als Studiomusiker.
Basile blieb aktiv, bis er am 5. September 1982 in Mâcon, Saône-et-Loire, Frankreich, an einem plötzlichen Herzinfarkt starb.
