Syn Antoniny z Chojnackich i Tadeusza Klukowskiego, dyspozytora instrumentów w Filharmonii Warszawskiej, urodził się 12 maja 1905 r. w Warszawie. Ukończył Konserwatorium Warszawskie w klasie perkusji i instrumentów dętych. Jako student grywał w zespole jazzowym i rozpoczął współpracę z Filharmonią Narodową i z Polskim Radiem. Zamieszkał w Podkowie z żoną Ireną i córką Bożenną w 1938 r. w domu nazwanym „Laleńką” przy ulicy Lotniczej. Przed samym wybuchem wojny przebywał w Wilnie, gdzie zarabiał na życie muzykowaniem. Udało mu się uniknąć aresztowania i wywiezienia na Wschód, co spotkało jego brata Leona. Wrócił do Podkowy w 1941 r., idąc od granicy pieszo.
Na początku okupacji Józef Klukowski mieszkał w Żółwinie, gdzie pilnował gospodarstwa Henryka Witaczka. Por. Henryk Walicki, ps. „Twardy”, który utworzył z działających w Podkowie Leśnej, Brwinowie i Nadarzynie plutonów Związku Obrony Rzeczypospolitej samodzielną kompanię o kryptonimie „Brzezinki”, zwerbował go do konspiracji. Ppor. rez. Józef Klukowski przyjął pseudonim „Jasieńczyk”, od rodzinnego herbu. W 1943 r. „Brzezinki” podporządkowane zostały Armii Krajowej.
Miejscem przechowania ludzi i broni było m.in. gospodarstwo w Zarybiu. Dzikiewicz wspomina o akcji, którą ze swoimi ludźmi przeprowadził tam „Jasieńczyk” – ratowaniu zrzuconego sprzętu po wizycie gestapo. On też ukrył poszukiwanego przez gestapo Feliksa Offierskiego (oficera broni). Pluton Klukowskiego zabezpieczał również dwa zrzuty w nocy z 15 na 16 sierpnia 1944 r. na „Tasaku”, placówce na terenie łąk majątku Kraśnicza Wola – Izdebno Kościelne. Odebrano wtedy zasobniki z bronią, przerzuconą niezwłocznie do Puszczy Kampinoskiej.
„Alaska” ubezpieczała radiostacje, których w różnych okresach działało w Podkowie nawet kilka, organizowała kolportaż prasy podziemnej, a jednym z punktów informacyjnych i odbioru prasy był gabinet dentystyczny Ireny Klukowskiej, żony „Jasieńczyka”.
Według relacji Józefa Klukowskiego, na początku 1944 r. na skutek nieodpowiedzialnego zachowania kilku nietrzeźwych członków „Brzezinki” doszło do aresztowań. Jeden z uwięzionych zaczął sypać, podając nazwiska i adresy dowódców: Walickiego i Grefkowicza. „Lubicz” zdążył się ukryć. Natomiast por. Walicki po pewnym czasie wrócił do domu, gdzie 16 stycznia został aresztowany, potem torturowany i po 18 dniach rozstrzelany w Lesie Młochowskim. W lutym 1944 r. dowódcą kompanii został Józef Klukowski.
Kiedy w sierpniu 1944 r. utworzono w Podkowie oddział Rady Głównej Opiekuńczej z siedzibą w sołectwie, część magazynu RGO znalazła się w mieszkaniu przy ulicy Lotniczej. Po powstaniu zamieszkało u Klukowskich wielu warszawian, objęli oni też pomocą znajomych (przygotowując im ciepłe posiłki), którzy znaleźli noclegi w okolicy.
„Ostatnim epizodem podkowiańskiej AK było objęcie 17 stycznia 1945 kontrolą «ziemi niczyjej» – wystawienie posterunków na EKD i komisariatach policji oraz służba patrolowa w terenie. Wkrótce potem, w mieszkaniu dowódcy „Alaski” Józefa Klukowskiego na piętrze domu przy ul. Lotniczej 6, na wieść o rozkazie likwidacyjnym AK z 19 stycznia 1945 r., w sytuacji niepewności i atmosferze gorącej dyskusji nastąpiło oficjalne rozwiązanie oddziału” – zanotował historyk Michał Domański. „Po wojnie oczywiście trzeba się było zgłosić, tata się ujawnił. Był wzywany na UB” – dodaje córka Bożenna.
Klukowski wrócił do pracy w Filharmonii Narodowej, pracował też w Operze Warszawskiej, gdzie grał na oboju, współpracował z Polskim Radiem, grając w orkiestrze pod dyrekcją Rachonia. „Stefan Rachoń był jego przyjacielem, a orkiestra drugim domem. Dużo grali, wszystko szło na żywo […]. Widocznie tym zachęcony, napisał symfonię. Później opracowywał różne pieśni, bardzo był związany z polskim folklorem” – wspomina córka. Klukowski pisał również muzykę do słuchowisk radiowych (Pinokio, Calineczka, Byczek Fernando, w pustyni i w puszczy), był autorem piosenek dla dzieci. Współpracował z Tadeuszem Sygietyńskim, założycielem „Mazowsza”, kolegą ze szkoły muzycznej. Prowadził w średniej szkole muzycznej zajęcia z fletów prostych. Przez wiele lat pracował w Centralnym Ośrodku Państwowych Szkół Artystycznych, gdzie pełnił między innymi funkcję kuratora.
Był autorem podręczników muzycznych oraz licznych publikacji dotyczących budowy instrumentów dętych, metodyki gry i prowadzenia zespołów. Najwięcej miejsca poświęcił fletom prostym, instrumentowi, który go fascynował. Od roku 1956, kiedy ukazała się pierwsza pozycja, do 1981, daty ostatniej, ukazało się jego 50 książek i opracowań na temat tego instrumentu.
W podkowiańskiej szkole podstawowej zorganizował kapelę janczarską. Działał w lokalnym kole ZBOWiD. Za udział w ruchu oporu otrzymał Krzyż Partyzancki i Odznakę Grunwaldzką, za wieloletnią pracę artystyczną i pedagogiczną odznaczony został m.in. Krzyżem Kawalerskim Orderu Odrodzenia Polski.
Zmarł 6 września 1997 r. Pochowany jest, podobnie jak żona, na cmentarzu Bródnowskim.