Wychowywał się w bardzo trudnych warunkach. Od najmłodszych lat ciężko pracował aby pomóc matce w utrzymaniu rodziny po śmierci ojca. Z tego też powodu zaniedbał edukacje, którą zakończył na pięciu klasach szkoły powszechnej. Jego przygoda z bieganiem rozpoczęła się od występów w barwach TG „Sokół” zwyciężając w biegach lokalnych.

Z czasem wyjeżdża do Bydgoszczy by podjąć pracę zarobkową, a następnie odbywa służbę wojskową w Toruniu w  8 Batalionie Saperów. W 1932 powraca do Pęckowa, skąd do pracy oddalonej o 24 km codziennie biegał. Był to swego rodzaju trening Nojego, który doprowadził go do zwycięstw w eliminacjach do biegu głównego „Kuriera Poznańskiego". 

Tam nikomu jeszcze nieznany zawodnik zajął 2 miejsce za Maksymilianem Hartlikiem. Jako zawodnik „Sokoła” Poznań zostaje zgłoszony do PZLA (1934). Wygrał Bieg Narodowy i stał się następcą, Janusza Kusocińskiego. Dzięki temu otrzymał w Poznaniu pracę mogąc łączyć ją z treningami i startami w zawodach. W latach (1935-1936) przeniósł się do Warszawy gdzie otrzymał propozycje wstąpienia w szeregi Legii. Głównym celem jego stał się start w Igrzyskach Olimpijskich w Berlinie. Do najważniejszego startu przygotowuje go Stanisław Petkiewicz.

Start w igrzyskach był nieudany i daleki od oczekiwań. Prawdopodobnie przyczyną niepowodzenia było  spożycie tuż przed biegiem krwistego befsztyka. Po powrocie z igrzysk Noji zmienił barwy klubowe przenosząc się do warszawskiej „Syreny” Rozpoczął się kolejny etap rywalizacji z Kusocińskim, który po wyleczeniu kontuzji znów bił rekordy Polski. Obaj szykowali się do igrzysk olimpijskich w roku 1940. Noji do czasu wybuchu wojny 10-krotnie reprezentował barwy narodowe w meczach międzypaństwowych, Był 10-krotnym Mistrzem Polski na dystansach: 5000m (1935-1939), 10000 m (1936), przełaj (1936-1939), a także 2-krotny rekordzista Polski: 5000 m - 14.33.4 (7 sierpnia 1936 Berlin) i w sztafecie 4x1500 m - 16.02,6 (28 czerwca 1939 Warszawa). Wynik uzyskany na igrzyskach był jednocześnie rekordem życiowym J. Nojiego. Najlepszy wynik na 10000 m wynosił 31.17.4 (Królewiec, 10 lipca 1938). W czasie okupacji J. Noji włączył się w nurt walki podziemnej. Aresztowany 18 września 1940 r. w Warszawie, po 9-miesięcznym pobycie na Pawiaku przewieziony został (24 lipca 1941) do Oświęcimia. Zginął tam 15 lutego 1943 rozstrzelany pod ścianą śmierci bloku XI za próbę wysłania grypsu. Pozostawił żonę Irenę (Francuzik) i syna Ryszarda.  

O tym wybitnym biegaczu pamięć jest wciąż żywa, szczególnie w rodzinnych stronach. Jego imieniem nazwano ulicę w Oświęcimiu, stadion w Wieluniu oraz szkoły w Czarnkowie, Pęckowie i Drezdenku. Od ponad trzydziestu lat organizowany jest Masowy Bieg imienia Józefa Nojiego.