Urodził się 23 października 1885 roku w Kcyni, na Pałukach w północno-wschodniej Wielkopolsce, będącej wówczas pod zaborem pruskim. Był ósmym z dziesięciorga dzieci Franciszka Czochralskiego i Marty z Suchomirskich. Rodzina mieszkała w parterowym domu, który obecnie znajduje się przy ulicy Szewskiej 25. Ojciec Czochralskiego był cenionym w okolicy stolarzem. Chciał, aby jego syn został nauczycielem. Zgodnie z wolą ojca, Jan ukończył Seminarium Nauczycielskie, ale nie mogąc pogodzić się z ocenami, po otrzymaniu świadectwa maturalnego, podarł je na oczach swojego nauczyciela. W tamtym czasie brak tego dokumentu zamykała mu drogę do dalszej kariery nauczycielskiej i naukowej.

Młody Czochralski postanawia w końcu opuścić rodzinne miasto. Swoją karierę rozpoczyna jako pomocnik drogerzysty w Krotoszynie. W 1904 roku przenosi sie do Berlina. Pracuje w aptekach, które były także dobrze wyposażonymi laboratoriami chemicznymi. Po dwóch latach zostaje analitykiem w przemysłowym laboratorium firmy Kunheim u. Co, a w 1907 r. przenosi się do laboratorium w Allgemeine Elektricitäts-Gesellschaft.

Przeszkodą w dalszej karierze Czochralskiego staje się brak formalnego wykształcenia i dlatego zdaje eksternistyczne egzaminy do Wyższej Szkoły Technicznej w Berlinie-Charlottenburgu, w której w 1910 r. zdobywa tytuł zawodowy inżyniera chemika ze specjalnością metalurgiczną.

Dzięki pracowitości i własnym zdolnością już w roku 1913 publikuje pierwszą prace naukową z zakresu krystalografii metali.

W roku 1916 za sprawą przypadku naukowiec odnosi swój największy sukces. Po całym dniu spędzonym nad badaniami metali. Czochralski zasiadł do sporządzenia notatek i zamiast do kałamarza pióro wsadził do tygielka ze stopioną cyną. Kiedy je z niego wyciągną, zauważył, że za stalówką ciągnie się nić zestalonej cyny. Po przeanalizowaniu odkrycia, doszedł do wniosku, że otrzymał monokryształ cyny. Kolejne eksperymenty pozwoliły mu określić najlepsze parametry szybkości krystalizacji różnych metali.

Z czasem sposób produkcji kryształów odkryty przez kcyńskiego naukowca, rozwinęli także inni uczeni i nazwali metodą Czochralskiego. Monokryształy stanowią dziś zasadniczą część podzespołów elektronicznych, a Jana Czochralskiego nazywa się praojcem elektroniki.