Выиграл Олимпийские игры 1992, 1996 и 2000 годов, занял второе место на Олимпиаде 1988 года. Выиграл «золото» на Чемпионатах мира 1993, 1995 и 2001 годов и «бронзу» в 1987 и 1999. Из-за длительного и очень успешного выступления считается лучшим копьеметателем всех времён.
Помимо мирового (98,48 м), Железному принадлежит рекорд Чемпионата мира (92,80 м). От второго результата (93,09 м финна Аки Парвиайнена) его рекорд мира отстоит более чем на 5 метров. Ян Железный совершил 53 броска за 90 метров, что на 23 сентября 2007 г. больше 40 таких бросков всех остальных копьеметателей вместе взятых. Признавался легкоатлетом года в мире (2000) и Европе (1996, 2000), лучшим спортсменом Чехии (1993, 1995, 2000, 2001)
Ян Железный завершил свою карьеру в 2006 году в родном Млада-Болеславе. С 2006 года на тренерской работе.