Родился в 1912 году в селе Коломакский Шлях ныне Краснокутского района Харьковской области.
В Красной Армии и на фронте Великой Отечественной войны с 1941 года.
21 ноября 1941 года во главе группы разведчиков занял важную высоту, уничтожив десятки вражеских солдат.
В декабре 1941 года 383-я стрелковая дивизия готовилась к наступлению. Группе разведчиков, которой руководил Железный, было приказано в ночь на 10 декабря 1941 года уточнить систему огня противника в районе села Княгиневка Ворошиловградской области (ныне посёлок городского типа Луганской области).
При приближении к позициям противника разведчики попали под сильный обстрел. В результате неравного боя, к рассвету в живых осталось только трое — Железный и ещё два бойца, которые продолжали сражаться до конца. Предложения сдаться они отвергли.
Похоронен в городе Вахрушево ныне Луганской области в братской могиле.
Звание Героя Советского Союза посмертно присвоено 31 марта 1943 года.